DSPy 3.4 通过 TypeSafe 客户端引入 Jev 集成,添加了三种实验性决策类型——Noul、Choice 和 Score——它们在 DSPy 签名中提供概率证据。此版本还带来了使用捆绑 lm15 类型的原生 LM 引擎、用于可信代码的本地 CPython 解释器、异步 ReActV2 以及带版本控制的文档。

  • Jev 集成允许用户通过标准 lm 接口访问 Noul(布尔值)、Choice(选择)和 Score(评分标准)决策类型,并获取相关的概率和置信度指标。
  • 新的 ReAnchor 优化器通过对齐阈值和权重,将这些决策与程序的指标进行校准,而无需重写指令或演示。
  • 原生 LM 引擎使用捆绑的 lm15 请求和响应类型,其中 engine="auto" 优先使用原生执行,并在推理前回退到 LiteLLM。
  • 自定义 HTTP 提供商可通过 dspy.lm15.register_provider 注册,以声明兼容 OpenAI 或 Anthropic 的服务的端点和功能。
  • DSPy 3.4 被指定为 LM 过渡版本,3.5 将作为遗留自定义 LM 集成的迁移截止日期。

此次更新标志着 DSPy 处理语言模型交互方式的重大转变,通过标准化决策输出和原生引擎支持实现。