llama.cpp b9978 版本解决了一个对智能体负载产生负面影响的检查点问题。此前,无论最小步骤间隔如何,每个智能体回合都会创建一个新的检查点,导致覆盖窗口崩溃。
- 上下文回退(在工具调用循环中很常见)会擦除所有检查点并强制进行完整重新处理。
- 修复程序确保将先前任务中紧密排列的检查点驱逐出去,以保持窗口宽阔。
- 此优化使长智能体会话保持快速。
该更新解决了检查点崩溃问题,提高了多轮智能体应用程序的性能。
llama.cpp b9978 版本解决了一个对智能体负载产生负面影响的检查点问题。此前,无论最小步骤间隔如何,每个智能体回合都会创建一个新的检查点,导致覆盖窗口崩溃。
该更新解决了检查点崩溃问题,提高了多轮智能体应用程序的性能。