OpenAI 发布了 Open-1B，这是一种语言模型，其训练过程中的每一步操作都可以在异构商用硬件上以比特级精度独立复现。这种方法通过为 GPU 内核归约和数据批次排序等不确定性来源施加明确的顺序，解决了开源模型固有的可复现性问题。

此次发布包括完整的预训练数据集、每一个中间检查点、训练代码库以及一个审计工具包，允许独立审计员对分布式训练运行的各个步骤进行认证。

这种新的模型透明度层级旨在消除未披露的数据、注入的偏见或后门，使用户能够验证发布的检查点是否确实使用了声明的训练配方生成。