ThetaScan v0.1（一种固定状态的非线性令牌混合器）的研究预览版已作为开源实现发布。该架构确保每个令牌从其当前输入和共享参数计算其内存写入，而非依赖于不断演变的快速状态，从而允许通过结合性前缀扫描来组合写入。

公共存储库包含几个关键组件：用于局部雅可比或高斯-牛顿快速权重更新的 ThetaScan-GN，以及用于归一化正特征分子/质量内存的 ThetaScan-Kernel。该实现支持各种内核特征映射，如 ReLU²、阈值化 ReLU²、SiLU 和 SwiGLU，以及归一化读取、EMA/近期银行和确定性随机特征扩展。

在步骤 7,500 的单种子、参数匹配的 17M 语言模型实验中获得的初步结果显示，GN 扩展的 2× 混合器实现了 1.2327 的原始每字节比特数（BPB）和 1.23831 的精确 int8 BPB。由于优化器策略的差异以及使用二次参考评估器而非融合线性缩放实现，这些早期测量结果并未声称具有统计优势。

作者欢迎多种子复现、对写入/读取代数的对抗性审查、统一优化器比较以及长上下文故障测试，以进一步验证该方法。