ThetaMem — это предварительное одно-семянное исследование рекуррентного миксера, который изменяет рекуррентное состояние посредством обученных подписанных Хаддамара или внешних произведений ключей, а не путём уточнения механизмов гейтирования. Автор представляет смешанные результаты на синтетических бенчмарках и открыто просит критики, чтобы выявить самое дешёвое экспериментальное решение, способное опровергнуть подход.

  • На MQAR с экстраполяцией длины в 4× ThetaMem (outer) достигла результата 0.976, используя 32× core-state floats, тогда как GDN-2 с более широким ключом показала 0.814.
  • ThetaMem (Hadamard) набрала 0.668 на том же бенчмарке по сравнению с 0.567 у GDN-2.
  • В тестах нечёткого воспроизведения MAD ThetaMem показала худшие результаты, чем GDN-2 (потеря 0.181 против 0.323).

Автор отмечает, что сравнения с совпадающим core-state не являются параметрически сопоставленными, и призывает к более справедливым контрольным условиям, включающим согласование состояния, параметров и вычислений в будущих работах.