Исследователи Института фундаментальных моделей (IFM) проводят сессию «Спроси меня о чём угодно» (AMA), посвящённую их недавно выпущенному проекту K2 Horizon. Инициатива включает в себя объединённый флот из шести полностью открытых моделей размером от 0.9B до 375B параметров.

  • IFM опубликовал не только веса моделей, но и обучающие данные, рецепты, код, промежуточные контрольные точки и детализированные логи.
  • В AMA обсуждаются такие темы, как смеси данных для предобучения, техники постобучения, MoVA, разреженное внимание и развёртывание на устройстве.
  • В прямой трансляции примут участие шесть членов команды IFM. Сессия запланирована на понедельник, 5 октября, с 20:00 до 22:00 по тихоокеанскому времени (PT).