Investigadores del Instituto de Modelos Fundamentales (IFM) están organizando una sesión de Pregúntame Cualquier Cosa (AMA) sobre su recientemente lanzado proyecto K2 Horizon. La iniciativa consiste en una flota conectada de seis modelos completamente abiertos que varían desde 0.9B hasta 375B parámetros.

  • IFM ha publicado no solo los pesos del modelo, sino también los datos de entrenamiento, recetas, código, puntos de control intermedios y registros detallados.
  • La AMA cubre temas como mezclas de datos de preentrenamiento, técnicas de postentrenamiento, MoVA, atención dispersa y despliegue en dispositivo.
  • Seis miembros del equipo de IFM participarán en la sesión en vivo programada para el lunes 5 de octubre, de 8 a 10 PM PT.