TypeSafe AI a lancé Jev, une nouvelle classe de modèles « System One » conçue pour les environnements de production. Le PDG de l'entreprise et co-auteur de l'article sur InstructGPT, Diogo Almeida, soutient que les modèles de pointe actuels ont privilégié l'alignement et les refus au détriment de la fiabilité, ce qui entraîne des problèmes tels que les hallucinations et la complaisance.

  • Jev utilise une technique d'entraînement novatrice appelée Apprentissage par renforcement pour des décisions calibrées (RLCD), qui optimise les probabilités épistémiquement honnêtes plutôt que les retours évalués par les humains ou les sorties vérifiables de manière programmatique.
  • Le modèle vise à « disparaître en arrière-plan » des logiciels, fonctionnant avec une fiabilité comparable à celle d'une expression régulière dans des tâches telles que l'utilisation d'ordinateur, le contrôle vocal et les agents de codage.
  • TypeSafe AI prévoit de publier de futurs modèles tels que ReasoningJev, en se concentrant sur une IA composable et programmable pour l'automatisation plutôt que sur des assistants conversationnels génériques.

Cette approche résout le problème de calibration inhérent aux méthodes d'entraînement précédentes, permettant à Jev de servir de fondation robuste pour les flux de travail automatisés et les applications logicielles intelligentes.