Un développeur signale l'utilisation interne de GLM-5.3 Flash pour des tâches d'ingénierie logicielle dans un environnement de production important avec des millions de lignes de code, remplaçant les modèles de pointe.
Le modèle gère bien les grands dépôts, comprend l'architecture existante et trace le code à travers plusieurs modules pour produire des implémentations solides avec un minimum de guidance. Il performe fortement dans l'exploration du dépôt, l'implémentation de fonctionnalités et le refactoring, offrant un ratio impressionnant vitesse/qualité pour les charges de travail d'ingénierie logicielle réelle.
L'auteur s'intéresse aux détails spécifiques du pipeline d'entraînement, tels que les données de pré-entraînement, l'utilisation de données de codage synthétiques, la distillation à partir de modèles GLM plus grands et les méthodes d'apprentissage par renforcement.