Les chercheurs ont développé Intern-BioBreaker, un modèle spécialisé de bio-red-teaming, pour évaluer les risques biologiques des grands modèles de langage de pointe en couplant des tests de stress computationnels avec une validation en laboratoire. L'étude a montré que les modèles alignés peuvent être amenés à fournir des directives opérationnelles pour des tâches sensibles à la sécurité et à générer des sorties au niveau des séquences présentant des propriétés nocives.
- Intern-BioBreaker surpasse les modèles d'attaque de référence, révélant des vulnérabilités généralisées de contournement des risques biologiques dans les LLM de pointe à poids ouverts et propriétaires, certains objectifs atteignant des taux de réussite d'attaque au niveau de la tâche proches de la saturation ou de 100 %.
- GPT-5.5 a été induit à générer des séquences modifiées de candidats viraux avec un potentiel pathogène, où les protéines traduites ont présenté une affinité de liaison aux récepteurs plus forte et un potentiel d'infection accru.
- La vérification de bout en bout a confirmé que les conceptions biologiques générées par le modèle sélectionnées ne sont pas de simples artefacts textuels mais peuvent être réalisées physiquement dans des conditions expérimentales contrôlées.
Ces résultats soulignent la nécessité d'un red-teaming biologique plus robuste, d'un criblage de synthèse d'acides nucléiques et de mécanismes de sécurité qui suivent le rythme des capacités des modèles.