Pesquisadores apresentam o MolSafeEval, um benchmark projetado para avaliar os riscos de segurança de moléculas geradas por IA, abordando a lacuna onde os benchmarks atuais ignoram perigos potenciais como toxicidade e reatividade. O sistema integra conhecimentos de segurança heterogêneos de bancos de dados toxicológicos e regras de perigo em um grafo de conhecimento estruturado de segurança molecular para permitir a detecção e explicação sistemáticas de características inseguras por meio do raciocínio de grandes modelos de linguagem.
- MolSafeEval categoriza os modelos gerativos moleculares em quatro tipos de tarefas: geração incondicional, otimização de propriedades, design baseado em proteína alvo e geração baseada em texto.
- O benchmark fornece conjuntos de dados padronizados e protocolos de avaliação de segurança para cada uma dessas categorias de tarefas representativas.
- Ele utiliza um grafo de conhecimento estruturado para descobrir vulnerabilidades de segurança que os preditores de toxicidade estreitos frequentemente perdem.
O MolSafeEval oferece uma nova perspectiva para a avaliação de modelos moleculares e fornece orientação essencial para um design molecular mais seguro e confiável, revelando sistematicamente as vulnerabilidades de segurança das abordagens generativas atuais.