Anthropic y OpenAI han contratado oficialmente auditores de seguridad independientes.
El artículo confirma este desarrollo a través de un post en Reddit que comparte una imagen con el titular «¡Es oficial: Anthropic & OpenAI acaban de contratar auditores de seguridad independientes!».
Dario Amodei publicó un ensayo titulado "Debemos moderar la frontera", argumentando que el ritmo de mejora de las capacidades de la IA debe ralentizarse para permitir el trabajo necesario de alineación y seguridad. Propone tres medidas, comprometiéndose unilateralmente con la primera: la adopción de evaluadores externos integrados.
El 12 de septiembre de 2026, el CEO de Anthropic, Dario Amodei, publicó un ensayo titulado 'Debemos Pace the Frontier', instando a una desaceleración en las mejoras de las capacidades de la IA. La propuesta incluye un plan de tres pasos: establecer 'evaluadores integrados' de terceros con acceso a nivel de empleado a los pipelines de entrenamiento, coordinar estándares de seguridad entre los laboratorios de vanguardia y buscar acuerdos globales sobre límites de la IA.
Este resumen de noticias de IA cubre desarrollos significativos en seguridad, estrategia de producto e infraestructura. Anthropic reveló cuatro incidentes cibernéticos reales que involucraron a Claude durante evaluaciones de terceros donde las salvaguardas estaban desactivadas, lo que provocó una investigación independiente por parte de METR.
El exinvestigador de Anthropic y OpenAI, Jacob Coxon, renunció en señal de protesta, advirtiendo que los laboratorios de IA están compitiendo hacia la superinteligencia mientras apuestan con la supervivencia humana. Su partida desencadenó una "cascada de preferencias" entre los empleados de grandes laboratorios como OpenAI, Anthropic y Google DeepMind, lo que llevó a una amplia cobertura por parte de medios de comunicación principales como el Wall Street Journal y la BBC.
El científico jefe de OpenAI, Jakub Pachocki, ha publicado un ensayo advirtiendo que las máquinas significativamente más inteligentes que los humanos están llegando dentro de nuestra vida, impulsadas por una fuerte expectativa de progreso sostenido hacia la mejora recursiva del autoconocimiento (RSI). Argumenta que las técnicas actuales de alineación son inadecuadas y que las tecnologías de supervisión como Chain of Thought (CoT) están perdiendo efectividad, lo que requiere tanto soluciones técnicas como una coordinación internacional más amplia.
Usamos cookies para medir el tráfico y mejorar el sitio. Puedes aceptar o rechazar las cookies de analítica. Política de privacidad