Tema · Policy & regulation
lab Anthropic News · hace 5 d · 8 vistas

Mariano-Florentino Cuéllar se une a Anthropic como Director de Asuntos Globales

Anthropic ha nombrado a Mariano-Florentino (Tino) Cuéllar como su primer Director de Asuntos Globales, un cargo en el que liderará la política de la empresa, el compromiso estratégico internacional y las relaciones gubernamentales en todo el mundo. Cuéllar renunció recientemente a su puesto como Presidente del Fondo Carnegie para la Paz Internacional para asumir esta nueva responsabilidad.

lab OpenAI News · hace 24 d · 2 vistas

OpenAI añade modo de estudio, controles parentales y funciones de seguridad para usuarios adolescentes de ChatGPT

OpenAI ha introducido nuevas herramientas de seguridad y educativas para usuarios adolescentes de ChatGPT, incluido un "Modo de Estudio" diseñado para fomentar el pensamiento crítico en lugar de proporcionar respuestas directas. La empresa también está ampliando los controles parentales y las salvaguardias de predicción de edad para garantizar que los adolescentes tengan acceso a la IA mientras se mantienen protecciones adecuadas.

lab OpenAI News · hace 25 d · 2 vistas

OpenAI aboga por la alineación estatal-federal para los estándares de seguridad de IA en EE. UU.

OpenAI argumenta que la acción coordinada entre estados individuales y el gobierno federal es esencial para establecer un estándar nacional coherente para la seguridad de la IA de vanguardia. La compañía destaca a California, Nueva York e Illinois como ejemplos de estados que se alinean en salvaguardas básicas a través del "federalismo inverso", creando una línea base de facto mientras se desarrollan los marcos federales.

lab Anthropic News · hace 26 d

Anthropic destina 10 millones de dólares canadienses a instituciones de investigación en IA de Canadá

Anthropic está comprometiendo 10 millones de dólares canadienses para financiar investigación en IA beneficiosa y responsable mediante asociaciones con instituciones canadienses líderes, incluyendo el Alberta Machine Intelligence Institute (Amii), Mila y el Vector Institute. Esta inversión tiene como objetivo apoyar la próxima generación de trabajo en áreas como aprendizaje por refuerzo, confianza y seguridad de la IA, salud y sostenibilidad.

lab OpenAI News · hace 6 d · 2 vistas

OpenAI disputa las afirmaciones de la demanda de Apple como falsas y engañosas

OpenAI ha publicado correspondencia interna para refutar las alegaciones de Apple en una reciente demanda, afirmando que el equipo legal del gigante tecnológico cometió errores significativos en su contacto inicial. La empresa argumenta que las afirmaciones de Apple sobre los ex empleados Chang Liu y Tang Tan se basan en una mala comunicación donde los abogados enviaron un correo electrónico a la persona equivocada y afirmaron falsamente discusiones previas.

lab Anthropic News · hace 13 d · 9 vistas

El CEO de Anthropic se opone a las prohibiciones de pesos abiertos, aboga por controles de chips y pruebas de seguridad

El CEO de Anthropic, Dario Amodei, aclara que la empresa nunca ha abogado por una prohibición de modelos con pesos abiertos, rechazando informes recientes que sugieren lo contrario. Argumenta que las medidas proteccionistas no lograrían abordar las preocupaciones de seguridad nacional respecto a los regímenes autoritarios que obtienen superioridad militar a través de la IA.

lab Anthropic News · hace 18 d · 1 vista

Anthropic lanza un Fondo de Investigación de Futuros Económicos de 200 millones de dólares para la investigación del mercado laboral de IA

Anthropic ha comprometido 200 millones de dólares al Fondo de Investigación de Futuros Económicos para apoyar investigaciones externas sobre intervenciones que preparen a la sociedad para los impactos económicos de la IA. El fondo tiene como objetivo construir una base de evidencia sobre programas que hagan la economía más flexible, aseguren que los beneficios de la IA se compartan ampliamente y minimicen el daño por la disrupción.

media Latent Space · hace 4 d · 5 vistas

Jeff Dean, Sanjay Ghemawat, Oriol Vinyals y Quoc Le abandonan DeepMind para cofundar Discovery Loop

Los ingenieros senior de Google DeepMind Jeff Dean, Sanjay Ghemawat, Oriol Vinyals y Quoc Le están dejando la empresa para cofundar una nueva startup de investigación automática llamada Discovery Loop. Simultáneamente, Demis Hassabis renuncia como CEO para convertirse en Presidente de Google DeepMind y Científico Jefe en Alphabet, mientras que Koray Kavukcuoglu asume el cargo de SVP.

media Don't Worry About the Vase · hace 9 d · 5 vistas

Legisladores estadounidenses presentan la Ley Frontier y la Ley del Interruptor de Apagado de IA en medio de conversaciones sobre políticas de OpenAI

El artículo analiza los nuevos esfuerzos legislativos de EE. UU. en materia de seguridad de la IA, específicamente la presentación de la ley FRONTIER por parte de los representantes Trahan y Obernolte, que federaliza los marcos estatales existentes para la notificación de modelos y las definiciones de riesgo. Paralelamente, los senadores Lieu y Moran presentaron la Ley del Interruptor de Apagado de IA para obligar a capacidades de apagado en modelos avanzados, mientras que el CEO de OpenAI, Sam Altman, visitó Washington para presentar GPT-6 y discutir marcos de prueba voluntarios con la Casa Blanca.

media r/LocalLLaMA · hace 12 d

1.100 empleados actuales y ex de IA de vanguardia firman petición al gobierno de EE.UU. para regular el desarrollo de la IA

Una carta abierta firmada por aproximadamente 1.100 empleados actuales y ex de importantes laboratorios de IA, incluidos OpenAI, Anthropic y Google, insta al gobierno de EE.UU. a intervenir en el desarrollo de la IA de vanguardia. Los firmantes argumentan que la industria, el gobierno y la sociedad pueden necesitar "ganar tiempo" para abordar los riesgos emergentes y fortalecer la supervisión a medida que la investigación automatizada acelera las capacidades.