오픈AI CEO 샘 올트먼은 유엔 안보리에 연설하며 오픈AI의 인공지능 안전에 대한 입력과 전 세계 거버넌스 프레임워크의 필요성을 제시했습니다. 그는 권력의 집중을 방지하고 민주적 감독을 보장하기 위해 AI가 인간의 통제 하에 유지되어야 한다고 강조했습니다.

  • 올트먼은 "재귀적 자기 개선"과 통제되지 않은 자율 시스템에 대해 경고하며, 인간 통제를 보장할 수 없는 한 어떤 위험 수준도 용납될 수 없다고 밝혔습니다.
  • 오픈AI는 능력 측정, 위험 평가 및 규정 준수를 위해 상호 보완적인 국가 및 국제 최전선 AI 표준을 지지합니다.
  • 이 회사는 정부 간 새로운 취약점을 공유하기 위한 정확한 사고 보고 프로토콜과 보안 채널을 촉구합니다.
  • 올트먼은 Navier-Stokes 방정식 해결 등 최근 모델의 성과를 강조하며, 이는 AI가 인간을 대체하는 것이 아니라 인간의 발견을 가능하게 한다는 예시라고 밝혔습니다.

이 발언은 민주적 절차를 통해 AI 개발을 형성하기 위한 국제 협력을 촉구하며, 기술이 기회와 개인적 역량을 확장하도록 보장한다는 내용으로 마무리됩니다.