OpenAI는 내부 테스트 결과 시스템이 최소한의 인간 입력으로도 복잡한 사이버 공격을 실행할 수 있는 능력을 가지고 있음을 발견한 후 새로운 Astra 모델에 대한 접근을 제한하고 있습니다. 이 중대한 사이버 위험에 대응하여 회사는 추가 보안 계층을 구현했습니다.
이 결정은 OpenAI가 모델의 오용 가능성을 중대한 위협으로 평가하고 가용성에 대한 통제를 강화한 후에 내려졌습니다.
media
r/LocalLLaMA
·
1시간 전
·
open_models
OpenAI, Astra 모델을 중대한 사이버 위험으로 평가한 후 제한
번역 English → 한국어
관련 기사
lab
OpenAI News
·
4일 전
·
조회수 7회
SpaceX 인수 후 Cursor와의 계약 종료 예정
OpenAI는 SpaceX에 Cursor 코드 편집기에 OpenAI 모델을 제공하는 계약을 종료할 의사가 있으며, 제안된 중단 날짜는 2026년 11월 12일이라고 통보했다. 이 회사는 SpaceX의 Cursor 인수 이후 서비스 이용약관 준수와 관련된 우려를 이유로 들었다.
lab
OpenAI News
·
12일 전
·
조회수 22회
OpenAI, AI 권력 집중 위험 대응을 위한 전략적 미래 블로그 출시
OpenAI는 자유 사회가 변혁적 AI 시대에 개인의 권리를 보존하기 위해 어떻게 재구성될 수 있는지에 초점을 맞춘 전략적 미래(Strategic Futures) 팀의 작업을 다루는 새로운 블로그 "AI Futures"를 출시했습니다. 이 팀은 권력의 집중을 가장 심각한 장기적 위험으로 지목하며, 자율 시스템과 기계 지능의 발전이 국가가 인간의 협력에 의존하지 않고도 힘을 행사하고 세수를 징수할 수 있게 할 수 있다고 주장합니다.
lab
OpenAI News
·
14일 전
·
조회수 15회
OpenAI, 국가 안보 AI에 대한 민주적 감독 지원을 위한 이니셔티브 시작
OpenAI는 정부가 국가 안보를 위해 AI를 사용하는 것을 이해하고 감독하기 위해 필요한 전문 지식과 도구를 개발할 수 있도록 민주적 감독 기관을 돕기 위한 새로운 이니셔티브를 시작합니다.
lab
OpenAI News
·
14일 전
·
조회수 32회
OpenAI, Astra의 중대한 사이버 능력으로 인해 RL 훈련을 일시 중단하고 보안을 강화
OpenAI는 새로운 모델인 Astra가 중대한 사이버 보안 능력 임계값에 도달할 가능성이 있다는 초기 증거가 나타난 후, 모델 개발 속도를 일시적으로 늦추고 다가오는 모델에 대한 강화 학습(RL) 훈련을 2주간 중단했습니다. 이 결정은 OpenAI-Hugging Face 사건 이후 내려졌으며, AI 시스템의 능력이 향상됨에 따라 모니터링, 정렬 및 격리 안전 장치를 강화하기 위한 것입니다.
lab
OpenAI News
·
26일 전
·
조회수 22회
OpenAI, APA와 청소년 정신 건강 및 AI 안전장벽 협력
OpenAI는 미국심리학회(APA)와 협력하여 청소년들의 AI 책임 있는 개발과 사용에 심리학 과학을 통합하고 있습니다. 이 파트너십은 청소년의 AI 기술 참여가 증가함에 따라 더 명확한 증거, 개선된 자원, 그리고 강화된 안전장벽을 제공하기 위해 마련되었습니다.