소송은 Anthropic, OpenAI, SpaceX AI, Google이 인공지능 개발을 의도적으로 늦추기 위해 불법 계약을 맺었다고 주장합니다. 이 고발장은 AI의 진전을 제한하기 위한 이 네 주요 기술 기업들의 alleged 한 협력을 대상으로 합니다.
media
r/LocalLLaMA
·
3일 전
·
open_models
Anthropic, OpenAI, SpaceX AI, Google이 AI 발전을 늦추기 위해 공모했다는 소송 제기
번역 English → 한국어
관련 기사
media
MarkTechPost
·
9일 전
·
조회수 30회
Anthropic, 임베디드 평가자를 포함한 '프런티어 속도 조절' 계획 제안
2026년 9월 12일, Anthropic CEO Dario Amodei는 AI 능력 향상 속도를 늦추도록 촉구하는 'We Must Pace the Frontier'라는 제목의 에세이를 발표했다. 이 제안에는 교육 파이프라인에 직원 수준의 접근 권한을 가진 제3자 '임베디드 평가자' 설립, 프런티어 연구소 간 안전 표준 조정, AI 제한에 대한 글로벌 합의 추진 등 세 단계 계획이 포함된다.
media
Don't Worry About the Vase
·
9일 전
·
조회수 28회
다리오 아모데이, AI 최전선 발전 속도 조절 촉구; 앤트로픽 내장 평가자 도입 약속
다리오 아모데이는 "우리는 최전선을 조절해야 한다"라는 제목의 에세이를 발표하며, 필요한 정렬 및 안전 작업을 위해 AI 능력 향상 속도를 늦춰야 한다고 주장했습니다. 그는 세 가지 조치를 제안했으며, 그중 첫 번째 조치에 대해 단방적으로 약속했습니다: 내장 제3자 평가자의 도입입니다.
media
Don't Worry About the Vase
·
12일 전
·
조회수 27회
제이콥 콕슨, Anthropic 사임하며 인간 멸종 위험 경고
전 Anthropic 및 OpenAI 연구원인 제이콥 콕슨은 항의의 의미로 사임했으며, AI 연구소들이 인간의 생존을 담보로 슈퍼지능을 향해 경쟁하고 있다고 경고했습니다. 그의 퇴사는 OpenAI, Anthropic, Google DeepMind 등 주요 연구소의 직원들 사이에서 "선호도 연쇄"를 촉발하여 월스트리트 저널과 BBC 같은 주요 미디어 outlets에 의해 광범위한 보도를 이끌었습니다.
media
Don't Worry About the Vase
·
15일 전
·
조회수 30회
OpenAI의 야쿱 파초키, 임박한 재귀적 자기개선과 불충분한 모니터링 경고
OpenAI 수석 과학자 야쿱 파초키는 인간보다 의미 있게 더 지능적인 기계가 우리 생애 내에 등장할 것이라고 경고하는 에세이를 발표했으며, 이는 재귀적 자기개선(RSI)을 향한 지속적인 진전에 대한 강한 기대에 의해 추진되고 있습니다. 그는 현재 정렬 기술이 불충분하며 Chain of Thought(CoT)와 같은 모니터링 기술의 효과가 감소하고 있다고 주장하여, 기술적 해결책과 더 넓은 국제적 협력이 모두 필요하다고 강조합니다.
media
Don't Worry About the Vase
·
54일 전
·
조회수 41회
오픈AI 정책 논의 중 미국 의원들이 프런티어 법안과 AI 키 스위치 법안을 발의
이 기사는 AI 안전성에 관한 새로운 미국 입법 노력을 다루고 있으며, 특히 트라한과 오버놀테 의원이 모델 보고 및 위험 정의에 대한 기존 주 법체계를 연방화하는 FRONTIER 법안을 발의한 것을 구체적으로 언급합니다. 동시에 루와 모란 상원의원은 고급 모델에 대한 중단 기능을 의무화하기 위해 AI Kill Switch Act를 발의했으며, 오픈AI CEO 샘 알트먼은 워싱턴을 방문하여 GPT-6를 미리 공개하고 백악관과 자발적 테스트 프레임워크에 대해 논의했습니다.