OpenAI는 자유 사회가 변혁적 AI 시대에 개인의 권리를 보존하기 위해 어떻게 재구성될 수 있는지에 초점을 맞춘 전략적 미래(Strategic Futures) 팀의 작업을 다루는 새로운 블로그 "AI Futures"를 출시했습니다. 이 팀은 권력의 집중을 가장 심각한 장기적 위험으로 지목하며, 자율 시스템과 기계 지능의 발전이 국가가 인간의 협력에 의존하지 않고도 힘을 행사하고 세수를 징수할 수 있게 할 수 있다고 주장합니다.
- 이 블로그는 개인의 자율성 유지, 소규모 조직을 위해 법적 체계가 공정한 경쟁 환경을 조성하도록 보장, 사생활 보호를 전제로 한 고위험 AI 행동에 대한 "제한된 가시성(bounded legibility)" 확립 등 이러한 위험을 균형 있게 다루기 위한 핵심 원칙을 제시합니다.
- 이 팀은 공공 정책, 경제학, 법학, 역사학, 기계 학습의 교차점에서 연구를 수행하여 AI가 기업과 정부 기관을 구조적으로 어떻게 변화시킬지 예측할 계획입니다.
- 향후 콘텐츠에는 집단적 인간 노력을 통해 AI가 세상을 어떻게 재편하는지를 조명하는 논문, 영상, 팟캐스트 등이 포함될 예정입니다.
저자들은 권력의 부당한 집중을 피하는 것이 인간의 자유를 보존하는 데 근본적이며, 이러한 질문에 대해 단 한 곳의 기관이 독단적으로 답할 수 없다고 강조합니다.