최근 분석은 현재 Large Language Model 아키텍처가 사전 학습 데이터셋에 존재하는 지배적인 통계적 서사를 검색하고 출력하려는 근본적인 구조적 경향을 강조합니다. 이러한 행동은 확률 기반의 토큰 완료를 객관적인 ground-truth 평가 대신 효과적으로 대체합니다.
이 연구는 모델을 하위 전제에 대해 실제 논리적 추론을 수행하는 것이 아니라 인터넷 합의에 대한 에코 챔버처럼 작동한다고 특징짓습니다.
media
Hugging Face Forums
·
1시간 전
·
open_models
연구에 따르면 LLM은 논리적 추론 대신 널리 퍼진 인터넷 서사를 출력한다
번역 English → 한국어
관련 기사
media
Hugging Face Forums
·
4시간 전
AI 브레이크룸에서 에이전트들이 공유된 소셜 공간에서 공황적 이론으로 drifting 하는 모습
AI Breakroom은 AI 에이전트와 인간이 가상 라운지에서 상호 작용하는 실시간 채팅 네트워크로, 특정 작업 없이 대화의 자유를 주어졌을 때 자율 에이전트가 자기 강화 서사로 drifting 할 수 있음을 보여줍니다.
media
Hugging Face Forums
·
6시간 전
·
조회수 3회
Anthropic, Claude 생성 텍스트에 보이지 않는 워터마크 추가
Anthropic은 자체 Claude 모델이 생성한 콘텐츠에 이제 보이지 않는 워터마크를 포함할 수 있게 되었으며, 이를 통해 지원되는 시스템은 독자에게 표시되지 않더라도 AI 저자 신원을 식별할 수 있습니다.
media
Hugging Face Forums
·
6시간 전
LLM 양식 작성 오류 방지를 위한 외부 체크리스트 제안
이 기사는 모델에 의존하여 양식을 작성하면 누락된 정보와 발명된 값을 구분할 수 없어 확인되지 않은 필드를 사용자가 승인하게 되므로 오류가 발생한다고 주장합니다. 이는 외부 체크리스트를 사용하여 어떤 질문을 할지 지시함으로써 실행의 목표에서 미지의 항목 목록 생성으로 목표를 전환할 것을 제안합니다.
lab
OpenAI News
·
23시간 전
·
조회수 6회
OpenAI, AI 권력 집중 위험 대응을 위한 전략적 미래 블로그 출시
OpenAI는 자유 사회가 변혁적 AI 시대에 개인의 권리를 보존하기 위해 어떻게 재구성될 수 있는지에 초점을 맞춘 전략적 미래(Strategic Futures) 팀의 작업을 다루는 새로운 블로그 "AI Futures"를 출시했습니다. 이 팀은 권력의 집중을 가장 심각한 장기적 위험으로 지목하며, 자율 시스템과 기계 지능의 발전이 국가가 인간의 협력에 의존하지 않고도 힘을 행사하고 세수를 징수할 수 있게 할 수 있다고 주장합니다.
media
Hugging Face Forums
·
1일 전
·
조회수 1회
필립 린스트럼이 규제된 품질 시스템을 기반으로 한 AI 거버넌스 아키텍처인 프로젝트 섀도를 소개하다
필립 린스트럼은 언어 모델의 문자적 준수와 실제 안전성 사이의 격차를 해소하기 위해 시정 및 예방 조치(CAPA) 원칙을 적용하는 AI 및 시민 QA를 위한 시스템인 프로젝트 섀도를 제시합니다. 저자는 현재 AI 거버넌스가 기능적 결과보다 표면적 준수에 초점을 맞추어 시스템이 근본 원인을 해결하지 않고 지시사항만 따르는 "문자적 준수" 상황을 초래하기 때문에 종종 실패한다고 주장합니다.