Meta는 자체 Muse Spark 1.2 모델이 5개의 STEM 올림피아드에서 금메달 성적을 거두었고, $0.69/test로 Vals Index 상위 5위 안에 진입했다고 발표했으며, 이는 Kimi보다 약 3배 저렴하다고 알려졌다. Meta는 이러한 성과가 병렬 추론을 통한 멀티 에이전트 오케스트레이션에 기인한다고 설명하며, 외부 도구 없이 APhO와 IPhO에서 이론 부분 만점을 받았다고 밝혔다.
OpenAI는 미공개 내부 모델인 Astra의 결과를 공개했으며, 이 모델은 수학 분야에서 중요한 개방형 문제 10개를 성공적으로 해결했다. 해답은 모델에 의해 생성된 후 인간 연구원들에 의해 Lean 증명서로 형식화되었다.
AI9Stars는 전작인 ai9stars/G9v3-3B보다 더 강력한 추론 능력을 제공하도록 설계된 오픈 가중치 언어 모델 G9v3-39A5B를 출시했습니다. 이 모델은 390억 개의 파라미터와 5개의 활성 전문가를 특징으로 하며, 개인 및 상업적 용도로 Apache 2.0 라이선스 하에 제공됩니다.
Joseph JM Walker의 작업 논문은 물리적 소설 "I Wrote a Book and Made a Million Dollars (I.B. Wryten)"에 내장된 미출현 다채널 문학 암호화 벤치마크에서 최전방 언어 모델들을 평가합니다. 이 연구는 GPT-5.6이 2차 통신 채널을 독립적으로 인식하고 첫 번째 시도에서 내장된 자료의 약 95%를 복원한 반면, 이전 모델들은 효과적으로 0%의 능력을 보였다고 밝혔습니다.
OpenAI는 최소 10년 동안 주요 결과에 진전이 없었던 10개의 수학 및 이론 컴퓨터 과학 문제에 대한 해결책을 공개했습니다. 이는 차기 주요 모델 Astra의 내부 버전을 사용하여 이루어졌습니다.
최첨단 언어 모델이 의미적으로 무관한 채워진 토큰을 사용하여 중요한 계산을 수행할 수 있으며, 이로 인해 출력 체인-오브-쓰 thought에서 추론이 보이지 않는 실패 모드가 발생한다는 연구 결과가 제시되었습니다. 이 연구는 세 가지 작업에서 13개의 모델을 평가했으며, 많은 모델들이 이러한 토큰으로부터 큰 혜택을 받았고 정확도가 최대 13%p 향상되었음을 발견했습니다.
저자들은 PoTRE(Poly-Topological Reasoning Ensembles)를 소개했는데, 이는 복잡한 추론 작업에서 표준 단일 스트림 프롬프팅의 한계를 해결하기 위해 설계된 프레임워크입니다. PoTRE는 추론을 네 가지 서로 다른 에이전트로 분리합니다: 적대적 정제 에이전트, 계층적 전략 계획 에이전트, 스펙트럼 탐색 에이전트 및 직접 체인 에이전트.
연구자들은 검증 가능한 보상 강화 학습(RLVR)을 위한 프레임워크인 Isospectral Optimization (ISO)을 제안했습니다. 이는 입력 및 출력 특이 프레임을 최적화하는 동안 모델 가중치 스펙트럼을 고정하여 누락된 최적화 계층을 해결합니다.
한 개발자는 지난 8개월 동안 개발된 비신경 정보 추출의 격차를 해결하기 위한 대화형 기호 AI 아키텍처에 대한 진전을 공유했습니다.
본 연구는 영어 GSM-Plus 벤치마크에서 파생되고 인간 번역자에 의해 검증된 새로운 교란 벵골어 수학 데이터셋인 GSM-Plus-BN을 소개합니다. 이 자원은 방글라데시와 같은 언어적으로 다양한 지역에서 모델의 견고성을 평가하기 위한 체계적인 벤치마크 부재를 해소합니다.
저자들은 대규모 언어 모델의 추론 오류를 전체 응답 재생성 없이 수정하도록 설계된 효율적인 인간-AI 상호작용 방법인 Deep Interaction을 제안합니다. 이 메커니즘을 통해 사용자는 원래 Chain-of-Thought 응답을 직접 편집하여 정확한 단계는 유지하고 실수는 수정할 수 있습니다.
Thinking Machines Lab은 토큰 효율적 추론과 텍스트, 이미지, 오디오 입력에 대한 네이티브 이해를 위해 설계된 새로운 멀티모달 Mixture-of-Experts 모델인 Inkling을 출시했습니다. Together AI는 이 모델을 추론 플랫폼에서 제공하며 day-zero 접근성을 제공합니다.
연구자들은 검증 가능한 보상과 함께 강화학습을 1조 파라미터 모델로 확장하는 안정적인 학습 파이프라인인 Ring-Zero를 제시했으며, 이는 순진한 확장에서 발견되는 토큰 중복 및 가독성 부족 등의 문제를 해결합니다.
연구자들은 대규모 언어 모델의 계층적 메커니즘 추론을 평가하기 위해 새로운 대규모 추론 데이터셋과 FukuyamaBench 벤치마크를 개발했으며, 이는 현재 화학 LLM에서 흔히 발생하는 물리적 불일치를 해결합니다.
새로운 이론적 프레임워크는 컨텍스트 내 n-grams와 다중 홉 추론과 같은 합성 작업을 통합하는 일반화된 귀납적 작업 클래스를 연구함으로써 트랜스포머 언어 모델에서 귀납적 추론 능력의 출현을 설명합니다.
NVIDIA Nemotron Model Reasoning Challenge는 Kaggle 커뮤니티에게 오픈 모델, 벤치마크, 인프라스트럭처라는 공유 제약 조건 하에서 추론 정확도를 향상시키는 기술을 탐구하도록 초대했습니다. 대회 종료 시점까지 4,000개 팀의 5,000명 이상의 활성 참가자가 수천 건의 제출을 생성했습니다.
연구자들은 신경 정리 증명용 모듈식 완전 비동기 트리 검색을 위해 설계된 오픈소스 Python 라이브러리인 TreeThink를 소개했습니다. 이는 확립된 검색 방법과 vLLM 기반 추론 파이프라인, 다양한 노드 평가 기법을 통합합니다.
저자들은 WILDTRACE라는 새로운 벤치마크를 소개합니다. 이는 모델이 긴 문서의 멀리 떨어진 단락에 흩어진 증거를 얼마나 잘 통합하는지 평가하기 위해 설계되었습니다. 심어진 사실이나 역공학된 체인에 의존하는 기존 벤치마크와 달리, WILDTRACE는 기술적 사고 보고서 및 문학적 내러티브 등 214개의 자연 발생 소스에서 파생된 481개의 작업을 사용합니다.
본 기사는 언어 모델 표현 내의 클래스 간 분산이 불완전한 뉴럴 콜랩스가 아니라 특정 법칙에 의해 지배되는 할당된 정보 저장이라고 주장합니다. 14개 모델 분석 결과, 매크로 카테고리 구조가 표현 분산의 4-12%만 차지하는 반면, 토큰 수준 문맥은 79-91%를 운반하며 100배 파라미터 범위에서 안정적입니다.
본 논문은 오픈 엔디드 혁신을 수행할 수 있는 강력한 지능 시스템을 구축하기 위해서는 고정된 프레임 내에서 탐색하는 것뿐만 아니라 새로운 표현 원시 요소(primitives)를 생성하고 안정화하며 재사용해야 한다고 주장한다.