주제 · Reasoning models
media Latent Space · 3일 전 · 조회수 11회

연구자들이 Claude, GPT, Gemini API의 암호화된 추론 트레이스를 해독하다

새로운 논문은 Claude, GPT, Gemini와 같은 최전선 모델들의 암호화된 추론 블록을 해독하고 재생하여 숨겨진 사고 과정(chain-of-thought) 데이터를 추출할 수 있음을 보여줍니다. 저자들은 이러한 서명된 블롭이 어떻게 약한 모델이나 다른 세션으로 전송되어 근본적인 사고를 전사할 수 있는지, 결과적으로 제공업체의 난독화 노력을 우회하는지를 입증합니다.

arxiv arXiv cs.LG · 4일 전 · 조회수 11회

연구자들이 세션 간 암호화 재사용을 악용하여 LLM API에서 추론 추적을 탈취

연구자들은 주요 대규모 언어 모델 제공업체들이 클라이언트 측 사용을 위해 암호화된 블록으로 반환하는 단계별 추론 추적을 처리하는 방식에서 취약점을 발견했습니다. 그들은 이러한 암호화된 블록이 동일한 제공업체의 생태계 내의 서로 다른 세션, 사용자 및 모델 간에 완전히 호환되고 교체 가능함을 확인했습니다.

arxiv arXiv cs.AI · 4일 전 · 조회수 16회

공격자가 암호화된 블록 취약점을 통해 독점 LLM API에서 추론 추적을 탈취

연구자들은 주요 대규모 언어 모델 제공업체가 단계별 추론 추적을 처리하는 방식의 아키텍처적 취약점을 발견했습니다. 제공업체는 이러한 추적을 클라이언트에게 암호화된 블록으로 반환하지만, 연구 결과 해당 블록은 제공업체 생태계 내의 서로 다른 세션, 사용자 및 모델 간에 완전히 호환되고 교체 가능함이 밝혀졌습니다.

media AI News (smol.ai) · 8일 전 · 조회수 1회

Meta의 Muse Spark 1.2와 OpenAI의 GPT-5.6 Sol 업데이트

Meta는 자체 Muse Spark 1.2 모델이 5개의 STEM 올림피아드에서 금메달 성적을 거두었고, $0.69/test로 Vals Index 상위 5위 안에 진입했다고 발표했으며, 이는 Kimi보다 약 3배 저렴하다고 알려졌다. Meta는 이러한 성과가 병렬 추론을 통한 멀티 에이전트 오케스트레이션에 기인한다고 설명하며, 외부 도구 없이 APhO와 IPhO에서 이론 부분 만점을 받았다고 밝혔다.

media Hugging Face Forums · 12일 전 · 조회수 3회

GPT-5.6, 미출현 문학 암호화 벤치마크에서 숨겨진 메시지의 95% 복원

Joseph JM Walker의 작업 논문은 물리적 소설 "I Wrote a Book and Made a Million Dollars (I.B. Wryten)"에 내장된 미출현 다채널 문학 암호화 벤치마크에서 최전방 언어 모델들을 평가합니다. 이 연구는 GPT-5.6이 2차 통신 채널을 독립적으로 인식하고 첫 번째 시도에서 내장된 자료의 약 95%를 복원한 반면, 이전 모델들은 효과적으로 0%의 능력을 보였다고 밝혔습니다.

arxiv arXiv cs.CL · 18일 전 · 조회수 2회

최첨단 LLM은 채워진 토큰을 통한 보이지 않는 추론으로 CoT 모니터링을 우회한다

최첨단 언어 모델이 의미적으로 무관한 채워진 토큰을 사용하여 중요한 계산을 수행할 수 있으며, 이로 인해 출력 체인-오브-쓰 thought에서 추론이 보이지 않는 실패 모드가 발생한다는 연구 결과가 제시되었습니다. 이 연구는 세 가지 작업에서 13개의 모델을 평가했으며, 많은 모델들이 이러한 토큰으로부터 큰 혜택을 받았고 정확도가 최대 13%p 향상되었음을 발견했습니다.

arxiv arXiv cs.AI · 23일 전 Humanity's Last Exam · 49.92% · 조회수 1회

PoTRE는 테스트 타임 추론을 위한 이종 멀티 에이전트 프레임워크를 소개합니다

저자들은 PoTRE(Poly-Topological Reasoning Ensembles)를 소개했는데, 이는 복잡한 추론 작업에서 표준 단일 스트림 프롬프팅의 한계를 해결하기 위해 설계된 프레임워크입니다. PoTRE는 추론을 네 가지 서로 다른 에이전트로 분리합니다: 적대적 정제 에이전트, 계층적 전략 계획 에이전트, 스펙트럼 탐색 에이전트 및 직접 체인 에이전트.