버디 시스템은 로컬 Gemma 3 4B 추론에서 토큰별 불확실성을 감지하기 위해 Rust 엔트로피 모니터를 사용하며, NER-게이트드 스팬 추출 및 시맨틱 검색을 통해 불확실한 토큰만 Sonnet으로 라우팅합니다. 벤치마크 결과 $0.21로 71.4%의 정확도를 달성하여 7개의 Hugging Face 데이터셋에서 Anthropic 어드바이저 패턴($0.44에 62.9%)을 능가했으며, SQuAD v2에서는 소스 패시지 청크를 클라우드 모델로 라우팅하여 주요 개선을 이루었습니다.
버디 시스템: 계층적 LLM 추론을 위한 NER-게이트 불확실성과 함께 Rust 엔트로피 모니터
Gradio가 Workflow1111을 출시하여 AUTOMATIC1111 기능을 Gradio 그래프로 재구축
Gradio는 gr.Workflow 프레임워크를 사용하여 AUTOMATIC1111의 stable-diffusion-webui 기능 세트 대부분을 재구축한 프로젝트인 Workflow1111을 출시했습니다. 이 애플리케이션은 텍스트-이미지, 이미지-비디오, 다양한 전처리 작업을 아우르는 73개의 노드로 구성된 11개 미디어 파이프라인이 포함된 단일 캔버스로 구성됩니다.
AI 음악 모델이 브라우저에서 대부분의 CPU에서 실시간으로 실행
NanoMaestro Realtime는 13M 파라미터를 가진 50MB AI 음악 모델로, 2층 LSTM을 사용하여 피아노 음악을 실시간으로 생성합니다. ONNX와 Transformers.js 및 WASM을 통해 브라우저 내에서 로컬로 실행되며 GPU나 서버 백엔드가 필요하지 않으며 오래된 Raspberry Pi 모델에서도 작동합니다.
GPT-5.5 Instant이 ChatGPT의 건강 응답을 향상시킵니다
GPT-5.5 Instant은 더 강력한 추론, 개선된 컨텍스트 처리, 명확한 의사소통, 그리고 의사가 참여한 평가를 통해 ChatGPT의 건강 및 웰빙 응답을 개선합니다.
Anthropic, 하이브리드 추론 기능을 갖춘 Claude Opus 4와 Sonnet 4 출시
Anthropic은 빠른 응답과 확장된 단계별 사고를 결합하는 "하이브리드 추론" 기능을 도입한 두 가지 새로운 대규모 언어 모델인 Claude Opus 4와 Claude Sonnet 4를 출시했습니다. 이 모델들은 Claude 3.x 세대를 계승하며 200,000토큰의 컨텍스트 창을 유지하고 향상된 안전성과 에이전트 능력을 제공합니다.
구글, 100만 토큰 컨텍스트를 지원하는 실험용 Gemini 2.5 Pro 추론 모델 출시
구글은 Gemini 2.5 패밀리 최초의 모델이자 지금까지 가장 강력한 추론 모델인 Gemini 2.5 Pro를 출시했습니다. 이 모델은 최대 100만 토큰의 입력 컨텍스트 윈도우(확장 계획 있음)를 특징으로 하며, 텍스트, 이미지, 오디오, 비디오를 포함한 멀티모달 입력을 지원하며, 현재 Gemini Advanced 플랜과 Google AI Studio를 통해 사용할 수 있습니다.