GPT-5.6이 모델, 추론 및 에이전트 워크플로우 전반의 AI 효율성 향상
GPT-5.6은 모델 아키텍처, 추론 프로세스 및 에이전트 워크플로우를 포함한 여러 차원에서 인공지능 효율성을 향상시킵니다.
OpenAI, AI 가치 측정을 위해 '달러당 유용한 지능' 점수표 제안
OpenAI는 단순한 토큰당 비용 지표 너머에서 기업들이 AI 투자에 대한 경제적 가치를 측정할 수 있도록 돕기 위해 "달러당 유용한 지능"이라는 프레임워크를 제시했습니다. 이 기사는 성공을 도입률뿐만 아니라 수행된 작업, 신뢰성, 확장성으로 측정해야 한다고 주장합니다.
OpenAI, GPT-5.6 Sol을 최대 14배 빠르게 실행하는 Ultrafast 모드 미리보기
OpenAI는 표준 처리보다 최대 14배 빠른 GPT-5.6 Sol 모델을 실행하는 새로운 서비스 계층인 Ultrafast의 미리 버전을 출시하고 있습니다. Cerebras 하드웨어로 구동되는 이 모드는 초당 최대 750개의 출력 토큰을 생성하며, 초기에는 OpenAI API를 통해 제공됩니다.
OpenAI, GPT-5.6 Luna 및 Terra 가격 인하, Sol에 Fast 모드 도입
OpenAI는 엔터프라이즈 워크로드에서 달러당 성능을 개선하기 위해 GPT-5.6 Luna와 Terra 모델의 비용을 낮추고 GPT-5.6 Sol에 새로운 "Fast 모드"를 도입했습니다.
Nvidia, 하이브리드 도메인 지식 융합을 통한 실시간 초상화 재조명을 위한 FusionRelight 발표
엔비디아 연구진은 물리적으로 타당한 조명 전달과 정체성 보존, 그리고 컴팩트한 실시간 추론을 결합하는 초상화 재조명 방법인 FusionRelight를 소개했습니다. 이 접근 방식은 합성 데이터, One-Light-at-a-Time (OLAT) 데이터 및 자연 환경(in-the-wild) 데이터에서 물리, 반사율, 현실감 사전 지식을 학생 모델로 증류하는 학습 프레임워크인 하이브리드 도메인 지식 융합(HDKF)을 활용합니다.
DSTP가 복잡한 MLLM 추론에서 시각적 토큰 가지치기 실패를 완화합니다
연구자들은 디코딩 중 관련 시각 정보 이동(RVIS)이 멀티모달 대규모 언어 모델(MLLM)에서 기존 시각적 토큰 가지치기 방법의 실패 주원인임을 확인했습니다. 이를 해결하기 위해 그들은 학습이 필요 없는 프레임워크인 Decoding-stage Shift-aware Token Pruning(DSTP)을 제안하며, 이는 시각적 토큰을 변화하는 추론 요구 사항과 정렬시킵니다.
2D 가우시안 기반 이미지 압축을 위한 클러스터화된 코드북 양자화
연구자들은 가우시안 프리미티브 기반 이미지 압축의 레이트-왜곡 성능을 개선하도록 설계된 Cluster-Guided Vector Quantization (CGVQ)를 제시합니다. 이 접근 방식은 양자화 전에 가우시안 매개변수를 동질적인 그룹으로 분할하여 프리미티브당 많은 부동 소수점 매개변수를 저장함으로써 발생하는 비효율성을 해결합니다.
vLLM v0.27.1, 양자화된 DSpark Markov 헤드 지원 추가
vLLM은 이전 v0.27.0 릴리스를 기반으로 구축된 패치 업데이트인 버전 0.27.1을 출시했습니다.
Meta, Muse Glimmer 30B 오픈 가중치 모델 출시; Anthropic, 리만 경계 개선
Meta는 Apache 2.0 라이선스 하에 로컬 에이전트 배포를 위해 최적화된 30B 밀집 멀티모달 모델인 Muse Glimmer를 출시했으며, 향후 Muse Spark 1.2의 가중치도 제공할 것이라고 약속했다.
OpenAI, 자체 최적화를 통해 GPT-5.6 가격 최대 80% 인하
OpenAI는 시스템 효율성 개선과 재귀적 자기 최적화 기법에 힘입어 GPT-5.6 모델에 대한 상당한 가격 인하를 발표했습니다. 동사는 GPT-5.4 수준의 지능 비용이 4개월 동안 약 13배 감소했으며, GPT-5.6 Luna 가격은 80%, Terra 가격은 20% 절감되었다고 보고합니다.
OpenAI, 솔을 활용해 GPT-5.6 Luna 가격 80% 인하 및 추론 최적화
OpenAI는 자체 GPT-5.6 모델 계열의 가격을 대폭 낮추었으며, GPT-5.6 Luna에 대해 80%, GPT-5.6 Terra에 대해 20%의 가격 인하를 도입했습니다. 이러한 변경은 모델의 순전파 및 프로덕션 커널을 최적화하여 효율성을 향상시키는 GPT-5.6 Sol을 통해 가능해졌습니다.
텐센트, Hy-MT2 다국어 번역 모델과 IFMTBench 오픈소스화
텐센트는 1.8B, 7B, 30B-A3B(MoE) 크기의 "빠른 추론" 다국어 번역 모델인 Hy-MT2 시리즈와 명령어 수행 능력을 평가하기 위한 IFMTBench 벤치마크를 출시했습니다.
llama.cpp b10435이 jinja gather_string_parts의 이차 비용을 수정함
llama.cpp 프로젝트는 Jinja 템플릿 엔진 내의 성능 문제를 해결한 버전 b10435를 출시했습니다. 주요 변경 사항은 `gather_string_parts` 함수의 이차 시간 복잡도 버그를 수정하는 것입니다.
llama.cpp b10434이 템플릿에 reasoning_effort 전달
llama.cpp 프로젝트는 `reasoning_effort` 매개변수를 Jinja 템플릿으로 전달하는 지원을 추가한 빌드 b10434를 출시했습니다. 이 변경으로 OpenAI Chat Completions의 `reasoning_effort` 값이 저장되고 생성 동안 사용 가능해집니다.
llama.cpp b10431이 SSM 모델에 재귀 상태 롤백 추가
llama.cpp 프로젝트는 ggml_ssm_scan 연산에서 재귀 상태(RS) 롤백 지원을 도입한 버전 b10431을 출시했습니다. 이 변경으로 CPU 및 CUDA 백엔드에서 Nemotron 모델의 RS 롤백이 가능해집니다.
Qwen, Qwen 3.8 27B용 오픈 가중치 출시
Qwen이 자체 Qwen 3.8 27B 모델의 오픈 가중치를 출시했습니다. 체크포인트는 Hugging Face에서 사용할 수 있습니다.
llama.cpp b10429은 llama_decode() 동안 /metrics 및 /slots에 접근할 수 있게 합니다
llama.cpp 프로젝트는 llama_decode()가 실행되는 동안 /metrics 및 /slots 엔드포인트에 접근할 수 있도록 서버를 수정하는 버전 b10429을 출시했습니다.
llama.cpp b10430 가상 igpu 장치 지원
llama.cpp 프로젝트가 버전 b10430을 출시하여 가상 통합 GPU(igpu) 장치에 대한 지원을 도입했습니다. 이 업데이트에는 코드베이스 내 개선된 주석도 포함되어 있습니다.
llama.cpp b10427, SYCL FFN 연산 융합으로 최대 12.4% 처리량 향상
llama.cpp 프로젝트가 버전 b10427을 출시했으며, 여기에는 SYCL을 통한 Intel Arc GPU용 성능 최적화가 포함되어 있습니다. 이 업데이트는 q4_K 밀도 순방향 네트워크(FFN) 레이어 내에서 gate, up 및 GLU 연산의 융합을 구현합니다.
llama.cpp b10425가 gated-delta-net 상태 쓰기백을 융합하여 속도 +1.2% 향상
llama.cpp 프로젝트는 gated-delta-net 상태 쓰기백 복사를 융합하기 위한 SYCL 최적화의 포트를 포함하는 버전 b10425를 출시했습니다.