한 사용자가 DGX Spark를 사전 채우기(prefilling)에, Strix Halo 장치를 토큰 생성에 사용하여 분리형 추론 파이프라인을 구현했으며, 긴 컨텍스트 워크로드에서 상당한 속도 향상을 달성했습니다. 계산 집약적인 프롬프트 처리를 DGX로 오프로드하고 Strix의 메모리 대역폭을 디코딩에 활용함으로써, Strix 단독 실행 시 발생하는 성능 저하를 극복했습니다.
연구진은 900개 이상의 캐릭터에 걸쳐 532K개의 주석이 달린 대화 라인을 포함하는 대규모 벤치마크인 DramaSR-532K를 소개하고, 장편 TV 드라마에서 화자 인식을 향상시키기 위한 DramaSR-LRM을 제안합니다.
이 연구는 듀얼 채널 토론 프레임워크 내에서 공개 발언과 비공개(OTR) 응답을 비교함으로써 사회적 구조가 LLM 에이전트의 공개적 표현에 미치는 영향을 조사합니다. 이 연구는 정렬 유도 설정이 이러한 채널 간 체계적인 분기를 유발하며, 10개 모델과 여러 시나리오에 걸쳐 의사 결정 분기가 약 3%의 기준선에서 약 40%까지 상승함을 보여줍니다.
본 기사는 배포 중 대규모 언어 모델에서 부안전 출력이 지속되는 문제를 다루고 실시간 모니터링 솔루션을 제안합니다. 외부 모델의 검증자 신호를 임계값 처리를 통해 경고 결정으로 변환하는 간단한 모니터를 소개하며, 임계값은 리스크 제어를 통해 보정됩니다.
본 기사는 자연어 명세서를 컴파일하여 컴팩트하고 로컬에서 실행 가능한 신경 아티팩트로 변환하여 대규모 언어 모델 API를 대체하는 패러다임인 Program-as-Weights (PAW)를 소개합니다. 이 접근 방식은 파운데이션 모델을 입력별 문제 해결자가 아닌 도구 빌더로 취급함으로써 지역성, 재현성 및 비용 개선을 목표로 합니다.
연구자들은 모델 파라미터에서 지식이 실제로 삭제되었는지 평가하는 간극을 해결하기 위해 지표 수준의 파라미터 국소화를 특징으로 하는 최초의 비학습 테스트베드인 LACUNA를 소개했습니다. 이 테스트베드는 마스킹된 지속적 사전 학습을 통해 1B 및 7B OLMo 기반 모델의 미리 정의된 파라미터에 합성 개인의 PII를 주입합니다.
Geoffrey Litt는 개발자들이 인지적 부채를 피하고 창의적 과정에 적극적으로 참여할 수 있도록 코딩 에이전트가 생성한 코드를 깊이 이해해야 한다고 주장합니다.
오픈 소스 프레임워크인 OpenLumara는 이제 KoboldLite 및 OpenWebUI와 같이 OpenAI 엔드포인트와 통신할 수 있는 모든 사용자 인터페이스와의 연결을 지원합니다. 이 업데이트를 통해 사용자는 선호하는 프론트엔드를 변경하지 않고 토큰 효율적인 하네스를 기존 워크플로우에 통합할 수 있습니다.
한 사용자가 전체 도시 레이아웃, 도로 네트워크, 복잡한 그리드 시스템과 같은 대규모 구조적 데이터를 생성할 수 있는 로컬 언어 모델에 대한 추천을 구하고 있습니다.
Simon Willison은 LLM 라이브러리를 에이전트 프레임워크로 사용하여 간단한 코딩 에이전트를 구축하는 초기 실험인 llm-coding-agent 0.1a0을 출시했습니다. 이 프로젝트는 Claude Code에 명세를 작성하고 레드/그린 TDD를 사용하여 도구를 구현하도록 프롬프트하여 생성되었습니다.
llama.cpp에 대한 커뮤니티 풀 리퀘스트는 특히 B580과 같은 하드웨어에 유리한 Intel ARC 사용자의 프롬프트 처리 속도를 크게 향상시킵니다. 기여자는 Claude의 도움으로 코드를 최적화하여 컨텍스트 처리를 가속화했습니다.
새로운 Arxiv 논문은 로컬 오픈 가중치 모델만을 사용하여 기능하는 자기 복제 AI 웜의 생성을 상세히 설명합니다. 이 발전은 자율적 AI 에이전트가 외부 의존성 없이 작동할 잠재력을 보여줍니다.
스탠포드의 Scaling Intelligence 블로그의 이 기사는 합성 데이터, 다중 에이전트 탐색 및 강화 학습을 사용하여 AMD GPU용 HIP 커널 생성을 개선하는 방법에 대해 논의합니다.
이 저장소는 다중 스케일 구조 생성을 통한 단백질 자기회귀 모델을 위한 모델 체크포인트를 제공합니다. 이는 ICML 2026에서 구두 발표로 채택되었습니다.
Claude Code v2.1.199 업데이트는 SSL 인증서 오류, 스트리밍 응답 처리 및 백그라운드 에이전트 관리를 포함하여 수많은 안정성 및 사용성 문제를 해결합니다.
Anthropic은 Claude Fable 5를 전 세계적으로 재배치하고 사이버 보안 안전 분류기 및 제안된 AI 제일브레이크 중증도 프레임워크에 대한 상세 정보를 공개했습니다. 동사는 정부와 제일브레이크 위험을 논의하기 위한 일관된 용어 체계를 확립하는 것을 목표로 하며, 더 넓은 커뮤니티로부터 피드백을 받고 있습니다.
한 사용자가 llama.cpp를 사용하여 듀얼 AMD Radeon R9700 환경에서 Qwen3.6-27B 모델을 최적화하고 Vulkan과 ROCm 백엔드 간 성능을 비교합니다.
Xenova는 Gemma 4용 WebGPU 커널을 출시하여 초당 255개의 토큰 성능을 달성했습니다. 이 최적화를 통해 밀집 모델이 웹 브라우저에서 초당 100 T 이상의 속도로 실행될 수 있습니다.
Simon Willison은 Claude Code와 Fable 5 모델을 사용하여 Datasette Agent의 시스템 프롬프트 평가 및 최적화를 자동화했습니다. 이는 특히 읽기 전용 SQL 쿼리 실행 기능에 초점을 맞추고 있습니다. 이 과정에는 최신 Datasette alpha 버전과 DSPy 설치가 포함되었으며, 에이전트가 스키마 정보를 처리하는 방식의 약점을 파악하는 것을 목표로 합니다.
Nvidia의 저명한 인사는 인공지능 일반(AGI)을 믿지 않으며, 산업의 초점이 기업들을 위한 맞춤형 오픈소스 모델로 전환되어야 한다고 주장했습니다.