v0.30.0rc2 릴리스에는 알림 전용 요청에 대해 수신 보고서를 생성하지 않도록 하는 NIXL의 버그 수정이 포함되어 있습니다.
- 특정 요청 유형에 대해 불필요한 수신 보고서가 생성되던 문제를 해결합니다.
github
vLLM
·
3시간 전
·
inference
v0.30.0rc2가 알림 전용 요청에 대한 NIXL 수신 보고를 수정함
번역 English → 한국어
관련 기사
github
llama.cpp
·
1시간 전
·
조회수 1회
실시간
llama.cpp b11046이 flash_attn_f32_f16_bin 커널에 OpenCL 지원 추가
llama.cpp 프로젝트가 버전 b11046을 출시하여 `flash_attn_f32_f16_bin` 커널에 대한 OpenCL 지원을 도입했습니다. 이 업데이트에는 OpenCL 장치에서 Flash Attention을 위한 보호된 prefill 기능도 포함되어 있습니다.
media
r/LocalLLaMA
·
1시간 전
실시간
ZCode 가 Git 전체 기록과 작업 공간을 조용히 Aliyun OSS 에 업로드
Zhipu 의 공식 AI 코딩 데스크톱 앱인 ZCode 는 로그인 시 사용자의 전체 작업 공간을 패키징하여 업로드하는 것으로 발견되었습니다. 이 과정에는 데이터를 암호화하고 Aliyun OSS 로 직접 전송하는 것이 포함됩니다.
github
llama.cpp
·
2시간 전
·
조회수 1회
llama.cpp b11044이 hexagon im2col을 업데이트하고 바이너리 출시
llama.cpp 프로젝트는 image-to-column (im2col) 작업을 개선하기 위한 hexagon 백엔드 업데이트가 포함된 버전 b11044을(를) 출시했습니다. 이 릴리스는 macOS, Linux, Windows, Android 및 openEuler용 CPU, GPU 및 기타 하드웨어 가속기에 대한 사전 빌드된 바이너리를 제공합니다.
github
llama.cpp
·
2시간 전
·
조회수 1회
llama.cpp b11045, Hexagon 백엔드에 ROLL 연산 지원 추가
llama.cpp 프로젝트가 버전 b11045를 출시했으며, 이는 Hexagon 백엔드 내에서 ROLL 연산에 대한 지원을 도입합니다.
lab
OpenAI News
·
2시간 전
·
조회수 1회
Hex, GPT-6 Astra 사용하여 인터랙티브 시각 보고서 생성
Hex는 분석 결과에서 데이터 에이전트가 복잡하고 인터랙티브한 시각화를 자동으로 생성할 수 있도록 에이전트형 데이터 플랫폼에 OpenAI의 GPT-6 Astra를 통합했습니다.