llama.cpp b9833 릴리스: MiniCPM5 파서 및 다중 플랫폼 바이너리
llama.cpp 프로젝트가 버전 b9833을 출시하여, 다양한 버그 수정 및 리팩토링과 함께 MiniCPM5 모델 전용 파서를 도입했습니다. 이 업데이트에는 도구 호출 파싱 지원, 구문 단순화, 그리고 Jinja2 표준과의 호환성을 보장하기 위해 수정된 Jinja API 동작이 포함됩니다.
llama.cpp b9832 릴리스에 --dump-prog 디버깅 플래그 추가
llama.cpp 프로젝트가 버전 b9832를 출시했으며, 이는 Jinja 템플릿 엔진을 위한 새로운 `--dump-prog` 명령줄 옵션을 도입하여 디버깅을 지원합니다. 이 업데이트는 다양한 CPU 및 GPU 아키텍처에서 macOS, Linux, Android, Windows, openEuler용 사전 빌드된 바이너리도 포함합니다.
llama.cpp b9831 릴리스는 DFlash 지원과 새로운 바이너리를 추가합니다
llama.cpp b9831 릴리스는 레이어 유형별 슬라이딩 윈도우 어텐션을 포함한 DFlash v2 지원을 도입하고, 여러 플랫폼을 위한 광범위한 사전 빌드된 바이너리를 제공합니다.
llama.cpp b9830 릴리스는 --offline 플래그를 추가하고 메모리 버그를 수정함
llama.cpp b9830 릴리스는 llama download 명령어와 함께 --offline 플래그를 사용할 수 있는 기능을 도입하여, 스크립트가 네트워크 접근 없이 캐시된 모델을 확인할 수 있게 합니다. 이 업데이트는 URL 작업의 on_done 콜백에서 first_path가 참조로 잘못 캡처되어 발생했던 잠재적인 use-after-free 취약점도 해결합니다.
사용자가 zhoucantd 계정 복구를 요청
Hugging Face 포럼의 한 사용자가 특히 사용자 이름 "zhoucantd"를 식별하여 계정을 복구할 수 있는지 묻고 있습니다. 이 게시물은 이 요청에 대한 두 명의 참가자가 참여한 토론 스레드를 나타냅니다.
UCTF: 다국어 AI를 위한 범용 압축 학습 형식
UCTF(Universal Compressed Training Format)라는 새로운 개념은 다양한 언어를 통일된 언어 비의존 토큰 형식으로 압축하여 다국어 LLM 학습에서의 의미적 중복을 해결하기 위한 중재 계층을 제안합니다.
Gradio로 웹사이트 채팅 위젯 만들기 파트 IV
한 사용자가 최근 Gradio 업데이트 후 CORS 정책 오류로 인해 이전에 작동하던 웹사이트의 AI 챗봇 위젯이 작동을 멈췄다고 보고했습니다. 이 오류는 응답의 'Access-Control-Allow-Credentials' 헤더가 비어 있어 클라이언트의 요청 자격 증명 모드와 충돌함을 나타냅니다.
지능의 매개체로서의 언어: 토큰 예측을 넘어
본 기사는 대규모 언어 모델(LLM)이 그 겉보기 지능을 독립적인 기계적 계산이나 단순한 토큰 예측에서가 아니라, 언어 자체 내부의 깊은 기하학적 관계와 숨겨진 상태에서 비롯된다고 주장한다.
llama.cpp b9829 릴리스: 로그 감소 및 다중 플랫폼 바이너리
llama.cpp 프로젝트는 서버, 공통 구성 요소, 추론 디코딩 모듈에서 로깅 출력을 줄인 버전 b9829를 출시했습니다. 이 업데이트는 CMN_을 COM_로 교체하여 명명 규칙을 표준화합니다.
새 ML 스도쿠 데이터셋 프로젝트를 위한 협력자 모집
Hugging Face 포럼의 한 사용자가 스도쿠에 중점을 둔 머신러닝 및 딥러닝 프로젝트를 구축하기 위해 협력자를 찾고 있습니다. 저자는 처음부터 데이터베이스를 작성하기 시작했으며, 이 목적으로 독립적인 조직을 설립하는 것을 목표로 하고 있습니다.
llama.cpp b9828 릴리스: OpenCL Flash Attention 개선 및 새로운 바이너리
llama.cpp b9828 릴리스는 f16 및 f32 정밀도를 위한 Flash Attention 커널을 재구성하는 등 상당한 OpenCL 향상 기능을 도입합니다. 이 업데이트에는 새로운 prefill prepass 커널과 q4_0 및 q8_0 양자화 형식에 대한 지원이 포함됩니다.
이질적 언어 아블레이션 경험?
한 사용자가 모델에서 만다린, 러시아어 및 아랍어를 아블레이션하여 주로 라틴어 기반 버전을 만드는 경험에 대해 묻고 있습니다. 목표는 영어가 활성화되지 않는 컨텍스트에서 추가 학습이나 안전한 가지치기를 위해 공간을 확보하는 것입니다.
llama.cpp b9827 릴리스에 CUDA 2D 비동기 복사 최적화가 추가됨
llama.cpp b9827 릴리스는 ggml_cuda_cpy 함수에 cudaMemcpy2DAsync 빠른 경로를 추가하여 CUDA의 성능을 최적화합니다. 이 변경은 텐서가 완전히 연속적이지 않지만 각 행이 연속적인 경우, 느린 요소별 스칼라 복사 커널을 대체하여 동일한 타입과 동일한 모양의 스트라이드 복사를 가속화합니다.
llama.cpp b9825 릴리스: Vulkan 수정 및 크로스 플랫폼 바이너리
llama.cpp 프로젝트가 제로 입력 처리 시 Vulkan 단계 연산자를 수정한 버전 b9825를 출시했습니다. 이 업데이트는 다양한 하드웨어 백엔드에서 macOS, Linux, Windows, Android, openEuler용 사전 빌드 바이너리를 제공합니다.
SYCL 정규화 수정이 포함된 llama.cpp b9826 릴리스
llama.cpp 프로젝트는 SYCL의 norm 함수와 관련된 단위 테스트 실패를 수정한 b9826 릴리스를 게시했습니다. 이 업데이트는 여러 플랫폼과 하드웨어 가속기에서 사전 빌드된 바이너리와 프레임워크를 제공합니다.
당신이 작성하는 체크리스트가 AI를 멈추게 한다
이 기사는 AI 에이전트가 종종 불완전한 지시 사항을 기반으로 결측 정보를 추측하여 실행한다고 주장하며, 이를 "사전 실행 확인 실패"라고 명명합니다. 이는 어떤 행동을 취하기 전에 알려진 것과 알려지지 않은 것을 검증하도록 요구하는 런타임 강제 구조를 제안합니다.
crewAI 1.15.1 릴리스 노트
crewAI 버전 1.15.1 업데이트는 프로젝트 초기화 및 배포를 위한 새로운 기능과 여러 버그 수정, 문서 개선을 도입합니다.
macOS, Linux, Windows 바이너리를 제공하는 llama.cpp b9822 릴리스
llama.cpp 프로젝트는 macOS, iOS, Linux, Android 및 Windows용 사전 빌드된 바이너리를 제공하는 b9822 릴리스를 게시했습니다. 이 업데이트에는 test-chat-template --no-common 옵션에 대한 수정 사항이 포함되어 있으며 다양한 하드웨어 아키텍처와 가속기에서 빌드를 배포합니다.
llama.cpp b9823 릴리스는 Windows OpenVINO 추가 및 바이너리 업데이트를 포함합니다
llama.cpp 프로젝트는 macOS, iOS, Linux, Android, Windows, openEuler 플랫폼을 위한 사전 빌드된 바이너리를 제공하는 버전 b9823을 게시했습니다. 이번 릴리스의 주요 변경 사항은 check-release 파이프라인에 Windows OpenVINO 빌드를 추가한 것입니다.
llama.cpp b9824 릴리스: 바이너리 이름 변경 및 새로운 빌드
llama.cpp 프로젝트는 rpc-server와 export-graph-ops 바이너리에 대한 개선 사항을 포함한 버전 b9824를 출시했습니다. `export-graph-ops` 도구는 테스트 명명 규칙을 따르도록 이름이 변경되었으며, 시스템 디렉토리 내 충돌을 피하기 위해 `rpc-server`는 `ggml-rpc-server`로 이름이 변경되었습니다.