すべての記事
github llama.cpp · 8日前

Llama.cpp リリース b9770: リモートプリセットの処理を修正しテストを追加

Llama.cpp バージョン b9770 は、リモートプリセットの処理を修正し、それに対するテストを追加しました。今回のリリースには、macOS、Linux、Android、Windows、openEuler 向けのバイナリが含まれており、Vulkan、CUDA、OpenVINO、SYCL などのさまざまなアーキテクチャやハードウェアアクセラレータをサポートしています。

lab Cohere Blog · 8日前

AIの文化的ギャップがグローバルユーザーを誤った表現や疎外に晒す

22カ国から集められた81人のAIユーザーを対象としたグローバル調査では、非英語話者の89.5%が、精度への信頼からAI利用時に英語に切り替えていることが明らかになった。3人に1人以上が、AIが自らの文化を理解できないと報告し、63%が西洋中心の物語や不適切な敬語など、文化的規範の違反を経験したと答えた。参加者の間では、AIが自らの文化をさらに疎外する可能性への懸念が表明され、67%が将来、AIが文化的多様性をステレオタイプに縮小すると同意した。

github llama.cpp · 8日前

Granite Speech Plus の変換サポートが追加されました

llama.cpp プロジェクトは、マルチレイヤー結合の処理能力を拡張する Granite Speech Plus の変換サポートを追加しました。このアップデートは、macOS、Linux、Android、Windows、openEuler を含む複数のプラットフォームで利用可能であり、さまざまなハードウェアアクセラレータや AI モデルをサポートしています。

github llama.cpp · 8日前

llama.cpp リリース b9767 が GPU とマルチプラットフォーム対応を追加

llama.cpp のリリース b9767 は、小バッチに対する mat-vec パスを使用して MTP 推論を改善し、更新された GPU サポートを含んでいます。このリリースは、macOS、Linux、Android、Windows、openEuler 向けのバイナリを提供しており、Vulkan、CUDA、OpenVINO、SYCL を含む複数のアーキテクチャと API で動作します。

github llama.cpp · 9日前

llama.cpp リリース b9763 でツール呼び出し応答に ID が追加

llama.cpp バージョン b9763 は、ツール呼び出し応答に ID フィールドを導入しました。このリリースには、macOS、Linux、Android、Windows、openEuler 向けのバイナリが含まれており、複数のアーキテクチャとハードウェアアクセラレーションオプションに対応しています。また、UI コンポーネントも利用可能です。

github llama.cpp · 9日前

llama.cpp リリース b9761: モデルのダウンロードとプラットフォームの更新

llama.cpp バージョン b9761 は、モデルのダウンロードを専用の子プロセスに移動し、/models/sse を介してリアルタイムの進行状況追跡を追加しました。このリリースには、macOS、Linux、Android、Windows、openEuler 用のバイナリが含まれており、CUDA、Vulkan、OpenVINO、SYCL などの様々なアーキテクチャとハードウェアアクセラレーターをサポートしています。

lab OpenAI News · 9日前

OpenAI、オープンソース向け「Patch the Planet」を立ち上げ

OpenAIは、「Patch the Planet」を立ち上げました。これはDaybreakイニシアチブの一環で、オープンソースのメンテナが脆弱性を特定し、検証し、解決するのを支援することを目的としています。このプログラムは、AIツールと専門家のレビューを組み合わせて、オープンソースソフトウェアのセキュリティを強化します。

github llama.cpp · 9日前

llama.cpp リリース b9760: 新しい入力スキーマとクロスプラットフォームバイナリ

llama.cpp バージョン b9760 は、生の base64 入力ビデオをサポートする再構築された入力ファイルスキーマを導入しました。このリリースには、macOS、Linux、Android、Windows、openEuler 向けのバイナリが含まれており、Vulkan、CUDA、OpenVINO、SYCL を含む複数のアーキテクチャとハードウェアアクセラレータに対応しています。

github llama.cpp · 9日前

llama.cpp リリース b9757: 新しいバイナリと新機能

llama.cpp は、macOS、Linux、Android、Windows、openEuler 向けの更新されたバイナリを含むバージョン b9757 をリリースしました。このリリースでは、top-n-sigma サンプラーにおける無条件の softmax+sort が削除され、サンプリング効率が向上しました。新しいビルドは、Apple Silicon や ARM64 を含む複数のアーキテクチャ上で Vulkan、OpenVINO、SYCL、ROCm、CUDA をサポートしています。

github llama.cpp · 9日前

llama.cpp リリース b9758 が bf16 サポートとより広いコンパイラ互換性を追加

llama.cpp リリース b9758 は、bin_bcast および単項演算に対して bf16 サポートを導入します。また、バージョン 2026.0 よりも古い Intel コンパイラとの互換性を拡張し、macOS、Linux、Android、Windows、openEuler プラットフォーム向けの新しいビルドを提供します。これには Vulkan、OpenVINO、SYCL、CUDA のサポートが含まれます。

github llama.cpp · 9日前

ファイル末尾への追加時のedit_fileクラッシュの修正

ファイル末尾への追加時に発生するファイル編集のクラッシュが、n+1ではなくn(末尾への挿入)に-1を正規化することで修正されました。このパッチは、-1を追加モードに限定し、置換/削除操作ではこれを拒否して最後の行の静かな上書きを防ぎ、ヒープバッファオーバーフローを避けるために挿しオフセットが整数として計算されることを保証します。

github llama.cpp · 9日前

llama.cpp リリース b9752: サーバーのリファクタリングとクロスプラットフォームバイナリ

llama.cpp がバージョン b9752 をリリースしました。このリリースでは、バッチ構築に焦点を当てたサーバーのリファクタリングが行われ、バッチフルケースの処理の改善やバグ修正が含まれています。macOS、Linux、Android、Windows、openEuler 向けのビルド済みバイナリが含まれており、CUDA、Vulkan、OpenVINO、SYCL などの各種アーキテクチャとアクセラレーションフレームワークをサポートしています。

github llama.cpp · 9日前

llama.cpp リリース b9754: 新しい AC パーサーとクロスプラットフォームバイナリ

llama.cpp バージョン b9754 は、common/peg モジュール内のより厳格な構文生成のための AC パーサーを導入します。このリリースには、macOS、Linux、Android、Windows、openEuler 用のプリコンパイル済みバイナリが含まれており、Vulkan、CUDA、OpenVINO、SYCL などのさまざまなアーキテクチャとアクセラレーション技術に対応しています。