世代間コンテキストアーキテクチャ：LLMのコンテキスト劣化を解決する
世代間コンテキストアーキテクチャ（GCA）は、マルチエージェントシステムにおける「コンテキスト劣化」と注意散漫を解決するために、LLMのコンテキストウィンドウを無限のストレージではなく有限の寿命として扱うことを提案しています。人工的な寿命制限を課すことで、パフォーマンスが低下する前にエージェントを終了させ、その状態をフラットファイルのMarkdown vaultを通じて次世代に渡します。
Transformerの包括的なバイリンガルガイド：基礎からKVキャッシュ圧縮とアテンションダイナミクスまで
Carles Marinは、Transformerアーキテクチャの数学的基盤とその実装を結びつける、オープンソースのバイリンガル（英語およびスペイン語）ガイドをリリースしました。このリソースは低レベルのメカニクスに焦点を当て、複雑なトピックを説明するために再現可能なコードとインタラクティブな要素を提供しています。
Transformerの仕組みに関するオープンソースのバイリンガルガイドが公開
Transformerの内部動作を詳細に解説するオープンソースのバイリンガル（英語/スペイン語）ガイドが公開されました。このリソースは、アテンションの崩壊やKVキャッシュ圧縮などの概念の背後にある正確な数学とメカニクスをカバーしています。
HP Inc.、OpenAIとフロンティア戦略的パートナーシップを開始
HP Inc.は、成功したパイロット運用を経て、OpenAIとの戦略的パートナーシップを拡大し、顧客体験、従業員の生産性、ソフトウェア開発の各領域にAIを展開しています。同社は、実験的なユースケースから企業全体の生産環境への移行に伴い、コンテキスト、権限、評価を管理するための統一されたオペレーティングモデルとして、OpenAIフロンティアプラットフォームを活用しています。
llama.cpp b9837 リリースで --reasoning-preserve フラグと新しいバイナリが追加
llama.cpp プロジェクトはバージョン b9837 をリリースし、推論トークンを保持するための Jinja チャットテンプレート用の新しい `--reasoning-preserve` フラグを導入しました。このアップデートではヘルプメッセージの修正に加え、macOS、Linux、Windows、Android、openEuler の各種ハードウェアバックエンド向けにビルド済みバイナリも提供されています。
HoLo-ToLk: 0パラメータHSL基盤上のトークナイザー不要音声モデル
著者は、トークナイザーや学習済み入力埋め込みを使用せず、0パラメータのHSLバイト基盤を使用して音声からテキスト（STT）およびテキストから音声（TTS）モデルを構築する研究プロジェクトであるHoLo-ToLkを紹介します。この作業は、特定のアーキテクチャ変更と組み合わせることで、生のHSLバイトが音声処理にとって有効な信号となり得ることを示しています。
UI停止と推論スキップの修正を含むllama.cpp b9835リリース
llama.cppプロジェクトは、シングルモデルモードでの停止および推論スキップ機能の修正を含むバージョンb9835をリリースしました。このアップデートは、モデル推論中の制御を改善するためにユーザーインターフェース内の特定の問題に対処しています。
AIによるバイナリコード学習に関する仮想的な問い
フォーラムのユーザーは、ニューラルネットワークやAIシステムにバイナリコードを理解させるトレーニングが、特にコーディングタスクにおいて、全体の能力を大幅に向上させるかどうかという推測的な質問をしています。
コンセプト：AIモデルの学習用データとデータを交換する
あるユーザーが、個人がAIモデルの学習用にデータを交換できるウェブサイトの概念を提案しています。これにより金銭取引が必要なくなります。システムはクレジット経済で動作し、ユーザーは一定量のクレジットから始まり、特定のデータニーズに対してバウンティを投稿します。
llama.cpp b9833 リリース: MiniCPM5 パーサーとマルチプラットフォームバイナリ
llama.cpp プロジェクトはバージョン b9833 をリリースし、MiniCPM5 モデル専用のパーサーをはじめとする各種バグ修正とリファクタリングを導入しました。このアップデートには、ツール呼び出しのパーシング対応、文法の簡略化、Jinja2 基準との互換性を確保するための Jinja API の動作修正が含まれます。
llama.cpp b9832 リリースで --dump-prog デバッグフラグが追加
llama.cpp プロジェクトはバージョン b9832 をリリースし、Jinja テンプレートエンジン用の新しい `--dump-prog` コマンドラインオプションを導入してデバッグを支援しました。このアップデートには、macOS、Linux、Android、Windows、openEuler 向けに、さまざまな CPU および GPU アーキテクチャに対応した事前ビルド済みバイナリも含まれています。
llama.cpp b9831 リリースで DFlash サポートと新しいバイナリが追加
llama.cpp の b9831 リリースでは、レイヤータイプごとのスライディングウィンドウ アテンションを含む DFlash v2 サポートが導入され、複数のプラットフォーム向けの包括的なビルド済みバイナリセットも提供されています。
llama.cpp b9830 リリースで --offline フラグが追加され、メモリバグが修正される
llama.cpp b9830 リリースでは、llama download コマンドで --offline フラグを使用できるようになり、ネットワークアクセスなしでキャッシュされたモデルを検証できます。このアップデートはまた、first_path が参照によって誤ってキャプチャされていた URL タスクの on_done コールバックにおける潜在的な use-after-free 脆弱性も修正します。
ユーザーが zhoucantd のアカウント復旧をリクエスト
Hugging Face フォーラムのユーザーが、特にユーザー名「zhoucantd」を指定して、アカウントの復旧が可能かどうかを尋ねています。この投稿は、このリクエストに関する2人の参加者によるディスカッションスレッドを示しています。
UCTF: 多言語AIのためのユニバーサル圧縮トレーニングフォーマット
UCTF（Universal Compressed Training Format）と呼ばれる新しい概念は、多言語LLMのトレーニングにおける意味的な冗長性を解決するために、多様な言語を統一された言語非依存のトークン形式に圧縮する仲介層を提案しています。
Gradio を使用してウェブサイトチャットウィジェットを作成する 第4部
あるユーザーは、最近の Gradio アップデート後に CORS ポリシーエラーのため、以前正常に動作していたウェブサイトの AI チャットボットウィジェットが機能しなくなったと報告しています。このエラーは、レスポンス内の 'Access-Control-Allow-Credentials' ヘッダーが空であり、クライアントのリクエスト資格情報モードと競合していることを示しています。
知性の担い手としての言語：トークン予測を超えて
本記事は、大規模言語モデルがその見かけの知性を、独立した機械的計算や単純なトークン予測ではなく、言語自体の内部にある深い幾何学的関係と隠れた状態から導き出していると主張している。
llama.cpp b9829 リリース: ログの削減とマルチプラットフォームバイナリ
llama.cpp プロジェクトはバージョン b9829 をリリースしました。これには、サーバー、共通コンポーネント、推測的デコーディングモジュールでのログ出力の削減が含まれます。このアップデートでは、CMN_ から COM_ への置換により命名規則が標準化されました。
新しいML数独データセットプロジェクトの共同開発者を募集中
Hugging Faceフォーラムのユーザーが、数独に焦点を当てた機械学習およびディープラーニングプロジェクトを構築するための共同開発者を募集しています。著者はゼロからデータベースの作成を開始し、この目的のために独立した組織を設立することを目指しています。
llama.cpp b9828 リリース: OpenCL Flash Attention の改善と新しいバイナリ
llama.cpp b9828 リリースは、f16 および f32 精度の Flash Attention カーネルを再構築するなど、OpenCL の大幅な強化をもたらしました。このアップデートには、新しいプレフィルプリパスカーネルと q4_0 および q8_0 量子化形式のサポートが含まれます。