Buddy Systemは、ローカルのGemma 3 4B推論におけるトークンごとの不確実性を検出するためにRustエントロピーモニタを使用し、NERゲート付きスパン抽出およびセマンティック検索を通じて不確実なトークンのみをSonnetにルーティングします。ベンチマークでは、$0.21で71.4%の精度を達成し、7つのHugging FaceデータセットにおいてAnthropic Advisorパターン($0.44で62.9%)を上回り、SQuAD v2ではソースパッセージチャンクをクラウドモデルにルーティングすることで重要な改善を実現しました。
Buddy System: 階層型LLM推論のためのNERゲート付き不確実性を用いたRustエントロピーモニタ
GradioがWorkflow1111をリリース、AUTOMATIC1111の機能をGradioグラフとして再構築
Gradioは、gr.Workflowフレームワークを使用してAUTOMATIC1111のstable-diffusion-webuiの機能セットの大部分を再構築したプロジェクトであるWorkflow1111をリリースしました。このアプリケーションは、73ノードから構築された11のメディアパイプラインを含む単一のキャンバスで構成されており、テキストから画像への変換、画像から動画への変換、および各種前処理タスクをカバーしています。
AI音楽モデルがブラウザ内でほとんどのCPUでリアルタイムに動作
NanoMaestro Realtimeは、13Mパラメータを持つ50MBのAI音楽モデルで、2層LSTMを使用してピアノ音楽をリアルタイムに生成します。ONNXとTransformers.jsおよびWASMを介してブラウザ内でローカルに実行され、GPUやサーバーバックエンドを必要とせず、古いRaspberry Piモデルでも動作します。
GPT-5.5 InstantがChatGPTの健康回答を強化
GPT-5.5 Instantは、より強力な推論、改善されたコンテキスト処理、明確なコミュニケーション、医師による評価を通じて、ChatGPTの健康およびウェルネス関連の回答を向上させます。
Anthropicがハイブリッド推論機能を備えたClaude Opus 4およびSonnet 4をリリース
Anthropicは、素早い応答と段階的な思考プロセスを統合する「ハイブリッド推論」機能を提供する2つの新しい大規模言語モデル、Claude Opus 4とClaude Sonnet 4をリリースしました。これらのモデルはClaude 3.x世代に取って代わり、200,000トークンのコンテキストウィンドウを維持しつつ、安全性とエージェント機能の向上を実現しています。
Googleが100万トークンコンテキストを備えた実験的なGemini 2.5 Pro推論モデルをリリース
Googleは、Gemini 2.5ファミリー初のモデルであり、これまでの最も高性能な推論モデルであるGemini 2.5 Proをリリースしました。このモデルは100万トークンの入力コンテキストウィンドウを搭載しており(拡張の計画あり)、テキスト、画像、音声、動画を含むマルチモーダル入力をサポートし、現在Gemini AdvancedプランおよびGoogle AI Studioを通じて利用可能です。