ファインチューニングでLoRAに勝てますか?
新しい研究では、最も人気のあるファインチューニング手法であるLoRAの代替案を探り、他の手法がより少ない計算コストでより良いパフォーマンスを達成できるかどうかを評価しています。その結果、いくつかのアプローチは有望さを示していますが、多様なタスクやデータセットにおいてLoRAを一貫して上回る手法は見つかりませんでした。
新しい研究では、最も人気のあるファインチューニング手法であるLoRAの代替案を探り、他の手法がより少ない計算コストでより良いパフォーマンスを達成できるかどうかを評価しています。その結果、いくつかのアプローチは有望さを示していますが、多様なタスクやデータセットにおいてLoRAを一貫して上回る手法は見つかりませんでした。
従来の保護策とリアルタイム監視機能を統合することで、内部システムを保護するAI制御ロードマップが導入されました。
GPT-5.5 Instantは、より強力な推論、改善されたコンテキスト処理、明確なコミュニケーション、医師による評価を通じて、ChatGPTの健康およびウェルネス関連の回答を向上させます。
Natureに掲載された研究によると、対話型AIシステムであるAMIEは、複雑な健康状態の管理において一次医療提供者と同等のパフォーマンスを発揮することが明らかになった。
MosaicLeaksは、研究エージェントが機密性を確実に維持できるかどうかを疑問視するレポートを発表しました。このレポートは、データ漏洷とAI駆動の研究ツールへの信頼に関する懸念を浮き彫りにしています。また、そのようなエージェントが機密情報をどのように扱うかについて、より強力なプライバシー保護と透明性を求めています。
英国政府は、住宅計画の意思決定を加速させるために設計されたAI搭載のプロトタイプを開発するため、Google DeepMindと提携しました。この取り組みは、人工知能を活用して意思決定の効率性を向上させることで、住宅建設プロセスを合理化することを目指しています。
OpenAIは、ChatGPT Enterprise向けの新しい支出管理機能と利用分析機能を導入しました。これらの機能により、企業はAIの利用を拡大する際にコストを管理し、適切な判断を下すことができます。
llama.cpp バージョン b9747 は、SSE エンドポイントを通じてリアルタイムのモデルロード進行状況の追跡を導入しました。このリリースには、macOS、Linux、Android、Windows、openEuler 向けのバイナリが含まれており、Vulkan、CUDA、OpenVINO、SYCL などのさまざまなアーキテクチャとアクセラレーション技術に対応しています。
llama.cpp バージョン b9745 は、レイヤーオフセットと nextn フラグの新しい API を含む Step3.5/3.7 flash MTP3 のサポートを導入しました。このリリースでは、macOS、Linux、Android、Windows、openEuler 向けのビルド済みバイナリが提供され、CPU、Vulkan、CUDA、OpenVINO、SYCL のアクセラレーションオプションが含まれています。
LLaMA.cpp がバージョン b9744 をリリースしました。macOS、Linux、Android、Windows、openEuler 用の更新されたバイナリが含まれています。
llama.cpp バージョン b9742 は、SSM-conv 重みのためにパッド済みストライドを導入し、ニューラルネットワーク演算の効率を向上させます。このリリースには、Vulkan、CUDA、OpenVINO、SYCL を含む複数のアーキテクチャと API に対応した、macOS、Linux、Android、Windows、openEuler 用のバイナリが含まれています。
llama.cpp バージョン b9743 は、macOS、Linux、Android、Windows、openEuler 向けの新しいバイナリを複数のアーキテクチャで導入します。今回のリリースには Vulkan、CUDA 12.4 および 13.3、OpenVINO、SYCL、ROCm のサポートが含まれ、JSON スキーマから文法への整合性により UI が更新され、パーサーのスペースルールが改善されました。
stream-stallヒントは「API応答を待機中 · …秒後に再試行」を表示し、20秒間の沈黙後にアクティブ化され、以前のメッセージと遅延に置き換わります。
llama.cpp バージョン b9741 は、macOS、Linux、Android、Windows、openEuler 向けに複数のアーキテクチャに対応した新しいバイナリを導入しました。このリリースには Vulkan、CUDA 12.4 および 13.3、OpenVINO、SYCL、ROCm のサポートが含まれ、iOS と Ubuntu のバージョンも更新されました。
OpenVINOのWindowsワークフローで発生していたfastfailアサーションを修正しつつ、実際のバイナリに対するUTF-8処理を維持するため、argvのオーバーライドがargcと一致する場合にのみ適用されるように変更し、Windowsにおけるtest-args-parserのランダムな失敗に対処するパッチです。
LLaMA.cpp バージョン b9739 は、OpenCL Adreno を使用した Windows ARM64 のサポートを追加しました。このリリースには、macOS、Linux、Android、Windows、openEuler 向けのバイナリが含まれており、Vulkan、CUDA、OpenVINO、SYCL を含む複数のアーキテクチャと API で利用可能です。
llama.cpp バージョン b9738 は、認証ヘッダーを転送しないように CORS プロキシを修正しました。このリリースには、macOS、Linux、Android、Windows、openEuler 向けのバイナリビルドが含まれており、Vulkan、CUDA、OpenVINO、SYCL を含む複数のアーキテクチャとハードウェアアクセラレーションオプションに対応しています。
ggmlプロジェクトは、n_batch * M に対するパーティションを平坦化することでAMXのパフォーマンスを最適化し、すべてのスレッドが量子化に参加するようにしました。この変更により、CPUおよびGPUプラットフォーム上で様々なモデルやハードウェア構成において最大1.47倍の速度向上を実現し、推論時間の改善が一貫して確認されています。
GLM-5.2モデルのDSAインデクサーはすべてのレイヤーに誤って読み込まれており、欠落したテンソルにより失敗していました。今回の更新では、インデクサーのテンソルをTENSOR_NOT_REQUIREDとしてマークし、インデクサーのないレイヤーがnullptrとして読み込まれるようにし、MLAアテンションを完全に有効にします。均一なインデックス付けを持つDeepSeek-V3.2は影響を受けません。
Dockerのs390xアーキテクチャ向けにプリビルドされたWeb UIを追加するプルリクエストが提出されました。この変更は現在リリース待ちであり、まだ公開されていません。