ソース · Together AI Blog
media Together AI Blog · 10日前 · 15 回表示

Together AIがCanary展開を導入、ダウンタイムなしで本番環境のモデルをアップグレード

Together AIは、Canary展開という機能を導入しました。これは、ゲート付きの段階的なステップで、現在のモデルから新しいチェックポイントへライブトラフィックを移行する機能です。このシステムは、ヘルスチェックとオプションのメトリックゲートを走行させてトラフィックを移動する前に実行することで、モデルの切り替えにおける安全策を自動化し、パフォーマンスが低下した場合に自動停止や巻き戻しを可能にします。

media Together AI Blog · 15日前 · 20 回表示

Together、クローズドからオープンソースモデルへの移行戦略を提示

Togetherは、エンタープライズが管理型サービスを使用してクローズドソースのAIモデルからオープンソースモデル(OSM)へ移行するためのフレームワークを提供しており、複雑さを軽減し採用を加速することを目指しています。このプロセスには、ベンチマークを通じて適切なモデルを発見し、トラフィックリプレイで評価し、プロンプトや重みを適応させ、ROIを計算して切り替えを正当化することが含まれます。

media Together AI Blog · 20日前 Terminal-Bench 2 · 88.2% · 34 回表示

Together AIがエキスパートLoRA、リアルタイムメトリクス、価格引き下げでファインチューニングを拡張

Together AIは、GLM-5.3やKimi K2.7を含むより広範なオープンウェイトモデルをサポートするようファインチューニングサービスを拡大し、リアルタイムの実験追跡とトレーニングプロセスに対するより細かな制御を導入した。

media Together AI Blog · 21日前 · 20 回表示

Together GPU Clustersに50%コストのプリエンプティブルノードを追加

Together AIは、Kubernetes上のTogether GPU Clusters向けにプリエンプティブルコンピューティングのパブリックプレビューを発表し、中断許容ワークロードに対して低コストのオプションを提供します。プリエンプティブルノードは未使用のNVIDIA accelerated容量を利用し、オンデマンド料金の固定50%で請求されます。

media Together AI Blog · 22日前 · 33 回表示

エージェント型ソフトウェア開発のためのオープンソースAIスタックのガイド

本記事では、MIGHT Stack(Model, Inference, Gateways, Harness, Tools)について解説します。これは、開発者が深い機械学習の専門知識や専用ハードウェアを必要とせずに、エージェント型ソフトウェアにオープンソースモデルを活用できるモジュラーアーキテクチャです。