NVIDIAは、ユーザーが古いハードウェアをパーソナルAIクラスターに接続するのを支援するために設計されたツールであるPAIRを導入しました。このイニシアチブは、既存のデバイスを活用してローカルでAIワークロードを実行することを目指しています。
このプロジェクトにより、個人は蓄積したハードウェアリソースを人工知能タスクに利用することができます。
media
r/LocalLLaMA
·
2時間前
·
open_models
NVIDIAがパーソナルAIクラスター向けPAIRを発売
翻訳元 English → 日本語
関連記事
arxiv
arXiv cs.LG
·
20時間前
·
1 回表示
FlashAttention-4がハードウェア対応FP4推論と学習のためのDirect-Pを導入
FlashAttention-4は、Blackwellの4ビット浮動小数点(FP4)テンソルコアのパフォーマンス制限に対処するため、非因果的推論と因果的学習のための新しいパスを導入しました。Direct-Pと呼ばれるこの手法は、行列積が縮小した際に支配的になるソフトマックス変換のオーバーヘッドを回避するために、スコアを直接FP4確率にマッピングします。
media
r/LocalLLaMA
·
8日前
·
8 回表示
NVIDIA、次世代Vera Rubin GPUを2027年半ばにリリース予定
NVIDIAは、次世代のVera Rubin GPUのリリースを2027年半ばにスケジュールしました。同社は、今四半期に200億ドル相当のVera Rubinハードウェアを販売し、データセンター収益の20％を占めることを期待しています。
media
MarkTechPost
·
10日前
·
12 回表示
PerplexityがNVIDIA DGX Spark上でローカルエージェント基盤を搭載したPortable Computerをリリース
Perplexityは、エージェント基盤、オーケストレーター、プランナー、ツールルーティング、および後処理済みモデルをNVIDIA DGX Sparkハードウェア上で直接実行する、エージェントプラットフォームのローカルファーストビルドであるPortable Computerをリリースしました。このパッケージ化されたシステムにより、すべてのタスクがデバイス上で開始され、ローカルモデルで処理される作業にはトークンごとの課金がなく、ユーザーの承認を得た場合にのみ特定のステップが15以上のクラウドモデルにエスカレーションされます。
lab
NVIDIA Technical Blog
·
10日前
·
5 回表示
NVIDIA、安定したAPIを備えたCUDA Python 1.0をリリース
NVIDIAはPythonでのGPUコンピューティングのための統一された基盤を提供するCUDA Python 1.0をリリースしました。このリリースではプラットフォームに安定したAPIが導入されました。
lab
OpenAI News
·
10日前
·
18 回表示
OpenAI、Jalapeñoチップが最大3.6倍の低レイテンシと1.9倍の高効率を実現と報告
OpenAIは、初の独自推論用チップであるJalapeñoの初期パフォーマンス結果を公開し、既存の商用システムと比較して速度と電力効率において大幅な向上を示した。同社は、新アーキテクチャによりスループットと低レイテンシを同時に実現可能とし、現在のハードウェアで一般的なトレードオフに対処できると述べている。