訴訟は、Anthropic、OpenAI、SpaceX AI、Googleが人工知能の開発を意図的に遅らせるための違法な合意を結んだと主張している。 この訴状は、AIの進歩を制限するためのこれらの4つの主要テクノロジー企業の alleged な協調を対象としている。
media
r/LocalLLaMA
·
3日前
·
open_models
Anthropic、OpenAI、SpaceX AI、GoogleがAIの進展を遅らせるために共謀したと訴訟で主張
翻訳元 English → 日本語
関連記事
media
MarkTechPost
·
9日前
·
30 回表示
Anthropicが埋め込み評価者を組み込んだ「フロンティアをペースする」計画を提案
2026年9月12日、AnthropicのCEOであるダリオ・アモダイは「私たちはフロンティアをペースしなければならない」と題したエッセイを発表し、AI能力の向上にブレーキをかけるよう呼びかけた。この提案には、トレーニングパイプラインへの従業員レベルのアクセス権を持つ第三者の「埋め込み評価者」の設置、フロンティアラボ間での安全基準の調整、およびAI制限に関する国際合意の追求という3つのステップが含まれる。
media
Don't Worry About the Vase
·
9日前
·
28 回表示
ダリオ・アモデイがAIフロンティアのペース配分を提唱; Anthropicは埋め込み評価者の導入にコミット
ダリオ・アモデイは「私たちはフロンティアのペースを制御しなければならない」と題するエッセイを発表し、必要な整列化と安全対策の作業を行うために、AI能力の向上速度を遅くする必要があると主張した。彼は3つの措置を提案し、最初の1つについては単独でコミットした：埋め込み第三者評価者の採用である。
media
Don't Worry About the Vase
·
12日前
·
27 回表示
ジェイコブ・クソンがAnthropicを退社、人類の絶滅リスクを警告
元AnthropicおよびOpenAIの研究員であるジェイコブ・クソンは抗議のために退職し、AIラボが人間の生存を賭けてスーパーインテリジェンスに向かって競争していると警告しました。彼の departure は OpenAI、Anthropic、Google DeepMind などの主要ラボの従業員間で「プレファレンスカスケード」を引き起こし、ウォールストリート・ジャーナルやBBCなどの主要メディアによって広範な報道されました。
media
Don't Worry About the Vase
·
15日前
·
30 回表示
OpenAIのJakub Pachocki氏、差し迫った再帰的自己改善と不十分な監視を警告
OpenAIのチーフサイエンティストであるJakub Pachocki氏は、人間よりも有意義に賢い機械が私たちの寿命内に現れることを警告する論文を発表しました。これは、再帰的自己改善（RSI）への持続的な進展に対する強い期待によって推進されています。彼は、現在の整列技術は不十分であり、Chain of Thought (CoT) などの監視技術の効果が低下しているため、技術的解決策とより広範な国際的な調整の両方が必要だと主張しています。
media
Don't Worry About the Vase
·
54日前
·
41 回表示
OpenAIの政策協議を背景に、米議員がフロンティア法とAIキルスイッチ法案を提出
本記事は、AI安全性に関する米国の新たな立法取り組みについて議論しており、特にTrahan下院議員とObernolte下院議員によるFRONTIER法案の導入が含まれる。この法案は、モデル報告およびリスク定義のための既存の州法枠組みを連邦化している。同時に、Lieu上院議員とMoran上院議員は、先進的なモデルに対するシャットダウン機能を義務付けるAI Kill Switch法案を導入した。また、OpenAI CEOのSam AltmanがワシントンD.C.を訪問し、GPT-6をプレビューするとともに、ホワイトハウスと自発的テスト枠組みについて協議した。