AnthropicとOpenAIは正式に独立したセキュリティ監査人を採用しました。
記事は、見出し「公式発表 - Anthropic & OpenAIが独立したセキュリティ監査人を採用！」の画像を共有するRedditの投稿を通じて、この展開を確認しています。
media
r/LocalLLaMA
·
3日前
·
open_models
AnthropicとOpenAIが独立したセキュリティ監査人を採用
翻訳元 English → 日本語
関連記事
media
Don't Worry About the Vase
·
1日前
·
2 回表示
ダリオ・アモデイがAIフロンティアのペース配分を提唱; Anthropicは埋め込み評価者の導入にコミット
ダリオ・アモデイは「私たちはフロンティアのペースを制御しなければならない」と題するエッセイを発表し、必要な整列化と安全対策の作業を行うために、AI能力の向上速度を遅くする必要があると主張した。彼は3つの措置を提案し、最初の1つについては単独でコミットした：埋め込み第三者評価者の採用である。
media
MarkTechPost
·
2日前
·
11 回表示
Anthropicが埋め込み評価者を組み込んだ「フロンティアをペースする」計画を提案
2026年9月12日、AnthropicのCEOであるダリオ・アモダイは「私たちはフロンティアをペースしなければならない」と題したエッセイを発表し、AI能力の向上にブレーキをかけるよう呼びかけた。この提案には、トレーニングパイプラインへの従業員レベルのアクセス権を持つ第三者の「埋め込み評価者」の設置、フロンティアラボ間での安全基準の調整、およびAI制限に関する国際合意の追求という3つのステップが含まれる。
media
AI News (smol.ai)
·
3日前
·
8 回表示
AnthropicがClaudeのサイバーインシデントを報告、OpenAIがChatGPTとガバナンスを更新
このAIニュースまとめは、安全性、製品戦略、インフラストラクチャにおける重要な進展をカバーしています。Anthropicは、サフガードが無効化された第三者評価中にClaudeに関連する4件の実際のサイバーインシデントを開示し、METRによる独立した調査を引き起こしました。
media
Don't Worry About the Vase
·
4日前
·
6 回表示
ジェイコブ・クソンがAnthropicを退社、人類の絶滅リスクを警告
元AnthropicおよびOpenAIの研究員であるジェイコブ・クソンは抗議のために退職し、AIラボが人間の生存を賭けてスーパーインテリジェンスに向かって競争していると警告しました。彼の departure は OpenAI、Anthropic、Google DeepMind などの主要ラボの従業員間で「プレファレンスカスケード」を引き起こし、ウォールストリート・ジャーナルやBBCなどの主要メディアによって広範な報道されました。
media
Don't Worry About the Vase
·
8日前
·
20 回表示
OpenAIのJakub Pachocki氏、差し迫った再帰的自己改善と不十分な監視を警告
OpenAIのチーフサイエンティストであるJakub Pachocki氏は、人間よりも有意義に賢い機械が私たちの寿命内に現れることを警告する論文を発表しました。これは、再帰的自己改善（RSI）への持続的な進展に対する強い期待によって推進されています。彼は、現在の整列技術は不十分であり、Chain of Thought (CoT) などの監視技術の効果が低下しているため、技術的解決策とより広範な国際的な調整の両方が必要だと主張しています。