形式的な証明により、超人的なパフォーマンスレベルで確実にアラインメントされ、かつ制御可能な高度なAIシステムを構築可能であることが示された。著者らは、事前に固定されたパラメータを用いて、アラインメント、制御の有効性、信頼性に関するすべての必要な数学的条件を満たすポリシー、環境、および制御機構を明示的に構築することでこれを確立した。

  • システムは定義されたベンチマークで超人的なパフォーマンスを達成し、少なくとも99%のタスクにおいて専門家の人間のパフォーマンスの第99パーセンタイルを超え、中央値を下回る割合は1%以下である。
  • アラインメントは、目的関数の忠実度、行動の最適性、および好みの安定性を通じて検証され、内部目的が主たる効用と完全に一致している。
  • 制御の有効性には、ドリフト、敵対的摂動、モデルの誤指定に対する頑健性が含まれ、介入セットの空集合によって最小限の侵襲性が確保されている。
  • 信頼性はT=1のホライズンで証明され、指定された環境クラス内でのアラインメント失敗の確率がゼロであることが示された。

この構築は、高度なAIシステムが確実にアラインメントできないという仮説を反証する一方で、この存在証明が任意のシステムの検証や認証に関する不可能性結果と矛盾しないことを明確にしている。