このニュースレターでは、AI研究および政策における4つの異なる発展を扱います。まず、トロント大学、Vector Institute、ケンブリッジ大学、ServiceNowの研究者らが、侵害されたGPU上でオープンウェイトLLMを使用して脆弱性を自律的に検出し、複製する自己維持型のコンピュータワームを実証しました。

第二に、Dwarkesh Patelは、AIシステムが賢くなるにつれて、コンピューティング価格が大幅に上昇し、年間H100あたり25万ドルを超える可能性があると主張しています。第三に、OpenAI、Anthropic、Google DeepMindなどの主要ラボのリーダーたちは、フロンティアAI開発のペースを制御するための国際的なツールについて、米国政府の支援を要請しました。

最後に、プリンストン大学、Cornflower Labs、その他の研究者による新しい研究は、現在のAIシステムはエンジニアリングには優れているが、自律的な科学発見に必要な創造的直感に欠けていることを示唆しています。