Anthropic meluncurkan program hibah senilai $5 juta untuk mendanai penelitian independen tentang bagaimana AI memengaruhi kesejahteraan pengguna. Inisiatif ini menyediakan pendanaan langsung, akses ke model, dan dukungan teknis kepada penerima hibah yang membangun evaluasi open-source yang membantu industri mengukur efek model terhadap kesejahteraan pengguna.
- Penerima hibah bekerja sepenuhnya secara independen dan menerbitkan proyek open-source untuk penggunaan pengembang.
- Evaluasi harus secara jelas menyatakan apa yang diukur dan melibatkan ahli klinis dalam desain dan validasi.
- Program harus menguji baik pencegahan maupun bahaya, mencerminkan percakapan multi-turn di mana risiko meningkat.
- Aplikasi ditutup pada 21 September, dengan notifikasi proposal lengkap pada 5 Oktober.
Dengan mendanai benchmark independen, Anthropic bertujuan mengundang klinisi, psikolog, dan metodolog untuk membantu mengembangkan standar ketat untuk keamanan AI dalam konteks dukungan emosional.