A Anthropic está lançando um programa de bolsas de $5 milhões para financiar pesquisas independentes sobre como a IA impacta o bem-estar dos usuários. A iniciativa fornece financiamento direto, acesso a modelos e suporte técnico aos beneficiários que constroem avaliações de código aberto que ajudam a indústria a medir os efeitos dos modelos no bem-estar do usuário.
- Os beneficiários trabalham totalmente de forma independente e publicam projetos de código aberto para uso dos desenvolvedores.
- As avaliações devem declarar claramente o que medem e envolver especialistas clínicos no design e validação.
- Os programas devem testar tanto as precauções quanto os danos, refletindo conversas multironda onde o risco se intensifica.
- As inscrições vencem em 21 de setembro, com notificações completas das propostas até 5 de outubro.
Ao financiar benchmarks independentes, a Anthropic visa convidar clínicos, psicólogos e metodólogos a ajudar a desenvolver padrões rigorosos para a segurança da IA em contextos de suporte emocional.