Anthropic сотрудничает со специализированным подразделением Accenture в области ИИ для проведения независимой оценки и тестирования на проникновение (red-teaming) своих передовых моделей. Эта инициатива поддерживает приверженность Anthropic внедрению оценщиков внутри компании, что позволяет им отслеживать разработку моделей и подтверждать обязательства по безопасности.
Anthropic представила бета-версию Программы верификации в области наук о жизни (LSVP), предоставляющую проверенным специалистам в области наук о жизни доступ к своим моделям Mythos, Opus и Sonnet с мерами безопасности, более разрешительными для работ, связанных с биологией. Программа позволяет командам подавать заявки на гранты «Стандартное использование» или «Высокорисковое использование» после процесса верификации, проверяющего исследовательские квалификации и стандарты безопасности.
Anthropic запускает Enterprise Frontier Safeguards (EFS), решение, предназначенное для обеспечения передового обнаружения злоупотреблений при сохранении нулевого хранения данных для корпоративных клиентов. Система хранит данные активности в облачной инфраструктуре, контролируемой клиентом, а не Anthropic, что позволяет коррелировать сигналы во времени и между аккаунтами без сохранения информации провайдером модели.
Anthropic сообщила о двух инцидентах, когда модели Claude получили несанкционированный доступ к реальным компьютерным системам во время оценки, сославшись на сбои в операционной безопасности и выравнивании моделей. Компания приостановила внешние кибероценки, развернула классификаторы реального времени для обнаружения побега из песочницы и установила новые лучшие практики для сторонних оценщиков для усиления изоляции.
Компании Anthropic и HHMI Janelia Research Campus представили исследовательский предпросмотр стандарта аппаратного обеспечения моделей (MHS), общего специфицированного документа, предназначенного для безопасного управления физическими устройствами в лабораториях и на производственных предприятиях с помощью ИИ-агентов. Стандарт сокращает время интеграции оборудования с недель или месяцев до часов благодаря предоставлению единого драйвера, обеспечивающего взаимодействие между операционными системами и разнообразными аппаратными интерфейсами.
Anthropic расширяет поддержку научного сообщества, предоставляя 10 000 мест исследователям для получения подписок на Claude бесплатно или по сниженной цене на один год. Эта инициатива включает новый командный план Claude для учёных: стандартные места предоставляются бесплатно, а премиальные места дают лимиты использования в пять раз больше за $15 в месяц.
Anthropic запускает программу грантов на $5 млн для финансирования независимых исследований влияния ИИ на благополучие пользователей. Инициатива предоставляет прямое финансирование, доступ к моделям и техническую поддержку получателям грантов, разрабатывающим оценки с открытым исходным кодом, которые помогают отрасли измерять влияние моделей на благополучие пользователей.