Meta представила Muse, персонального ИИ-агента, построенного на модели Muse Spark 1.3 и оснащённого функциями безопасности для защиты от атак с помощью инъекций промптов. Система запускает каждого агента в изолированной виртуальной машине, разделённой на запечатанную среду выполнения и внешние сервисные зоны, чтобы отделить ненадёжные данные от учётных данных пользователя.
- Muse подключается к таким приложениям, как почта, браузеры и календари, позволяя пользователям устанавливать выбираемый доступ только для чтения или записи для каждого сервиса.
- Служба учётных данных вне среды выполнения обрабатывает пароли, в то время как агент использует токены-заменители, предотвращая кражу учётных данных через инъекции промптов.
- Внешний агент по имени Sentinel проверяет исходящие запросы на соответствие разрешениям пользователя перед утверждением действий или подстановкой реальных учётных данных.
- Система включает классификаторы для фильтрации входящих данных и субагента, который читает структурированные деревья доступности вместо сырого кода страницы, чтобы избежать скрытых инструкций.
Безопасность имеет решающее значение для агентных систем, поскольку инъекции промптов остаются серьёзной уязвимостью; архитектура Meta направлена на то, чтобы гарантировать: даже если первичные средства защиты не сработают, агент не сможет обойти компоненты безопасности, хранящие пользовательские данные.