NVIDIA разработала NVIDIA Confidential Computing (CC) как решение для решения проблем конфиденциальности данных, суверенитета и безопасности во время вывода моделей ИИ. Технология предназначена для обеспечения безопасной среды обработки данных во время их использования, конкретно удовлетворяя потребности агентных приложений ИИ. Этот подход направлен на то, чтобы организации могли внедрять ИИ без ущерба для безопасности или производительности.
NVIDIA представляет конфиденциальные вычисления для безопасного вывода ИИ
Нулевое влияние на мониторинг выявляет скрытые тренировки машинного обучения
Исследование оценивает классификацию нагрузки на GPU с использованием только мониторинга NVML с нулевым влиянием. Классификатор достигает точности 98,2% при идентификации нагрузок на обучение и точности от 43 до 87% при распознавании неожиданных, враждебно скрытых нагрузок на 9 моделей GPU.
ShareMMU обеспечивает безопасное разделение трансляции адресов между недоверенными ускорителями с малыми накладными расходами
Исследователи представляют ShareMMU, дизайн IOMMU, который позволяет нескольким недоверенным ускорителям безопасно повторно использовать предварительно транслированные адреса в общем виртуальном адресном пространстве. Этот подход снижает риски побочных каналов, связанные с большими общими таблицами трансляции (TLB), сохраняя при этом высокую производительность.
Onyx обеспечивает снижение стоимости в 1,7–9,9 раза и задержки в 2,3–12,3 раза для disk-oblivious ANN-поиска
Исследователи предлагают Onyx — энергоэффективный подход к disk-oblivious приближенному поиску ближайших соседей (ANN), который балансирует пропускную способность и количество обращений путем инвертирования архитектуры современных систем ORAM-ANN.
Privatar обеспечивает масштабируемую приватную многопользовательскую VR за счёт безопасного выноса задач
Исследователи представляют Privatar — фреймворк, который переносит реконструкцию аватара с гарнитур на недоверенные локальные устройства, защищая при этом от перехвата данных. Система использует специфичные для домена знания о реконструкции аватара для достижения доказуемо приватного выноса задач с минимальными потерями производительности.
NVIDIA выпускает GPIR для ускорения на GPU конфиденциального поиска информации
Исследователи из NVIDIA представили GPIR, систему, которая ускоряет выполнение Private Information Retrieval (PIR) на графических процессорах за счёт решения проблем с высокой вычислительной нагрузкой и трафиком памяти на стороне сервера, присущих протоколам на основе решёток. Система использует гибридную модель выполнения, учитывающую стадию обработки, которая динамически переключается между ядрами уровня операций и уровня стадий для максимизации повторного использования данных внутри чипа.