NVIDIA는 AI 모델 추론 중 데이터 프라이버시, 주권 및 보안 문제를 해결하기 위한 솔루션으로 NVIDIA Confidential Computing (CC)를 개발했습니다. 이 기술은 사용 중인 데이터를 처리하는 동안 안전한 환경을 제공하도록 설계되었으며, 특히 에이전트형 AI 애플리케이션의 요구 사항을 타겟팅합니다. 이 접근 방식은 조직이 보안이나 성능을 희생하지 않고도 AI를 채택할 수 있도록 하는 것을 목표로 합니다.
NVIDIA, 안전한 AI 추론을 위한 Confidential Computing 도입
ShareMMU는 낮은 오버헤드로 신뢰할 수 없는 가속기 간 안전한 주소 변환 공유를 가능하게 합니다
연구자들은 여러 신뢰할 수 없는 가속기가 공유 가상 주소 공간 내에서 사전 번역된 주소를 안전하게 재사용할 수 있는 IOMMU 설계인 ShareMMU를 제시합니다. 이 접근 방식은 큰 공유 번역 사이드체인드 버퍼(TLB)와 관련된 사이드체인드 위험을 완화하면서도 높은 성능을 유지합니다.
Onyx, disk-oblivious ANN 검색에서 비용 1.7-9.9배, 지연 시간 2.3-12.3배 감소 달성
연구자들은 state-of-the-art ORAM-ANN 시스템의 설계를 역전시켜 대역폭과 접근 횟수를 균형 있게 맞추는 disk-oblivious 근접 이웃(ANN) 검색을 위한 비용 효율적인 접근 방식인 Onyx를 제안합니다.
Privatar은 안전한 오프로딩을 통해 확장 가능한 프라이버시 보호 다중 사용자 VR을 가능하게 함
연구자들은 아바타 재구성을 헤드셋에서 신뢰할 수 없는 로컬 장치로 오프로드하면서 데이터 가로채기로부터 보호하는 프레임워크인 Privatar를 소개합니다. 이 시스템은 아바타 재구성에 대한 도메인 특화 지식을 활용하여 최소한의 성능 비용으로 증명 가능한 프라이버시를 갖춘 오프로딩을 달성합니다.
NVIDIA, GPU 가속 프라이빗 정보 검색을 위한 GPIR 출시
NVIDIA 연구원들은 격자 기반 프로토콜에 내재된 높은 서버 측 계산 및 메모리 트래픽을 해결하여 GPU에서 프라이빗 정보 검색(PIR)을 가속화하는 시스템인 GPIR을 소개했습니다. 이 시스템은 온칩 데이터 재사용을 최대화하기 위해 연산 수준과 단계 수준 커널 간에 동적으로 전환하는 단계 인식 하이브리드 실행 모델을 사용합니다.
NVIDIA, PPML을 위한 MPC 및 FHE 성능과 비용 특성화
새로운 연구는 프라이버시 보존 기계 학습 추론을 위한 안전한 다자간 계산(MPC) 및 완전 동형 암호화(FHE)의 통합 시스템 수준 특성을 제시합니다. 이 작업은 여러 CNN 및 Transformer 모델에서 두 가지 MPC 변형—산술/이진 공유 변환 및 함수 비밀 공유—과 FHE를 평가합니다.