Perplexity внедрила GPT-6 Astra от OpenAI для обработки коммуникаций, изменений в программном обеспечении и мониторинга производства, что позволяет команде проверять состояние реже, чем с более ранними моделями.
На 37-й конференции Hot Chips компания OpenAI представила данные бенчмарков для своего собственного чипа вывода Jalapeño, заявив о превосходной производительности на ватт по сравнению с системами NVIDIA GB200 и GB300. Чип обеспечивает выполнение на 1.5–1.9× больше работы на ватт при пиковой пропускной способности и снижает сквозную задержку на 1.7–3.6×; его внедрение в инфраструктуру OpenAI запланировано до конца года.
Perplexity выпустила функцию гибридных вычислений для Mac, которая распределяет агентные задачи между облачными моделями переднего края и локальными моделями, используя шлюз конфиденциальности на устройстве для обработки чувствительных данных. Это позволяет пользователям использовать мощное облачное рассуждение, сохраняя приватные файлы, такие как документы сделок или записи клиентов, строго на их оборудовании.
Perplexity выпустила Portable Computer, локально-ориентированную версию своей агентной платформы, которая запускает агентный фреймворк, оркестратор, планировщик, маршрутизатор инструментов и дообученные модели непосредственно на оборудовании NVIDIA DGX Spark. Эта упакованная система позволяет начинать выполнение каждой задачи на устройстве, не взимая платы за каждый токен за работу, выполняемую локальными моделями, при этом передавая только определенные шаги в облако с использованием более чем 15 моделей после одобрения пользователя.