NVIDIA выпустила CUDA Python 1.0, обеспечивающую единую основу для вычислений на GPU в Python. Этот релиз добавляет стабильные API к платформе.
Обновление направлено на устранение предыдущих ограничений путем предоставления полного доступа к платформе без необходимости разработчикам полагаться на сторонние библиотеки, такие как PyTorch или CuPy.
OpenAI заключила соглашение о получении примерно 8 гигаватт-IT на технологическом кампусе PORTS-Pike в округе Пайк, штат Огайо, в партнерстве с SB Energy, NVIDIA и Министерством энергетики США.
OpenAI объявила о сотрудничестве с Broadcom в разработке пользовательского чипа для вывода под названием Jalapeño. Это новое аппаратное обеспечение специально предназначено для ускорения развертывания больших языковых моделей. Партнерство направлено на снижение зависимости от сторонних ускорителей для задач вывода OpenAI. Интегрируя собственную кремниевую продукцию, OpenAI стремится оптимизировать производительность и эффективность своих приложений ИИ. Это объявление подчеркивает стратегический шаг к вертикальной интеграции в инфраструктуре ИИ. Детали, касающиеся конкретных технических характеристик или сроков выпуска, не были предоставлены в первоначальном сообщении.
OpenAI опубликовала первые измеренные результаты производительности Jalapeño, своего собственного чипа для вывода моделей, а также подробный обзор своей интегрированной стратегии вычислений «избыточный интеллект». Компания описывает, как она объединяет центры обработки данных, чипы, модели и программное обеспечение для повышения эффективности и экономической целесообразности во всей своей системе.
OpenAI опубликовала предварительные результаты производительности Jalapeño, своего первого собственного чипа для вывода моделей, демонстрирующие значительное улучшение скорости и энергоэффективности по сравнению с существующими коммерческими системами. Компания заявляет, что новая архитектура позволяет одновременно достигать более высокой пропускной способности и меньшей задержки, решая типичный компромисс в современном аппаратном обеспечении.
Nvidia проинформировала своих клиентов о предстоящем повышении цен на свою продукцию, обусловленном спросом на искусственный интеллект. Компания сообщила, что эти корректировки приведут к росту затрат, превышающему 15%.
Мы используем cookie для аналитики и улучшения сайта. Вы можете принять или отклонить аналитические cookie. Политика конфиденциальности