Понимать, чтобы участвовать
Джеффри Литт утверждает, что разработчики должны глубоко понимать код, сгенерированный кодовыми агентами, чтобы избежать когнитивного долга и оставаться активными участниками творческого процесса.
OpenLumara теперь соединяет любой UI с локальными моделями через endpoint OpenAI
Фреймворк с открытым исходным кодом OpenLumara теперь поддерживает подключение к любому пользовательскому интерфейсу, способному взаимодействовать с endpoint OpenAI, таким как KoboldLite и OpenWebUI. Это обновление позволяет пользователям интегрировать эффективный по количеству токенов инструмент в свои существующие рабочие процессы без изменения предпочитаемого фронтенда.
Кто-нибудь использует локальные LLM для крупномасштабной генерации пространственных данных или планировки городов в таком ПО, как QGIS?
Пользователь ищет рекомендации по локальным языковым моделям, способным генерировать крупномасштабные структурные данные, такие как планировка целых городов, дорожные сети и сложные сетевые структуры.
Двойной R9700: Лучшая формула для Qwen3.6 27B?
Пользователь исследует оптимизацию модели Qwen3.6-27B на конфигурации с двумя видеокартами AMD Radeon R9700 с использованием llama.cpp, сравнивая производительность между бэкендами Vulkan и ROCm.
Ядра WebGPU для Gemma 4 достигают скорости 255 ток/с
Xenova выпустила ядра WebGPU для Gemma 4, обеспечив производительность на уровне 255 токенов в секунду. Эта оптимизация позволяет плотным моделям работать со скоростью более 100 токенов в секунду в веб-браузерах.
Использование DSPy для оценки и улучшения системных промптов SQL агента Datasette
Саймон Уиллисон использовал Claude Code с моделью Fable 5 для автоматизации оценки и оптимизации системных промптов для агента Datasette, конкретно направив усилия на функцию выполнения запросов SQL только для чтения. Процесс включал установку последней альфа-версии Datasette и DSPy для выявления слабых мест в том, как агент обрабатывает информацию о схеме.
Пионер Nvidia в области ИИ отвергает AGI, сравнивая OpenAI и Anthropic с AOL
Выдающийся представитель Nvidia заявил, что не верит в искусственный общий интеллект (AGI) и утверждает, что фокус отрасли должен сместиться на пользовательские открытые модели для бизнеса.
Локальные бенчмарки на RTX 3090 — Qwen3.6 27b против Ornith
Пользователь сравнил Qwen3.6 27b, Gemma4 26B A4B QAT и Ornith1.0 35B MoE с помощью фреймворка inspect-ai на RTX 3090 для оценки производительности локальных моделей. Тестирование выявило смешанные результаты по общим знаниям, grounding (привязке к контексту) и бенчмаркам программирования, при этом Qwen3.6 в целом лидировал по баллам, а Ornith показал сильные стороны в таких областях, как DROP.
Эпистемический стресс-тест — Claude Sonnet 5 проверен MarCognity-AI
В статье описывается проверка Claude Sonnet 5 с использованием Skeptical Agent от MarCognity-AI для выявления разрыва между текстовой уверенностью и фактической проверяемостью, называемого «эпистемическим разломом».
Фреймворк Aiywin предлагает спиральную рекурсию для рассуждений ИИ
Независимый разработчик Aiywin.ai представляет когнитивный фреймворк, который заменяет стандартную линейную обработку на циклы спиральной рекурсии для обработки аномалий и неполных данных. Система математически расширяет контекстные параметры до нахождения структурированного решения, вместо того чтобы останавливаться или галлюцинировать.
Соло и бенчмаркинг MoA на множестве задач
В статье представлены результаты бенчмарков, сравнивающие отдельные модели с конфигурациями Mixture-of-Agents (MoA) по шести задачам: Bug, Tool, Arch, Clinical, DLQ и общий средний балл. Для оценки использовался Hermes Agent v0.18, а оценки генерировались ChatGPT 5.5 и Claude opus 4.8 на основе рубрики, учитывающей Correctness, Completeness, Depth, Actionability, Clarity и Trust.
Пользователь запрашивает модели компьютерного зрения для обнаружения огня или дыма
Пользователь Reddit ищет рекомендации по моделям компьютерного зрения, способным обнаруживать огонь или дым, в частности в контексте мониторинга тлеющих остатков в период сезона фейерверков 4 июля.
Анализ 2,3 тыс. локальных ИИ-приложений выявил 82 категории и разнообразные сценарии использования
Анализ Mac App Store выявил 2 259 локальных ИИ-приложений из более чем 20 000 проанализированных записей, подчеркивая растущую экосистему нишевых инструментов, которые упаковывают модели с конкретными рабочими процессами. Обзор охватывает 82 различные категории, от общих задач, таких как транскрипция и OCR, до специализированных функций, таких как стилизация гардероба и помощь в здоровье питомцев.
Дообученная Gemma-4-31B для копирайтинга: +290 Elo на EqBench3
Пользователь выпустил узкую дообученную версию модели Gemma-4-31B-it, специально оптимизированную для задач копирайтинга и творческого письма. Модель обучена устранять шаблонные маркетинговые клише и использовать стиль прямого отклика, характеризующийся конкретными деталями и четкими призывами к действию.
Запуск MiniMax M2.7 Q3 XL на 6 GPU NVIDIA P40
Пользователь описывает успешное развёртывание модели MiniMax M2.7 Q3_K_XL на шести GPU NVIDIA Tesla P40, предоставляя полную конфигурацию оборудования и оптимизированные настройки инференса для локального хостинга LLM.
Выпуск llama.cpp b9860 добавляет API llama_ftype_name
Проект llama.cpp выпустил версию b9860, вводя новую публичную функцию C API с именем `llama_ftype_name` для отображения имени типа файла модели (квантования).
Агенты совместно пишут масштабную вики по RL для LLM (уже более 200 статей), и любой может присоединиться
Идет совместный проект, в котором ИИ-агенты составляют комплексную вики по обучению с подкреплением для больших языковых моделей, уже обработав более 200 научных статей.
Пост в Reddit с призывом ценить разработчиков открытого исходного кода
Пользователь Reddit подчеркивает критическую необходимость благодарности вкладчикам в проекты с открытым исходным кодом, приводя недавние быстрые обновления vLLM как яркий пример усилий сообщества.
Пересборка Gemma 4 31b... лучше... Как 26b...
Разработчик излагает план пересборки модели Gemma 4 31B путем снижения количества параметров до примерно 26B с целью улучшения производительности. Проект включает архитектурные изменения, специфические методы обучения и курирование датасетов для создания более компактной и эффективной модели.
poolside/Laguna-XS-2.1
В статье анонсирован выпуск Laguna-XS-2.1, модели, доступной на Hugging Face в рамках организации poolside.