Лучшей моделью для работы на MacBook Pro с 128 ГБ ОЗУ и 8 ТБ M5 Max является LocalLLaMA, оптимизированная для локальной инференции с минимальными затратами памяти. Настройки должны быть направлены на использование более маленьких моделей, таких как LLaMA-3-8B или LLaMA-3-7B, с квантованием, чтобы обеспечить эффективную работу в пределах доступной памяти.