Инструменты
5 дн назад
Ollama добавила поддержку моделей с длинным контекстом
Локальный запуск LLM теперь умеет работать с контекстом 128K токенов и оптимизирован под Apple Silicon и NVIDIA.
Читать подробнее
Обновление доступно командой `ollama pull`. Появилась поддержка квантования Q4_K_M, что уменьшает требования к памяти без заметной потери качества.