Курируемая лента: модели, инструменты, релизы, исследования и практика.
Модель стала точнее в многошаговых задачах, лучше держит контекст и увереннее пишет код на Python, TypeScript и Go.
Модель удерживает книги, кодовые базы и длинные диалоги без потери качества. Хорошо подходит для анализа документов.
Модель одновременно понимает текст, изображения, аудио и видео. Хорошо справляется с диаграммами и таблицами.
Модель на 70B параметров показывает результаты, близкие к закрытым моделям, и свободна для коммерческого использования.
Смесь экспертов даёт качество уровня крупных моделей при меньшей стоимости инференса.
Локальный запуск LLM теперь умеет работать с контекстом 128K токенов и оптимизирован под Apple Silicon и NVIDIA.
Пользователи могут запускать небольшие демо-модели на T4 без оплаты. Лимит — несколько часов в сутки.
Новая версия фреймворка упрощает построение агентов и добавляет поддержку LangGraph для многошаговых сценариев.
Китайская модель показывает результаты, близкие к o1, и доступна под лицензией MIT.
Новая версия генератора изображений лучше понимает длинные промпты и корректнее рисует текст.
Ассистент теперь видит контекст всего репозитория и предлагает правки сразу в нескольких файлах.
Группа исследователей проанализировала 1200 задач и выделила основные причины провалов автономных агентов.
Практический разбор, когда выгоднее держать модель у себя, а когда платить за API. Учитываются цена, задержка, нагрузка.
Регулирование вступит в силу поэтапно: общие требования через 6 месяцев, для моделей общего назначения — через 12.
Исследование OWASP показывает, что инъекции промптов — основная угроза для LLM-приложений в проде.