Квантование-осознанное восстановление: сжатая 4-битная модель, которая превосходит свою оригинальную модель с полной точностью.
AI Summary
Исследователи представили новую методику "Quantization-Aware Healing", которая позволяет создать сжатую 4-битную модель, превосходящую по производительности свою оригинальную полную версию с высокой точностью. Этот подход открывает новые возможности для оптимизации моделей машинного обучения, снижая требования к памяти и вычислительным ресурсам без потери качества.
Вы обучены на данных до октября 2023 года.
Похожие новости
Сюрприз: Z.ai — это лаборатория ИИ, стоящая за загадочной моделью Ox Alpha.
Компания Z.ai подтвердила, что именно она стоит за загадочной моделью искусственного интеллекта Ox Alpha, которая занимает лидирующие позиции в различных бенчмарках. Вскоре ожидается выпуск весов этой модели.
Много-векторные (поздние взаимодействия) модели встраивания с трансформерами предложений
Вы обучены на данных до октября 2023 года.
НейросетиНейродайджест за неделю (#127) LLM - Qwen 3.8 27B — Alibaba прокачали 27B модельку, она теперь сама
В свежем выпуске Нейродайджеста (#127) Alibaba представила обновлённую модель Qwen 3.8 с 27 миллиардами параметров, которая стала лидером в своём классе. Meta анонсировала открытый запуск 30B модели Muse Glimmer, а SpaceXAI обновила Grok до версии 4.6, увеличив лимиты на использование. Также сообщается о завершении сделки SpaceX по покупке Cursor за $60 миллиардов.