Открытая MoE-видеомодель MAGI-2 Preview от Sand.ai Разработчики из Sand.ai выложили в открытый дост
AI Summary
Разработчики Sand.ai представили открытую MoE-видеомодель MAGI-2 Preview, которая генерирует 10-секундные видеоролики с синхронной аудиодорожкой. Модель использует уникальную архитектуру с 114 миллиардами параметров, из которых активируются только 6 миллиардов, что значительно снижает стоимость инференса и делает модель более эффективной по сравнению с аналогами. Хотя MAGI-2 требует больше ресурсов для локального использования, облачные провайдеры смогут предложить более доступные решения благодаря оптимизированным вычислениям.
Открытая MoE-видеомодель MAGI-2 Preview от Sand.ai
Разработчики из Sand.ai выложили в открытый доступ веса и код инференса MAGI-2 Preview. Модель построена на single-stream архитектуре и генерирует 10-секундные ролики сразу вместе с синхронной аудиодорожкой.
Внутри применили редкий для таких моделей fine-grained MoE. При суммарном объеме в 114B параметров на каждый токен активируется всего 6B. По объему вычислений на шаг это в разы легче плотного MiniMax H3 (33B), благодаря чему стоимость инференса упала в ~10 раз, а модель заскочила на 6 место в лидерборде Artificial Analysis.
Сам пайплайн генерации двухстадийный. Сначала базовая модель генерирует видео в низком разрешении, а затем refiner апскейлит результат до 1080p.
Пока это не конкурент MiniMax H3 в плане локальной доступности. Квантованный H3 влезает в одну карту на 24GB (RTX 3090/4090), тогда как для MAGI-2 нужно заметно больше ресурсов. Зато у облачных провайдеров за счет всего 6B активных параметров инференс по API будет значительно дешевле dense моделей, да и у такой архитектуры хороший потенциал для скейлинга.
Техрепорт
Код
Веса
@ai_newz
Related News
TechnologyMAI-Image-2.5-Pro Майкрософт ворвался в лидеры на t2i арене со своей Pro версией модели. Чаржат за
Microsoft представила Pro версию своей модели MAI-Image-2.5, которая заняла лидирующие позиции на арене генерации изображений. Стоимость генерации составляет $108.5 за тысячу изображений размером 1024x1024 пикселя, что значительно выше, чем у конкурентов. Несмотря на это, качество изображений не впечатляет, и различия между топовыми моделями становятся все менее заметными.
AI was supposed to win people over by now — it hasn’t
Несмотря на активное внедрение искусственного интеллекта, потребители становятся все более настороженными к этой технологии. В Силиконовой долине осознают, что широкое распространение ИИ не всегда приводит к его принятию обществом.
Google packs Search and Gemini with new AI study tools
Google представил новые инструменты для обучения в своих сервисах Search и Gemini, стремясь сделать Gemini предпочтительным AI-ассистентом для студентов. Это шаг компании в конкуренции с такими игроками, как OpenAI.