Technology

slotstream запускает Qwen на 125 млрд параметров на Mac с 48 ГБ памяти

September 3, 20263 views1 min read

AI Summary

Компания slotstream представила модель Qwen с 125 миллиардами параметров, доступную на Mac с 48 ГБ оперативной памяти. Модель использует SSD для загрузки необходимых данных и демонстрирует производительность около 12 токенов в секунду на процессоре M5 Pro.

slotstream подгружает экспертов Qwen3.8-Flash-Next с SSD по мере надобности: 105 ГБ весов, 33 ГБ в памяти, около 12 токенов в секунду на M5 Pro. Ограничения.— Читать дальше «slotstream запускает Qwen на 125 млрд параметров на Mac с 48 ГБ памяти»

#AI#Qwen#машинное обучение#нейросети#Mac

Want to try AI?

Compare the best neural networks in one place — for free

Go to neural networks
Share:
Источник: Tproger

Related News

AI
Technology

Вышло корректирующее обновление «Ред Адм Промышленная редакция 2.1.2»

Компания «Ред Софт» выпустила корректирующее обновление для системы централизованного управления ИТ-инфраструктурой «Ред Адм Промышленная редакция» версии 2.1.2. Обновление направлено на улучшение функциональности и устранение выявленных ошибок.

1h ago7
AI
Technology

NeoMME: an efficient Multimodal-native and Multilingual Encoder

NeoMME — это новый эффективный мультимодальный и многоязычный энкодер, который способен обрабатывать различные типы данных, включая текст и изображения. Он разработан для улучшения взаимодействия между разными форматами информации и поддерживает множество языков, что делает его универсальным инструментом для обработки мультимедийного контента. Эта технология обещает значительно повысить качество и скорость обработки данных в различных приложениях.

2h ago7
The Download: rethinking child safety and fossil-fueled farmingTechnology

The Download: rethinking child safety and fossil-fueled farming

В новом выпуске The Download обсуждаются проблемы безопасности детей в цифровом пространстве и влияние ископаемого топлива на сельское хозяйство. Родители все чаще используют приложения для мониторинга контента, которые помогают предотвращать опасные ситуации, но могут также вызывать ложные тревоги и ухудшать доверие. В то же время, цены на удобрения продолжают расти из-за высоких цен на природный газ и геополитических факторов, что ставит под угрозу доступность ресурсов для беднейших стран.

3h ago1