Cerebras показали CS-4 Новый сервер позволяет запускать модели на скорости в 2 раза выше, и даёт во
AI Summary
Компания Cerebras представила новый сервер CS-4, который обеспечивает запуск моделей в два раза быстрее, достигая скорости более 1000 токенов в секунду для 10T моделей. Сервер оснащён тремя разогнанными WSE 3 Turbo, что удвоило частоту и пропускную способность памяти. Модульная конструкция CS-4 упрощает установку и позволяет легко обновлять систему в будущем.
Cerebras показали CS-4
Новый сервер позволяет запускать модели на скорости в 2 раза выше, и даёт возможность запускать 10T модели на скорости в 1000+ токенов в секунду. В каждом таком сервере три WSE 3 Turbo, это разогнанная версия оригинального WSE 3. Удвоив частоту с 1,4 Ghz до 2,8 Ghz компания удвоила пропускную способность памяти и FLOP/s, что и даёт прирост в скорости моделей. Памяти на чип правда те же 44 гигабайта, так что для обещанных 10T моделей нужно несколько десятков CS-4.
Отдельная особенность CS-4 это модульность — каждый чип находится в отдельном модуле, который подключается к стойке отвечающей за питание и охлаждение. Это упрощает установку — стойки можно поставить заранее, а потом подключить к ним чипы, когда они будут готовы. К тому же это даёт возможность апгрейда в будущем.
@ai_newz
Похожие новости
ТехнологииMAI-Image-2.5-Pro Майкрософт ворвался в лидеры на t2i арене со своей Pro версией модели. Чаржат за
Microsoft представила Pro версию своей модели MAI-Image-2.5, которая заняла лидирующие позиции на арене генерации изображений. Стоимость генерации составляет $108.5 за тысячу изображений размером 1024x1024 пикселя, что значительно выше, чем у конкурентов. Несмотря на это, качество изображений не впечатляет, и различия между топовыми моделями становятся все менее заметными.
Искусственный интеллект должен был завоевать доверие людей к настоящему времени — но этого не произошло.
Несмотря на активное внедрение искусственного интеллекта, потребители становятся все более настороженными к этой технологии. В Силиконовой долине осознают, что широкое распространение ИИ не всегда приводит к его принятию обществом.
Google оснащает Поиск и Gemini новыми инструментами для изучения с использованием ИИ
Google представил новые инструменты для обучения в своих сервисах Search и Gemini, стремясь сделать Gemini предпочтительным AI-ассистентом для студентов. Это шаг компании в конкуренции с такими игроками, как OpenAI.