Программирование

WebLLM запускает языковую модель в браузере без сервера за один вечер

3 сентября 2026 г.0 просмотров1 мин чтения

AI Summary

WebLLM представила обновление версии 0.2.84, позволяющее запускать языковую модель в браузере без необходимости в сервере. Новая версия поддерживает видеопамять для девяти моделей и обеспечивает 71-80% нативной скорости, а также интеграцию с WebGPU. Установка и код для чата со стримингом доступны за один вечер.

Разбор WebLLM 0.2.84: установка, код чата со стримингом, видеопамять для 9 моделей от 0,7 до 6,4 ГБ, 71–80% нативной скорости и поддержка WebGPU в браузерах.— Читать дальше «WebLLM запускает языковую модель в браузере без сервера за один вечер»

#машинное обучение#WebLLM#языковая модель#браузер

Хотите попробовать AI?

Сравните лучшие нейросети в одном месте — бесплатно

Перейти к нейросетям
Поделиться:
Источник: Tproger

Похожие новости

AI
Программирование

Polars 2.0 RC переводит LazyFrame на потоковый движок и ломает тихие касты

Вышел первый релиз-кандидат Polars 2.0, который переводит LazyFrame на потоковый движок, что влияет на порядок строк при операциях join и group_by. Также изменилось поведение функций is_in и concat: теперь они сообщают об ошибках типов вместо тихого игнорирования. Пользователям рекомендуется проверить свой код на совместимость с новыми изменениями.

4 ч. назад3
AI
Программирование

TeamCity 2026.2 вывел Pipelines из EAP и открыл CI ИИ-агентам через MCP

TeamCity 2026.2 официально выпустил YAML-пайплайны, доступные как в облачной, так и в локальной версиях. В обновлении также представлены три инструмента MCP для агентов, а ИИ-ассистент теперь поддерживает ключи от Anthropic, OpenAI и Gemini для интеграции с CI.

5 ч. назад0
AI
Программирование

CERN переводит 2200 компьютеров ускорителей с CentOS на Debian 13

CERN планирует завершить миграцию более 2200 промышленных компьютеров ускорителей с операционной системы CentOS на Debian 13 до конца 2026 года. Решение о переходе было принято после проблем с флагом -march=x86-64-v2 в RHEL.

6 ч. назад6