Крипто карты от Nvidia начали использовать для инференса Ещё в 2021 году Nvidia наклепала для майни
AI Summary
Крипто-карты Nvidia, изначально разработанные для майнинга, теперь начали использоваться для инференса благодаря уязвимости в драйверах, которая позволила разблокировать их вычислительные мощности и увеличить объем памяти. Хакеры смогли снять ограничения, превратив карты с 8 и 10 ГБ в устройства с 64 и 80 ГБ соответственно. Это создало интересный рынок, где владельцы карт могут получить мощные решения по значительно сниженной цене, хотя текущие цены на них уже возросли.
Крипто карты от Nvidia начали использовать для инференса
Ещё в 2021 году Nvidia наклепала для майнинга гору очень сильно урезанных карт CMP HX170, на основе чипа от А100. Номинально у них было по 8 или по 10 гигабайт и урезанные в 32 раза вычислительные мощности, но при этом полная пропускная способность памяти, которая и нужна для майнинга. После того как Ethereum перешёл на proof of stake алгоритм, все они превратились тыкву.
Так бы они и оставились тыквами, но в конце июня появился пейпер, в котором описывалось снятие части ограничений через уязвимость в новых драйверах Nvidia. Кода авторы не опубликовали, но через несколько недель уязвимость удалось независимо реплицировать, так появился cmpunlocker.
Карты на 10 гигабайт стали картами на 40(или даже 80) гигов, а карты на 8 гигов — картами на 64 гига. Дело в том, что убрать HBM чипы без урезания пропускной способности было нельзя, так что Nvidia просто заблокировали 80% памяти через софт. Хакерам удалось ещё и убрать ограничение на вычисления. Главная оставшаяся проблема — PCIe ограничен версией 2.0 и физически только x4, но ребята с паяльниками уже пытаются это починить.
В итоге, счастливчики, которые смогли купить карту до роста цен, за 100-200 долларов, получили уже чуть менее урезанную А100 за очень дёшево, особенно с учётом текущего кризиса. А сейчас цена выросла и за цену в 5-10 раз выше брать их уже вряд-ли стоит.
А есть ли владельцы таких карт среди подписчиков канала? Как впечатления?
cmpunlocker
@ai_newz
Похожие новости
ТехнологииMAI-Image-2.5-Pro Майкрософт ворвался в лидеры на t2i арене со своей Pro версией модели. Чаржат за
Microsoft представила Pro версию своей модели MAI-Image-2.5, которая заняла лидирующие позиции на арене генерации изображений. Стоимость генерации составляет $108.5 за тысячу изображений размером 1024x1024 пикселя, что значительно выше, чем у конкурентов. Несмотря на это, качество изображений не впечатляет, и различия между топовыми моделями становятся все менее заметными.
Искусственный интеллект должен был завоевать доверие людей к настоящему времени — но этого не произошло.
Несмотря на активное внедрение искусственного интеллекта, потребители становятся все более настороженными к этой технологии. В Силиконовой долине осознают, что широкое распространение ИИ не всегда приводит к его принятию обществом.
Google оснащает Поиск и Gemini новыми инструментами для изучения с использованием ИИ
Google представил новые инструменты для обучения в своих сервисах Search и Gemini, стремясь сделать Gemini предпочтительным AI-ассистентом для студентов. Это шаг компании в конкуренции с такими игроками, как OpenAI.