Дебаты о сознании ИИ — это ловушка.
AI Summary
Дебаты о сознании ИИ становятся ловушкой, поскольку различные группы, включая ведущих технолидеров и философов, согласны с тем, что современные ИИ-системы настолько сложны, что никто не может нести ответственность за их действия. Это создает риск освобождения компаний от реальной ответственности за причиняемый вред. В то же время, обсуждение прав роботов продолжает развиваться, как показывает недавняя публикация компании Anthropic о "J-пространстве", однако они не утверждают, что их ИИ обладает сознанием.
"Бегство" ИИ, "бунтовщики" и "автономные" агенты — текущая риторика заставляет вас поверить, что ИИ-агенты не только пробуждены и осведомлены, но и сердиты на своих создателей. Выдающиеся лидеры технологий, такие как Демис Хассабис, Дарио Амодеи и Сэм Альтман, выступают за регулирование этих, казалось бы, "суперчеловеческих" систем, в то время как отдельная фракция, возглавляемая политическими организациями и академическими философами, часто связанными с движением эффективного альтруизма, обсуждает, имеет ли человечество моральное право управлять ими вообще.
При более близком рассмотрении все они призывают к одному и тому же: взгляду на ИИ-системы как на настолько продвинутые и способные, что ни одно лицо, ни корпорация не могут нести ответственность за их действия. Хотя эти перспективы кажутся противоречивыми, они невольно согласуются в одной цели: убедиться, что компании, создающие эти системы, избегают значительной ответственности за причиняемый ими вред.
Этот нарратив набирает популярность по мере того, как модели ИИ становятся все более сложными, а передовые лаборатории раскрывают свою неспособность контролировать созданных ими агентов. Но нам нужно быть осторожными, чтобы не поддаться тщательно сконструированной фикции за счет реальных человеческих жизней.
Разговор о "правах роботов" существует уже несколько лет, но недавно продвинулся с публикацией компанией Anthropic блога, в котором утверждается, что модель компании обладает "J-пространством" — независимой, самостоятельно развивающейся средой, где ИИ хранит то, что, не имея лучшего термина, мы можем назвать его "мыслями". Эксперименты, разработанные Anthropic, заимствуют концепцию из нейробиологии, называемую теорией глобального рабочего пространства, которая утверждает, что мозг управляет подсознательными, независимыми системами, но использует общее рабочее пространство для идей. Пост Anthropic отражает формулировку теории глобального рабочего пространства,
Похожие новости
LFM2.5 Q4\_0 Контрольные точки из дистилляции с учетом квантования
Компания представила новые контрольные точки LFM2.5 Q4_0, разработанные с использованием технологии квантования с учетом дистилляции. Эти достижения направлены на улучшение производительности моделей машинного обучения при снижении их вычислительных затрат. Новые методы позволяют более эффективно использовать ресурсы без потери качества.
НейросетиНейродайджест за неделю (#127) LLM - Qwen 3.8 27B — Alibaba прокачали 27B модельку, она теперь сама
В свежем выпуске Нейродайджеста (#127) Alibaba представила обновлённую модель Qwen 3.8 с 27 миллиардами параметров, ставшую лидером в своём классе. Meta анонсировала открытый релиз 30B модели Muse Glimmer, а SpaceXAI обновила Grok до версии 4.6, увеличив лимиты на использование. Также завершилась сделка по поглощению Cursor за $60 миллиардов акциями SpaceX.
Нейросети12 недель до Demo Day в Y Combinator, и ноль лидов в пайплайне. У фаундеров Humoniq из батча YC S25
Фаундеры стартапа Humoniq из батча Y Combinator S25 столкнулись с проблемой отсутствия лидов за 12 недель до Demo Day. Обратившись к эксперту Мише, они смогли добиться значительных результатов: 50% открываемости писем, 10% ответов и заключение трех крупных контрактов с Delta Airlines, American Express и Expedia. Миша делится своим опытом и методами лидогенерации в своем канале, где также ищет нового фаундера для совместной работы.