Билл Гейтс говорит, что мы преодолели пороги опасности ИИ. Что теперь?

Это великолепный день в Киркленде, штат Вашингтон, богатом пригороде Сиэтла на восточном берегу озера Вашингтон. Температура около 30 градусов по Цельсию, а небо не может быть более голубым. Вид из конференц-зала Gates Ventures открывает панораму на марину Carillon Point, где флотилия дорогих лодок покачивается на воде, и через озеро на Олимпийские горы, которые определяют горизонт. Это прекрасно. И в то же время немного пугающе.

Потому что, если сцена спокойна, посланец не таков. Сидя напротив меня за конференц-столом, Билл Гейтс раскачивается на своем стуле, полностью оживленный. И чем больше он говорит — о угрозах террора или экономического коллапса, или просто о потере контроля над нашими системами ИИ — тем более взволнованным я становлюсь тоже.

Филантроп и бывший CEO Microsoft говорит, что он все больше тревожится о темпах изменений, с которыми развивается технология ИИ, особенно поскольку защитные меры не успевают за ними. В новом эссе, опубликованном сегодня, Гейтс утверждает, что мы прошли точки, где множество потенциальных опасностей должны были быть остановлены. "Мы перешли порог в терминах [био-возможностей ИИ], кибер-возможностей, психосоциальных возможностей, возможностей разрушения рынка труда и даже отсутствия контроля," сказал он в интервью MIT Technology Review о своей новой записке. "Я просто поражен отсутствием беспокойства и обсуждения вне отрасли."

В попытке разбудить мир к тому, что он видит как быстро растущий социальный разрушитель, 70-летний технологический магнат начал бить тревогу как "пронзительный голос", как публично с помощью своего нового эссе (первого из нескольких, которые он планирует на эту тему), так и на встречах с прессой, а также в частных беседах с лидерами отрасли, правительства и гражданского общества.

Хотя Гейтс обращает внимание на ряд проблем, его предупреждения о био-возможностях текущих передовых моделей особенно пугающи. "Любая