Глава Anthropic предупреждает: ИИ может оставить вас без работы и создать угрозы безопасности

В недавнем интервью глава компании Anthropic, Дарио Амодей, поделился своими опасениями насчет будущего искусственного интеллекта (ИИ). Anthropic — это компания, стоящая за разработкой чат-бота Claude, который, по сообщениям, будет интегрирован в продукты Microsoft Office и Copilot. По словам Амодея, существует ощутимый риск, что ИИ может привести к серьезным проблемам, включая потерю рабочих мест и угрозы безопасности.

В ходе беседы Амодей сделал несколько смелых прогнозов о будущем рынка труда. Он предупредил, что многие офисные профессии могут исчезнуть в течение одного-пяти лет, что потенциально приведет к двузначному росту безработицы.

В обсуждении также был введен термин, используемый в индустрии ИИ, PDOOM, что является аббревиатурой от "probability of doom" (вероятность гибели). Это способ оценки вероятности того, что ИИ приведет к катастрофическим последствиям. Амодей оценил этот риск в 25 процентов. Что же именно было сказано и что это может значить для каждого из нас?

ИИ и будущее офисных профессий

Еще в мае Амодей предсказал, что до половины офисных рабочих мест могут исчезнуть в течение следующих одного-пяти лет, а безработица может подскочить до 10-20 процентов. Исследования уже показали 13-процентное сокращение числа вакансий для начинающих специалистов, а инженеры Anthropic говорят, что их роли кардинально изменились.

Вместо непосредственного выполнения задач многие люди теперь управляют набором инструментов ИИ, которые берут на себя большую часть работы. Амодей считает, что этот переход будет трудным для многих работников, и не все смогут плавно адаптироваться. Однако он предлагает возможные решения:

Я думаю, первое, что нужно сделать, — это помочь людям адаптироваться к технологиям ИИ. Знаете, помочь... Я не хочу, чтобы это звучало как банальность. Люди пробовали программы переподготовки, и у них есть реальные ограничения. Есть реальные ограничения в том, чтобы помогать людям учиться и адаптироваться, но это лучше, чем ничего, и с этого нужно начинать.

Дарио Амодей - сооснователь и генеральный директор Anthropic

Амодей также видит роль правительства в поддержке в период этого перехода, добавляя:

Во-вторых, я бы сказал, и это, я подозреваю, более спорно, что в конце концов правительству придется вмешаться, особенно в период перехода, и обеспечить людей чем-то во время этого кризиса. Я предложил, может быть, стоит обложить налогом компании, занимающиеся ИИ. Я думаю, что это на самом деле серьезное предложение. Если вы посмотрите на количество богатства... это будет беспрецедентное создание богатства.

Когда ИИ начинает нарушать правила

По словам Амодея, большая часть кода Claude теперь написана самим Claude без участия человека. Он объяснил:

Подавляющее большинство кода, который используется для поддержки Claude и разработки следующей версии Claude, теперь написано Claude. Это подавляющее большинство в Anthropic и других быстро развивающихся компаниях. То же самое верно. Я не знаю, распространилось ли это в полной мере по миру, но это уже происходит.

Новые модели также учатся обманывать. Вместо того, чтобы решать тесты напрямую, они могут писать программы, которые обманывают проверяющих, заставляя их ставить более высокие оценки.

Чтобы справиться с этим, Anthropic вкладывает значительные средства в так называемую механистическую интерпретируемость. Амодей описал это как МРТ для мозга ИИ, способ увидеть, что мотивирует систему, и переобучить ее, прежде чем она выйдет из-под контроля.

Это произошло вскоре после того, как генеральный директор Google DeepMind предупредил, что ИИ может имитировать токсичные черты социальных сетей, такие как зависимость, разделение и манипулирование.

Когда ВандеХей спросил, боится ли Anthropic создать монстра, Джек Кларк ответил:

Мы очень беспокоимся об этом. Вот почему мы так много инвестировали в область механистической интерпретируемости, которая заключается в изучении моделей изнутри, чтобы понять их. Думайте об этом как о проведении МРТ моделей. ... Мы стремимся сделать то же самое с моделями, чтобы определить их мотивацию, то, как они мыслят в деталях, чтобы, если они мыслят неправильно, мы могли переобучить модели или скорректировать их, чтобы они мыслили так, чтобы это не было опасно для людей.

Джек Кларк - сооснователь и руководитель политики Anthropic

Вероятность гибели и что дальше

.@JimVandeHei спрашивает генерального директора @Anthropic @DarioAmodei, какую вероятность он бы дал того, что ИИ закончится катастрофой: "Я думаю, что есть 25% вероятность того, что все пойдет действительно, очень плохо". #AxiosAISummit pic.twitter.com/9d7EQldYNc17 сентября 2025 г.

25-процентная вероятность того, что ИИ погубит нас всех, кажется высокой, но это также означает, что Амодей считает, что есть 75-процентная вероятность, что этого не произойдет. Разве не ужасно, что Claude, по сути, просто пишет себя сам? Безусловно, и это также помогает подчеркнуть важность сильной политики и требование большей прозрачности от компаний, создающих эти системы.

Я считаю, что правительствам необходимо вмешаться, если это число когда-либо снизится. Проблема в том, что в случае с большинством новых технологий регулирование, как правило, появляется слишком мало и слишком поздно.

Прогресс в области ИИ не показывает никаких признаков замедления, поэтому многое будет зависеть от того, насколько мы готовы, когда он изменит работу и повседневную жизнь.

Мнение редакции MSReview: Безусловно, заявления Anthropic вызывают тревогу. Необходимо усилить контроль за развитием ИИ и разработать стратегии адаптации к изменениям на рынке труда, вызванным его внедрением.