Бессонница из-за ИИ: глава DeepMind об экзистенциальных рисках и будущем, которое нас ждет

Мир переживает взрывной рост генеративного ИИ, который обещает изменить все вокруг: от работы и медицины до образования и развлечений. Крупнейшие технологические компании одна за другой выпускают новые модели, стремясь первыми достичь заветной цели – AGI (Artificial General Intelligence).

Демис Хассабис, генеральный директор DeepMind (подразделение Google), в большом интервью Стивену Леви из WIRED поделился своими мыслями о том, куда движется мир в эпоху ИИ, и о том, что его беспокоит больше всего.

Что такое AGI и почему это важно?

AGI (Artificial General Intelligence) – это, простыми словами, искусственный интеллект, сопоставимый с человеческим, а в перспективе и превосходящий его. DeepMind, основанная Хассабисом и Мустафой Сулейманом (ныне генеральным директором Microsoft по ИИ), была приобретена Google в 2014 году с амбициозной целью – создать AGI в течение 20 лет. И, похоже, они близки к цели! Хассабис утверждает, что компания "четко следует графику" и может достичь AGI уже через 5-10 лет.

Но есть и тревожные нотки. Ранее Хассабис признался, что обеспокоен неготовностью общества к приходу AGI, и эти мысли не дают ему спать по ночам.

Какие риски видит глава DeepMind?

По словам Хассабиса, есть как минимум два серьезных риска:

"Первый - злоумышленники, будь то отдельные лица или страны-изгои, перепрофилирующие AGI для вредных целей. Второй - технический риск самого ИИ. Поскольку ИИ становится более мощным и самостоятельным, можем ли мы убедиться, что ограждения вокруг него безопасны и их нельзя обойти?"

Интересно, что Сэм Альтман, генеральный директор OpenAI, считает, что экзистенциальные проблемы не возникнут в момент достижения AGI, а скорее проявятся постепенно и с удивлением малым социальным воздействием в течение следующих 5 лет.

Оба руководителя сходятся во мнении, что регулирование необходимо для контроля над развитием ИИ. Хассабис подчеркивает, что оно должно быть гибким, учитывать новые знания и, что особенно важно, – международным.

А что насчет приостановки разработки ИИ? Хассабис считает, что "сегодняшние системы не представляют какой-либо экзистенциальной угрозы". Напомним, что Виталик Бутерин, сооснователь Ethereum, ранее предлагал "мягкую паузу" для контроля над быстрым развитием ИИ и предотвращения катастрофических последствий.

ИИ и работа: заменит ли нас робот?

Один из самых распространенных страхов, связанных с ИИ – это потеря рабочих мест. И хотя пока нет точных данных, подтверждающих массовое увольнение людей, появляются отчеты о том, что ИИ может автоматизировать до 54% банковских рабочих мест.

Даже Билл Гейтс считает, что ИИ заменит людей во многих сферах, за исключением областей, требующих сложного мышления и человеческого участия, таких как биология, энергетика и программирование.

Новые возможности или угроза?

Хассабис уверен, что революция ИИ создаст новые рабочие места, связанные с использованием инструментов на основе ИИ. Он считает, что ИИ значительно повысит нашу производительность, превратив нас в "сверхлюдей" на работе.

Кроме того, он подчеркивает, что есть профессии, которые всегда останутся за людьми. Например, пациенты вряд ли захотят, чтобы их обслуживала медсестра-робот, которой сложно проявлять сочувствие.

Мнение редакции MSReview: Несмотря на опасения, связанные с развитием AGI, текущее состояние ИИ не представляет экзистенциальной угрозы. Однако, важно учитывать потенциальные риски, связанные с использованием ИИ злоумышленниками и необходимостью разработки надежных мер безопасности.