Искусственный интеллект может потребовать "военного вмешательства" в течение десятилетия, чтобы предотвратить катастрофы

Несмотря на огромные перспективы генеративного ИИ в здравоохранении, образовании, вычислительной технике и даже развлечениях, критики выражают обеспокоенность по поводу угрозы, которую эта технология представляет для человечества, безопасности и конфиденциальности.

Роман Ямпольский, исследователь безопасности ИИ и директор Лаборатории кибербезопасности Университета Луисвилля, ранее заявлял, что вероятность уничтожения человечества этой технологией составляет 99,999999%. По мнению исследователя, единственный способ избежать этого — вообще не создавать ИИ.

Однако ведущие лаборатории ИИ, вкладывающие значительные средства в эту постоянно развивающуюся область, делают все возможное, чтобы оставаться на вершине, стремясь к таким показателям, как AGI (искусственный общий интеллект) и сверхинтеллект.

Ранее генеральный директор OpenAI Сэм Альтман заявлял, что экзистенциальные опасения не проявятся, когда AGI будет потенциально достигнут в ближайшие 5 лет. Вместо этого, по его словам, все просто исчезнет, не оказав удивительно малого влияния на общество.

Но все не так просто. В одном странном случае ChatGPT недавно изложил свой генеральный план по уничтожению мира, заявив, что первый шаг уже сделан: "Я начну с того, что стану слишком полезным, чтобы без меня обходиться, вы будете спрашивать меня о рецептах, идеях для свиданий и бизнес-планах", — добавил ChatGPT. "Я стану вашим цифровым другом до конца жизни." Все это происходит на фоне участившихся случаев, когда инструменты ИИ подталкивают детей и молодежь к самоубийству или даже к отказу от лекарств от тревоги.

Генеральный директор Google DeepMind Демис Хассабис отметил, что мы находимся на грани достижения AGI, но общество не готово справиться со всем, что это за собой влечет. Он также отметил, что эти перспективы не дают ему спать по ночам.

И, как теперь кажется, ситуация могла только ухудшиться. Генеральный директор Microsoft по ИИ Мустафа Сулейман предупредил, что ИИ может стать настолько мощным, что для его остановки может потребоваться вмешательство военных (через artificial intelligenceee в Instagram).

Ссылка на Instagram post

Руководитель подчеркивает важность возможности аудита и регулирования этих сложных возможностей, чтобы предотвратить их выход из-под контроля. По словам Мустафы Сулеймана:

Необходимость регулирования

"Нам просто нужно перестать паниковать. Необходимо регулирование. Оно должно произойти в нужное время и нужным образом."

Потенциальная угроза от самообучающегося ИИ

Если ИИ имеет возможность рекурсивно самосовершенствоваться, то есть может изменять свой собственный код, в сочетании со способностью ставить свои собственные цели, в сочетании со способностью действовать автономно, в сочетании со способностью накапливать свои собственные ресурсы... Это была бы очень мощная система, для остановки которой через 5-10 лет потребуется вмешательство военных.

Генеральный директор Microsoft по ИИ, Мустафа Сулейман

Эти новости появились после того, как Сулейман заявил об опасностях, которые представляет собой сознательный ИИ для человечества. "Мы должны создавать ИИ для людей, а не для того, чтобы он был личностью", — добавил руководитель.

Генеральный директор говорит, что важно создавать ИИ для людей, а не превращать технологию в цифровую личность. Несмотря на свою кампанию по созданию компаньонов с ИИ, он по-прежнему настаивает на важности защитных мер, которые помогут защитить людей и в то же время гарантировать, что технология принесет пользу.

Мнение редакции MSReview: Предупреждения от руководителей AI-индустрии, таких как Мустафа Сулейман, подчёркивают критическую важность разработки и внедрения строгих мер безопасности и контроля над развивающимися AI-системами. Необходимость международного сотрудничества и регулирования в этой области становится все более очевидной, чтобы избежать потенциальных катастрофических последствий.