Искусственный интеллект против безопасности: глава OpenAI предупреждает о новых угрозах

Киберпреступники становятся все изобретательнее, и теперь в их арсенале появился новый мощный инструмент — генеративный искусственный интеллект (ИИ). С его помощью злоумышленники могут обходить системы защиты и получать доступ к конфиденциальным данным.

Генеральный директор OpenAI Сэм Альтман, выступая перед экспертами и финансовыми регуляторами, выразил обеспокоенность тем, что банки до сих пор используют голосовую аутентификацию. По его словам, это особенно опасно в эпоху развития ИИ, который может предоставить злоумышленникам доступ к важным данным.

"Меня пугает, что до сих пор существуют финансовые учреждения, которые принимают голосовой отпечаток для аутентификации, позволяющей переводить крупные суммы денег или совершать другие действия," — заявил Альтман.

Он назвал использование голосовой аутентификации в банках "безумием" и подчеркнул, что "ИИ полностью обошел большинство способов аутентификации, кроме паролей."

Глава OpenAI предупредил о надвигающемся "серьезном кризисе мошенничества" и призвал финансовые учреждения найти более надежные способы идентификации клиентов, которые не поддаются взлому с помощью ИИ.

Обществу необходимо решать эту проблему в целом, и людям придется менять свои подходы к взаимодействию и проверке. Это очень важно.

Сэм Альтман, генеральный директор OpenAI

Что тревожит Сэма Альтмана?

На вопрос о том, что лишает его сна, Сэм Альтман ответил, что в первую очередь это масштабные финансовые атаки.

Он описал сценарий, в котором противник США получает доступ к мощной системе ИИ и использует её для атаки на страну с применением биологического оружия. Злоумышленники также могут использовать ИИ для "взлома финансовых систем и кражи всех денег."

Альтман подчеркнул, что в такой ситуации у нас будет мало возможностей для защиты, так как сложно противостоять злоумышленнику, обладающему более "умным" ИИ.

Генеральный директор Google DeepMind Демис Хассабис также отмечал, что мир, возможно, приближается к созданию общего искусственного интеллекта (AGI), но общество не готово к последствиям. И эти перспективы также не дают ему спать.

MSReview: Слова Сэма Альтмана заслуживают внимания. Угроза использования ИИ в мошеннических схемах и для атак на финансовые системы вполне реальна. Финансовым институтам и регуляторам необходимо срочно разрабатывать новые, более надежные методы аутентификации, устойчивые к воздействию ИИ.