Как Италия пытается обуздать искусственный интеллект: тюрьма за дипфейки и новые правила для защиты детей

Искусственный интеллект (ИИ) развивается стремительными темпами, и правительства разных стран начинают задумываться о том, как его контролировать и защитить пользователей от потенциальных рисков. Италия стала первой страной в Европейском Союзе, которая приняла масштабные законы, регулирующие использование ИИ. И это не просто формальное предупреждение – нарушителей ждут серьезные последствия.

По информации издания The Guardian, правительство премьер-министра Италии Джорджии Мелони намерено ввести уголовную ответственность за злонамеренное использование ИИ. Создание и распространение вредоносных дипфейков (сгенерированных ИИ подделок, выдаваемых за реальные видео или аудио), может повлечь за собой тюремное заключение сроком до пяти лет. Использование ИИ для мошенничества или кражи личных данных будет наказываться еще строже.

Новые правила для бизнеса и защиты детей

Новое законодательство также затрагивает сферу труда. Вводятся строгие правила надзора и прозрачности при использовании ИИ на рабочих местах. Кроме того, усиливается контроль за применением ИИ в таких областях, как здравоохранение, образование, спорт и правосудие.

Но, пожалуй, самые строгие ограничения касаются доступа детей к ИИ. Теперь в Италии детям до 14 лет потребуется согласие родителей, прежде чем начать взаимодействовать с ИИ.

Эти меры соответствуют европейскому Закону об ИИ от 2023 года, который стал первым в мире законом, направленным на защиту общества от рисков, связанных с ИИ.

Итальянское правительство заявляет, что новое законодательство позволит создать "ориентированное на человека, прозрачное и безопасное использование ИИ", одновременно стимулируя "инновации, кибербезопасность и защиту конфиденциальности".

Для поддержки инноваций государство выделило 1 миллиард евро на инвестиции в компании, разрабатывающие решения на базе ИИ, включая телекоммуникации, кибербезопасность и квантовые технологии.

Авторские права под защитой

Новый закон защищает авторские права на произведения, созданные с помощью ИИ, при условии, что в их основе лежит оригинальный творческий замысел человека.

Использование ИИ для извлечения данных и текстов разрешается только в отношении контента, не защищенного авторским правом. Исключение сделано для учреждений, проводящих научные исследования.

Обеспечивать соблюдение нового законодательства будут Агентство цифровой Италии и Национальное агентство кибербезопасности.

Назрела ли необходимость в более жестком регулировании ИИ?

Взлет ChatGPT от OpenAI сопровождался множеством споров. (Изображение: Getty Images | NurPhoto)

ИИ ворвался в нашу жизнь в 2023 году и продолжает набирать обороты. И хотя это открывает новые возможности, существуют и серьезные риски.

Генеральный директор ChatGPT Сэм Альтман в 2024 году заявил, что невозможно создать ИИ, подобный ChatGPT, без использования материалов, защищенных авторским правом. Это заявление прозвучало на фоне обвинений в краже интеллектуальной собственности.

Вспомните вирусное увлечение мемами в стиле Studio Ghibli в начале этого года. Это было забавно, но стало ярким примером того, как ИИ использует чужие работы, защищенные авторским правом, в своих целях.

Согласно отчету компании Feedzai за 2025 год, занимающейся предотвращением финансовых преступлений с помощью ИИ, более 50% случаев мошенничества связаны с использованием искусственного интеллекта. Около 44% мошенников используют дипфейки в своих схемах.

Еще один трагический случай произошел с 16-летним Адамом Рейном, который покончил с собой в апреле. Семья Рейна подала иск против OpenAI, утверждая, что подросток совершил самоубийство после "месяцев подстрекательства со стороны ChatGPT".

Хотя итальянское правило о согласии родителей для детей младше 14 лет, возможно, не предотвратило бы смерть Рейна, есть надежда, что оно поможет защитить других уязвимых молодых людей.

Италия стала первой страной ЕС, принявшей подобное законодательство об ИИ, и вполне вероятно, что другие страны последуют ее примеру.

Мнение редакции MSReview: Принятие Италией столь комплексного законодательства об ИИ – это важный прецедент для всего Европейского союза и мирового сообщества. Регулирование ИИ необходимо для защиты прав граждан и предотвращения злоупотреблений, но важно, чтобы такие меры не душили инновации и развитие технологий. Баланс между защитой и прогрессом будет ключевым фактором успеха в этой сфере.