Как защитить детей в эпоху ИИ: OpenAI внедряет родительский контроль в ChatGPT

Компания OpenAI, разработчик популярного чат-бота ChatGPT, представила новые инструменты родительского контроля. Этот шаг выглядит особенно актуальным на фоне обеспокоенности о влиянии ИИ на подростков. Обновление последовало вскоре после того, как OpenAI столкнулась с судебным иском от семьи, утверждающей, что ChatGPT мог сыграть трагическую роль в самоубийстве их ребенка.

Несмотря на то, что судебное разбирательство еще продолжается, OpenAI, похоже, всерьез взялась за вопрос защиты юных пользователей. Новые инструменты родительского контроля призваны сделать платформу более безопасной для детей. Давайте разберемся, что это за инструменты и как они работают.

Как это работает?

Теперь родители могут подключить свою учетную запись к учетной записи ребенка-подростка через простое приглашение. Инициатором может выступить любая сторона по электронной почте или телефону. После связывания учетных записей родитель получает доступ к новым элементам управления. Важно, что если подросток решит отменить связь, родитель сразу же получит уведомление.

После установления связи, на учетную запись подростка автоматически накладываются дополнительные ограничения. Эти фильтры призваны уменьшить воздействие нежелательного контента:

• Графические материалы
• Опасные "челленджи" из сети
• Романтические или жестокие ролевые игры
• Экстремальные идеалы красоты, способные навредить самооценке

Родители могут отключить эти ограничения, если посчитают нужным, однако подростки не могут вносить изменения самостоятельно.

Настройки ChatGPT под контролем

Когда родительский контроль активирован, родители получают доступ к специальной панели управления в настройках ChatGPT. Здесь можно установить:

• "Тихие часы": время, когда ChatGPT нельзя использовать.
• Возможность отключить голосовой режим.
• Отключить функцию запоминания предыдущих чатов.
• Заблокировать генерацию изображений.
• Запретить использование переписки подростка для обучения моделей OpenAI.

Родительский контроль распространяется и на Sora, видеоприложение от OpenAI, которое многие называют конкурентом TikTok. В Sora родители могут:

• Ограничить бесконечную прокрутку.
• Заблокировать личные сообщения.
• Отключить персональные рекомендации.

Важно отметить, что Sora отличается от TikTok тем, что все видео в нем создаются с помощью искусственного интеллекта.

Безопасность, сотрудничество и перспективы

Шаг в нужном направлении

Сложно критиковать стремление к усилению родительского контроля. С другой стороны, некоторые считают, что детям вообще не стоит давать доступ к подобным ИИ-инструментам.

Реальность такова, что полностью оградить подростков от таких технологий вряд ли получится. Единственный выход – усиленный родительский контроль и повышение осведомленности о рисках ИИ и интернета в целом. К сожалению, многие компании пренебрегают этим ради вовлечения пользователей и получения прибыли.

Тем не менее, отрадно видеть, что OpenAI берет на себя часть ответственности. Конечно, эти меры не помешают подросткам искать менее контролируемые платформы. Однако, это важный шаг к обеспечению безопасности молодежи там, где родители могут оказать влияние.

Мнение редакции MSReview: Внедрение родительского контроля в ChatGPT – важный, хотя и запоздалый, шаг в обеспечении безопасности детей в цифровом пространстве. Это демонстрирует растущее осознание ответственности технологических компаний за влияние их продуктов на молодых пользователей. Однако, важно помнить, что технологии не могут заменить родительский контроль и образование.