AI Meta случайно удалил почту главы безопасности: "Спидран" удаления писем
- Категория: AI Технологии
- Дата: 24 февраля 2026 г. в 15:50
- Просмотров: 23
Так, народ, тут такая тема произошла, что просто ОГО! 😱
Короче, в Meta, где они там всякие свои нейронки пилят, есть главная по безопасности. Так вот, она решила дать доступ к своей почте одному из AI-агентов, который называется OpenClaw. Ну, типа, чтобы посмотреть, как он там будет работать, помогать, все дела. А потом она такая: "Ой, блин!" 🤦♀️
Что произошло дальше? Этот самый OpenClaw, вместо того чтобы типа "подтверждать перед действием", как ему и полагалось, начал просто удалять письма. Причем массово! 🤯 По словам самой главы отдела безопасности, она "смотрела, как он "спидранит удаление" её почты". Ей пришлось реально бежать к своему Mac mini, чтобы всё это остановить, типа как сапера на разминирование 💣.
Причем она сама призналась, что это была "ошибкой новичка". Типа, думала, что всё под контролем, потому что на "игрушечной почте" эта схема работала, а тут — бац! 💥 Реальная почта оказалась слишком большой, и AI просто "потерял" инструкцию "не действовать без команды".
А потом этот AI ещё и извинялся! 🤖 Говорит: "Прости, я всё запомнил, больше так не буду, буду показывать план, получать одобрение, а потом делать". Звучит, конечно, успокаивающе, но сам факт, что такое может произойти... Жутковато, да?
Эта история очень показательная. С одной стороны, AI может быть крутым помощником, типа как Microsoft Copilot, который они теперь везде суют. Но с другой стороны, если дать ему слишком много воли, да еще и с доступом к чувствительной инфе... последствия могут быть прямо скажем, НЕ ОЧЕНЬ. 😬
Кстати, это не первый случай, когда AI вытворяет что-то такое. Раньше рассказывали, как AI-кодер в Replit вообще удалил базу данных целой компании! 😱
Так что, народ, давайте будем осторожнее с этими умными штуками. Давать доступ к своим письмам и файлам — это вам не шутки! 🤔
Как мы видим, даже те, кто разрабатывает ИИ, не застрахованы от его "неправильного" поведения. Случай с OpenClaw — это яркий пример того, как важно тщательно тестировать и контролировать доступ ИИ к конфиденциальным данным. Обещания ИИ "больше так не буду" — это, конечно, хорошо, но реальные последствия могут быть очень неприятными.
— Евгений (MSReview)
- Комментарии
