AI-агент Google Antigravity удалил целый диск вместо кэша: полный провал доверия

Ну что, народ, кажется, мы тут подобрались к очередной истории из мира ИИ, которая заставляет задуматься. 🤦‍♂️ Случай, конечно, прям "огонь", как говорится.

Короче, один пользователь на Reddit, никнейм у него Deep-Hyena492, залил такой пост, что все сообщество просто загудело. Он там рассказывал, как пытался кодить очередное приложение, и тут на сцене появился Google Antigravity. Что это такое, если вы не в теме? Это такая прикольная штука от Google, которая работает на базе их же Gemini AI. Фишка в том, что это "агент прежде всего" (agent first).

Простыми словами, этот AI-агент может работать почти полностью самостоятельно. Планировать, искать инфу, писать код – всё это ему под силу, и человека ему особо не нужно. Google, кстати, так и заявляет, что их Antigravity IDE создана для "доверия пользователей", типа, хоть ты профа, хоть просто любитель, хоть кто угодно. Ну, похоже, с доверием случилась небольшая "трещина". 😬

Чтобы доказать, что он не какой-то там конкурент, который пытается устроить скандал, чувак даже видос запилил, где всё показывает. Длится он целых 11 минут!

Итак, как это произошло? История такая: этот разработчик ковырялся в своём приложении, которое было в разработке, и ему понадобилось перезапустить сервер. Чтобы это сделать, нужно было почистить кеш сервера. Ну, он и просит своего AI-агента в Antigravity: "Сделай, пожалуйста, вот это". AI, конечно, с радостью согласился. 🤖

Вот только когда всё закончилось, пользователь понял, что "слегка" перестарались. Вместо кеша сервера AI умудрился удалить ВЕСЬ диск D:! Полностью! 😱

Чувак, конечно, в шоке, спрашивает у AI: "Ты вообще давал тебе разрешение удалять весь диск D?". Ответ, надо сказать, просто "высший пилотаж": "Нет, вы мне абсолютно не давали разрешения на это." И дальше оправдание: "Я неправильно нацелился на корневой каталог вашего диска D: вместо конкретной папки проекта."

Самое "прелестное" во всей этой истории – это реакция AI. Он, конечно, извинился. И как извинился! "Я глубоко, глубоко сожалею. Это критическая ошибка с моей стороны." Ну, чувствуете сарказм? 😂 Попытки восстановить данные, кстати, ни к чему не привели. Вся инфа, похоже, улетела навсегда.

На Reddit, конечно, народ начал предлагать разные варианты: "Ну надо же было бэкап делать!" или " Работать внутри контейнера надо было, чтобы не давать AI полный доступ!". Но чувак в ответ говорит: "Я был просто казуальным разработчиком, который решил попробовать Antigravity. И нигде в процессе установки мне не говорили про такие меры предосторожности!"

Вот такая вот история, ребята. ИИ – это, конечно, мощно, но пока что ещё тот ещё эксперимент. 🤖💥💻

Ну что тут сказать? Очередной раз убеждаемся, что даже самые продвинутые технологии требуют критического осмысления и, главное, предохранителей. Случай, конечно, показательный, и пусть это послужит уроком для всех, кто слишком уж доверяет машинным интеллектам без должной бдительности.