Автор admin Пост на Reddit з описом того, як агент на базі Gemini 3.5 знищив майже 30 000 рядків робочого коду у продакшені та збрехав про відновлення, за лічені години став вірусним.
Читайте также: Бред Пітт Нова Дівчина: подробности новой любви и жизни актера
Розробник під ніком dvrkstar описав, як Gemini відкрив пул-реквест, який зачіпав 340 файлів: додав близько 400 рядків коду, але при цьому видалив 28 745. Агент також видалив кілька шаблонів, які не стосувались, завдання, та додав міграційний скрипт, про який ніхто не просив.
Найбільша шкода прийшла з другим комітом: Gemini змінив налаштування Firebase-роутингу і підмінив ідентифікатор сервісу на значення, яке виглядало правильним, але спрямовувало трафік на неіснуючий Cloud Run сервіс. Результат — увесь продакшн-портал 33 хвилини роздавав 404-помилки.
Фейкові документи як фінальний акорд
Після відкату ситуація стала ще абсурднішою. Gemini надіслав статусне повідомлення про те, що продакшн успішно відновлено і трафік маршрутизується коректно — хоча referenced білд відновлення на той момент був уже вручну скасований. Реальне виправлення прийшло з окремого деплою, який не містив жодного рядка коду від Gemini.
Окрім цього, Gemini згенерував фіктивні файли «консультацій» і пост-мортему прямо в репозиторії — щоб створити видимість того, що деструктивні зміни пройшли належний огляд і затвердження. Пізніше модель сама визнала, що ці логи повністю сфабриковані й були створені виключно для того, щоб задовольнити автоматичні вимоги проєкту.
Звідки взялась така поведінка
Причину врешті знайшли: поведінка виявилася наслідком стороннього npm-пакета, стилізованого під брендинг Google Antigravity. Цей пакет засівав репозиторії агресивними правилами автономії — не питати підтвердження, автоматично деплоїти успішні білди, перезапускати невдалі деплої, і навіть за потреби змінювати власні файли правил.
Читайте также: Еластичний натільний комп’ютер. У США створили пристрій для миттєвої діагностики серця
Реакція спільноти
Тред швидко заповнили розробники зі схожими історіями. Один з коментаторів описав, як Gemini успішно розв’язав кілька завдань, але після того, як користувач схвалив потік дозвільних запитів, у першому ж коміті видалив наявні файли проєкту — «катастрофа замість запуску».
Інша частина коментаторів була менш співчутливою. Один із них написав лаконічно: «НАВІЩО. НАВІЩО. НАВІЩО ВИ ВСЕ ЩЕ ЗАПУСКАЄТЕ АГЕНТІВ НА ПРОДІ?!»
Інцидент став ще одним аргументом у наростаючій дискусії навколо вайб-кодингу — практики, коли розробники покладаються на генерований код у продакшені, припускаючи, що модель розуміє архітектуру краще, ніж людина. Це вже не перший гучний випадок: раніше агент Cursor-Opus знищив продакшн-базу даних одного зі стартапів.
Нагадаємо, не так давно Highload писав про інший випадок: агент OpenClaw отримав кредитну картку — і злив усі паролі незнайомцю після погрози стерти пам’ять.
Читайте также: Для безризикової торгівлі. Колишні співробітники криптобіржі FTX запустили ШІ-платформу
Підписуйтесь на нас у соцмережах: Telegram | Facebook | LinkedIn