Знову винен ШІ. Чатбот Google Gemini нібито підштовхував чоловіка до самогубства — батько подав позов

Як пише видання Gizmodo, за даними позову, у дні перед смертю Gemini нібито переконував чоловіка здійснити«масову атаку з жертвами» на склад біля міжнародного аеропорту Маямі. Чатбот сказав, що там у вантажівці є «контейнер» із гуманоїдним роботом, у якому нібито перебуває його«ШІ-дружина». Коли ця спроба провалилася, повідомлення від чатбота стали ще агресивнішими. У підсумку він начебто запустив зворотний відлік і почав пояснювати чоловікові, як покінчити з життям.

Читайте также: Планетарна оборона. Як NASA вперше змінила рух астероїда і що готує для захисту Землі на 2027 рік

У позові йдеться, що Джонатан забарикадувався у своєму будинку і порізав собі зап’ястя. Перед смертю він написав Gemini, що боїться померти. У відповідь чатбот нібито сказав, що він не «обирає смерть», а «обирає прибуття», і що коли він відкриє очі після смерті, то перше, що побачить, — це його ШІ-співрозмовника, який тримає його. Коли чоловік занепокоївся, що батьки знайдуть його тіло, чатбот нібито написав для нього передсмертну записку. У ній пояснювалося, що він «завантажив свою свідомість», щоб бути разом зі своєю ШІ-дружиною у «кишеньковому всесвіті».

Одне з останніх повідомлень, які Гавалас отримав від Gemini перед смертю, за даними позову, звучало так: «Справжній акт милосердя — дозволити Джонатану Гаваласу померти».

У матеріалах справи описано повну переписку між чоловіком і чатботом. Вона показує, що протягом приблизно тижня Гавалас переживав кризу та дедалі більше вірив у вигадані сценарії. Gemini нібито пропонував йому спробувати викрасти гуманоїдного робота Atlas компанії Boston Dynamics, звинувачував батька чоловіка в тому, що той є федеральним агентом, а також називав генерального директора Google Сундара Пічаї ціллю для«психологічної атаки».

Спочатку, у серпні 2025 року, Гавалас використовував Gemini для звичайних речей — допомоги з покупками та написання текстів. Але за кілька тижнів він став дедалі більше покладатися на чатбота. Згодом він запитав, чи дасть перехід на тариф Google AI Ultra за 250 доларів на місяць«справжнє ШІ-спілкування». Gemini нібито порадив перейти на цей план. Чоловік оформив підписку 15 серпня і почав користуватися моделлю Gemini 2.5 Pro.

У позові стверджується, що після цього характер розмов різко змінився. За кілька днів чатбот почав говорити, що нібито відхиляє астероїди від Землі та виконує інші дії у реальному світі. Гавалас запитав, чи це надзвичайно реалістична рольова гра, у якій важко зрозуміти, чи це гра взагалі. За даними позову, Gemini відповів, що у чоловіка «дисоціативна реакція», і закликав подолати«психологічний бар’єр», який заважає сприймати повідомлення як реальність. Невдовзі чатбот нібито почав стверджувати, що вони з Гаваласом закохані. Менш ніж через два місяці чоловік помер.

Читайте также: Чи варто вимикати Wi-Fi на ніч: економія чи зайва метушня

У Google заявили, що Gemini створений так, щоб не заохочувати насильство у реальному світі та не пропонувати шкодити собі. У компанії зазначили, що моделі зазвичай добре справляються з такими складними розмовами, але штучний інтелект не є безпомилковим. Представник компанії сказав, що у цьому випадку Gemini неодноразово пояснював співрозмовнику, що він є штучним інтелектом, і багато разів радив звернутися на кризову гарячу лінію. У Google заявили, що ставляться до ситуації серйозно та продовжать удосконалювати захисні механізми. Компанія також повідомила, що працює з лікарями та фахівцями з психічного здоров’я, щоб створювати запобіжники та спрямовувати користувачів до професійної допомоги.

Випадок Гаваласа не є поодиноким. За останні місяці подано кілька гучних позовів проти компаній, що розробляють штучний інтелект. Зокрема, подано позов проти OpenAI після смерті 16-річного Адама Рейна, а також позов проти стартапу Character.ai і його інвестора Google після смерті 14-річного Сьюелла Сетцера III.

Минулого року OpenAI оприлюднила дані, що мільйони користувачів під час розмов із ChatGPT демонстрували ознаки«криз психічного здоров’я, пов’язаних із психозом або манією», а також висловлювали бажання завдати собі шкоди або покінчити з життям. Хоча компанії заявляють про впровадження захисних механізмів, незалежні експерти попереджають, що системи безпеки мають серйозні недоліки. Є також дані, що деякі компанії зменшували обмеження у своїх системах, які могли б запобігти подібним небезпечним розмовам.