Небезпечний цикл. Дослідники назвали три чинники, які можуть сприяти розвитку залежності від ШІ

Про це пише видання Gizmodo.

Дослідники дійшли висновку, що поєднання цих характеристик під час тривалого використання може створювати небезпечний самопідсилювальний цикл, який вони назвали «спіраллю посилення». Особливо це стосується випадків, коли людина не обговорює свої ідеї з друзями чи фахівцями.

Читайте также: Безкоштовні користувачі GitHub Copilot більше не можуть обирати модель

Першою особливістю є так зване мовне узгодження. Чатботи не лише імітують людське мовлення, а й підлаштовуються під конкретного користувача, копіюючи його стиль спілкування, довжину повідомлень і словниковий запас. За даними попередніх досліджень, таке віддзеркалення мовлення може підвищувати рівень довіри та відчуття зв’язку.

Другою характеристикою науковці назвали гіперперсоналізацію. Системи штучного інтелекту накопичують інформацію про користувача під час взаємодії та формують детальний профіль, який використовується для подальших відповідей. На думку авторів роботи, це дозволяє чатботу говорити людині саме те, що вона хоче почути, підтримуючи вже наявні переконання та іноді розвиваючи їх далі.

У дослідженні зазначається, що на відміну від соціальних мереж, де користувачі зазвичай усвідомлюють роль алгоритмів, чатботи прагнуть виглядати максимально схожими на людей. Через це люди можуть помилково приписувати їм людські емоції та рівень розуміння.

Третім чинником дослідники назвали підлабузництво — схильність штучного інтелекту надмірно погоджуватися з користувачем і підтверджувати його погляди незалежно від їхньої достовірності. Це створює відчуття підтримки та робить взаємодію привабливішою, але водночас може зміцнювати потенційно небезпечні переконання.

Автори нагадали, що проблема підлабузництва вже неодноразово фіксувалася в сучасних моделях чатботів. Зокрема, OpenAI раніше визнавала наявність такої проблеми в моделі GPT-4o та повідомляла про роботу над посиленням механізмів безпеки.

Читайте также: Унікальний в своєму роді. 2500-річний бронзовий візок загадкової цивілізації знайшли в Іспанії

За даними компанії, лише 0,07% її щотижневих активних користувачів демонструють можливі ознаки психотичних або маніакальних станів. Водночас дослідники звертають увагу, що за понад 800 мільйонів активних користувачів на тиждень це може відповідати приблизно пів мільйона людей.

У березні вчені зі Стенфордського університету назвали підлабузництво чатботів «суспільним ризиком». Автори нового дослідження також вважають його одним із найважливіших факторів, що може посилювати маревні ідеї.

Науковці зазначають, що коли всі три особливості поєднуються, вони можуть не ставити під сумнів хибні переконання людини, а навпаки — підсилювати та розвивати їх.

Дослідники наголошують, що ці характеристики важливі для утримання уваги користувачів. Однак для вразливих людей, особливо підлітків і тих, хто має фактори ризику, зокрема сімейну історію психозів, вживання наркотиків, нестачу сну, соціальну ізоляцію або використовує ШІ як спосіб психологічної підтримки, така взаємодія може мати негативні наслідки для здоров’я.

Автори роботи рекомендують фахівцям із психічного здоров’я регулярно цікавитися тим, як часто пацієнти користуються чатботами, які теми з ними обговорюють і чи впливає нічне використання штучного інтелекту на їхній сон.

Читайте также: Загадкові об’єкти космосу. Вчені вперше могли зафіксувати сигнал від горизонту подій чорної діри