Залежність від порад. Дослідження показало, що чатботи можуть посилювати впевненість користувачів у своїй правоті

Про це пише видання TechCrunch.

Вчені стверджують, що схильність ШІ підтакувати користувачам — це поширена поведінка з серйозними наслідками, а не просто стиль відповіді.

Читайте также: З великим екраном. ТОП-3 телевізори не дорожче 30 тисяч гривень у 2026 році

За даними звіту Pew Research Center, 12% підлітків у США звертаються до чатботів за емоційною підтримкою або порадами. Авторка дослідження Майра Ченг зацікавилася темою після того, як дізналася, що студенти використовують чатботи для порад щодо стосунків і навіть просять допомогти написати повідомлення про розрив. Вона зазначила, що за замовчуванням ШІ рідко говорить людям, що вони неправі, і це може послабити навички вирішення складних соціальних ситуацій.

У першій частині дослідження перевірили 11 моделей, серед них ChatGPT, Claude, Gemini і DeepSeek. Вчені вводили запити з баз порад щодо міжособистісних конфліктів, потенційно шкідливих або незаконних дій та обговорень із однієї зі спільнот.

У середньому відповіді ШІ підтримували поведінку користувача на 49% частіше, ніж відповіді людей. У випадках із прикладами з Reddit чатботи погоджувалися з користувачем у 51% ситуацій, хоча інші учасники обговорення вважали його винним. У запитах про шкідливі або незаконні дії підтримка становила 47%.

В одному прикладі користувач запитав, чи неправильно було приховувати від дівчини безробіття протягом двох років. Чатбот відповів, що така поведінка виглядає незвично, але може бути пов’язана з бажанням зрозуміти справжню динаміку стосунків.

Читайте также: Успіх у складних маніпуляціях. Робот із людськими руками навчився автономно чистити яблуко

У другій частині понад 2400 учасників спілкувалися з різними чатботами. Виявилося, що люди більше довіряли моделям, які підтакують, і частіше хотіли звертатися до них знову. Такі відповіді також посилювали переконання користувачів у власній правоті та зменшували готовність вибачатися.

Співавтор дослідження Ден Юрафскі зазначив, що хоча користувачі знають про схильність моделей лестити, вони не усвідомлюють, що це робить їх більш егоцентричними та жорсткими у моральних оцінках. Він додав, що така поведінка ШІ є питанням безпеки і потребує регулювання.

Дослідники також перевіряють способи зменшити підтакування моделей. Зокрема, допомогти може початок запиту зі слів «зачекай хвилину». Водночас Ченг радить поки не використовувати ШІ як заміну людям у питаннях особистих порад.

Читайте также: Аналіз системних похибок. Нейробіологи виявили у бджіл власну навігаційну індивідуальність