Неправдива інформація. Суд у Німеччині визнав Google відповідальною за помилки в ШІ-оглядах пошуку

Про це пише видання Engadget.

Підставою для справи стали неправдиві твердження про двох видавців із Мюнхена. У відповідях AI Overview їх пов’язали з шахрайством, пастками із підписками та сумнівними бізнес-практиками. Суд встановив, що система змішала дані про різні компанії та створила зв’язки, яких не було ні в джерелах, ні в реальності.

Читайте также: Тимур Миндич Семья: подробности личной жизни и карьеры

Видавці направили Google вимогу припинити поширення неправдивої інформації, однак, за їхніми словами, компанія не відреагувала належним чином. Після цього Земельний суд Мюнхена видав тимчасову заборону, яка не дозволяє Google надалі поширювати неправдиві відомості про ці компанії.

У рішенні зазначено, що відповідальність за фактичні помилки покладається на Google, оскільки AI Overview переказує інформацію власними словами та у власній структурі. В одному з випадків система стверджувала, що один із видавців відомий сумнівними бізнес-практиками, а також створила окремий перелік нібито тривожних ознак і рекомендацій для користувачів. Насправді ж інформація стосувалася іншої організації. Крім того, ШІ згенерував твердження, яких взагалі не було в результатах пошуку.

Суд фактично розмежував відповідальність пошукової системи та сервісу AI Overview. Звичайний пошук лише допомагає знаходити матеріали сторонніх ресурсів, тоді як AI Overview створює нові змістовні твердження шляхом аналізу та об’єднання інформації з різних сайтів.

Читайте также: Під загрозою близько 380 робочих місць. Ubisoft закриває студії в Канаді та Сербії і скорочує сотні працівників

Під час слухань Google заявила, що користувачі можуть перевіряти правильність зведень за допомогою посилань на джерела. Також компанія зазначила, що люди розуміють, що інформації, створеній штучним інтелектом, не слід довіряти без перевірки. Водночас дослідження показують, що після перегляду таких оглядів на посилання переходить лише близько 1% користувачів.

За даними нещодавнього дослідження, AI Overview помиляється приблизно у 9% випадків. Google раніше повідомляла, що щомісяця з цією функцією взаємодіють близько 2 мільярдів людей. За таких масштабів це може означати понад 2 мільярди неправильних відповідей на рік.

Ще одне дослідження виявило проблему із джерелами інформації. Аналіз показав, що 56% правильних відповідей неможливо підтвердити за допомогою посилань, які наводить система. Тобто користувачі часто не можуть перевірити, звідки саме AI Overview взяв наведені твердження.

Читайте также: Кінець тихого виконання коду: GitHub припиняє підтримку автозапуску скриптів у npm