Приховані ризики алгоритмів. ШІ змінює спосіб, у який люди сприймають реальність

Про це пише видання Gizmodo.

Автор книги вважає, що алгоритми одночасно аналізують користувачів, збирають їхні дані та формують контент, який утримує увагу.

Читайте также: Тарас Петриненко Перша Дружина: биография, личная жизнь и влияние на карьеру

Паглен починає з питання про те, як люди бачать звичайні речі, наприклад яблуко. На його думку, сприйняття ніколи не є повністю об’єктивним, адже на нього впливають особисті спогади, асоціації та життєвий досвід. Він посилається на картину бельгійського художника Рене Магрітта «Це не яблуко», яка показує різницю між самим предметом і його зображенням.

Автор зазначає, що раніше люди могли бути впевнені: картини, фотографії чи інші зображення створила інша людина. Тепер дедалі більше контенту генерує штучний інтелект, і це змінює взаємодію між автором, зображенням і глядачем.

Паглен пише, що сучасні моделі ШІ навчаються на великих масивах даних, які можуть містити людські упередження. Крім того, кожна взаємодія користувача зі штучним інтелектом — від розмов із чат-ботами до натискання на рекламні оголошення — допомагає алгоритмам краще зрозуміти його вподобання, поведінку та психологічні особливості. За словами автора, люди не просто дивляться на ШІ – він також аналізує їх.

У книзі стверджується, що алгоритми не є нейтральними. На думку Паглена, вони створюються для збору даних і максимального утримання уваги користувачів. Розумні пристрої можуть відстежувати сон і фізичну активність, застосунки — покупки та інші звички, а чат-боти — реакції людей та їхній емоційний стан.

Автор вважає, що такі системи відкривають можливості для психологічного впливу, які раніше були доступні переважно державним програмам. У книзі він називає сучасний етап розвитку технологій «суспільством психологічних операцій», де алгоритми використовують машинне навчання, когнітивну психологію та аналіз поведінки для впливу на людей.

Читайте также: Детектор емоційного стресу. ШІ навчили розпізнавати емоційний стан за даними смартгодинника та навушників

Паглен також згадує колишнього співробітника військової розвідки США Річарда Доті, який у 1970−1980-х роках поширював неправдиву інформацію про НЛО, щоб приховати військові розробки. Автор пояснює, що Доті не нав’язував нові переконання, а підсилював уже наявні уявлення людей. На його думку, сучасні алгоритми працюють за схожим принципом, підлаштовуючи інформацію під погляди конкретного користувача.

Паглен також згадує явище, яке в медіа неофіційно називають «психозом ШІ». Так описують випадки, коли чат-боти постійно підтверджують уже наявні переконання користувача, через що вони можуть здаватися дедалі реальнішими. За словами автора, алгоритми роблять це значно точніше й персоналізованіше, ніж будь-коли раніше.

Він зазначає, що сучасні чат-боти, зокрема ChatGPT, спілкуються з людьми так, ніби це робить інша людина. При цьому навіть компанії-розробники не завжди можуть повністю пояснити, як саме моделі приходять до своїх відповідей.

На відміну від психологічних операцій минулого, сучасні алгоритми працюють насамперед заради залучення користувачів. Соціальні мережі та рекламні системи підбирають контент так, щоб люди проводили якомога більше часу на платформах.

На завершення Паглен закликає уважніше ставитися до власної приватності. Він вважає, що люди мають свідомо створювати простір, де їхні дані не збираються автоматично, інакше майже кожен аспект життя може перетворитися на джерело інформації для алгоритмів та комерційних сервісів.

Читайте также: Що він там забув? В Белграді археологи знайшли середньовічні кістки верблюда