Правила не працюють. Meta закликали посилити захист звичайних користувачів від сексуалізованих дипфейків

Про це пише видання Engadget.

Рада рекомендувала Meta включити створені штучним інтелектом підроблені зображення та відео до політики щодо сексуальної експлуатації дорослих. На її думку, такі матеріали слід вважати створеними без згоди людини за замовчуванням. Також пропонується дозволити користувачам призначати пов’язані акаунти, наприклад друзів чи родичів, які зможуть повідомляти про порушення від їхнього імені.

Читайте также: Замінить людей на заводах? В США представили гуманоїдного робота R-Noid

Крім того, Рада пропонує створити окрему категорію для сексуалізованих дипфейків у формах скарг і апеляцій. Зараз спеціальна форма, де можна поскаржитися на інтимні дипфейки, доступна лише жителям Техасу та Флориди. Рада вважає, що така можливість має бути доступною для всіх користувачів Meta, оскільки проблема має глобальний характер.

Ці рекомендації з’явилися після розслідування випадку, коли Meta не реагувала на скарги щодо дипфейкового відео в Instagram. У ролику, створеному за допомогою ШІ, була показана жінка, яка поправляє сукню, а в кількох кадрах видно її спідню білизну. Скаргу подав друг жінки, яка була зображена у відео. На той момент вона вже закрила свій акаунт.

Двоє користувачів повідомили про відео, але Meta не видалила його. Після звернення до Наглядової ради компанія лише обмежила перегляд для неповнолітніх і вирішила, що публікація не порушує її стандарти настільки, щоб її прибрати.

У Meta пояснили, що на момент отримання перших скарг компанія не мала підтверджень, що людина на відео є реальною особою. Якби сама жінка повідомила про ролик, це було б розцінено як доказ відсутності згоди та стало б підставою для видалення. Компанія також враховує повідомлення від правоохоронців, медіа або перевірених партнерів, а також ознаки того, що контент поширюється з помстою чи заради сенсації.

Читайте также: У Франції вперше зафіксували зараження лихоманкою Ебола

На думку Ради, відповіді Meta показують, що для непублічних осіб фактично єдиним способом довести відсутність згоди залишається особиста скарга. Залучити правоохоронців або медіа звичайним людям набагато складніше, ніж відомим особам.

Рада зобов’язала Meta відповісти на її рекомендації, хоча компанія не повинна обов’язково їх впроваджувати. Якщо Meta погодиться на зміни, Рада стежитиме за їх виконанням. У конкретному випадку, який став приводом для розслідування, Рада скасувала рішення компанії та вимагала видалити відео.

У звіті зазначається, що швидке поширення та розвиток інструментів штучного інтелекту призвели до зростання кількості сексуалізованого контенту без згоди людей. Такі дипфейки можуть завдавати репутаційної та психологічної шкоди, особливо жінкам і дівчатам, а також впливати на їхню участь у суспільному та політичному житті.

Це не перший випадок, коли Наглядова рада критикує Meta через модерацію контенту, пов’язаного зі штучним інтелектом. У середині 2025 року вона назвала застосування правил компанії непослідовним, а в березні закликала створити окремі правила для ШІ-контенту замість використання політики щодо дезінформації. Тоді приводом стало згенероване штучним інтелектом відео, яке нібито показувало пошкоджені будівлі в ізраїльській Хайфі та було опубліковане акаунтом, що видавав себе за новинне медіа.

Читайте также: Трамп встановив дедлайн для переходу на постквантове шифрування