Позов проти xAI. Компанію Маска звинувачують у створенні сексуалізованих зображень неповнолітніх

Про це пише видання TechCrunch.

Троє анонімних позивачів вимагають визнати компанію відповідальною за те, що її моделі дозволяли створювати образливі сексуальні зображення впізнаваних дітей. Вони також хочуть подати колективний позов від імені всіх, чиї фото в дитячому віці були змінені Grok у такий спосіб.

Читайте также: Зі смітника до аптеки. Вчені навчилися перетворювати пластик на ліки від хвороби Паркінсона

За їхніми словами, xAI не впровадила базові запобіжники, які застосовують інші компанії, щоб не допустити створення порнографічного контенту із зображенням реальних людей і дітей.

Позов подали до федерального суду Північного округу Каліфорнії у справі «Jane Doe 1, Jane Doe 2 та Jane Doe 3 проти x.AI Corp. і x.AI LLC».

У документі зазначається, що інші генератори зображень використовують різні технічні методи, щоб запобігти створенню дитячої порнографії зі звичайних фото, але xAI нібито не дотрималась цих стандартів.

Також у позові наголошують: якщо модель дозволяє створювати оголений або еротичний контент із реальних фото, майже неможливо запобігти появі подібного контенту з участю дітей. Окремо згадують публічні заяви Ілона Маска про можливості Grok створювати сексуалізовані зображення та змінювати зовнішність людей.

Читайте также: Ціль до 2027 року. Nvidia прогнозує $1 трлн доходу завдяки розвитку агентного ШІ

Одна з позивачок повідомила, що її фото зі шкільного альбому та випускного були змінені так, що вона виглядає оголеною. За її словами, невідомий написав їй в Instagram і повідомив, що ці зображення поширюються в інтернеті, зокрема на сервері Discord, де були також інші змінені фото її однокласників.

Інша позивачка дізналася про подібні зображення від слідчих, які виявили їх у сторонньому мобільному застосунку, що використовує моделі Grok. Третю також повідомили правоохоронці після того, як знайшли змінене порнографічне зображення на телефоні затриманої особи.

Адвокати позивачів стверджують, що навіть якщо сторонні сервіси використовують ці моделі, вони все одно працюють через код і сервери xAI, тому відповідальність має нести компанія.

Усі троє позивачів, двоє з яких ще неповнолітні, заявляють про сильний психологічний стрес через поширення цих зображень і можливі наслідки для їхньої репутації та соціального життя. Вони вимагають штрафів за законами, які захищають дітей від експлуатації та передбачають відповідальність за недбалість компаній.

Читайте также: JetBrains закриває Code With Me: парне програмування йде в минуле