Систему легко обійти. Детектор Meta не зміг розпізнати більшість ШІ-зображень після обрізання

Це пише видання Reuters.

Минулого тижня Meta представила генератор зображень Muse Image. У створені ним картинки компанія вбудовує невидиме цифрове маркування Content Seal. У Meta заявляли, що воно має зберігатися навіть після обрізання, стиснення, зміни розміру або створення скриншота.

Читайте также: Майже 700 км/год. Німецький електричний безпілотник встановив рекорд швидкості на тестах

Для пошуку цього маркування компанія також почала тестувати спеціальний детектор. Під час першої перевірки Reuters він правильно визначив усі 40 зображень, створених Muse Image.

Однак після обрізання картинок до половини або третини початкового розміру результат погіршився. Детектор зміг правильно розпізнати лише 55% зображень як створені штучним інтелектом.

Проблема виявлення ШІ-контенту стає актуальнішою через поширення дипфейків. За даними компанії з кібербезпеки DeepStrike, у 2023−2025 роках кількість створених ШІ дипфейків в інтернеті щороку зростала приблизно на 900%.

Читайте также: Що краще: GPT-5.6 Sol чи Claude Fable 5. Враження користувачів і результати бенчмарків

Водночас системи розпізнавання такого контенту досі часто помиляються. Попередні дослідження також показували, що звичайні користувачі визначають ШІ-контент приблизно з такою ж точністю, як під час випадкового вгадування.

За допомогою Content Seal і нового детектора Meta намагається розв’язати цю проблему. Розробка цих технологій є частиною масштабних інвестицій компанії у штучний інтелект.

Запуск Muse Image також викликав питання щодо приватності. Користувачі Instagram з’ясували, що модель могла використовувати фотографії з публічних профілів без окремої згоди їхніх власників. Згодом Meta прибрала цю функцію.

Читайте также: Забуті царі. Вчені розшифрували клинописні записи про трьох невідомих правителів Ассирії

Наступним великим ШІ-продуктом компанії має стати генератор відео Muse Video.