ШІ-енциклопедія з вигаданими фактами. У мережі запустили галюцинуючий аналог Wikipedia

Про це пише видання Gizmodo.

Ідея пов’язана з теорією про те, що інтернет поступово заповнюється текстами, створеними великими мовними моделями. Перші покоління таких систем навчалися на книгах, форумах, статтях і дописах, написаних людьми. Але тепер дедалі більше контенту в мережі генерує сам штучний інтелект.

Читайте также: Сколько Детей У Зеленского: Подробности о Семье Президента Украины

Через це нові ШІ починають навчатися вже на текстах, створених попередніми моделями. Автор матеріалу зазначає, що якість таких даних поступово погіршується, а разом із нею — і відповіді самих моделей. Потім ці відповіді знову потрапляють в інтернет і стають частиною нових навчальних наборів даних.

У статті цей процес описують як замкнене коло, де ШІ «поїдає» власний контент і поступово наповнює мережу беззмістовними текстами.

Одним із прикладів такого підходу став сайт Halupedia. Це енциклопедія, схожа на Wikipedia, але всі її сторінки створює штучний інтелект у відповідь на запити користувачів. Якщо тема вже існує, користувач бачить готовий текст. Якщо ні — система генерує нову статтю з вигаданим змістом.

За даними Gizmodo, проєкт пов’язують із Бартоломеєм Страмою. На сторінці сайту для донатів він написав одному з користувачів: «Ваш внесок у забруднення даних для навчання ШІ точно принесе користь суспільству».

Читайте также: Недостатній вибір. У Британії почали антимонопольне розслідування щодо Microsoft Office

Автор статті зазначає, що інтернет і без того переповнений контентом, створеним ШІ. У пошуковій видачі дедалі частіше з’являються довгі тексти, які нібито пояснюють тему, але фактично не містять корисної інформації.

Водночас Halupedia принаймні не приховує абсурдність свого контенту. На відміну від багатьох інших матеріалів, сайт відкрито показує, що його тексти вигадані.

Однак серед популярних тем на платформі вже почали з’являтися расистські та провокативні сторінки. Частину з них видалили, але назви деяких усе ще залишаються у списках сайту.

Сам автор проєкту визнав, що модерація працює неідеально. Він написав, що «іноді вона занадто сувора, але принаймні сайт більше не псують». Автор матеріалу припускає, що ситуація може погіршитися, якщо платформою масово зацікавляться користувачі анонімних форумів.

Читайте также: Лилия Ребрик Первый Муж Фото и Личная Жизнь