Дивні помилки в орфографії. ШІ від Google не зміг правильно написати назву своєї компанії

Про це пише видання TechCrunch.

Система також повідомила, що у слові poop є лише одна літера«r», а прізвище президента США написала як t-r-p-u-m. У Google пояснили, що підрахунок літер у словах залишається відомою проблемою для великих мовних моделей, і компанія працює над її виправленням.

Читайте также: Штучний інтелект на орбіті. Суперкомп’ютер на платформі NVIDIA IGX Thor забезпечить автономність космічних місій

Подібні помилки вже траплялися раніше після запуску AI Overview у пошуку Google. Тоді система посилалася на сатиричні матеріали та радила людям їсти каміння або додавати клей у піцу.

У компанії заявили, що проблема пов’язана з принципом роботи великих мовних моделей. Такі системи не розуміють текст так, як люди. Вони не аналізують окремі літери та слова, а працюють з так званими токенами — це можуть бути слова, склади або окремі символи.

Дослідник штучного інтелекту та викладач Університету Альберти Метью Гуздіал пояснив, що модель не «читає» слово буквально. За його словами, коли ШІ бачить слово the, він сприймає його як готову одиницю значення, а не окремі літери T, H і E.

Читайте также: Знаходить тисячі вразливостей. Anthropic планує випустити публічну версію моделі Claude Mythos

Аспірант Північно-Східного університету Шерідан Фойхт зазначив, що проблема може не мати ідеального рішення. Він пояснив, що навіть фахівцям складно визначити, яким саме має бути правильний поділ тексту для мовної моделі.

У матеріалі зазначається, що орфографія не є головною функцією ШІ, однак такі помилки показують, що відповіді штучного інтелекту не можна сприймати без перевірки. Попри складні можливості, мовні моделі все ще здатні помилятися у дуже простих речах.

Читайте также: Розміром із кунжутне зерно. У Тайвані виявили новий вид морського слимака