Ризики для точності. Wikipedia заборонила авторам писати статті за допомогою ШІ

Про це пише видання Interesting Engineering.

Платформа чітко окреслила правила використання генеративного ШІ. Відтепер редактори не можуть застосовувати великі мовні моделі для написання чи суттєвого редагування статей. Це пояснюють ризиками для точності, достовірності та відповідності джерелам.

Читайте также: Удар по Білому дому. Anthropic виграла справу проти адміністрації Дональда Трампа

Рішення ухвалили на тлі швидкого поширення ШІ-інструментів у повсякденній роботі. Машинні тексти дедалі складніше відрізнити від написаних людьми, що створює проблему для ресурсу, який базується на перевірених фактах.

Водночас залишили два винятки. Редакторам дозволили використовувати ШІ для покращення власного тексту, наприклад як інструмент перевірки стилю чи граматики, але всі зміни потрібно ретельно перевіряти перед публікацією. Також дозволено застосовувати ШІ для перекладів, але лише якщо редактор володіє обома мовами та перевіряє результат.

У правилах зазначено, що мовні моделі можуть спотворювати зміст навіть за чітких інструкцій і змінювати його так, що він не відповідатиме джерелам.

Адміністратор Wikipedia Чаотік Енбі висловив сподівання, що це рішення стане поштовхом до ширших змін і допоможе іншим онлайн-спільнотам самостійно визначати роль ШІ. Він також назвав це кроком у відповідь на нав’язування ШІ багатьма компаніями в останні роки.

Читайте также: Міноборони відкрило більше 2000 вакансій для IT-фахівців — Михайло Федоров

За його словами, попередні спроби запровадити загальні правила щодо ШІ не мали підтримки, оскільки було складно одразу вирішити всі питання. Ідею змін підтримували, але не могли погодити спосіб їх впровадження.

Попри нові обмеження, контроль за їх виконанням залишається складним. Виявити тексти, створені ШІ, непросто, а відповідні інструменти відстають від розвитку технологій. При цьому деякі тексти людей можуть виглядати як машинні, що створює ризик помилок.

Англомовна політика не поширюється на всі версії Wikipedia. Наприклад, іспаномовний розділ уже запровадив жорсткіші правила і повністю заборонив використання ШІ, навіть для редагування та перекладу.

У Wikipedia зазначають, що таким рішенням прагнуть зберегти довіру до платформи, попри те, що різниця між текстами людини і машини стає дедалі менш помітною.

Читайте также: Алгоритм обробки рук для медичного персоналу: як облаштувати зону для миття та які вимоги потрібно врахувати