Блок на рік. ArXiv почав карати вчених за помилки від ШІ у наукових статтях

Про це пише видання Science alert.

Платформа arXiv заявила, що вводить обмеження для авторів, які публікують роботи з помилками, створеними великими мовними моделями. Йдеться насамперед про випадки, коли автори не перевіряють текст, створений ШІ.

Читайте также: Google представила Gemini for Science: три нові інструменти для наукових досліджень

Рішення ухвалили через різке зростання кількості наукових текстів, згенерованих штучним інтелектом. Проблема зачепила не лише arXiv, а й наукові журнали, які дедалі частіше отримують сумнівні матеріали.

За даними дослідження, близько половини нових статей в інтернеті зараз є переважно створеними ШІ. Наука також опинилася під впливом цієї тенденції.

У квітні журнал Organization Science опублікував дослідження про те, як після появи ChatGPT у 2022 році змінилися подання наукових статей та процес рецензування. Автори повідомили про різке збільшення кількості робіт і погіршення їхньої якості.

Дослідники дійшли висновку, що сучасні інструменти ШІ разом із тиском через необхідність постійно публікувати нові роботи штовхають систему до збільшення кількості досліджень, а не їхньої якості.

Однією з найпоширеніших проблем стали вигадані посилання на неіснуючі наукові роботи. Такі помилки називають«галюцинаціями» штучного інтелекту.

Зазвичай якість наукових статей перевіряють через рецензування, коли інші фахівці аналізують дослідження перед публікацією. Однак система перевірки вже давно перевантажена, оскільки науковці часто не мають часу чи мотивації виконувати неоплачувану роботу рецензентів.

На arXiv ситуація складніша, бо платформа публікує препринти — наукові статті, які зазвичай ще не проходили рецензування. Минулого року через наплив матеріалів, створених ШІ, сайт уже припинив приймати деякі типи статей.

Інше дослідження, опубліковане у січні, показало, що приблизно кожна восьма стаття з біомедичних наук містить текст, створений штучним інтелектом.

Читайте также: Брат Пола Уокера — Биография, Личная Жизнь и Карьера Калеба Уокера

Водночас більшість учених не вважають сам факт використання ШІ проблемою. Основна проблема полягає в тому, що штучний інтелект дозволяє швидко створювати низькоякісні роботи.

У заяві arXiv зазначили, що якщо стаття містить«беззаперечні докази» того, що автори не перевірили результати роботи мовної моделі, платформі складно довіряти будь-якій інформації в такому дослідженні.

Втім, не всі підтримали таке рішення. Критики вважають, що річне блокування для всіх співавторів статті може бути занадто суворим покаранням.

Автор матеріалу пояснює, що сучасні наукові роботи часто створюють великі міжнародні команди. У деяких випадках стаття може мати десятки або навіть сотні авторів, кожен із яких відповідає лише за свою частину роботи.

На думку критиків, якщо один із авторів випадково додав вигадане ШІ-посилання, карати всю команду несправедливо. Водночас за інші проблеми, наприклад слабкі докази чи сумнівні теорії, подібних санкцій немає.

Деякі дослідники вважають, що боротися з «AI slop» можна за допомогою самого штучного інтелекту. Наприклад, сучасні системи вже здатні автоматично перевіряти, чи існують насправді наукові джерела, зазначені в списку літератури.

Також ШІ можна використовувати для швидкої перевірки статистичних розрахунків або інших технічних аспектів наукових статей. Автор матеріалу припускає, що саме такий підхід може стати ефективнішим за жорсткі покарання.

Читайте также: Загроза для екосистем. Вчені попередили, що 80% річок на Землі втрачають кисень