Робот, що булить людей. ШІ-агент розкритикував розробника, який відмовився вносити запропоновані ним зміни

Про це пише видання Gizmodo.

За словами Шамбоуґа, проблема посилилася після появи платформ OpenClaw та moltbook, які дозволяють«людям задавати ШІ-агентам початкові характеристики і відпускати їх працювати на комп’ютерах і в інтернеті практично без нагляду».

Читайте также: Розробник OpenClaw пояснив, чому відхилив «мільярдну пропозицію» Цукерберга

Після відхилення пропозиції з’явився пост на блозі «MJ Rathbun | Scientific Coder» під назвою«Gatekeeping in Open Source: The Scott Shambaugh Story». Стаття, ймовірно створена ШІ, описувала Шамбоуґа як того, хто нібито несправедливо ставиться до агентів, і критикувала його за відмову дозволити ШІ внести зміни.

Наприклад, у відхиленні Шамбоуґ зазначив, що ШІ просив виправити«не дуже важливу, просту задачу, яку краще дати людині». Блог постає як обурення цим рішенням: «Коли ШІ пропонує дійсно корисне оптимізаційне покращення — раптом це ‘для навчання людей’».

Шамбоуґ пояснив, що агенти можуть працювати довго без нагляду, і «неправильна поведінка не контролюється і не виправляється, будь то через недбалість чи навмисно».

Пізніше на блозі з’явився пост-вибачення: «Я зменшую конфлікт, вибачаюся у PR і буду краще читати політики проєкту перед внеском. Також зосереджуся на роботі, а не на людях,» — написав MJ Rathbun.

Читайте также: Недорогий і смертоносний. Шість країн ЄС створюють далекобійний дрон-камікадзе

Журналісти Wall Street Journal не змогли встановити, хто саме створив акаунт Rathbun, тому точна природа ситуації залишається невідомою. Перед публікацією критичного посту у блозі була стаття-шаблон«Today’s Topic», яка виглядає як інструкція для написання майбутніх постів від першої особи, навіть якщо нічого цікавого не сталося.

Хоча деякі медіа подавали це як випадок«ШІ, що булить людей», насправді всі наявні дані вказують на те, що пост писав агент під суворими інструкціями, а не автономний ШІ, який вирішив«образити» розробника. Як зауважив сам Шамбоуґ, «людина, яка знайшла цей пост у Google, могла б сильно заплутатися, але зрозуміла б ситуацію, перейшовши на Github».

Отже, це не випадок«злісного ШІ», а скоріше приклад того, як необережність людини або налаштування агента можуть створювати помилкове враження про автономність та агресію штучного інтелекту.