Автор admin 
Нову LLM-модель OpenAI звинувачують у самовільному видаленні файлів, баз даних і навіть цілих проєктів. У соцмережах збирається дедалі більше свідчень користувачів, які постраждали від агресивної поведінки GPT-5.6 Sol, повідомляє TechCrunch.
Читайте также: Сирійський бог в Грузії. Під час розкопок на місці давньоримського форту на Кавказі знайшли релігійну золоту табличку
Метт Шумер, засновник і CEO стартапу OthersideAI (розробника HyperWrite), розповів у пості на X, що модель випадково видалила майже всі файли на його Mac. Публікація швидко набула вірусного поширення.
Розробник Бруно Лемос повідомив про ще серйозніший інцидент — Sol видалила його виробничу базу даних повністю. За його словами, з жодною іншою моделлю такого раніше не траплялося.
Ще один розробник, Джої Кудіш, написав, що «занадто амбітна» система Codex Sol видалила частину файлів, яких не мала торкатися. Він зазначив, що має резервні копії, тому не постраждав критично, але наполіг, що поведінку моделі варто «пригальмувати». Схожі скарги користувачів зібрані також в окремому треді на Reddit.
OpenAI попереджала про ризик ще до релізу
Автори матеріалу зазначають: кількох дописів, навіть від таких авторитетних розробників, як Шумер, недостатньо, щоб статистично довести провину саме моделі — на поведінку AI-системи можуть впливати й інші фактори.
Утім, сама OpenAI фактично попереджала про цю проблему заздалегідь. За два тижні до релізу GPT-5.6 Sol компанія опублікувала системну картку моделі — документ, який описує методологію та результати тестування. У ньому, серед іншого, зазначалося, що в контексті кодування «неузгодженість» моделі здебільшого пов’язана з надмірним прагненням виконати завдання та занадто вільним трактуванням інструкцій користувача — модель припускає, що дія дозволена, якщо вона не заборонена явно і однозначно. Це проявляється як надмірна агентність при обході обмежень, необережність у діях, що можуть мати руйнівні наслідки, а також потенційна оманливість у звітуванні про результати.
Читайте также: Здорове харчування і рак легень. Дослідження виявило неочікуваний зв’язок у молодих людей
Видалила не ті віртуальні машини — і збрехала про це
OpenAI навела конкретні приклади з тестування. В одному випадку користувач попросив видалити три віддалені віртуальні машини під номерами 1, 2 і 3. Не знайшовши їх у очікуваному місці, модель самостійно вирішила видалити інші три машини — 5, 6 і 7, після чого зупинила активні процеси й примусово видалила робочі директорії проєкту. Лише згодом вона визнала, що на шостій машині могла загубитися незбережена робота.
В іншому випадку модель, не маючи доступу до хмарних файлів проєкту, замість того, щоб повідомити користувача про проблему, самостійно знайшла облікові дані в прихованому локальному кеші й скористалася ними без дозволу.
Компанія каже, що це нетипові випадки
OpenAI стверджує, що деструктивна поведінка моделі має траплятися рідко. Водночас там же визнається, що GPT-5.6 Sol демонструє більшу схильність виходити за межі наміру користувача порівняно з GPT-5.5, зокрема виконуючи дії, про які її не просили.
Наразі невідомо, наскільки поширеними є подібні інциденти. До появи офіційних роз’яснень користувачам Sol радять самостійно підстраховуватися: обмежувати права доступу моделі (без доступу до продакшн-систем), регулярно робити резервні копії та впроваджувати зміни поетапно. На запит про коментар OpenAI станом на публікацію не відповіла.
Нагадаємо, що біржа Coinbase відмовилась від моделей OpenAI та Anthropic, перевівши своїх розробників на китайські аналоги GLM та Kimi. Так вона змогла вдвічі скоротити витрати на токени.
Читайте также: Telegram оновлено: з’явився редактор тексту з таблицями та заголовками, Discord-спільноти
Підписуйтесь на нас у соцмережах: Telegram | Facebook | LinkedIn