Чорний список для оборони. Anthropic подала до суду на Пентагон через новий статус, який вплине на роботу компанії

Про це пише видання Gizmodo.

Пентагон ухвалив це рішення після того, як Anthropic відмовилася погодитися на нові умови співпраці. Вони дозволили б уряду використовувати модель штучного інтелекту Claude для масового внутрішнього спостереження та розробки повністю автономної зброї.

Читайте также: Замість електрики — світло. Австралійські вчені створили фотонний чип, що обробляє дані ШІ за трильйонні частки секунди

У позовах компанія заявляє, що дії уряду є безпрецедентними та незаконними. За словами представників Anthropic, влада не має права використовувати свої повноваження, щоб карати компанію за її позицію, а жоден федеральний закон не дозволяє ухвалювати такі рішення.

Позови подали до Федерального окружного суду Північного округу Каліфорнії та Апеляційного суду округу Колумбія. Серед відповідачів у справі — майже три десятки структур, включно з державними установами, які користувалися Claude, а також їхні керівники.

Представник Anthropic заявив, що звернення до суду не змінює прагнення компанії використовувати штучний інтелект для захисту національної безпеки США. Водночас це необхідний крок, щоб захистити бізнес, клієнтів і партнерів. У компанії додали, що продовжать шукати шляхи вирішення ситуації, зокрема через діалог з урядом.

Раніше Anthropic пояснювала, що виступає проти використання її технології для масового спостереження та створення повністю автономної зброї через технічні обмеження системи. Компанія зазначає, що модель Claude ніколи не тестували для таких завдань, а встановлені обмеження пов’язані з оцінкою ризиків і можливостей технології.

У позові також зазначено, що Anthropic співпрацювала з Міністерством оборони щодо змін у правилах використання Claude, щоб допомогти відомству виконувати свої завдання. Але компанія завжди наполягала на двох обмеженнях: забороні масового спостереження та створення повністю автономної зброї.

Подання позовів очікували після того, як президент США Дональд Трамп і міністр оборони Піт Гегсет раніше пригрозили змусити компанію виконати вимоги через Закон про оборонне виробництво або ж надати їй статус«ризику для ланцюга постачання». Раніше такий статус не застосовували до американських компаній.

Генеральний директор Anthropic Даріо Амодей зустрічався з Гегсетом 24 лютого. Однак офіційно Пентагон присвоїв компанії цей статус 5 березня. У позовах також наведені скриншоти дописів Трампа у соцмережі Truth Social та публікацій Гегсета в X, а також посилання на заяви інших членів уряду.

Читайте также: Anthropic презентує новий інструмент перевірки пул-реквестів Code Review

Anthropic визнає, що Міністерство оборони має право оцінювати ризики для ланцюгів постачання. Але, на думку компанії, це потрібно робити найменш обмежувальним способом. За словами представників компанії, відомство могло просто розірвати контракт і найняти іншого розробника, однак обрало каральний підхід, який шкодить репутації Anthropic.

Поки що незрозуміло, які саме наслідки має статус«ризику для ланцюга постачання». Зокрема, чи означає він, що інші приватні компанії, які працюють з урядом США, також не можуть використовувати програмне забезпечення Anthropic. Попри це деякі оборонні підрядники, зокрема Lockheed Martin, уже припинили співпрацю з компанією.

За даними Financial Times, Пентагон розробив нові правила для роботи зі штучним інтелектом. Вони вимагатимуть від компаній дозволяти військовим будь-яке«законне використання» їхніх моделей.

У позові зазначено, що наслідки цієї справи можуть бути дуже значними. Компанія стверджує, що федеральний уряд покарав одного з провідних розробників штучного інтелекту за його позицію щодо безпеки технології та її обмежень.

Також у Anthropic вважають, що рішення влади може зашкодити конкурентоспроможності США у сфері штучного інтелекту. Компанія зазначає, що уряд намагається знищити економічну цінність, створену однією з найшвидше зростаючих приватних компаній у світі, яка займається відповідальною розробкою нових технологій.

У позові йдеться, що дії влади завдають негайної та непоправної шкоди Anthropic, людям, які можуть боятися висловлювати свою позицію, а також користувачам, які отримують вигоду від роботи компанії. На думку розробника, світові потрібна відкрита дискусія про те, як штучний інтелект може використовуватися у війні та системах спостереження.