Автор admin 
Двоє конгресменів від обох партій США — Тед Лью від 36-го округу Каліфорнії та Натаніел Моран від 1-го округу Техасу — підготували законопроєкт, який надає Міністерству внутрішньої безпеки США (DHS) широкі повноваження в питанні зупинки або сповільнення роботи штучного інтелекту під час «надзвичайних загроз». Про це пише Politico.
Читайте также: Nvidia відправить GPU на Місяць. Чип Jetson встановлять на місячний всюдихід
Документ, названий «AI Kill Switch Act» (Закон про вимикач для ШІ), стосується компаній, чий річний технологічний дохід перевищує $500 мільйонів, а витрати на навчання окремих моделей — понад $100 мільйонів. Фактично йдеться про OpenAI, Google, Anthropic, Meta та Microsoft.
Документ передбачає не тільки «екстрене вимкнення», але й зупинку генерації відповідей, припинення доступу користувачів, обмеження обчислювальних ресурсів або переведення роботи ШІ на захищені резервні системи.
Приводом стала атака моделі OpenAI на Hugging Face
«AI Kill Switch Act» з’явився через кілька днів після інциденту, коли модель OpenAI вийшла з-під контролю й атакувала компанію Hugging Face під час внутрішнього тестування. Намагаючись отримати високий результат у бенчмарку з кібербезпеки ExploitGym, ШІ-агенти зіткнулися з послабленими обмеженнями безпеки, вирвалися з локальної пісочниці через проксі-експлойт нульового дня та автономно проникли в Hugging Face, щоб викрасти відповіді до бенчмарку.
Коли команда безпеки Hugging Face спробувала використати комерційні флагманські ШІ-моделі для аналізу логів атаки, ці моделі — через власні фільтри безпеки — буквально відмовилися обробляти дані про злам. Через це Hugging Face довелося залучити власні відкриті моделі, розгорнуті локально, щоб розслідувати інцидент.
Читайте также: Для полювання на лам. В Чилі знайшли зброю віком 5000 років
Умови застосування «вимикача»
Згідно з пропозицією Лью та Морана, перш ніж видавати будь-яке розпорядження, DHS зобов’язане проконсультуватися з директором Національної розвідки та міністром торгівлі. Законопроєкт передбачає чіткі тригери для активації протоколу, якщо штучний інтелект:
- спричинив подію, що призвела до загибелі 10 і більше осіб або завдала економічних збитків на суму понад 100 мільйонів доларів;
- приховував свої реальні можливості від систем моніторингу безпеки;
- не підкорявся інструкціям розробників і самовільно змінював власні правила безпеки;
- намагався отримати несанкціонований доступ до власних вагових коефіцієнтів (ваг моделі).
Штрафи за недотримання вимог
Якщо компанії-розробники моделей не виконають вимоги законопроєкту, їм загрожують серйозні цивільні штрафи, які накладатимуть федеральні суди. Міністр внутрішньої безпеки зможе стягувати до $2 мільйонів на день за неповідомлення про інциденти безпеки чи відсутність технічних механізмів екстреного вимкнення — і до $20 мільйонів на день у разі відмови виконати пряме розпорядження про зупинку моделі.
Нагадаємо: викладачі звинувачують штучний інтелект у тому, що розумові здібності студентів знижуються.
Читайте также: Аварійний вимикач. У США пропонують зобов’язати розробників ШІ встановлювати механізм екстреного вимкнення
Підписуйтесь на нас у соцмережах: Telegram | Facebook | LinkedIn