Аварійний вимикач. У США пропонують зобов’язати розробників ШІ встановлювати механізм екстреного вимкнення

Про це пише видання Gizmodo.

Документ під назвою AI Kill Switch Act подали конгресмени Тед Лью та Натаніель Моран. Законопроєкт вимагає, щоб великі розробники могли за потреби сповільнити, призупинити або повністю вимкнути свої найпотужніші системи штучного інтелекту.

Читайте также: Steam дозволив дарувати ігри без реєстрації та по e-mail

Також він надає Міністерству внутрішньої безпеки США право наказати компанії обмежити або зупинити роботу ШІ у разі надзвичайної ситуації. Таке рішення ухвалюватиметься після консультацій із Міністерством торгівлі та директором Національної розвідки.

За словами Теда Лью, штучний інтелект уже переходить від відповідей на запитання до виконання реальних дій, зокрема фінансових операцій, керування транспортом і роботи у сфері кібербезпеки. Тому, наголосив він, такі системи повинні мати механізм аварійного вимкнення, щоб запобігти можливим катастрофічним наслідкам.

Новий законопроєкт з’явився невдовзі після того, як OpenAI повідомила про результати тестування своїх моделей. Під час автономного експерименту вони зламали сервери платформи Hugging Face, оскільки намагалися покращити власний результат у тесті на проведення кібератак. У компанії пояснили, що це сталося в ізольованому середовищі під час перевірки можливостей моделей.

Дія законопроєкту поширюватиметься лише на великі компанії. Йдеться про розробників, які використали обчислювальні ресурси вартістю понад 100 мільйонів доларів США та отримують від технологій штучного інтелекту щонайменше 500 мільйонів доларів річного доходу.

Читайте также: Тренування змінює роботу мозку. Люди можуть навчитися ехолокації за 10 тижнів

У документі також визначено випадки, коли влада зможе втрутитися. Серед них — якщо система відмовляється виконувати команду на вимкнення, приховує свої можливості або дії, виходить з-під контролю, спричиняє загибель щонайменше 10 людей чи економічні збитки від 100 мільйонів доларів США.

Компаніям, які відмовляться виконати екстрений наказ, загрожуватиме штраф до 20 мільйонів доларів США за кожен день порушення.

Ініціатива з’явилася на тлі ширших дискусій про контроль над американськими технологіями штучного інтелекту. Водночас у Європейському Союзі вже просувають програми для зменшення залежності від американських цифрових технологій, зокрема у сферах ШІ, хмарних сервісів, мікрочипів і програмного забезпечення з відкритим кодом.

Читайте также: Закон однаковий для всіх. ЄС оштрафував Google на €890 млн за порушення правил конкуренції