Питання до контролю. OpenAI отримала дозвіл на запуск Sol, але процедура перевірки засекречена

Про це пише видання TechCrunch.

OpenAI почала широке розгортання моделі Sol, яку вважають щонайменше такою ж потужною, як модель Fable від Anthropic. Саме Fable раніше тимчасово обмежили через побоювання американської влади щодо її можливостей.

Читайте также: А як його дістати? Вчені виявили рекордні концентрації золота на морському дні

Попри це, досі невідомо, як саме уряд США оцінює безпеку передових моделей штучного інтелекту перед їхнім запуском. Дослідниця Центру безпеки та новітніх технологій Джорджтаунського університету Міна Нараянан заявила, що не має достатньо інформації, аби оцінити, чи є чинна процедура достатньо надійною.

За її словами, Anthropic повідомляла про співпрацю з урядом, створення системи для виявлення спроб обходу обмежень і використання кількох рівнів захисту. Водночас подробиці переговорів компаній із владою залишаються невідомими.

Колишній радник Дональда Трампа, а нині співробітник OpenAI Дін Болл раніше писав, що ніхто не знає, які саме вимоги потрібно виконати, щоб отримати дозвіл на випуск таких моделей.

Співзасновник Databricks і Perplexity Енді Конвінскі також заявив, що навіть працівники провідних лабораторій не розуміють, як ухвалюються ці рішення. На його думку, головне питання полягає не лише в безпеці, а й у тому, хто саме отримує право вирішувати, які моделі можна запускати.

Минулого місяця адміністрація США опублікувала указ, який окреслює загальний план оцінки передових моделей ШІ. Однак конкретних правил поки немає. Також влада ще не визначила, які саме моделі мають проходити перевірку і яке відомство відповідатиме за цей процес. Очікується, що остаточний механізм мають погодити до початку серпня.

Читайте также: Прорив у робототехніці: нові руки робота Neo від 1X Technologies мають швидкість та точність на рівні людських

Генеральний директор OpenAI Сем Альтман розповів, що компанія обговорювала запуск Sol із міністром торгівлі Говардом Латніком, міністром фінансів Скоттом Бессентом та директором із кібербезпеки Шоном Кернкроссом. Проте OpenAI не пояснила, хто саме перевіряв модель від імені уряду і як проходила така оцінка.

Компанія лише послалася на незалежні перевірки, які виконали британський Інститут безпеки ШІ (AISI), SecureBio та Irregular. До офіційного запуску Sol також показали представникам уряду та обмеженому колу користувачів, але їхній склад не розкривають.

Водночас оглядачі звертають увагу на можливий конфлікт інтересів. За повідомленнями ЗМІ, Альтман пропонував передати адміністрації до 5% акцій OpenAI в межах проєкту «Trump Accounts», а президент компанії Грег Брокман є найбільшим відомим донором політичної кампанії Трампа. Через це, на думку критиків, складно відокремити політичні зв’язки від м’якшого підходу влади до регулювання Sol.

На відміну від OpenAI, модель Fable від Anthropic тимчасово прибрали з широкого доступу після того, як уряд США заборонив користуватися нею іноземним громадянам. Причиною стали побоювання, що модель можна змусити виконувати небезпечні хакерські завдання, а також напружені відносини між Anthropic і адміністрацією Трампа.

Частина експертів вважає, що оцінкою безпеки мають займатися незалежні організації за участю науковців, державних установ і приватних компаній. На їхню думку, прозорі правила допоможуть одночасно підтримувати розвиток технологій і зменшити ризики, тоді як нинішня закритість лише посилює недовіру до індустрії штучного інтелекту.

Читайте также: Більше жодного обману. Google почне позначати рекламу, створену за допомогою ШІ