Ризики для безпеки. Невідома група отримала доступ до моделі Mythos від Anthropic

Про це повідомляє Bloomberg.

Йдеться про інструмент Claude Mythos Preview — продукт штучного інтелекту для захисту корпоративних систем. У компанії раніше попереджали, що за неправильного використання він може стати інструментом для хакерських атак.

Читайте также: Дорого та повільно. Чому термоядерний синтез може програти сонячній та вітровій енергії?

Представник Anthropic повідомив TechCrunch, що компанія розслідує інформацію про несанкціонований доступ через середовище одного з підрядників. Водночас поки що не виявлено доказів того, що це вплинуло на системи компанії.

За даними Bloomberg, група намагалася отримати доступ різними способами. Зокрема, вони використали можливості людини, яку опитувало видання. Ця людина працює в компанії-підряднику Anthropic.

Учасники групи спілкуються в Discord-каналі, де шукають інформацію про ще не оприлюднені моделі штучного інтелекту. Після отримання доступу вони регулярно користувалися Mythos і надали журналістам скриншоти та демонстрацію роботи інструменту.

Читайте также: Claude для «еліти», Gemini для всіх інших: серед програмістів Google виник розкол

Джерело повідомило, що група змогла здогадатися про розташування моделі в мережі, спираючись на знання про структуру інших моделей Anthropic. За його словами, учасники більше зацікавлені у тестуванні нових моделей, ніж у завданні шкоди.

Mythos надали обмеженій кількості партнерів у межах проєкту Project Glasswing, зокрема великим компаніям, таким як Apple. Такий підхід мав зменшити ризик зловживань, адже інструмент можна використати проти корпоративної безпеки, а не для її посилення.

Якщо інформація підтвердиться, несанкціонований доступ може створити проблеми для Anthropic, яка обмежила поширення інструменту саме через ризики для безпеки.

Читайте также: Від косметики до медицини. Популярний інгредієнт корейських кремів виявився потужним антибіотиком проти супербактерій