Автор admin 
Гендиректор Anthropic Даріо Амодеї публічно спростував звинувачення в тому, що його компанія нібито намагається заборонити LLM-моделі з відкритими вагами заради захисту власного бізнесу від конкуренції з китайськими розробниками. Про це йдеться в офіційній заяві Anthropic.
Читайте также: Яскравіша за 10 мільярдів сонць. Телескоп NASA Swift зафіксував блукаючу чорну діру, яка розірвала зірку
В опублікованому зверненні Амодеї чітко заявив: «Anthropic ніколи не виступала за заборону моделей з відкритими вагами». Він назвав такі моделі — за умови відсутності в них «небезпечних» можливостей — суспільним благом, що приносить користь бізнесу, розробникам і дослідникам, оскільки їх використання не потребує нічого, крім обчислювальних ресурсів.
Водночас Даріо Амодеї визнав, що вважає відкриті моделі потенційно більш небезпечними за закриті: після публікації ваг їх неможливо відкликати, а контролювати використання та застосовувати захисні обмеження до них значно складніше.
Два «кошмарних сценарії» для LLM
За словами гендиректора Anthropic, його головне занепокоєння — ризик того, що авторитарні уряди (насамперед Комуністична партія Китаю, хоча не виключно вона) створять моделі штучного інтелекту, потужніші за американські, і використають їх для досягнення постійної військової переваги або жорстких репресій проти власного населення. Він підкреслив, що це занепокоєння не залежить від того, публікуються моделі з відкритими вагами чи ні — найнебезпечнішою може виявитися модель, навчена таємно і передана виключно військовим чи спецслужбам.
Друге занепокоєння — ризик використання потужних моделей для кібератак, біологічних атак або проблем з узгодженістю (alignment). Відкриті моделі, незалежно від країни походження, справді становлять вищий ризик у цьому сенсі, оскільки до них складно застосовувати захисні механізми. Проте, як наголосив керівник Anthropic, заборона використання таких моделей американським бізнесом жодним чином не вирішує цю проблему, адже зловмисники навряд чи є легітимними американськими компаніями — натомість подібна заборона лише захистила б американські ШІ-компанії від конкуренції, чого Амодеї ніколи не прагнув.
Читайте также: Яскравіша за 10 мільярдів сонць. Телескоп NASA Swift зафіксував блукаючу чорну діру, яка розірвала зірку
Що пропонує Anthropic замість заборони
Замість повної заборони відкритих моделей Даріо запропонував три заходи:
- Не продавати Китаю передові чіпи та обладнання для їх виробництва, а також посилити боротьбу з контрабандою та схемами обходу експортних обмежень.
- Боротися з промисловою дистиляцією американських моделей — процесом, який дозволяє Китаю створювати значно кращі LLM, ніж це дозволяють нинішні обмеження на постачання іноземних мікропроцесорів.
- Запровадити обов’язкове тестування безпеки для всіх достатньо потужних ШІ-систем — як відкритих, так і закритих — на кіберризики, біологічні загрози та проблеми узгодженості перед випуском.
Амодеї також відповів на відкритий лист, який раніше підписали Nvidia, Microsoft та інші технологічні компанії на підтримку відкритих моделей. Він погодився з частиною тез листа — зокрема, що відкриті ваги розширюють доступ до ШІ-економіки та посилюють конкуренцію, — але висловився проти твердження, що відкритий доступ до можливостей моделей обов’язково допомагає більше тим, хто захищається, ніж тим, хто атакує.
За його словами, у сфері біологічної безпеки ситуація може бути навпаки: достатньо потужні моделі здатні швидко «озброїти» пандемічні віруси доступними матеріалами, тоді як захист від таких загроз — багаторічне завдання навіть у найкращому випадку.
Дискусія про можливу заборону відкритих моделей загострилася після виходу моделі Kimi K3 від китайського стартапу Moonshot AI, який американська влада звинуватила у «крадіжці» технологій Anthropic для навчання цієї моделі. Компанія Anthropic, на відміну від Nvidia, Microsoft та низки інших ІТ-гігантів, не підписала згаданий відкритий лист на підтримку відкритих моделей.
Нагадаємо, нещодавно ми писали про те, як у Китаї працює підпільний ринок доступу до штучного інтелекту.
Читайте также: Яскравіша за 10 мільярдів сонць. Телескоп NASA Swift зафіксував блукаючу чорну діру, яка розірвала зірку
Підписуйтесь на нас у соцмережах: Telegram | Facebook | LinkedIn