Основна небезпека. Глава Anthropic пояснив позицію щодо відкритих ШІ-моделей і назвав головний ризик

Про це пише видання TechCrunch.

Заяву Амодей опублікував після того, як у галузі почали обговорювати нібито підтримку Anthropic ідеї обмежити відкриті моделі, особливо китайського походження. Він наголосив, що компанія ніколи не виступала за такі заборони і не вважає їх ефективним рішенням.

Читайте также: Захист від вірусів. Один сеанс у сауні активує імунні клітини — нове дослідження фінських науковців

Дискусія посилилася після відкритого листа, який оприлюднив засновник Nvidia Дженсен Хуанг. Документ підписали Nvidia, Meta, Microsoft, Hugging Face, Mistral та інші компанії. Вони закликали владу не запроваджувати передчасні широкі обмеження для відкритих моделей штучного інтелекту.

За словами Амодея, відкриті моделі, які не мають небезпечних можливостей, є корисними для бізнесу, розробників і науковців. Він зазначив, що не бачить проблеми в тому, що компанії використовують такі моделі, навіть якщо вони створені в Китаї.

Натомість головною загрозою він назвав сценарій, за якого авторитарні держави створять потужніші системи ШІ, ніж США, і застосовуватимуть їх для військової переваги або посилення контролю над власним населенням. Амодей уточнив, що його занепокоєння стосується не лише Китаю, хоча саме цю країну він вважає найспроможнішою в цьому напрямку.

Читайте также: Claude Opus 5 за один запит зібрав повноцінний шутер у стилі Call of Duty

Також керівник Anthropic вважає, що розвиток штучного інтелекту може збільшити ризик не лише кібератак, а й біологічних загроз. На його думку, відкриті моделі складніше контролювати, а після їхнього оприлюднення відкликати їх уже неможливо.

Серед можливих заходів він назвав обмеження доступу Китаю до найпотужніших чипів, боротьбу з незаконним копіюванням можливостей моделей за допомогою методу дистиляції та створення міжнародної системи перевірки безпеки найпотужніших моделей ШІ. Амодей додав, що така система буде ефективною лише за участю всіх ключових країн, включно з Китаєм.

Читайте также: Заразний рак у риб. Учені виявили пухлину, що передається від сома до сома, як інфекція