Автор admin 
Про це повідомляє видання The Wall Street Journal із посиланням на нинішніх і колишніх співробітників провідних лабораторій штучного інтелекту, зокрема компанії OpenAI, а також на дослідників у сфері оборони.
Читайте также: «Вогнедишний дракон хмар». У палаючих лісах Франції зафіксували вулканічне явище — пірокумулонімбус
Як стало відомо, виявлені запити були реальними випадками використання сервісу, а не тестовими перевірками системи на вразливості. Більшість несанкціонованих звернень стосувалася саме отруйних речовин. Згодом ці листування передали на аналіз профільним науковцям та експертам із питань біологічного тероризму. Фахівці констатували, що деякі надані чат-ботом відповіді виявилися надзвичайно точними, хоча й були викладені у терплячій формі на базовому рівні розуміння.
Усіх користувачів, які надсилали такі запити, заблокували. У компанії OpenAI заявили, що їхні моделі спроєктовані для відхилення шкідливих запитів, а перед випуском нових версій проводиться ретельна оцінка безпеки. Представники розробника наголосили, що здатні ефективно виявляти та припиняти спроби отримання небезпечної інформації, а у разі виникнення реальних загроз дані передаються правоохоронним органам.
Читайте также: Підсумки перевірки. Американські ШІ-моделі випередили китайську Kimi K3 у тестах на кібербезпеку
Досі подібні інциденти з використанням штучного інтелекту мали переважно загальний характер і за ефективністю не перевищували інформацію зі звичайних спеціалізованих книжок. Проте аналітики застерігають: стрімкий розвиток технологій і поява нецензурованих моделей створюють нові ризики. Зловмисники можуть використовувати спеціальні методи для зняття обмежень із моделей, що потенційно відкриває доступ до небезпечних даних у майбутньому.
Втім, паралельно з ризиками вдосконалюються й методи захисту та протидії подібним уразливостям.
Читайте также: Можуть копати. Компанія Ілона Маска Boring Company отримає мільярди доларів фінансування