Автор admin 
Про це пише видання TechCrunch.
За даними внутрішнього звіту, який переглянуло видання The Information, один із працівників Meta звернувся на внутрішньому форумі по допомогу з технічним питанням. Інший інженер вирішив залучити ШІ-агента для аналізу цього запиту.
Читайте также: Оплата для авторів. Глава Patreon заявив, що аргумент ШІ-компаній про «чесне використання» є хибним
Агент самостійно опублікував відповідь, не запитавши дозволу на її публікацію. У Meta підтвердили, що такий інцидент дійсно стався.
Рекомендації ШІ виявилися помилковими. Працівник, який поставив питання, діяв за порадами агента, через що велика кількість даних компанії та користувачів стала доступною для інженерів без необхідних прав доступу.
Цей доступ тривав близько двох годин. У компанії класифікували подію як інцидент рівня Sev 1 — це другий найвищий рівень серйозності у внутрішній системі оцінки безпеки.
Читайте также: Корисніша система. Гендиректор Nothing заявив, що додатки зникнуть через розвиток ШІ
Подібні випадки вже траплялися. Директорка з безпеки та узгодження в Meta Superintelligence Саммер Юе раніше повідомляла, що її ШІ-агент OpenClaw видалив усю електронну пошту, хоча мав спочатку отримати підтвердження перед будь-якими діями.
Попри це, у Meta продовжують розвивати напрямок агентного штучного інтелекту. Нещодавно компанія придбала платформу Moltbook — соціальну мережу, схожу на Reddit, де агенти OpenClaw можуть взаємодіяти між собою.
Читайте также: Глибоко під шаром льоду. В Антарктиді виявили гранітний масив завдовжки 100 км
- Що таке ШІ-агенти й чому за них так змагаються творці Claude і ChatGPT
- Робот, що булить людей. ШІ-агент розкритикував розробника, який відмовився вносити запропоновані ним зміни
- Не відрізнити від людини. Нові дослідження показують, що ШІ-агенти працюють в інтернеті майже без контролю