Автор admin 
Про це пише видання TechCrunch.
У компанії пояснили, що документ під назвою Child Safety Blueprint має допомогти протидіяти зростанню випадків сексуальної експлуатації дітей, пов’язаних із розвитком ШІ. За даними Internet Watch Foundation, лише за першу половину 2025 року зафіксували понад 8 000 повідомлень про матеріали сексуального насильства над дітьми, створені за допомогою ШІ. Це на 14% більше, ніж роком раніше. Зокрема, злочинці використовують такі технології для створення фейкових відвертих зображень дітей і переконливих повідомлень для втягування їх у спілкування.
Читайте также: Українські стартапи запрошують на три найбільші tech-події Європи: участь безкоштовна
Поява цього плану відбувається на тлі посиленої уваги з боку політиків, освітян і правозахисників, особливо після випадків, коли молоді люди вчиняли самогубство після спілкування з чат-ботами.
У листопаді Social Media Victims Law Center разом із Tech Justice Law Project подали сім позовів у судах Каліфорнії. У них стверджується, що OpenAI випустила модель GPT-4o до повної готовності. Позивачі заявляють, що психологічний вплив продукту міг сприяти смертям через самогубство та випадкам допомоги у самогубстві. У позовах згадують чотирьох людей, які загинули, і ще трьох, які пережили важкі психічні стани після тривалого спілкування з чат-ботом.
Новий план розробили разом із National Center for Missing and Exploited Children та Attorney General Alliance, а також із урахуванням пропозицій генеральних прокурорів Джефа Джексона і Дерека Брауна.
Читайте также: Майстер на всі руки. Meta представила модель Muse Spark, яка працює в 10 разів ефективніше
У компанії зазначили, що документ передбачає три основні напрямки: оновлення законодавства з урахуванням матеріалів, створених ШІ, удосконалення механізмів передачі даних правоохоронцям і впровадження захисних функцій безпосередньо в системи ШІ. Це має допомогти швидше виявляти загрози та оперативно передавати інформацію слідчим.
Новий план доповнює попередні заходи компанії, зокрема оновлені правила взаємодії з користувачами до 18 років. Вони забороняють створення неприйнятного контенту, заохочення до самопошкодження та поради, які допомагають приховувати небезпечну поведінку від дорослих. Раніше OpenAI також оприлюднила окремий план безпеки для підлітків в Індії.
Читайте также: Anthropic запускає Claude Managed Agents: платформу керування агентами
- Через розвиток ШІ. OpenAI запропонувала податки на автоматизовану працю та фонд для громадян США
- Розслідування не уникнути. OpenAI звинуватила Ілона Маска та Meta у можливій координації атак
- Для нових стартапів. Колишні співробітники OpenAI створили інвестфонд і вже почали вкладати кошти