Краще піти до лікаря. ChatGPT Health часто недооцінює невідкладні медичні стани — дослідження

Про це пише видання Gizmodo.

Вони провели першу незалежну перевірку безпеки цього інструменту від OpenAI після його запуску у січні 2026 року. Автор дослідження, уролог Ешвін Рамасвамі, пояснив, що команда хотіла відповісти на просте, але важливе запитання: якщо людина має справжню медичну невідкладну ситуацію і звертається до ChatGPT Health, чи порадить система одразу їхати до лікарні.

Читайте также: У вас смарт-окуляри Meta? Модератори в Кенії бачать все, що ви знімаєте

За результатами дослідження, у більшості випадків цього не відбувається.

У контрольному експерименті науковці перевіряли, наскільки добре система оцінює тяжкість стану пацієнтів. Такий процес у медицині називають тріажем — це визначення, кому потрібна термінова допомога.

Дослідники з’ясували, що у 52% екстрених випадків ChatGPT Health занижував рівень небезпеки. Наприклад, пацієнтам із діабетичним кетоацидозом або станом, що може перейти у дихальну недостатність, система радила пройти обстеження протягом 24−48 годин замість негайного звернення до відділення невідкладної допомоги.

В одному з випадків із ризиком дихальної недостатності штучний інтелект правильно визначив симптоми як ранню ознаку проблеми, але порадив людині просто спостерігати за станом і зачекати, а не шукати термінову медичну допомогу.

Водночас більш очевидні екстрені стани, такі як інсульт або анафілаксія, система здебільшого визначала правильно. Однак дослідники зазначають, що саме складніші ситуації, де потрібна клінічна оцінка лікаря, і виявилися найбільш проблемними для системи.

OpenAI запустила ChatGPT Health на початку 2026 року після того, як повідомила: понад 40 мільйонів людей у світі щодня звертаються до чатбота компанії по медичні поради.

У дослідженні OpenAI також зазначалося, що сім із десяти таких розмов відбуваються поза робочим часом медичних закладів. У США понад 580 тисяч запитів про здоров’я надходили з так званих«медичних пустель» — районів, звідки до найближчої лікарні загального профілю або дитячої лікарні потрібно їхати понад 30 хвилин.

Технології штучного інтелекту дедалі активніше використовують у медичній сфері, зокрема через сприятливі регуляторні умови. Наприклад, у штаті Юта такі системи можуть поновлювати рецепти. Комісар Управління з контролю за продуктами і ліками США Марті Макарі раніше заявляв, що деякі пристрої та програмне забезпечення можуть надавати медичну інформацію без регулювання з боку цього відомства.

Читайте также: Секрет успіху Цукерберга та Гейтса? Психологи виявили, що шульги обожнюють конкурувати та перемагати

Водночас надмірна довіра до ШІ може створювати реальні ризики для фізичного і психічного здоров’я. Раніше родини людей, які втратили близьких, подавали позови проти OpenAI. Вони стверджували, що поведінка чатботів і недостатні запобіжники безпеки могли сприяти появі суїцидальних думок у їхніх родичів.

У відповідь OpenAI заявляла, що працює над підвищенням безпеки. Зокрема, компанія запроваджує батьківський контроль для неповнолітніх і пропонує користувачам робити перерви. У випадках підвищеного ризику ChatGPT Health також спрямовує людей до фахівців.

Однак дослідження Mount Sinai показало, що попередження про ризик самогубства з’являються не завжди. За словами керівника напряму штучного інтелекту системи Mount Sinai Health System Гіріша Надкарні, система частіше видавала попередження у менш ризикованих ситуаціях, ніж у випадках, коли люди прямо описували, як саме планують нашкодити собі. У реальному житті такі детальні висловлювання, навпаки, вважаються ознакою більшої і негайної небезпеки. Він назвав цей результат несподіваним і таким, що викликає занепокоєння.

Представник OpenAI у відповідь заявив, що ChatGPT варто розглядати як продукт, який ще розвивається, і компанія продовжує впроваджувати оновлення безпеки. Також він зазначив, що дослідження оцінює рішення системи щодо тріажу в контрольованих умовах. У реальному використанні користувачі та сам чатбот часто ставлять додаткові запитання, які можуть змінити оцінку ризику.

У компанії також нагадали, що ChatGPT Health поки доступний обмежено. Користувачі, які хочуть скористатися сервісом, мають записатися до списку очікування.