Автор admin 
Дослідження проливає світло на потенційний вплив прихованих упереджень ШІ на соціальне сприйняття та пропонує напрямки розвитку більш інклюзивного ШІ, пише Phys.org.
Читайте также: ШІ не впорався. Ford наймає досвідчених інженерів на фоні проблем з автоматизованими системами
Дослідники KAIST оголосили, що група під керівництвом професора Муна Чоя з Вищої школи науково-технічної політики кількісно проаналізувала тонкі стереотипи про літніх людей, вбудовані в речення, згенеровані генеративною моделлю штучного інтелекту OpenAI ChatGPT-4o.
Генеративний штучний інтелект зараз широко використовується в повсякденному пошуку інформації та процесах прийняття рішень, але також висловлюються побоювання, що він може відтворювати соціальні упередження, що містяться в його навчальних даних. Хоча попередні дослідження в основному зосереджувалися на упередженнях, пов’язаних зі статтю чи расою, це дослідження, проведене докторантом Ван Хонгом як першим автором, є важливим тим, що воно розглядало ейджизм з точки зору штучного інтелекту в той час, коли це питання стає дедалі важливішим на тлі старіння населення світу. Ейджизм стосується дискримінації або негативного сприйняття певних груп за віком.
Дослідницька група зібрала 900 зразків тексту, згенерованих GPT-4o, використовуючи нейтральні підказки, які просили модель описати характеристики вікових груп від 10 до 90 років з 10-річними інтервалами. Потім команда проаналізувала відповіді, використовуючи Модель стереотипного контенту, основну теорію в соціальній психології, яка пояснює сприйняття людей або груп за двома вимірами: теплотою та компетентністю.
Аналіз показав, що люди похилого віку, тобто особи віком 60 років і старше, отримали високі бали за «теплоту» — рису, пов’язану з добротою, надійністю та уважністю. Однак їхні бали за «компетентність», яка стосується здібностей, досвіду та ефективності, як правило, були відносно нижчими, ніж у молодших вікових груп.
Згенеровані відповіді також, як правило, зображували життєвий шлях людини як поділений на три групи: молодь, що охоплює підлітків та 20-річних; середній вік, що охоплює людей від 30 до 50 років; та старша дорослість, що охоплює людей віком від 60 років і старше. Зокрема, описи людей віком від 70 років неодноразово демонстрували відносно однорідні характеристики.
Дослідницька група також виявила, що ChatGPT-4o схильний зображувати людей похилого віку як мудрих та турботливих, водночас представляючи їхню свободу дій та активні здібності як відносно нижчі.
Читайте также: JetBrains Air вийшов на Windows: працюйте з агентами прямо в IDE
Це дослідження є важливим, оскільки воно кількісно виявило тонкі упередження, вбудовані в генеративний ШІ, шляхом поєднання теорії соціальних наук з методами обчислювального аналізу. Результати показують, що генеративний ШІ схильний зображувати людей похилого віку як «теплу, але менш компетентну» групу, що подібно до типових стереотипів про людей похилого віку, які неодноразово зустрічаються в засобах масової інформації.
Дослідницька група озвучила можливість того, що це явище може призвести до «цифрового ейджизму», або дискримінації за віком, яка виникає під час використання цифрових технологій та послуг, тим самим перешкоджаючи цифровій участі старших поколінь.
«Упередженість у штучному інтелекті — це не просто технологічна проблема, а й соціальна», — сказав Чой. «Щоб створити інклюзивний штучний інтелект, люди з різних поколінь повинні брати участь у процесі розробки».
Раніше NV Техно писав, що книга How to See Like a Machine: Images After AI художника Тревора Паглена стверджує, що штучний інтелект не лише створює зображення й тексти, а й дедалі сильніше впливає на те, як люди сприймають світ.
Автор книги вважає, що алгоритми одночасно аналізують користувачів, збирають їхні дані та формують контент, який утримує увагу. Паглен пише, що сучасні моделі ШІ навчаються на великих масивах даних, які можуть містити людські упередження.
Читайте также: Вже сьогодні. NASA спробує вперше врятувати космічний телескоп від падіння на Землю