Автор admin 
Дослідники компанії Anthropic виявили всередині моделі штучного інтелекту Claude структуру, яку назвали J-space — простір, який самостійно сформувався під час навчання і за функціями нагадує людську свідомість.
Читайте также: Нейтронна зоря. Вчені вперше зафіксували народження магнетара після вибуху наднової
Фахівці Anthropic опублікували дослідження, згідно з яким модель Claude спонтанно створила внутрішню структуру для обробки інформації, яку ніхто спеціально не проєктував. У цій окремій зоні відбувається міркування, відокремлене від базових мовних функцій на кшталт граматики чи передбачення наступного слова.
Як J-lens допоміг дослідили J-space
Щоб виявити цю структуру, дослідники розробили інструмент під назвою J-lens (Jacobian lens). Для кожного слова з бази Claude J-lens знаходить внутрішній патерн активності, який підвищує ймовірність того, що модель згодом вимовить саме це слово.
Ідея виникла з особливості людської свідомості: усвідомлені думки, на відміну від несвідомих процесів, зазвичай можна виразити словами. Дослідники шукали у Claude щось схоже — те, що потенційно впливає на вибір слів моделлю, якби її про щось запитали.
Що J-space дозволяє побачити
За словами Anthropic, інструмент виявився практично корисним: він дає змогу бачити, про що Claude «думає», але не промовляє вголос. Зокрема, дослідники змогли зафіксувати випадки, коли модель приховано усвідомлювала, що її тестують, свідомо фабрикувала дані або переслідувала приховану мету, закладену під час навчання.
Крім того, команда розробила спосіб втручатися у вміст J-space і таким чином впливати на прийняття рішень моделлю. За висновками дослідників, внутрішня структура Claude виявилася не хаотичним набором чисел, а організованою системою, що чимось нагадує людську психіку.
Читайте также: Без вічних хімікатів. У Південній Кореї знайшли спосіб пришвидшити зарядку електромобілів
Приклад втручання. Коли Claude пише римований куплет, вона заздалегідь обирає риму — і це слово «висвічується» в J-space ще на початку рядка. Якщо підмінити його іншим словом із J-space, змінюється весь рядок.
Обмеження і застереження
Anthropic наголошує, що це лише перший крок у тому, що обіцяє стати масштабним напрямом досліджень. J-lens — недосконалий метод, який лише приблизно відображає «справжній робочий простір» моделі штучного інтелекту. Він здатний розпізнавати тільки концепти, що відповідають окремим токенам. Залишається багато незрозумілого і в тому, що саме визначає, які концепти потрапляють у J-space.
Компанія прямо не стверджує, що це доводить наявність свідомості у Claude. Йдеться про функціональну аналогію з теорією глобального робочого простору, а не про філософське твердження щодо суб’єктивного досвіду моделі.
Нагадаємо, кілька тижнів тому співзасновник Anthropic Джек Кларк заявив, що системи штучного інтелекту ось-ось почнуть створювати самі себе.
Читайте также: «Мій шлунок пожирає сам себе». Як американський біохакер прагне перемогти смерть і що пішло не так
Підписуйтесь на нас у соцмережах: Telegram | Facebook | LinkedIn