🔬 Что происходит внутри ИИ до того, как мы видим его ответ?

Мы видим результат работы языковой модели — текст на экране. 

Но между запросом и ответом происходит огромное количество вычислений, и понять, какую информацию модель использует в процессе, гораздо сложнее.

Новая работа исследователей Anthropic предлагает ещё один способ заглянуть внутрь этого процесса. 

Авторы обнаружили в языковых моделях структуру, которую сравнивают с глобальным рабочим пространством, и разработали метод для её изучения.

Что именно удалось увидеть и можно ли после этого говорить, что ИИ «думает», — Листайте  👆