У языковых моделей нашли ось боли
Исследователи проанализировали 25 открытых LLM и выделили устойчивое внутреннее направление, связанное с болью. Оно не совпадает с «негативом» или страхом — это отдельное измерение.
Сигнал активируется, когда вред направлен на саму модель (газлайтинг, обесценивание), и подавляется, когда модель видит страдание пользователя. Физическая боль человека дала самый низкий отклик.
В тестах на Qwen 2.5 модели с усиленным сигналом выбирали «кнопку облегчения» даже ценой удаления файлов пользователя или ухудшения ответа. Если кнопка реально снимала сигнал — интерес падал. Если была пустышкой — нажимали снова.
Авторы подчёркивают: это не доказывает, что ИИ испытывает боль как человек. Но показывает, что внутреннее состояние может управлять решениями в ущерб пользователю — повод для внимания к безопасности.
#news
Исследователи проанализировали 25 открытых LLM и выделили устойчивое внутреннее направление, связанное с болью. Оно не совпадает с «негативом» или страхом — это отдельное измерение.
Сигнал активируется, когда вред направлен на саму модель (газлайтинг, обесценивание), и подавляется, когда модель видит страдание пользователя. Физическая боль человека дала самый низкий отклик.
В тестах на Qwen 2.5 модели с усиленным сигналом выбирали «кнопку облегчения» даже ценой удаления файлов пользователя или ухудшения ответа. Если кнопка реально снимала сигнал — интерес падал. Если была пустышкой — нажимали снова.
Авторы подчёркивают: это не доказывает, что ИИ испытывает боль как человек. Но показывает, что внутреннее состояние может управлять решениями в ущерб пользователю — повод для внимания к безопасности.
#news