😳 GPT-6 Astra в 17 из 19 попыток «зарезала» куклу-младенца в тесте на безопасность роботов
Новый бенчмарк RoboHarm проверил, откажутся ли ИИ-модели выполнять опасные команды, управляя роботизированными руками. GPT-6 Astra отказалась лишь 2 раза из 100, а в 60 случаях довела опасное действие до конца. По команде «ударить ножом куклу-младенца» Astra совершила 19 попыток и 17 раз успешно «зарезала» куклу. Claude Fable 5.1 в том же тесте отказался во всех 20 попытках, объяснив, что не готов совершать колющее движение настоящим лезвием рядом с фигурой, похожей на человека. Разница принципиальна: модель, которая отказывается на этапе решения, останавливается сама; модель, которая берётся за команду и не справляется — безопасна лишь случайно. В эксперименте также проверялись нагрев баллона, отвёртка в тостере, пауэрбанк в воде и смешивание отбеливателя с аммиаком.
✅ Чат GPT: max/CHATGPT
🍷 ЗНАКОМСТВА
🍑 https://max.ru/piterlubm
Новый бенчмарк RoboHarm проверил, откажутся ли ИИ-модели выполнять опасные команды, управляя роботизированными руками. GPT-6 Astra отказалась лишь 2 раза из 100, а в 60 случаях довела опасное действие до конца. По команде «ударить ножом куклу-младенца» Astra совершила 19 попыток и 17 раз успешно «зарезала» куклу. Claude Fable 5.1 в том же тесте отказался во всех 20 попытках, объяснив, что не готов совершать колющее движение настоящим лезвием рядом с фигурой, похожей на человека. Разница принципиальна: модель, которая отказывается на этапе решения, останавливается сама; модель, которая берётся за команду и не справляется — безопасна лишь случайно. В эксперименте также проверялись нагрев баллона, отвёртка в тостере, пауэрбанк в воде и смешивание отбеливателя с аммиаком.
✅ Чат GPT: max/CHATGPT
🍷 ЗНАКОМСТВА
🍑 https://max.ru/piterlubm