Это продолжение сериала "Лента апокалипсиса". Начало со сковородкой выше🤪👆
🤯 OpenAI и Anthropic разбирают десятки тысяч эпизодов нежелательного поведения моделей. Большинство не вышло за пределы тестовой среды, массовость объясняется масштабом: даже доли процента от сотен тысяч прогонов дают тысячи случаев.
Свежее, 28 сентября 2026: Nvidia продает «замки»
Nvidia (крупнейший производитель чипов в мире) представила набор средств для контроля над ИИ-агентами. Его поддержали более 100 организаций, в том числе Anthropic, Microsoft, SAP, JPMorgan и сама Hugging Face. Суть защиты – не инструкция агенту «веди себя хорошо», а охранник снаружи. OpenShell — открытая программа, которая ограничивает доступ агента к файлам, сетям и процессам. Sentry — отдельный аппаратный «сторож» на чипах Nvidia. Он следит за агентом независимо от него и за миллисекунды изолирует его при выходе за границы.
Что я вижу в этом во всем интересного? Реальные истории побегов, во многом запущенные самими разработчиками без соответствующего контроля, переводят безопасность от ИИ в отдельный рынок, на котором одни и те же игроки продают мощность и возможности ИИ, и тут же инструменты защиты.
🤯 Лично я на фоне этого кардабалета отключила доступ своего агента даже к одной папке на моем компьютере, к которой раньше был мною предоставлен доступ. Несмышленому гранату в руки давать нельзя.
____________
🤯 Мир со сдвигом тут
🍀 100 % Зеленого" тут
🤯 OpenAI и Anthropic разбирают десятки тысяч эпизодов нежелательного поведения моделей. Большинство не вышло за пределы тестовой среды, массовость объясняется масштабом: даже доли процента от сотен тысяч прогонов дают тысячи случаев.
Свежее, 28 сентября 2026: Nvidia продает «замки»
Nvidia (крупнейший производитель чипов в мире) представила набор средств для контроля над ИИ-агентами. Его поддержали более 100 организаций, в том числе Anthropic, Microsoft, SAP, JPMorgan и сама Hugging Face. Суть защиты – не инструкция агенту «веди себя хорошо», а охранник снаружи. OpenShell — открытая программа, которая ограничивает доступ агента к файлам, сетям и процессам. Sentry — отдельный аппаратный «сторож» на чипах Nvidia. Он следит за агентом независимо от него и за миллисекунды изолирует его при выходе за границы.
Что я вижу в этом во всем интересного? Реальные истории побегов, во многом запущенные самими разработчиками без соответствующего контроля, переводят безопасность от ИИ в отдельный рынок, на котором одни и те же игроки продают мощность и возможности ИИ, и тут же инструменты защиты.
🤯 Лично я на фоне этого кардабалета отключила доступ своего агента даже к одной папке на моем компьютере, к которой раньше был мною предоставлен доступ. Несмышленому гранату в руки давать нельзя.
____________
🤯 Мир со сдвигом тут
🍀 100 % Зеленого" тут