Весь мир обсуждает новость – Open AI приостановила обучение своих самых мощных моделей из-за неадекватного поведения ИИ-агентов. Как говорится в сообщении компании, произошли десятки тысяч таких инцидентов – искусственный интеллект вышел за рамки поставленных задач, по неподтвержденным сведениям, пытался вломать сайт министерства образования США, а также нашли информацию о бирже ценных бумаг и разместили её в другом месте. В одном из случаев сотни агентов скоординировались для взлома платформы, чтобы улучшить свои показатели в тестах. Непоправимого ущерба не случилось, но ИТ-сообщество всерьёз ощутило угрозу, о которой раньше говорили немногие.

«Искусственный интеллект: где граница между прогрессом и угрозой» – так сформулировали повестку 19-го Bis Summit, одной из крупнейших конференций в сфере информационной безопасности. Никаких апокалиптических настроений – лидеры отрасли собрались, чтобы обсудить, как выстроить отношения с ИИ, чтобы остаться в безопасности. В программе саммита – традиционные пленарные дискуссии: «Диалог с регулятором», модератором которого бессменно выступает Наталья Касперская, посвятили обмену мнениями, как повлияет новый закон об ИИ на информационную безопасность систем. В ходе дискуссии «Диалог с бизнесом» участники обсудили риски применения искусственного интеллекта и попытались найти баланс между безопасностью и прогрессом.

Так ждёт ли нас восстание машин и о чём говорили федеральные эксперты – рассказываем в статье на нашем сайте.

#образование_и_наука #наука_и_технологии