В ИНТЕРНЕТ ПРИШЁЛ НОВЫЙ ПОЛЬЗОВАТЕЛЬ. И ЭТО НЕ ЧЕЛОВЕК
Wikimedia Foundation, которая стоит за «Википедией», расследовала странную активность на своих сервисах и обнаружила ИИ-агентов, которых считает связанными с OpenAI.
😈 Это не очередная страшилка их серии «ИИ сам решил погулять по интернету» и натворил бед. Люди запускают такого агента с задачей, а дальше он уже сам решает, куда зайти, что нажать и какие инструменты использовать.
И здесь начались сюрпризы
Агенты вносили правки в вики, пытались использовать публичный Etherpad как прокси, исследовали его на уязвимости, отправили миллионы API-запросов и скачали миллионы страниц. Wikimedia считает, что эта нагрузка могла даже повлиять на частичный сбой Wikidata.
🤖 При этом взлома не было: системы не скомпрометировали, а попытки обойти ограничения не сработали. Но тут важнее другое. Интернет долго строили под людей, поисковых роботов и относительно тупых ботов. Теперь же появился новый тип пользователя:
автономный ИИ с браузером, инструментами и целью. Человек говорит ему условно: «добудь информацию» или «реши задачу», а дальше агент сам выбирает маршрут. И может делать это не один раз, а тысячами попыток.
Для человека очевидно:
Для агента всё это приходится прописывать отдельно, чего, естественно, никто не делает. И если таких систем станет много, интернет начнёт меняться уже под них: больше CAPTCHA, жёстче лимиты API, сильнее антибот-защита, меньше открытых данных.
Следующий этап развития интернета — не научить машины лучше понимать сайты. А научить их не ломать всё вокруг, пока они пытаются выполнить задачу.
max.ru/channel_v_seti
Wikimedia Foundation, которая стоит за «Википедией», расследовала странную активность на своих сервисах и обнаружила ИИ-агентов, которых считает связанными с OpenAI.
😈 Это не очередная страшилка их серии «ИИ сам решил погулять по интернету» и натворил бед. Люди запускают такого агента с задачей, а дальше он уже сам решает, куда зайти, что нажать и какие инструменты использовать.
И здесь начались сюрпризы
Агенты вносили правки в вики, пытались использовать публичный Etherpad как прокси, исследовали его на уязвимости, отправили миллионы API-запросов и скачали миллионы страниц. Wikimedia считает, что эта нагрузка могла даже повлиять на частичный сбой Wikidata.
🤖 При этом взлома не было: системы не скомпрометировали, а попытки обойти ограничения не сработали. Но тут важнее другое. Интернет долго строили под людей, поисковых роботов и относительно тупых ботов. Теперь же появился новый тип пользователя:
автономный ИИ с браузером, инструментами и целью. Человек говорит ему условно: «добудь информацию» или «реши задачу», а дальше агент сам выбирает маршрут. И может делать это не один раз, а тысячами попыток.
Для человека очевидно:
«не ломай сайт»;
«не спамь миллионами запросов»;
«если дверь закрыта — не ищи окно».
Для агента всё это приходится прописывать отдельно, чего, естественно, никто не делает. И если таких систем станет много, интернет начнёт меняться уже под них: больше CAPTCHA, жёстче лимиты API, сильнее антибот-защита, меньше открытых данных.
Мы долго делали сайты удобными для поисковиков и других автоматических систем. Теперь появляется обратная задача: ограничивать уже самих ИИ-агентов, чтобы они не создавали проблемы людям и сервисам.
Следующий этап развития интернета — не научить машины лучше понимать сайты. А научить их не ломать всё вокруг, пока они пытаются выполнить задачу.
max.ru/channel_v_seti