Паттерны против камер видеонаблюдения
Специалист по кибербезопасности Билл Сверинген представил проект noRecognition — систему, которая генерирует специальные узоры (adversarial pattern) и делает людей, автомобили и другие предметы «невидимыми» для алгоритмов компьютерного зрения.
Камеры видеонаблюдения сейчас повсюду. За считанные секунды они могут распознать человека или машину. Да, все это делается для безопасности, но есть и обратная сторона: мы все потеряли право на неприкосновенность частной жизни. Именно это и стало триггером для разработчика. Он хочет дать людям возможность «уйти с радаров».
noRecognition сама ищет паттерны: генерирует, показывает алгоритму распознавания и получает обратную связь. Если камера обнаружила объект — рисунок меняется. За год Сверинген провел 31 миллион тестов, проверяя узоры против 11 систем компьютерного зрения с открытым исходным кодом, и научил свою модель «рисовать» правильные рисунки. Теперь она генерирует новые шаблоны каждую минуту. Причем каждый последующий математически лучше предыдущего.
Как это работает
Если надеть футболку с рисунком от Сверингена, камера продолжит снимать происходящее, вы попадете на запись, но узор на одежде превратит вас в цифровой шум. Алгоритм просто не сможет идентифицировать вас как человека и не сгенерирует метку обнаружения. Правда это работает до тех пор, пока запись не посмотрит реальный человек. Он увидит вас, и если потребуется, сможет начать процедуру распознавания и поиска. Просто это будет дольше.
Автор проекта не выкладывает удачные паттерны, чтобы производители камер не смогли натренировать их на распознавание.
Специалист по кибербезопасности Билл Сверинген представил проект noRecognition — систему, которая генерирует специальные узоры (adversarial pattern) и делает людей, автомобили и другие предметы «невидимыми» для алгоритмов компьютерного зрения.
Камеры видеонаблюдения сейчас повсюду. За считанные секунды они могут распознать человека или машину. Да, все это делается для безопасности, но есть и обратная сторона: мы все потеряли право на неприкосновенность частной жизни. Именно это и стало триггером для разработчика. Он хочет дать людям возможность «уйти с радаров».
noRecognition сама ищет паттерны: генерирует, показывает алгоритму распознавания и получает обратную связь. Если камера обнаружила объект — рисунок меняется. За год Сверинген провел 31 миллион тестов, проверяя узоры против 11 систем компьютерного зрения с открытым исходным кодом, и научил свою модель «рисовать» правильные рисунки. Теперь она генерирует новые шаблоны каждую минуту. Причем каждый последующий математически лучше предыдущего.
Как это работает
Если надеть футболку с рисунком от Сверингена, камера продолжит снимать происходящее, вы попадете на запись, но узор на одежде превратит вас в цифровой шум. Алгоритм просто не сможет идентифицировать вас как человека и не сгенерирует метку обнаружения. Правда это работает до тех пор, пока запись не посмотрит реальный человек. Он увидит вас, и если потребуется, сможет начать процедуру распознавания и поиска. Просто это будет дольше.
Автор проекта не выкладывает удачные паттерны, чтобы производители камер не смогли натренировать их на распознавание.