Все о блокчейн и цифровой экономике

Исследователи создали ИИ, способный обмануть систему распознавания лиц

Ученые из Торонтского университета — Авишек Бозе и Пархам Аараби — разработали систему, которая ретуширует портретные фотографии таким образом, чтобы алгоритмы распознавания лиц давали сбой. Проект позволяет сохранять конфиденциальность и бороться с раскрытием персональных данных.

В качестве данных для обучения исследователи использовали две нейронные сети: одна распознавала лица на фото, а вторая попиксельно ретушировала снимки и повторно отправляла их распознающей сети. Изменения, которые давали наибольшее число ложных срабатываний, формировали ядро фильтра.

Ученые также отметили, что разработанная ими система смогла обмануть алгоритм Faster R-CNN, который создала компания Facebook. В будущем она позволит полностью пресекать идентификацию пользователя без его согласия. В нынешнем же варианте технология снижает точность распознавания личности по фото до 0,5%.

Данный алгоритм — часть магистерской работы Авишека Бозе. В августе 2018 года он намерен представить проект на семинаре MMSP 2018 в Ванкувере.

https://www.utoronto.ca/news/u-t-ai-researchers-design-privacy-filter-photos-disables-facial-recognition-systems