Facebook научил ИИ обманывать системы видеораспознавания по лицу (видео)

Разработчики систем использующих искусственный интеллект в настоящее время работают над созданием методики противодействия распространения подделок и все более высокотехнологичными инструментами, используемыми для их создания. Компания Facebook, не раз замешанная в скандалах с нарушением приватности, предлагает методику борьбы с подделками, в частности с формированием фейкового видео.

Подразделение Facebook, специализирующееся на исследовании высоких технологий Facebook AI Research(FAIR), разработала алгоритм позволяющий обманывать систему распознавания лиц. Имеющиеся технологии, до сих пор предлагали только обход систем слежения и распознавания личности по фотографии статичного объекта. Специалисты FAIR предлагают методику введения в заблуждение систем работающих с видео. Алгоритм позволяет обманывать даже в режиме реального времени при прямой трансляции.


В основу алгоритма FAIR положена методика практически невидимого для человеческого глаза изменения черт лица при помощи машинного обучения. Однако такие изменения не позволят системе распознавания по лицу однозначно идентифицировать личность.

Распознавание лиц может привести к потере конфиденциальности, а технология замены лиц может быть использована для создания вводящих в заблуждение видео. Для борьбы с такими случаями применения технологии и предназначены алгоритмы разработанные FAIR.

Следует отметить, что в России, в Москве начат судебный процесс по иску жительницы столицы к властям о правомочности применения систем распознавания личности в городских системах видеонаблюдения. По мнению подателя иска, эта технология нарушает право россиян на частную жизнь, гарантированное Конституцией. Все биометрические данные граждан могут быть использованы только с их письменного согласия.

Источник: venturebeat