Нейросеть от Google приняла черепаху за винтовку (4 фото + видео)
В охранные системы и автомобили активно внедряют искусственный интеллект (AI) и нейронные сети. Исследователи из Labsix поставили перед собой цель проверить, насколько сейчас можно доверять таким системам. Экспериментаторы показали, как Google AI принял созданную на 3D-принтере черепаху за двуствольное ружье. Такая оптическая иллюзия видна только компьютерному зрению, принявшему внешний вид черепахи за винтовку. Человек же видит обыкновенное земноводное. Тоже самое происходит и с бейсбольным мячиком, классифицированным ИИ чашкой эспрессо.
В реальной жизни такие иллюзии могут привести к ошибкам с тяжелыми последствиями. Например, автопилот в автомобиле примет дорожную рекламу, где изображен человек, за стоящего пешехода и выполнит резкое торможение в неположенном месте.
На нейронные системы возлагается все больший круг задач, поэтому такие ошибки могут привести к непредвиденным последствиям.
Экспериментаторы из Labsix испытывали открытую для общего тестирования систему Google Inception-v3. На данный момент этот алгоритм не используется на практике, но идет активная подготовка его внедрения в жизнь. Но для Google AI кот и гуакамоле практически идентичны. Что бы отличить кота от соуса в Google приняли решение поворачивать исходные изображения на некоторый угол.
Исследователи имели доступ к открытому для тестирования алгоритму, однако в реальной жизни у пользователей искусственным зрением такого доступа не будет. Ошибки искусственного интеллекта могут дорого обойтись человеку, поэтому разработчики должны внимательно исследовать наличие случайных стечений обстоятельств, чтобы избежать проблем в будущем. Google исследование не прокомментировал.
Источник: LabSix