08.03.2019 15:29
265

Компании Google и OpenAI создали «микроскоп» для нейросетей

Ученые создали систему Activation Atlases, чтобы понять, чем руководствуется искусственный интеллект во время распознания объектов. Разработчики сравнили свою программу с «микроскопом» для нейросетей. Исследователи компаний Google и OpenAI уверены, что их проект поможет в будущем избежать ошибок, связанных с идентификацией предметов и живых существ.

Специалисты пытались выяснить, как ИИ распознает предметы

Зная, как искусственный интеллект распознает объекты, его можно обмануть

В основу системы Activation Atlases легла программа DeepDream, с помощью нее разработчики намеревались выяснить, как искусственный интеллект воспринимает окружающую обстановку. По словам разработчиков, новая система словно проникает в «сознание» нейросети. Так, удалось узнать, что объекты искусственный интеллект узнает по скоплению пикселей или фрагменту изображения: рисунку плавника акулы или собачьей морды.

Из этих фрагментов нейросеть словно собирает мозаику, после чего выдает итоговый ответ. Узнав, как происходит распознавание объектов, исследователи решили запутать искусственный интеллект. Они взяли изображение с китовым плавником и добавили к нему бейсбольный мяч, из-за постороннего предмета ИИ решил, что он «увидел» акулу. Более ранние модели нейросетей ошибочно путали темнокожих людей с гориллами. Уязвимости в алгоритме есть, но такие системы, как Activation Atlases, могут помочь выявить и устранить их.

Получайте 5 лучших статей дня на Email

Подписка на новости

Простая форма подписки MailerLite!

Пожалуйста, подождите

Вы успешно подписались на рассылку!