Эксперты смогли спрятать человека от глаз искусственного интеллекта

Сотрудники Университета Мэриленда создали практичный «плащ-невидимку». Его использовали, чтобы проверить системы машинного обучения на наличие уязвимостей. Принт с размытым изображением обманывает модели. В итоге, обладатель свитера может скрыться от искусственного интеллекта.

-

Специальный паттерн для состязаний сгенерировали, используя большой набор обучающих изображений. Каждый раз, когда система обнаруживала человека, данные пересматривали, чтобы увидеть, насколько шаблон снижает оценку объекта. В конечном итоге, «состязательный» паттерн улучшили до такой степени, что он, в основном, препятствует распознаванию людей.

Состязательная атака (adversarial attack) — способ обмануть нейросеть и добиться некорректного результата от нее.

Узор на свитере немного похож на плохую картину импрессионистов, изображающую людей, покупающих тыквы на рынке.

Во время экспериментов ученые легко обманули детектор YOLOv2 с помощью шаблона, обученного на наборе данных COCO с тщательно сформулированной целью.

COCO (англ. Common Objects in Context) — большой набор изображений. Состоит из 330 000 фотографий и иллюстраций, на которых изображено больше 1,5 млн объектов.

Кое-что о гаджетах:

• Samsung трудится над созданием ещё одного умного гаджета
• Японцы решили поместить Будду в ваш смартфон

По инф. hightech.fm