Камери на вулицях більше не повинні служити лише для запису зображення, яке людина може потім переглянути за потреби. Все частіше в гру вступає штучний інтелект, який може аналізувати зображення в режимі реального часу, розпізнавати об'єкти, людей або їхню поведінку. Берлінський художник і технолог Саймон Векерт тепер вирішив показати, що навіть ці системи можуть бути не безпомилковими. Він створив одяг, в якому людина бачить вас абсолютно нормально, тоді як штучному інтелекту може бути важко зрозуміти, що перед ним знаходиться людська фігура.
ProПроект отримав характерну назву Цифровий камуфляж і на перший погляд вона нагадує дуже характерну гавайську сорочку. Вона вкрита барвистим абстрактним візерунком, що поєднує зелений, рожевий, помаранчевий та інші кольори. Однак дизайн був створений не лише для того, щоб одяг привертав увагу людей. Його справжня мета — заплутати алгоритми комп'ютерного зору. Вони сприймають зображення не так, як людське око. Системи виявлення об'єктів шукають певні комбінації країв, форм, текстур та інших характеристик, які вони навчилися асоціювати, наприклад, з людьми під час їхнього навчання. Тому Векерт створив шаблон, заснований на принципі так званої змагальної атаки, атаки, в якій вхідні дані навмисно змінюються таким чином, щоб змусити алгоритм видати неправильний результат.
Фото галерея
У цьому випадку виходить справді цікавий ефект. У демонстраціях цифрового камуфляжу система здатна позначати пішоходів навколо класичною рамкою з інформацією про те, що це люди, тоді як у деяких випадках Векерт у спеціальній сорочці взагалі не розпізнається як людина. Pro Людське око, звісно, залишається чудово видимим. Весь проєкт був створений у відповідь на впровадження системи камер із використанням штучного інтелекту в районі Коттбуссер Тор у Берліні. Тут камери та програмне забезпечення мають автоматично аналізувати події в громадських місцях, а система має мати змогу оцінювати поведінку людей. Своїм проєктом Векерт хотів привернути увагу, перш за все, до питання, наскільки ми повинні довіряти таким автоматизованим системам.
Однак важливо зазначити, що «Цифровий камуфляж» точно не є універсальним плащем-невидимкою, який дозволяє пройти повз будь-яку камеру безпеки непомітно. Векерт демонструє свою роботу з системою виявлення об’єктів з відкритим кодом YOLO і наголошує, що не стверджує, що його одяг може обдурити конкретні системи, що використовуються поліцією чи урядовими установами. Він також не може гарантувати, що візерунок працюватиме проти кожного алгоритму та за будь-яких умов. Але в цьому полягає суть усього проєкту. Громадськість часто не має уявлення, як саме працюють системи, що використовуються для автоматизованого спостереження, наскільки вони надійні або як легко їх обдурити. «Цифровий камуфляж» покликаний показати, що технології, які на перший погляд здаються майже безпомилковими, можуть мати свої слабкі сторони.
Фото галерея
Цікаво також те, що такі експерименти — це не просто теоретичні трюки. Так звані змагальні патерни є предметом реальних досліджень, і вчені вже давно досліджують, як спеціально створені патерни можна використовувати для впливу на поведінку людей.euroнові мережі, що використовуються для розпізнавання об'єктів. Векерт просто переніс цей принцип з лабораторії на предмет одягу, який насправді можна носити. Крім того, він навіть почав продавати ці футболки на своєму Інтернет-магазин цифрового камуфляжуТож, якщо ви хвилюєтеся щодо спостереження за допомогою штучного інтелекту, тепер у вас є можливість захистити себе за допомогою спеціального цифрового камуфляжного одягу.
