Apple отново решава проблем, който се появява все по-често около изкуствения интелект през последните месеци. От App Store Преди няколко часа той премахна приложението Kromix, за което WIRED откри, че е използвано за създаване на порнографски фалшиви изображения и видеоклипове на реални хора. Още по-интересен е фактът, че приложението е било популяризирано чрез реклами на Facebookв Instagram.
Може да се интересувате от
Заявлението е преминало проверката. Apple
Кромикс е вътре App Store се е представял като инструмент за редактиране и стилизиране на изображения с помощта на изкуствен интелект. Според откритията на WIRED обаче, той всъщност е предлагал и функции, които са позволявали създаването на сексуално експлицитно съдържание, използвайки изображения на реални хора.
Според доклада, една от рекламите е била особено проблематична. В нея е изобразена жена, която поразително прилича на виден американски политик. След това кадърът е преминал към порнографско дийпфейково видео, използващо нейната прилика. Рекламата също така представя приложението като инструмент с изкуствен интелект без ограничения. И точно тук става сложно. Apple в неприятна ситуация. Kromix първоначално е бил контролиран от App Store премина. Apple Впоследствие той заяви, че приложението вероятно е добавило забранените функции едва след като е било одобрено и предоставено на потребителите.
Apple Организацията напомни също, че правилата ѝ отдавна забраняват приложения, предназначени да създават, разпространяват или консумират порнография. Правилата забраняват и така наречените приложения за „нудификация“, които използват изкуствен интелект за дигитално премахване на дрехи от снимки на реални хора.
Помниш ли още? App Store z iOS 10?
Apple премахна приложението, след като беше уведомен
За да премахнете Kromix от App Store Въпреки това, това не се основаваше на автоматична проверка. Apple Приложението беше премахнато едва след като репортери на WIRED обърнаха внимание на него. Впоследствие компанията заяви, че освен самото приложение, работи и за премахване на акаунти на разработчици, които по подобен начин се опитват да заобиколят правилата. App Store.
Това не е първият подобен случай. WIRED също така се натъкна на приложение, наречено MaskAI, което позволява на хората да качват снимки и след това да използват изкуствен интелект, за да вмъкват хора в сексуално откровени ситуации. Това приложение също беше App Store премахнат, след като журналистите се заинтересували от съществуването му.
Може да се интересувате от
ProПроблемът засяга и Мета.
Целият случай е още по-интересен, защото Kromix не само е бил рекламиран на някакъв съмнителен уебсайт. Рекламите му са се показвали директно на Meta платформи, предимно на Facebookua Instagram. Според WIRED, кампанията е пуснала общо 32 реклами, насочени изключително към мъже. Впоследствие Meta е премахнала рекламите, след като е била уведомена, изтрила е страниците, свързани с кампанията, и е блокирала свързаните URL адреси.
По този начин случаят отново повдига въпроса доколко големите технологични компании могат да контролират съдържание, създадено с изкуствен интелект. Apple Въпреки че официално забранява подобни приложения, някои все пак успяват да заобиколят контрола му. А Meta е позволила популяризирането им чрез собствена рекламна система.
Ясно е, че подобни случаи ще се увеличат с развитието на генеративния изкуствен интелект. Технологиите за създаване на реалистични изображения и видеоклипове се усъвършенстват много бързо, докато Apple, Meta и други компании също трябва да намерят начини да предотвратят злоупотребите с тяхна страна. Този път Kromix от App Store изчезна, но остава въпросът колко подобни приложения могат да се появят отново в него.
Пуритани!