Apple ismét megold egy problémát, amely az utóbbi hónapokban egyre gyakrabban jelent meg a mesterséges intelligencia körül. App Store Néhány órával ezelőtt eltávolította a Kromix alkalmazást, amelyről a WIRED kiderítette, hogy pornográf deepfake képek és videók készítésére használták valódi emberekről. Még érdekesebb az a tény, hogy az alkalmazást hirdetéseken keresztül népszerűsítették a következő webhelyen: Facebookaz Instagramon.
Érdekelhet
A jelentkezés átment az ellenőrzésen. Apple
Kromix bent van App Store eszközként mutatkozott be képek szerkesztésére és stilizálására mesterséges intelligencia segítségével. A WIRED megállapításai szerint azonban valójában olyan funkciókat is kínált, amelyek lehetővé tették szexuálisan explicit tartalmak létrehozását valódi emberek képeinek felhasználásával.
A jelentés szerint az egyik reklám különösen problémás volt. Egy olyan nőt ábrázolt, aki feltűnően hasonlított egy ismert amerikai politikusra. A kép ezután egy pornográf deepfake videóvá vált, amely a nő képmását használta. A hirdetés az alkalmazást korlátozások nélküli mesterséges intelligencia eszközként is bemutatta. És itt válik bonyolulttá a dolog. Apple kellemetlen helyzetbe került. A Kromixot eredetileg a App Store átment. Apple később kijelentette, hogy az alkalmazás valószínűleg csak azután adta hozzá a tiltott funkciókat, miután jóváhagyták és elérhetővé tették a felhasználók számára.
Apple Emlékeztetett arra is, hogy a szabályok régóta tiltják a pornográfia létrehozására, terjesztésére vagy fogyasztására tervezett alkalmazásokat. A szabályok tiltják az úgynevezett „nudify” alkalmazásokat is, amelyek mesterséges intelligenciát használnak a ruházat digitális eltávolítására valódi emberek fényképeiről.
Emlékszel még? App Store z iOS 10?
Apple értesítés után eltávolította az alkalmazást
A Kromix eltávolításához App Store azonban nem automatikus ellenőrzésen alapult. Apple Az alkalmazást csak azután távolították el, hogy a WIRED újságírói felhívták rá a figyelmüket. A cég később közölte, hogy magán az alkalmazáson kívül azon is dolgoznak, hogy eltávolítsák azokat a fejlesztői fiókokat, amelyek hasonlóképpen próbálták megkerülni a szabályokat. App Store.
Ez nem az első ilyen eset. A WIRED egy MaskAI nevű alkalmazással is találkozott, amely lehetővé tette az emberek számára, hogy fotókat töltsenek fel, majd mesterséges intelligencia segítségével szexuálisan explicit helyzetekbe illesztsék az embereket. Ez az alkalmazás szintén... App Store eltávolították, miután az újságírók érdeklődni kezdtek a létezése iránt.
Érdekelhet
ProA probléma a Metát is érinti.
Az egész eset annál is érdekesebb, mivel a Kromixot nemcsak valami kétes weboldalon reklámozták. Hirdetései közvetlenül a Meta platformokon futottak, elsősorban a Facebookua Instagram. A WIRED szerint a kampány összesen 32 hirdetést futtatott, amelyek kizárólag férfiakat céloztak meg. A Meta ezt követően eltávolította a hirdetéseket, miután értesítést kapott, törölte a kampány mögött álló oldalakat, és blokkolta a kapcsolódó URL-eket.
Az eset így újra felveti a kérdést, hogy a nagy technológiai vállalatok mennyire tudják irányítani a mesterséges intelligenciával létrehozott tartalmakat. Apple Bár hivatalosan tiltja az ilyen alkalmazásokat, néhánynak mégis sikerül átjutnia az ellenőrzésein. A Meta pedig saját hirdetési rendszerén keresztül tette lehetővé a promóciójukat.
Egyértelmű, hogy a generatív mesterséges intelligencia fejlődésével a hasonló esetek száma növekedni fog. A valósághű képek és videók készítésére szolgáló technológiák nagyon gyorsan fejlődnek, miközben AppleA Metának és más vállalatoknak is meg kell találniuk a módját a visszaélések megelőzésére. Ezúttal a Kromixnak a következőtől: App Store eltűnt, de a kérdés továbbra is fennáll, hogy hány hasonló alkalmazás jelenhet meg benne újra.
Puritánok!