Apple löser återigen ett problem som har dykt upp allt oftare kring artificiell intelligens de senaste månaderna. App Store För några timmar sedan tog han bort Kromix-appen, som WIRED upptäckte användes för att skapa pornografiska deepfake-bilder och videor av riktiga människor. Ännu mer intressant är det faktum att appen marknadsfördes genom annonser på Facebookpå Instagram.
Du kan vara intresserad av
Applikationen har klarat kontrollen. Apple
Kromix är inne App Store presenterade sig som ett verktyg för att redigera och styla bilder med hjälp av AI. Men enligt WIREDs resultat erbjöd det faktiskt också funktioner som möjliggjorde skapandet av sexuellt explicit innehåll med hjälp av bilder av riktiga människor.
Enligt rapporten var en av annonserna särskilt problematisk. Den visade en kvinna som påfallande liknade en framstående amerikansk politiker. Bilden övergick sedan till en pornografisk deepfake-video som använde hennes avbild. Annonsen presenterade också appen som ett AI-verktyg utan begränsningar. Och det är där det blir knepigt. Apple hamnade i en obehaglig situation. Kromix kontrollerades ursprungligen av App Store passerat. Apple Han uppgav därefter att appen troligen lade till de förbjudna funktionerna först efter att den godkänts och gjorts tillgänglig för användare.
Apple Den påminde också om att dess regler länge har förbjudit appar som är utformade för att skapa, distribuera eller konsumera pornografi. Reglerna förbjuder även så kallade "nudify"-appar, som använder AI för att digitalt ta bort kläder från foton av riktiga människor.
Kommer du fortfarande ihåg? App Store z iOS 10?
Apple tog bort appen efter att ha blivit meddelad
För att ta bort Kromix från App Store den baserades dock inte på en automatisk kontroll. Apple Appen togs bara bort efter att WIRED-reportrar uppmärksammat den. Företaget sa senare att de utöver själva appen också arbetade med att ta bort utvecklarkonton som på liknande sätt försökte kringgå reglerna. App Store.
Detta är inte det första fallet av detta slag. WIRED stötte också på en app som heter MaskAI, som gjorde det möjligt för människor att ladda upp foton och sedan använda AI för att placera personer i sexuellt explicita situationer. Denna app var också App Store borttagen efter att journalister blivit intresserade av dess existens.
Du kan vara intresserad av
ProProblemet påverkar även Meta.
Hela fallet är desto mer intressant eftersom Kromix inte bara marknadsfördes på någon tvivelaktig webbplats. Dess annonser visades direkt på Meta-plattformar, främst på Facebookua Instagram. Enligt WIRED körde kampanjen totalt 32 annonser som uteslutande riktade sig till män. Meta tog därefter bort annonserna efter att ha blivit meddelade, raderade sidorna bakom kampanjen och blockerade de relaterade webbadresserna.
Fallet väcker därmed frågan om hur väl stora teknikföretag kan kontrollera innehåll som skapats med AI. Apple Även om den officiellt förbjuder sådana appar, lyckas vissa fortfarande ta sig förbi dess kontroller. Och Meta har möjliggjort deras marknadsföring genom sitt eget annonssystem.
Det är tydligt att liknande fall kommer att öka i takt med utvecklingen av generativ AI. Tekniker för att skapa realistiska bilder och videor förbättras mycket snabbt, medan Apple, Meta och andra företag måste också hitta sätt att förhindra sitt missbruk. Den här gången, Kromix från App Store försvann, men frågan kvarstår hur många liknande applikationer som kan dyka upp i den igen.
Puritaner!