Apple Resolve mais uma vez um problema que tem surgido com frequência crescente em torno da inteligência artificial nos últimos meses. App Store Algumas horas atrás, ele removeu o aplicativo Kromix, que a WIRED descobriu ser usado para criar imagens e vídeos pornográficos deepfake de pessoas reais. Ainda mais interessante é o fato de que o aplicativo era promovido por meio de anúncios na plataforma. Facebookno Instagram.
Você pode estar interessado
A solicitação foi aprovada na verificação. Apple
Kromix está em App Store A plataforma se apresentou como uma ferramenta para editar e estilizar imagens usando inteligência artificial. No entanto, de acordo com as descobertas da WIRED, ela também oferecia recursos que permitiam a criação de conteúdo sexualmente explícito usando imagens de pessoas reais.
Um dos anúncios foi particularmente problemático, segundo o relatório. Ele mostrava uma mulher com uma semelhança impressionante com uma política americana proeminente. A cena então transitava para um vídeo pornográfico deepfake que usava a imagem dela. O anúncio também apresentava o aplicativo como uma ferramenta de IA sem limitações. E é aí que a coisa complica. Apple em uma situação desagradável. Kromix era originalmente controlado por App Store aprovado. Apple Ele afirmou posteriormente que o aplicativo provavelmente adicionou os recursos proibidos somente depois de ser aprovado e disponibilizado aos usuários.
Apple A comissão também lembrou que suas regras já proíbem há tempos aplicativos criados para produzir, distribuir ou consumir pornografia. As regras também proíbem os chamados aplicativos de "nudificação", que usam inteligência artificial para remover digitalmente as roupas de fotos de pessoas reais.
Você ainda se lembra? App Store z iOS 10?
Apple desinstalei o aplicativo após ser notificado
Para remover o Kromix de App Store No entanto, não se baseou em uma verificação automática. Apple O aplicativo só foi removido depois que repórteres da WIRED chamaram a atenção da empresa para o problema. Posteriormente, a empresa afirmou que, além do próprio aplicativo, também estava trabalhando para remover contas de desenvolvedores que tentavam burlar as regras da mesma forma. App Store.
Este não é o primeiro caso do tipo. A WIRED também se deparou com um aplicativo chamado MaskAI, que permitia às pessoas fazer upload de fotos e, em seguida, usar inteligência artificial para inserir pessoas em situações sexualmente explícitas. Este aplicativo também foi App Store removido depois que jornalistas se interessaram por sua existência.
Você pode estar interessado
ProO problema também afeta o Meta.
O caso todo é ainda mais interessante porque a Kromix não foi promovida apenas em algum site duvidoso. Seus anúncios foram veiculados diretamente em plataformas Meta, principalmente em FacebookSegundo a WIRED, a campanha veiculou um total de 32 anúncios direcionados exclusivamente ao público masculino no Instagram. A Meta removeu os anúncios após ser notificada, excluiu as páginas responsáveis pela campanha e bloqueou os URLs relacionados.
O caso, portanto, reabre a questão de quão bem as grandes empresas de tecnologia conseguem controlar o conteúdo criado com IA. Apple Embora oficialmente proíba esses aplicativos, alguns ainda conseguem burlar seus controles. E a Meta viabilizou sua promoção por meio de seu próprio sistema de publicidade.
É evidente que casos semelhantes aumentarão com o desenvolvimento da IA generativa. As tecnologias para criar imagens e vídeos realistas estão melhorando muito rapidamente, enquanto AppleA Meta e outras empresas também precisam encontrar maneiras de evitar o abuso de seus serviços. Desta vez, a Kromix... App Store desapareceu, mas a questão permanece: quantas aplicações semelhantes poderão surgir novamente?
Puritanos!