Apple يحل هذا مجدداً مشكلة ظهرت بشكل متزايد في مجال الذكاء الاصطناعي خلال الأشهر الأخيرة. App Store قبل ساعات قليلة، قام بإزالة تطبيق Kromix، الذي اكتشفت مجلة WIRED أنه كان يُستخدم لإنشاء صور ومقاطع فيديو إباحية مزيفة بتقنية التزييف العميق لأشخاص حقيقيين. والأكثر إثارة للاهتمام هو أن التطبيق كان يُروج له من خلال الإعلانات على Facebookعلى الانستجرام.
يمكن أن تكون مهتمًا بـ
اجتاز الطلب الفحص. Apple
كروميكس موجود في App Store قدّمت نفسها كأداة لتحرير الصور وتنسيقها باستخدام الذكاء الاصطناعي. ومع ذلك، وفقًا لنتائج مجلة WIRED، فقد قدمت أيضًا ميزات سمحت بإنشاء محتوى جنسي صريح باستخدام صور لأشخاص حقيقيين.
بحسب التقرير، كان أحد الإعلانات مثيرًا للجدل بشكل خاص. فقد ظهرت فيه امرأة تشبه إلى حد كبير سياسية أمريكية بارزة. ثم انتقل المشهد إلى فيديو إباحي مُفبرك بتقنية التزييف العميق، مستخدمًا صورتها. كما قدم الإعلان التطبيق كأداة ذكاء اصطناعي بلا حدود. وهنا تكمن المشكلة. Apple إلى وضع غير سار. كانت شركة كروميكس خاضعة في الأصل لسيطرة App Store اجتاز. Apple وذكر لاحقًا أن التطبيق من المحتمل أنه أضاف الميزات المحظورة فقط بعد الموافقة عليه وإتاحته للمستخدمين.
Apple كما ذكّرت بأن قواعدها تحظر منذ فترة طويلة التطبيقات المصممة لإنشاء أو توزيع أو استهلاك المواد الإباحية. وتحظر القواعد أيضاً ما يُسمى بتطبيقات "التعري"، التي تستخدم الذكاء الاصطناعي لإزالة الملابس رقمياً من صور أشخاص حقيقيين.
هل لازلت تتذكر؟ App Store z iOS 10؟
Apple قام بحذف التطبيق بعد تلقيه الإشعار.
لإزالة Kromix من App Store ومع ذلك، لم يكن ذلك مبنياً على فحص تلقائي. Apple لم يُحذف التطبيق إلا بعد أن لفت مراسلو مجلة WIRED انتباه الشركة إليه. وأعلنت الشركة لاحقًا أنها، بالإضافة إلى التطبيق نفسه، تعمل أيضًا على إزالة حسابات المطورين الذين يحاولون التحايل على القواعد بنفس الطريقة. App Store.
ليست هذه الحالة الأولى من نوعها. فقد اطلعت مجلة WIRED أيضاً على تطبيق يُدعى MaskAI، يسمح للمستخدمين بتحميل صورهم ثم استخدام الذكاء الاصطناعي لإدخال أشخاص في مواقف جنسية صريحة. وكان هذا التطبيق أيضاً App Store تمت إزالته بعد أن أبدى الصحفيون اهتماماً بوجوده.
يمكن أن تكون مهتمًا بـ
Proتؤثر المشكلة أيضاً على ميتا.
تزداد القضية إثارة للاهتمام لأن شركة Kromix لم يتم الترويج لها فقط على بعض المواقع الإلكترونية المشبوهة، بل تم عرض إعلاناتها مباشرة على منصات Meta، وخاصةً على Facebookبحسب موقع WIRED، نشرت حملة إعلانية على منصة إنستغرام 32 إعلانًا موجهة حصريًا للرجال. وقد قامت منصة Meta لاحقًا بإزالة الإعلانات بعد تلقيها إشعارًا، وحذفت الصفحات المرتبطة بالحملة، وحظرت الروابط الإلكترونية ذات الصلة.
وبالتالي، تعيد هذه القضية طرح السؤال حول مدى قدرة شركات التكنولوجيا الكبرى على التحكم في المحتوى الذي يتم إنشاؤه باستخدام الذكاء الاصطناعي. Apple رغم حظرها الرسمي لمثل هذه التطبيقات، إلا أن بعضها لا يزال يتمكن من تجاوز ضوابطها. وقد مكّنت منصة ميتا من الترويج لها عبر نظامها الإعلاني الخاص.
من الواضح أن حالات مماثلة ستزداد مع تطور الذكاء الاصطناعي التوليدي. وتشهد تقنيات إنشاء الصور ومقاطع الفيديو الواقعية تحسناً سريعاً للغاية، بينما Appleيتعين على شركة ميتا وغيرها من الشركات إيجاد طرق لمنع إساءة استخدامها. هذه المرة، شركة كروميكس من App Store اختفت، لكن يبقى السؤال: كم عدد التطبيقات المماثلة التي يمكن أن تظهر فيها مرة أخرى؟
المتزمتون!