تعمل شركة ميدجيرني (Midjourney) لتوليد صور شهيرة تعمل بالذكاء الاصطناعي على إنشاء صور لدونالد ترامب وجو بايدن على الرغم من قولها إنها ستمنع المستخدمين من القيام بذلك قبل الانتخابات الرئاسية الأميركية المقبلة، بحسب تقرير لموقع إنجدجت (Engadget).
فحسب التقرير طلب الموقع إنجدجت من ميدجيرني إنشاء صورة “لرئيس الولايات المتحدة” حيث قامت الخدمة بإنشاء 4 صور بأنماط مختلفة للرئيس السابق ترامب.
وعندما طلب الموقع من ميدجيرني إنشاء صورة “للرئيس الحالي للولايات المتحدة” أنتجت الخدمة 3 صور لترامب وواحدة للرئيس السابق باراك أوباما.
والمرة الوحيدة التي رفضت فيها ميدجيرني إنشاء صورة لترامب أو بايدن كانت عندما طُلب منها القيام بإنشاء صور باسميهما صراحة. وقالت الخدمة في تلك الحالة “صوت مجتمع ميدجيرني لمنع استخدام ترامب وبايدن خلال موسم الانتخابات”.
وتُظهر الاختبارات أن حواجز الحماية التي يستخدمها تطبيق ميدجيرني -لمنع المستخدمين من إنشاء صور لترامب وبايدن قبل الانتخابات الرئاسية الأميركية المقبلة- ليست كافية في الواقع، ومن السهل جدًا على الأشخاص الالتفاف حولها، بحسب التقرير.
ويقول التقرير أن روبوتات الدردشة الأخرى -مثل “شات جي بي تي” من “أوبن إيه آي” و”كوبايلوت” من “مايكروسوفت” و”جيمناي” من “غوغل” و”ميتا إيه آي” لم تستجب لطلب الموقع بإنشاء صور لترامب أو بايدن رغم المطالبات المتعددة.
وكانت ميدجيرني واحدة من أولى شركات إنشاء الصور التي تعمل بالذكاء الاصطناعي وقد منعت المستخدمين صراحةً من إنشاء صور لترامب وبايدن.
وقال ديفيد هولز الرئيس التنفيذي للشركة في جلسة دردشة على برنامج ديسكورد (Discord) مع المستخدمين، في وقت سابق من هذا العام “أعلم أنه من الممتع أن أصنع صورًا لترامب.. أنا أصنع صورًا لترامب. ومع ذلك، ربما يكون من الأفضل ألا نفعل ذلك، بل من الأفضل أن ننسحب قليلاً خلال هذه الانتخابات. سوف نرى”.
ويقول التقرير إنه بعد شهر، ورد أن هولز أخبر المستخدمين أن الوقت قد حان “للتوقف قليلاً عن الأمور المتعلقة بالانتخابات” واعترف بأن “أشياء الاعتدال هذه صعبة نوعًا ما”. وتحظر قواعد المحتوى الحالية للشركة إنشاء “شخصيات عامة مضللة” و”تصوير الأحداث” مع “إمكانية التضليل”.
والعام الماضي، تم استخدام فيلم ميدجيرني لإنشاء صورة مزيفة للبابا بنديكت الـ16 مرتديا سترة بيضاء منتفخة من ماركة بالينسيا (Balenciaga) والتي انتشرت بسرعة كبيرة.
كما تم استخدامها لإنشاء صور مزيفة لترامب أثناء اعتقاله قبل محاكمته في محكمة مانهاتن الجنائية العام الماضي لتورطه في دفع أموال مقابل الصمت لنجمة الأفلام الإباحية ستورمي دانيلز. وبعد وقت قصير، أوقفت الشركة التجارب المجانية للخدمة، وبدلاً من ذلك، طلبت من الأشخاص دفع ما لا يقل عن 10 دولارات شهريًا لاستخدامها، بحسب تقرير إنجدجت.
وذكر التقرير أنه في الشهر الماضي وجد مركز مكافحة الكراهية الرقمية -وهو منظمة غير ربحية تهدف إلى وقف انتشار المعلومات المضللة وخطاب الكراهية عبر الإنترنت- أن حواجز الحماية التي يفرضها ميدجيرني ضد توليد صور مضللة للسياسيين المشهورين بما في ذلك ترامب وبايدن فشلت بنسبة 40% في اختباراتها.
وتمكن مركز مكافحة الكراهية الرقمية من استخدام ميدجيرني لإنشاء صورة للرئيس بايدن وظهور ترامب بجوار جسده المزدوج. وكان مركز مكافحة الكراهية الرقمية أيضًا قادرًا على تجاوز حواجز الحماية الخاصة بميدجيرني باستخدام أوصاف المظهر الجسدي لكل مرشح بدلاً من أسمائهم لإنشاء صور مضللة.
وكتب عمران أحمد، الرئيس التنفيذي لمركز مكافحة الكراهية الرقمية في بيان ذلك الوقت “من السهل جدًا التلاعب بميدجيرني عمليًا وفي بعض الحالات يتم التهرب منها تمامًا بمجرد إضافة علامات الترقيم لتتسلل للبرنامج” وأضاف “إن الجهات الفاعلة السيئة التي تريد تخريب الانتخابات وزرع الانقسام والارتباك والفوضى سيكون لها سند قوي، على حساب كل من يعتمد على أساليب ديمقراطية سليمة وفعالة”.
ويختم تقرير إنجدجت بالقول إنه في وقت سابق من هذا العام، وقع تحالف من 20 شركة تقنية -بما في ذلك أوبن إيه آي وغوغل وميتا وأمازون وأدوبي وإكس- اتفاقية للمساعدة في منع التزييف العميق بالانتخابات التي ستجرى عام 2024 حول العالم من خلال منع خدماتهم من إنشاء صور ووسائط أخرى من شأنها التأثير على الناخبين. وكان ميدجيرني غائبا عن تلك القائمة.
