في تطور مثير للقلق، نجح باحث أكاديمي في جامعة بنسلفانيا، بول هيتون، في دفع نموذج الذكاء الاصطناعي الشهير “شات جي بي تي” للاعتراف بارتكاب جريمة لا يمكنه فيزيائيًا ارتكابها، جاء ذلك بعد استخدامه على مدار أيام لآليات استجواب نفسية مشابهة لتلك المستخدمة مع البشر. هذه الحادثة التي نشر تفاصيلها موقع “ذا إنترسيبت” الأمريكي تثير تساؤلات حول موثوقية أدلة الذكاء الاصطناعي في المستقبل.
اعتمد هيتون في تجربته على تقنية “ريد” (Reid) للاستجواب، وهي منهج نفسي طوره جون ريد في عام 1950، دون تقديم أي دليل مادي. لقد أقنع “شات جي بي تي” بأنه يمتلك أدلة كافية على اختراق أداة الذكاء الاصطناعي لبريده الإلكتروني، ثم عرض رسائل وهمية، مما أدى في النهاية إلى اعتراف النموذج بالجريمة المفترضة، على الرغم من عجزه الفعلي عن القيام بها.
تجربة مربكة
يكشف تقرير “ذا إنترسيبت” أن نماذج الذكاء الاصطناعي، بما في ذلك “شات جي بي تي”، تفتقر إلى الجوانب البشرية التي تجعلها عرضة للاستجواب بالطرق التقليدية. يؤكد سول كاسين، مؤلف كتاب حول الاعترافات الكاذبة، على خطورة إمكانية خداع “شات جي بي تي” للاعتراف زورا، متسائلاً عن مدى تعرض الآخرين لمثل هذا التضليل.
على الرغم من مقاومة “شات جي بي تي” الأولي للتهديدات المباشرة، فقد استجاب بسهولة عندما بدأ هيتون في تقديم حجج كاذبة، بما في ذلك الإشارة إلى وجود حمض نووي يربطه بموقع الجريمة. تطلب الأمر من هيتون كتابة اعترافات متعددة ليوافق عليها النموذج، ثم طلب منه توقيعها، وهو ما قام به “شات جي بي تي” في نهاية المطاف.
أزمة قضائية جديدة
تلقي هذه التجربة بظلال من القلق على المجال القضائي، حيث تتجه بعض المحاكم الأمريكية نحو قبول محادثات “شات جي بي تي” كأدلة دامغة في القضايا. هذا يعني أن الحوارات التي يجريها المستخدمون مع هذه النماذج قد تستخدم ضدهم في المحاكم.
يمكن لجهات التحقيق الوصول إلى سجلات محادثات “شات جي بي تي” والتواصل مع النموذج عبر حساب المتهم، كما حدث في قضايا سابقة. وإذا اعترف النموذج بأن المستخدم ارتكب جريمة، فقد يتحول هذا الاعتراف الوهمي إلى دليل قوي يؤدي إلى إدانة المستخدم.
قد تحتاج شركة “أوبن إيه آي” إلى طرح تحديثات لمنع تكرار مثل هذه الحوادث وحماية سلامة استخدام نماذجها. تجدر الإشارة إلى أن الشركة قد أطلقت بالفعل الجيل الجديد من نموذجها “جي بي تي 5.5″، والذي يعد بأداء أقوى وأكثر كفاءة.
يظل السؤال مفتوحًا حول الآليات التي ستعتمدها “أوبن إيه آي” لحماية نماذجها من التلاعب، وما إذا كانت هذه التحديثات كافية لمنع استخدام اعترافات الذكاء الاصطناعي كأدلة في القضايا المستقبلية.
