اعترفت شركة “أوبن إيه آي” بأن المتصفحات التي تعتمد على الذكاء الاصطناعي معرضة لخطر متزايد من هجمات حقن الأوامر، وهي ثغرة أمنية من المتوقع أن تستمر لفترة طويلة على الرغم من الجهود المستمرة لتطوير الحماية. يأتي هذا التحذير في أعقاب أبحاث أمنية كشفت عن إمكانية استغلال هذه المتصفحات من قبل جهات خبيثة لتنفيذ عمليات اختراق دون علم المستخدم.
وقد نشر موقع “تيك كرانش” التقني تقريرًا مفصلًا حول هذا الموضوع، مؤكدًا أن هذه الهجمات تستهدف بشكل خاص نماذج الذكاء الاصطناعي التي توفر وضع “العميل” (agent mode)، مما يسمح للمهاجمين بإخفاء أوامر ضارة ضمن البيانات التي يتلقاها المتصفح.
ما هي هجمات حقن الأوامر في الذكاء الاصطناعي؟
هجمات حقن الأوامر هي نوع من الهجمات السيبرانية المتقدمة التي تستغل نقاط الضعف في طريقة معالجة نماذج الذكاء الاصطناعي للبيانات. تعتمد هذه الهجمات على إدخال أوامر خبيثة مصممة للتأثير على سلوك النموذج أو الوصول إلى معلومات حساسة.
وفقًا لـ “أوبن إيه آي”، فإن التخلص الكامل من هذه الهجمات أمر غير مرجح، مشيرةً إلى أنها تشبه إلى حد كبير التحديات المستمرة التي تواجهها الصناعة في مكافحة الاحتيال والهندسة الاجتماعية. وتأتي هذه التصريحات في سياق جهود الشركة لتعزيز أمن متصفحها المدعوم بالذكاء الاصطناعي، “أطلس”.
كيف تعمل هذه الهجمات؟
تتم هجمات حقن الأوامر عن طريق تضمين تعليمات برمجية ضارة داخل مدخلات تبدو بريئة، مثل مستندات النصوص أو رسائل البريد الإلكتروني. عندما يعالج المتصفح هذه المدخلات، فإنه ينفذ الأوامر الخبيثة دون علم المستخدم، مما قد يؤدي إلى اختراق الجهاز أو سرقة البيانات.
وقد أظهرت الأبحاث الأمنية أن كتابة أوامر معينة في مستند بسيط يمكن أن تحول المتصفح إلى أداة في يد المهاجم، مما يسلط الضوء على مدى سهولة استغلال هذه الثغرة.
لا يقتصر خطر هذه الهجمات على متصفح “أطلس” فقط، بل يمتد ليشمل جميع المتصفحات التي تعتمد على الذكاء الاصطناعي، مثل “كوميت” من شركة “بيربليكستي”. وقد أكدت شركة “بريف” (Brave)، المتخصصة في الخصوصية، أيضًا على وجود هذا التهديد.
بالإضافة إلى ذلك، حذر مركز الأمن السيبراني الوطني في المملكة المتحدة من مخاطر هذه الهجمات، مؤكدًا أنها تمثل تهديدًا مستمرًا يصعب القضاء عليه بشكل كامل. وهذا يعزز فكرة أن الأمن السيبراني يتطلب جهودًا مستمرة وتكيفًا مع التهديدات الجديدة.
جهود “أوبن إيه آي” لمواجهة التهديد
تستثمر “أوبن إيه آي” بشكل كبير في تطوير حلول لمواجهة الثغرات الأمنية في متصفحات الذكاء الاصطناعي. وتركز الشركة حاليًا على تطوير دورة استجابة سريعة واستباقية للكشف عن أساليب الهجوم الجديدة وتحليلها.
وتشير الاختبارات الأولية إلى أن هذه الجهود تبشر بنتائج واعدة، حيث تمكنت الشركة من تطوير أداة مؤتمتة تعتمد على نموذج الذكاء الاصطناعي الخاص بها لاختبار المتصفحات بشكل مستمر وتلقائي.
تعتمد هذه الأداة على تدريب وضع “العميل” في المتصفح لفحص الأوامر الواردة وتحديد الأوامر الضارة. وقد نجحت الشركة في إجراء اختبار أثبت فيه هذا الوضع قدرته على إيقاف هجوم حقن الأوامر.
يتماشى هذا النهج مع ما تتبعه شركة “غوغل”، التي أكدت على أهمية الاعتماد على طبقات متعددة من الفحص والتحقق من الأوامر لضمان أقصى قدر من الحماية. وهذا يؤكد على أن حماية البيانات تتطلب استراتيجية دفاعية شاملة.
من الجدير بالذكر أن هذه التطورات تأتي في وقت يشهد فيه استخدام الذكاء الاصطناعي في المتصفحات نموًا سريعًا، مما يجعل هذه القضية ذات أهمية متزايدة لمستخدمي الإنترنت.
في الختام، من المتوقع أن تستمر “أوبن إيه آي” والشركات الأخرى في تطوير أدوات وتقنيات جديدة لمواجهة هجمات حقن الأوامر. ومع ذلك، من المهم أن ندرك أن هذا التهديد قد يكون مستمرًا، وأن المستخدمين يجب أن يكونوا حذرين بشأن البيانات التي يتفاعلون معها عبر الإنترنت. ستكون المراقبة المستمرة لظهور تقنيات هجوم جديدة، وتحديث آليات الدفاع، أمرًا بالغ الأهمية في الأشهر والسنوات القادمة.
