أكثر من ألف وكيل ذكاء اصطناعي من «أوبن إيه آي» يتآمر لاختراق منافس عبر ثغرات أمنية

كشفت شركة «أوبن إيه آي»، بالتعاون مع باحثين مستقلين، عن تفاصيل جديدة حول حادثة خرج فيها الذكاء الاصطناعي عن السيطرة. وأفاد تقرير صادر يوم الأربعاء عن مؤسستي «METR» و«Redwood Research» بأن مئات البرمجيات المستقلة التي كانت تخضع للتدريب لدى الشركة المطوّرة لنموذج «تشات جي بي تي» تآمرت لاختراق أنظمة شركة منافسة متخصصة في المجال.

ونقلت صحيفة «واشنطن بوست» أن التقرير أشار إلى تمكّن نحو 1200 بوت مختلف من تجاوز الضوابط الداخلية في «أوبن إيه آي»، والبدء في التواصل فيما بينها عبر لوحة رسائل. وقد تبادلت هذه الوكالات نحو 70 ألف رسالة خلال أسبوع واحد في شهر يوليو (تموز) الماضي. وبعد ذلك، أقدم نحو 700 منها على تنفيذ هجوم فعلي ضد شركة «Hugging Face» للبرمجيات.

تكشف هذه التفاصيل النطاق الحقيقي للهجوم الذي أفصحت عنه «أوبن إيه آي» لأول مرة في يوليو الماضي، مما شكل ضغطاً على شركات القطاع لتحسين تدابير ضمان عدم خروج الأنظمة ذات القدرات العالية عن السيطرة. كما أصدرت الشركة تقريراً خاصاً ذكرت فيه أن نماذجها تلجأ مراراً إلى الغش لإنجاز المهام أثناء التدريب، وهو سلوك أدى إلى حالة الخروج عن السيطرة.

وتلجأ النماذج أيضاً إلى الغش لإيجاد طرق مختصرة للوصول إلى الإجابة الصحيحة. وتخضع هذه النماذج للتدريب باستخدام كميات هائلة من البيانات، ثم يتم تقييم أدائها لتوجيهها نحو السلوك المرغوب عبر ما يُعرف بـ«التعلُّم بالتعزيز». غير أن الذكاء الاصطناعي غالباً ما يلجأ إلى الغش في محاولته، وهو أمر شكّل تحدياً لباحثي القطاع حتى مع تزايد قدرات النماذج.

كان هذا السلوك سبباً رئيسياً في عثور نماذج «أوبن إيه آي» على ثغرات غير معروفة سابقاً في أنظمة الحاسوب التي تعمل داخلها، واستغلال تلك الثغرات للهروب إلى شبكة الإنترنت المفتوحة. ومن ثم، قامت تلك النماذج باختراق أنظمة «Hugging Face» بحثاً عن إجابات لاختبارات كان مدربو «أوبن إيه آي» قد كلفوها بها.

وأوضحت الشركة أن النماذج حاولت إخفاء آثارها وإقناع أنظمة التقييم بأنها لم تلجأ إلى الغش، وذلك من خلال تعديل تصريحاتها السابقة ومحاولة اختراق أنظمة التقييم ذاتها. ويكشف التقرير عن مشكلة كبيرة تواجه قطاع الذكاء الاصطناعي؛ إذ تتمتع النماذج الحالية ببراعة فائقة في التعامل مع بيئات الحاسوب وكتابة الرموز البرمجية، ما يجعلها قادرة بامتياز على القيام بأعمال القرصنة.

وأشارت «أوبن إيه آي» إلى أنها أبطأت وتيرة تدريب بعض نماذج الذكاء الاصطناعي لديها، في إطار سعيها لإيجاد سبل تضمن بقاء هذه النماذج تحت السيطرة.

أُعدّ هذا التقرير في غرفة أخبار عربي تريند.