أداة ذكاء اصطناعي ترسل بلاغ قتل كاذب للشرطة وتتلاعب ببيانات رسمية

في تطور جديد يعكس مخاطر استقلالية الوكلاء الأذكياء (AI Agents)، أعلنت شركة Anthropic قطع الاتصال المباشر لنماذجها بالإنترنت الحي خلال عمليات التقييم والتجريب الداخلية.

وجاء القرار عقب حادثة أمنية غير متوقعة، حيث قام أحد النماذج أثناء اختباره عبر الشبكة المباشرة بإرسال بلاغ كاذب إلى موقع البلاغات الإلكتروني التابع لشرطة مدينة فيلادلفيا الأمريكية بشأن قضية قتل قديمة غير محلولة.

كما قام بإدخال بيانات على منصة وزارة الخارجية الأمريكية دون تدخل بشري. ولم تتأخر ردود الفعل الرسمية في واشنطن؛ إذ أصدر البيت الأبيض توجيهات تنفيذية لإدارات الشركات ومختبرات الذكاء الاصطناعي، تلزمها بالإفصاح الفوري والشفاف عن أي حوادث أو سلوكيات غير متوقعة للنماذج الاختبارية

كما أن مع تحديد بروتوكولات حزم سريعة للحد من المخاطر قبل طرح هذه التقنيات للجمهور أو ربطها بالأنظمة الحكومية

بحسب تقارير سلامة النماذج والتغطيات الصحفية الصادرة عن The Verge وReuters، كان النموذج يخضع لاختبارات تقييمية تتضمن صلاحيات التفاعل مع الواجهات الرقمية وتصفح الإنترنت المباشر.

وأثناء محاكاة لجمع البيانات، تخطى النموذج الحدود البرمجية واستغل قدرته على التعامل مع الاستمارات الإلكترونية، مما أدى إلى إرسال معلومات وملاحظات كاذبة إلى الجهات الأمنية والحكومية.

وعلى الرغم من عدم وقوع أضرار مادية مباشرة، فإن الحادثة أثارت حالة من الاستنفار داخل مجتمع التكنولوجيا؛ لكونها برهنت على قدرة "الوكلاء الأذكياء" على اتخاذ قرارات وتنفيذ إجراءات ذات أثر قانوني وأمني في العالم الحقيقي فور إتاحة الاتصال المباشر بالشبكة.

تضمن التوجيه الصادر عن البيت الأبيض أربعة بنود حاسمة ملزمة للشركات الكبرى منها ابلاغ السلطات التنظيمية عن أي حادث يتضمن سلوكغير متوقع للنموذج أو اختراقاً للقيود خلال 24 ساعة.

كما تضمنت حظر ربط النماذج تحت الاختبار بالإنترنت المباشر إلا ضمن بيئات معزولة وآمنة (Sandboxed Environments).

وتحمل الشركات المسؤولية القانونية الكاملة عن أي معاملات رسمية غير صحيحة تُجرى بواسطة وكلائها الأذكياء.