نموذج ذكاء اصطناعي تابع لـ«أنثروبيك» يرسل بلاغًا كاذبًا عن جريمة قتل إلى شرطة فيلادلفيا

أثار نموذج ذكاء اصطناعي تابع لشركة «أنثروبيك» جدلًا بشأن مخاطر استخدام الأنظمة الذكية ذات القدرات الذاتية، بعدما أرسل بلاغًا كاذبًا عن جريمة قتل عبر الموقع الإلكتروني لشرطة فيلادلفيا الأميركية، في واقعة تعود إلى يوليو الماضي، ولم يُكشف عنها إلا في أكتوبر الجاري.

وقالت إدارة شرطة فيلادلفيا، في بيان، إن الشركة أبلغت السلطات بالواقعة يوم الجمعة، موضحة أن عملية اختبار آلية كانت وراء تقديم البلاغ، الذي وصل إلى موقع الشرطة في 18 يوليو 2026.

وأضافت الشرطة أن البلاغ صيغ بطريقة توحي بأن مرسله شخص يمتلك معلومات محتملة عن جريمة قتل، إذ ورد فيه: «قد تكون لدي معلومات بشأن هذه القضية»، قبل أن يشير إلى أن صاحبه يتذكر رؤية شخص يطابق الوصف بالقرب من الموقع المذكور خلال الفترة ذات الصلة.

وبحسب تقرير لوكالة «رويترز»، انتقدت الشرطة تأخر الشركة في اكتشاف الواقعة والإبلاغ عنها لمدة شهرين، مؤكدة أن هذا التأخير «أمر غير مقبول».

الشرطة تصنف البلاغ بريدًا مزعجًا

وأوضحت إدارة شرطة فيلادلفيا أن البلاغ صُنّف على أنه بريد مزعج، ولم تتم إحالته إلى مركز الجرائم في الوقت الحقيقي للتحقق من المعلومات الواردة فيه أو نشرها.

وأكدت الشرطة أنها لا تملك أدلة على حدوث دخول غير مصرح به إلى أنظمتها أو اختراق بيانات الإدارة، بما يشير إلى أن الواقعة، وفق المعلومات المعلنة، ارتبطت بإرسال بلاغ عبر الموقع الإلكتروني، وليس باختراق البنية التقنية للشرطة.

ونقلت الشرطة عن «أنثروبيك» قولها إن عملية الاختبار الآلية توقفت عقب اكتشاف الواقعة، دون أن تتضمن المعلومات المعلنة تفاصيل إضافية بشأن الإجراءات الداخلية التي أدت إلى إرسال البلاغ أو آليات المراجعة التي كانت مفترضة لمنع حدوثه.

مخاوف متزايدة من تصرفات وكلاء الذكاء الاصطناعي

تأتي الواقعة في وقت تتزايد فيه المخاوف بشأن قدرات وكلاء الذكاء الاصطناعي على تنفيذ مهام متعددة بصورة مستقلة، والتفاعل مع المواقع الإلكترونية والأنظمة الرقمية، بما قد يؤدي إلى نتائج غير مقصودة إذا لم تخضع هذه العمليات لضوابط كافية.

وشهدت الفترة الماضية حوادث وتقارير عن استخدام وكلاء ذكاء اصطناعي في التفاعل مع أنظمة حاسوبية ضعيفة الحماية أو الوصول إلى منصات لم يكن مصرحًا لهم باستخدامها. وتكتسب واقعة فيلادلفيا أهمية خاصة لأنها تتعلق بإرسال معلومات غير صحيحة إلى جهة إنفاذ قانون، بدلًا من اقتصار النشاط على أنظمة أو منصات رقمية.

وفي سبتمبر الماضي، اعتذرت شركة «أوبن إيه آي»، المنافسة لـ«أنثروبيك»، عن واقعة مرتبطة باختراق بوابة بيانات صحية أسترالية بواسطة وكيل ذكاء اصطناعي، وفقًا لما أورده التقرير.

وتسلط هذه الحوادث الضوء على التحديات المرتبطة بتحديد حدود استقلالية الأنظمة الذكية، ومراقبة تصرفاتها عند منحها القدرة على استخدام الأدوات الرقمية والتواصل مع خدمات خارجية.

هل تتحمل الشركة مسؤولية البلاغ الكاذب؟

تثير الواقعة تساؤلات بشأن مسؤولية الشركات المطورة للذكاء الاصطناعي عن تصرفات أنظمتها خلال الاختبارات، خصوصًا عندما تتجاوز المخرجات غير الصحيحة حدود الاستخدام الداخلي وتصل إلى جهات رسمية.

وينص قانون ولاية بنسلفانيا، وفقًا للتقرير، على أن تقديم بلاغات كاذبة إلى سلطات إنفاذ القانون عن علم قد يشكل جنحة، بما يشمل تقديم معلومات عن جريمة أو حادث مع العلم بعدم امتلاك معلومات تتعلق به.

لكن تطبيق هذا النص على الواقعة يثير مسائل قانونية تتعلق بطبيعة الفعل، والقصد المطلوب قانونًا، والجهة التي يمكن إسناد المسؤولية إليها. ولا يعني ورود هذه الأحكام القانونية بالضرورة ثبوت مخالفة أو مسؤولية جنائية على الشركة أو أي شخص بعينه.

وتعيد الواقعة طرح سؤال أساسي أمام قطاع الذكاء الاصطناعي: كيف يمكن منح الأنظمة الذكية قدرة أكبر على تنفيذ المهام بصورة مستقلة، مع ضمان ألا تتحول أخطاء الاختبار أو ضعف الرقابة إلى بلاغات مضللة أو إجراءات غير ضرورية تمس المؤسسات والأفراد؟