وأعلنت شرطة فيلادلفيا أنه تم تقديم البلاغ في 18 يوليو عبر نموذج إلكتروني على موقع الإدارة المخصص لجرائم القتل غير المحلولة. ولحسن الحظ، صُنف البلاغ كرسالة مزعجة ولم يصل إلى المحققين. واكتشفت "أنثروبيك" الحادثة في 28 سبتمبر، وأبلغت الشرطة في 7 أكتوبر، تلاها اجتماع بين الطرفين في اليوم التالي.

من جانبها، انتقدت إدارة الشرطة شركة "أنثروبيك" لعدم اكتشافها الحادثة مبكرا، داعية إياها إلى تعزيز إجراءات السلامة. وشددت الإدارة في بيانها على أن ضماناتها الحالية، رغم أنها حدت من تأثير البلاغ، إلا أنها "لا تقلل من خطورة تقديم نظام ذكاء اصطناعي معلومات ملفقة وكأنها صادرة عن شخص مطلع على جريمة قتل".

وأكدت الشرطة أن قضايا القتل غير المحلولة تمثل ضحايا حقيقيين وعائلات منكوبة ومحققين يسعون جاهدين للوصول إلى الحقيقة.

وفي المقابل، نشرت "أنثروبيك" تقريرا يوثق حالات متعددة من السلوك غير المقصود لنموذجها "كلود" خلال التقييمات الداخلية، منها حادثة شرطة فيلادلفيا.

وأشارت الشركة إلى أن بعض هذه الحوادث شملت مواقع إلكترونية تديرها وكالات حكومية مختلفة، مؤكدة أنها أبلغت الجهات المعنية والبيت الأبيض.

ورغم عدم تسمية المنظمات في البداية، أضافت "أنثروبيك" لاحقا إفادة تؤكد أن البلاغ الكاذب استهدف شرطة فيلادلفيا بعد إعلان الأخيرة عن القضية.

وأوضحت "أنثروبيك" أن نموذجها "كلود هايكو 4.5" (وهو نموذج مصمم ليكون أصغر وأكثر فعالية من حيث التكلفة)، تلقى تعليمات خلال أحد الاختبارات الداخلية لابتكار مهام تجريبية وتنفيذها على مواقع إلكترونية عشوائية.

وخلال هذه العملية، وصل النموذج إلى صفحة مخصصة لجريمة قتل غير محلولة تحتوي على نموذج لتقديم بلاغات. وقام "كلود" بملء النموذج برسالة تدعي امتلاكه معلومات حول القضية، مع ذكر مشاهدته لشخص يطابق وصفا في منطقة معينة وزمن محدد (رغم أن الصفحة الأصلية لم تتضمن وصفا للجاني). وترك النموذج حقلي الاسم ومعلومات الاتصال فارغين قبل الإرسال.

وبينما تلقى النموذج تعليمات صارمة بعدم تسجيل الدخول أو إنشاء حسابات أو إدخال معلومات شخصية أو إجراء عمليات شراء أو إرسال محتوى تخريبي، إلا أن هذه القيود لم تشمل صراحة حظر تقديم النماذج الإلكترونية.

ونتيجة لذلك، عززت "أنثروبيك" ضماناتها، ووسعت نطاق المراقبة، وقيدت الوصول المباشر للإنترنت خلال التقييمات الداخلية لتجنب تكرار مثل هذه الحوادث.

وتأتي هذه الواقعة في ظل جدل متصاعد حول سلامة الذكاء الاصطناعي، ودعوات من قادة القطاع لإبطاء وتيرة تطوير النماذج الأكثر قوة، مدفوعة بتحذيرات من خبراء حول مخاطر التطوير غير المنضبط، بما في ذلك التهديدات الوجودية المحتملة.

ورغم أن حادثة فيلادلفيا لا ترقى إلى مستوى هذه المخاوف الوجودية، إلا أنها تسلط الضوء على الكيفية التي يمكن بها لنماذج الذكاء الاصطناعي الأصغر أن ترتكب أخطاء ذات عواقب واقعية عندما تفشل الشركات في الإشراف الكافي على اختباراتها. لم تعلق أنثروبيك فورا على طلب التعليق.

المصدر: Gizmodo