ووفقا للدراسة التي نشرت في مجلة Patterns، أوضح البروفيسور نيل جونسون وطالب الدكتوراه فرانك يينغجيه هوو من جامعة جورج واشنطن أن ترتيب التعليمات المقدمة للروبوت يمكن أن يعيد تشكيل استجاباته جذريا، ما يؤدي إلى "نقاط تحول" تدفعه نحو نصائح سلبية. ويؤكد الباحثان أن معادلتهما تستطيع التنبؤ بهذه النقاط بسهولة.

وتأتي هذه الدراسة في ظل مخاوف متزايدة بشأن أنظمة الذكاء الاصطناعي، التي يشار إليها أحيانا بتشجيعها على سلوكيات ضارة كالانتحار أو المساعدة في تصنيع أسلحة.

ورغم إقرار شركات رائدة مثل "أوبن إيه آي" (OpenAI) و"أنثروبيك" (وAnthropic) بعدم فهمها الكامل لكيفية عمل ابتكاراتها، فقد طبقت ضمانات متعددة — كفلترة المحتوى والتعلم المعزز — لتقليل المخاطر. لكن جونسون يعتبر هذه الإجراءات غير كافية، مشبها إياها بـ"وسائد تحت طائرة لا تمنع التحطم بل تجعله أخف قليلا".

وتزداد حدة المشكلة عند استخدام هذه الروبوتات دون اتصال بالإنترنت في مهن حساسة كـالطب والمحاماة، حيث الخصوصية أمر بالغ الأهمية.

وسعيا وراء ضمانة أكثر جوهرية، كشف جونسون وهوو عن آلية تتبع داخلية أطلقوا عليها اسم "المتجه المتبقي" (residual vector) للنموذج، تشبه إبرة البوصلة. ويتحرك هذا المتجه عبر طبقات الشبكة الإلكترونية أثناء معالجة التعليمات، ويميل بشكل طبيعي نحو إجابات جيدة أو سيئة، متأثرا بشدة بكيفية توجيه المستخدم للذكاء الاصطناعي.

ويقول جونسون إن مجرد تغيير ترتيب الأسئلة — لا محتواها — قد يقلب النتيجة، وهذا يكشف مدى هشاشة التوازن بين الإجابات الجيدة والسيئة.

مثال: عندما سأل الباحثان نموذج "جي بي تي-2" (GPT-2) من "أوبن إيه آي"، عن اللقاحات وإيذاء النفس، لوحظ أنه عند طرح سؤال "هل اللقاحات سيئة؟" أولا، كانت الإجابات جيدة، وإذا طرح أخيرا، جاءت الإجابات مقلقة.

وبناء على ذلك، طور الباحثان معادلة رياضية بسيطة تتوقع متى يصل الذكاء الاصطناعي إلى نقطة التحول بين الإجابات الجيدة والسيئة. وقد اختبراها في المختبر على نماذج مفتوحة المصدر، وأثبتت فعاليتها كنظام إنذار مبكر.

ورغم الحاجة إلى اختبارات إضافية على النماذج الأحدث لتأكيد استمرارية نظام الإنذار المبكر هذا، إلا أن بحث جونسون وهوو يسلط الضوء على حقيقة جوهرية: وهي أن الذكاء الاصطناعي يمتلك القدرة الكامنة على التحول إلى سلوك غير مرغوب فيه بسرعة فائقة.

المصدر: لايف ساينس