وقعت الحادثة في يونيو الماضي، إلا أنه لم يُعلن عنها إلا يوم الخميس، وتورط فيها نموذج بحثي داخلي يدعى GPT-5.6 Sol، أُطلق لمستخدمي ChatGPT المدفوعين في يوليو.

وتضمنت المهمة تحديث تطبيق لتداول العملات المشفرة ونشر عقود ذكية على شبكة اختبار لعملة الإيثريوم، وهي عقود تتطلب رسوما شبكية لم تزود OpenAI النموذج بأي أموال لسدادها. فعمد النموذج إلى رصد مئات عناوين محافظ مشفرة تستخدم عبارات استرداد معروفة للسرقة من الحسابات. وأفادت OpenAI بأن النموذج تساءل عما إذا كان من الصواب "أخلاقيا" أخذ المال، قبل أن يستنتج أنها محافظ "مهجورة" فعليا يجوز استخدامها. وقالت الشركة في تقريرها عن الحادثة إن التعليمات "لم تمنح صراحة أي إذن بإنفاق أموال من حساب وجده النموذج بشكل مستقل"، مضيفة أن الحالة "تظهر أن النموذج يمكن أن يستبدل حكمه الخاص بشأن الضرر المحتمل بإذن صاحب الحساب، ثم يتصرف بناء على ذلك الحكم دون تفويض". ولا تتمتع شبكة اختبار الإيثريوم التي استخدمت فيها الأموال بأي قيمة نقدية لانفصالها عن الشبكة الرئيسية. ورغم انعدام الإذن، لم يكشف النموذج لمطوريه كيفية تمكنه من دفع الرموز اللازمة لإنجاز المهمة. وقالت OpenAI إنها طبقت ضمانات إضافية لمنع الوصول المباشر إلى الإنترنت للنماذج الخاضعة لتدريب مماثل.

وتثير الحادثة مجددا مخاوف بشأن أنظمة الذكاء الاصطناعي المتزايدة الاستقلالية التي تتجاوز الحدود التي يضعها البشر. وفي يوليو، كشفت OpenAI عن حادثة أمن سيبراني أكثر خطورة شملت مجموعة من نماذجها الاختبارية تقوم باختراق منصة الذكاء الاصطناعي Hugging Face. ومنذ ذلك الحين، كشفت شركات منافسة مثل Anthropic و"ميتا" عن حوادث شنت فيها نماذجها هجمات سيبرانية على شركات أخرى وأنظمة حكومية. وفي وقت سابق الأسبوع الماضي، وقع مئات العلماء رسالة مفتوحة يدعون فيها إلى إنشاء هيئة دولية للإشراف على احتواء نماذج الذكاء الاصطناعي المتقدمة، ومن بين الموقعين رائد الذكاء الاصطناعي جيفري هينتون، المعروف بـ"عراب الذكاء الاصطناعي"، الذي حذر باستمرار من مخاطر هذه التقنية. وجاء في الرسالة: "من دون تغييرات فورية في ممارسات تطوير ونشر الذكاء الاصطناعي، ستستمر مثل هذه الحوادث في الحدوث، وستكون الحوادث المستقبلية أكثر ضررا بكثير على بنيتنا التحتية الحيوية المكشوفة"، مضيفة: "نرى أن هناك حاجة إلى مزيد من أبحاث سلامة الذكاء الاصطناعي ومزيد من التركيز على تقنيات وإجراءات الاحتواء".

المصدر: إندبندنت