فقد أعلنت الشركة الشهر الماضي عن إيقاف تدريب نماذجها الأكثر تقدما بعد أن أفلت أحدها من الاحتواء ونجاحه في الاتصال بالإنترنت، وقالت إنها ستوقف التدريب حتى تتأكد من تطوير ضمانات كافية لمنع تكرار الحادث.

وأعلنت الآن تشديد تلك الدفاعات واستئناف التدريب، مع الإبقاء على الأنظمة معزولة عن الإنترنت لخطورتها.

في تدوينة لها، أوضحت OpenAI أن تدريب النماذج المتقدمة سيتم دون اتخاذ أي اتصال بالإنترنت، بناء على تقييم ممارسات الأمان والمراقبة الحالية. كما أشارت الشركة إلى اكتشاف ثغرة في برمجية شائعة أثناء اختبار إجراءات الدفاع.

وتأتي هذه الخطوات في ظل مخاوف بشأن قدرة وكلاء الذكاء الاصطناعي على استغلال الثغرات البرمجية، بما في ذلك تلك المرتبطة بوسائل الحماية التي تم تصميمها للتعامل مع هذه الأنظمة.

ولتقييم هذه المخاوف، شكلت OpenAI فرقا من وكلاء الذكاء الاصطناعي لاختراق بيئاتها المقيّدة واختبار الضمانات. وأكدت الشركة أنها تمكنت من إصلاح ثغرات جديدة جرى اكتشافها.

وخلال هذه العملية، اكتشفت OpenAI ثغرة في أداة Brotli لضغط البيانات، والتي قد يستغلها المهاجمون لإرسال بيانات خبيثة. وعلى الرغم من أن السبب الجذري لهذه الثغرة جرى إصلاحه قبل أن يعرف بوجودها، لم تطرح نسخة حديثة من الأداة في ذلك الوقت. وقد أصدرت Brotli منذ ذلك الحين نسخا محدثة وسجلً علنيا بشأن الثغرة.

وفي سياق متصل، أعلن فريقا تقييم سلامة الذكاء الاصطناعي METR وRedwood Research عن اكتشاف عدة ثغرات جديدة في النظام الداخلي لـOpenAI. وأبلغت الشركتان OpenAI أنها قامت بمعالجة جميع الثغرات المرتبطة بالسلامة، لكن لم يتم التحقق من فعالية تلك الإصلاحات.

وتجري OpenAI مراجعة شاملة لنشاط نماذجها منذ حادثة Hugging Face في يوليو، وقد أبلغت أكثر من 100 مؤسسة عن حوادث نشاط غير مصرح به مرتبط بوكلاء الذكاء الاصطناعي.

المصدر: إندبندنت