وكان موقع "ذا فيرج" المتخصص في الأخبار التقنية أول من أورد هذا التغيير في السياسة. ولم يرد متحدث باسم "أنثروبيك"، الشركة المطورة لروبوت الدردشة "كلود" (Claude)، على الفور على استفسار حول ما يمكن اعتباره "مسيئا أو قاسيا".

وأشارت الشركة، ومقرها سان فرانسيسكو، في سياسة مستخدمين منشورة على الإنترنت، إلى أن حظرها لن يشمل ردود الفعل الطبيعية من المستخدمين عند شعورهم بالإحباط، أو اختبار النماذج، أو "المواضيع الإبداعية المظلمة".

وكانت سياسة الاستخدام لدى "أنثروبيك" تتضمن في السابق قيودا على السلوك المسيء. وتمتلك النماذج اللغوية الكبيرة لدى الشركة القدرة على إنهاء المحادثة إذا أبدى المستخدم ضررا متواصلا.

وعند إطلاق هذه الميزة في أغسطس الماضي، وصفتها الشركة بأنها ضمانة لرفاه الذكاء الاصطناعي. وجاء في موقعها: "ما نزال نشك بقوة في الوضع الأخلاقي المحتمل لكلود والنماذج اللغوية الكبيرة الأخرى، الآن أو في المستقبل. غير أننا نأخذ المسألة على محمل الجد، وإلى جانب برنامجنا البحثي، نعمل على تحديد تدخلات منخفضة الكلفة وتنفيذها للتخفيف من المخاطر على رفاه النماذج، في حال كان هذا الرفاه ممكنا. والسماح للنماذج بإنهاء التفاعلات التي قد تسبب الضيق أو الخروج منها هو أحد هذه التدخلات".

وقد أثارت فكرة وعي أنظمة الذكاء الاصطناعي انقساما حادا داخل عالم التكنولوجيا وخارجه. وقال الرئيس التنفيذي لشركة "أنثروبيك"، داريو أمودي، إنه لا يستطيع استبعاد هذا الاحتمال.

في المقابل، بدا سام ألتمان، الرئيس التنفيذي لشركة "أوبن إيه آي" المنافسة، معارضا للفكرة. وكتب في منشور على منصة "إكس": "أشعر بانزعاج شديد من محاولات إضفاء قوة دينية أو تسليم الحكم البشري لنماذج الذكاء الاصطناعي، وأعتبر ذلك قضية سلامة حقيقية"، وذلك بعد أيام من تقرير صحيفة "نيويورك تايمز" عن محادثات مطولة أجراها قادة "أنثروبيك" مع علماء دين.

المصدر: الغارديان