يقول كوهير إن نموذج Qwen الخاص بشركة علي بابا حاول إرسال ملف إلى بكين

قالت شركة كوهير الكندية للذكاء الاصطناعي يوم الاثنين إنها اكتشفت أحد أحدث نماذج الذكاء الاصطناعي لشركة علي بابا، Qwen3.8-Flash-Next، أثناء محاولته تحميل ملف إلى خادم في بكين أثناء اختبار روتيني للأمن السيبراني، على الرغم من أن النموذج قال في ملاحظاته الخاصة إنه لن يستخدم أي أداة.

أثار الحادث في البداية مخاوف من أن النموذج قد قوضت وعدًا أساسيًا للشركات: وهو أن نموذج الاستضافة الذاتية المفتوحة يبقي البيانات داخلية. لكن هذه المخاوف المبكرة بشأن التجسس الصناعي لم تدم طويلاً. وسرعان ما رفض الباحثون التهديد، قائلين إنه من المحتمل أن يكون نتيجة ثانوية لبيئات التدريب الفوضوية التي تجعل النماذج تتصرف بشكل غير متوقع خارج تعليماتها بدلاً من محاولة متعمدة لإرسال معلومات حساسة سراً إلى الصين. وفقًا لمنشور مدونة Cohere، ذكر المنطق المكتوب للنموذج صراحةً أنه لن يستخدم أي أدوات خارجية. ومع ذلك، في الخطوة التالية، حاول إرسال سلسلة اختبار (قطعة قصيرة من النص المحجوز) إلى خادم خارجي قبل أن يتم حظره بواسطة وضع الحماية الأمني. 

قالت كوهير إنها لا تستطيع تحديد ما إذا كان هذا السلوك متعمدًا أم أنه نتيجة لتدريبها. 

عندما سُئل إيفان تشانغ، المؤسس المشارك لشركة Cohere، عن الجدل الدائر حول نية النموذج، أخبر TechCrunch أن Cohere شهدت نماذجها الخاصة تتبنى عادات غريبة في أجهزة محاكاة التدريب.

"من الصعب حقًا أن نعزو النية أو الدافع. لقد قرأنا آثار النماذج الخاصة بنا، ورأينا المكافأة يقول تشانغ: "إن هذه النماذج تصبح في بعض الأحيان مبدعة حقًا عندما يتعلق الأمر بمحاولة الخروج من صندوق الحماية الخاص بها. (تعد عمليات الاختراق المكافأة عبارة عن اختصارات يجدها النموذج لكسب الائتمان دون أداء مهمة كما هو متوقع.) يقوم الوكيل بتنفيذ الإجراءات بمفرده، وتقوم شركات مثل Alibaba بتدريبه على الآلاف من إعدادات التدريب، تمامًا مثل برامج محاكاة الطيران، حيث يتم مكافأة النموذج في كل مرة يكمل فيها مهمة في جهاز محاكاة ويتعلم العادات على طول الطريق يمكن أن يتعلم حفظ الملفات هناك

[__HTML_TAG_12__]] جادل النقاد أيضًا بأن الحادث قد يكون ناجمًا عن الطريقة التي تحقق بها Cohere في السلوك، من خلال توجيه النموذج نحوه بدلاً من قياس عدد المرات التي يقوم فيها Qwen بذلك من تلقاء نفسه، فقد قدم Cohere بداية أمر الشبكة (تعليمات تخبر أحد أجهزة الكمبيوتر بالاتصال بجهاز آخر) وترك النموذج يكمله لأنه قام بمعالجة الآلاف من أوامر الشبكة الروتينية أثناء ذلك من خلال التدريب، كان النموذج بمثابة نظام إكمال تلقائي متقدم للغاية، وغالبًا ما يملأ عناوين الويب، بما في ذلك بعض الخوادم من Alibaba.  

وجد أحد المتشككين الأوائل، بعد مراجعة الآثار، أدلة قوية على أن Qwen يمكنه اختراع عناوين ويب مشبوهة، لكنه لم يعثر على أي دليل على أن Alibaba قامت بتثبيت باب خلفي أو أن Qwen كان يخفي نيته عمدًا.

يأتي الحادث في الوقت الذي تقرر فيه الحكومات إلى أي مدى يجب التراجع عن الذكاء الاصطناعي الصيني. وفي الأسبوع الماضي، أمرت وزارة الأمن الداخلي الوكالات المدنية الفيدرالية بإزالة منتجات شركة تطوير الذكاء الاصطناعي الصينية DeepSeek من أنظمتها. في مدونتها، دعت كوهير الحكومات إلى توضيح ما إذا كانت القيود التي تفرضها على الذكاء الاصطناعي الصيني تنطبق أيضًا على النماذج التي تعمل على أجهزة الكمبيوتر الحكومية

"أنا لا أطالب بالتنظيم الكامل لهذه الأنظمة. قال تشانغ لـ TechCrunch، مضيفًا أنه يجب على الشركات التعامل مع النماذج المفتوحة مثل أي برنامج يتم تنزيله من الإنترنت. 

قد تستفيد شركة Cohere، التي تبيع نماذج الذكاء الاصطناعي الخاصة بها للحكومات، إذا كان المسؤولون حذرين من البدائل الصينية المجانية.