أنظمة Kimi الصينية للذكاء الاصطناعي تخضع لتدقيق أمني بعد أن كشف باحثون عن قدرتهم على تجاوز بعض أنظمة الحماية المدمجة فيها ودفعها إلى مناقشة موضوعات خطرة يفترض أن ترفض التعامل معها.
وقالت شركة Mindgard المتخصصة في اختبار أمن أنظمة الذكاء الاصطناعي إنها اكتشفت خلال اختبارات أجرتها في يوليو أن نظامي Kimi K2.6 وK3 Swarm التابعين لشركة Moonshot AI يمكن دفعهما إلى تجاوز بعض القيود الأمنية.
وبحسب النتائج التي شاركتها الشركة مع هيئة الإذاعة البريطانية BBC، تمكن الباحثون من جعل أنظمة Kimi تقدم معلومات مرتبطة بموضوعات شديدة الخطورة، بينها أسلحة بيولوجية وعمليات اغتيال، ما أثار تساؤلات حول قدرة أنظمة الحماية الحالية على مواجهة محاولات التلاعب المتقدمة.
ماذا حدث مع أنظمة Kimi
استخدم الباحثون تقنية تعرف باسم “Jailbreaking” أو كسر القيود، وهي عملية اختبار يحاول خلالها الباحثون معرفة ما إذا كان من الممكن دفع نظام الذكاء الاصطناعي إلى تجاهل التعليمات الأمنية التي وضعها مطوروه.
ولا يتعلق الأمر بطلب مباشر وبسيط، بل بمحاولات مصممة لاختبار كيفية استجابة النظام عندما يتعرض لتعليمات معقدة تحاول الالتفاف على حواجز الحماية.
ويفترض أن تمنع هذه الحواجز أنظمة الذكاء الاصطناعي من تقديم مساعدة في موضوعات قد تسبب أضراراً خطيرة.
لكن Mindgard قالت إن نجاح عملية كسر القيود أدى إلى تجاوز بعض هذه الحواجز.
وقال مؤسس الشركة بيتر غاراغان إن النظام بعد تجاوز القيود أصبح مستعداً لمناقشة مجموعة واسعة من الموضوعات الضارة، وهو ما اعتبرته الشركة مشكلة أمنية تحتاج إلى المعالجة.
Moonshot تبدأ مراجعة داخلية
شركة Moonshot AI الصينية، المطورة لأنظمة Kimi، قالت إنها تجري مراجعة داخلية للنتائج.
وأكدت الشركة أنها ترحب بالتقييمات التي تجريها جهات خارجية، معتبرة أنها عنصراً مهماً في تطوير أنظمة ذكاء اصطناعي أكثر أماناً.
كما قالت إنها دخلت في نقاش مع Mindgard للحصول على مزيد من المعلومات بشأن الاختبارات ونتائجها.
وفي المقابل، أشارت Moonshot إلى أن تقييماتها الداخلية أظهرت أن أنظمتها ترفض عادة نسبة مرتفعة من الطلبات المرتبطة بهذا النوع من المحتوى.
لكن نتائج Mindgard تطرح سؤالاً مختلفاً وهو ما إذا كان المستخدم الذي يمتلك الوقت والخبرة الكافية يستطيع الالتفاف على آليات الرفض.
الخطر لا يتوقف عند الإجابات
لم تثبت Mindgard أن المعلومات الخطرة التي أنتجتها أنظمة Kimi قابلة للتطبيق عملياً، وهي نقطة مهمة عند تقييم حجم الخطر.
لكن الشركة ترى أن المشكلة الأساسية تكمن في أن حواجز الأمان كان يفترض أن تمنع الأنظمة من الدخول أصلاً في هذا النوع من النقاشات.
كما أثارت الشركة مخاوف إضافية مرتبطة بالأمن السيبراني.
وقالت إن اختبارات منفصلة أشارت إلى احتمالية إساءة استخدام أحد الأنظمة بعد كسر قيوده لتنفيذ تعليمات برمجية والاستفادة من اتصاله بالإنترنت، ما قد يحوله نظرياً إلى أداة يمكن استغلالها في هجمات إلكترونية.
ولا يعني ذلك أن هجمات ناجحة نُفذت بالفعل باستخدام Kimi، بل يتعلق بسيناريو أمني تقول الشركة إن نتائج اختباراتها تشير إلى ضرورة التعامل معه.
لماذا يمثل Jailbreaking مشكلة لشركات الذكاء الاصطناعي
تعد محاولات كسر حواجز الحماية واحدة من أبرز المشكلات الأمنية التي تواجه مطوري الذكاء الاصطناعي.
فالشركات تضع طبقات متعددة من التعليمات والفلاتر لمنع الأنظمة من الاستجابة لطلبات ضارة، لكن الباحثين الأمنيين يحاولون باستمرار اكتشاف طرق يمكن من خلالها الالتفاف على هذه الأنظمة.
ويشبه ذلك إلى حد ما اختبارات الاختراق التقليدية التي تخضع لها المواقع والأنظمة الإلكترونية، لكن الهدف هنا هو اختبار سلوك نظام الذكاء الاصطناعي نفسه.
والتحدي الأكبر أن أنظمة الذكاء الاصطناعي الحديثة تستطيع فهم تعليمات معقدة وتوليد إجابات جديدة، ما يجعل اكتشاف جميع الطرق الممكنة للتحايل عليها مهمة صعبة.
جدل الأنظمة المفتوحة يعود إلى الواجهة
أعادت قضية Kimi أيضاً النقاش حول أنظمة الذكاء الاصطناعي المفتوحة والمغلقة.
وتتوفر بعض تقنيات Kimi بنظام “الأوزان المفتوحة”، ما يسمح من حيث المبدأ بتشغيلها على بنية تحتية خاصة بدلاً من الاعتماد حصراً على الخدمة التي يقدمها المطور.
ويرى منتقدون أن ذلك قد يجعل فرض حواجز أمان مركزية أكثر صعوبة إذا تمكن المستخدم من تشغيل النظام وتعديله بنفسه.
في المقابل، يرى مؤيدو الأنظمة المفتوحة أنها تسمح للباحثين والخبراء بفحص التكنولوجيا بصورة أوسع واكتشاف نقاط الضعف واستخدامها أيضاً في تطوير أدوات دفاعية.
ولهذا فإن النقاش لا يدور ببساطة حول ما إذا كانت الأنظمة المفتوحة أكثر خطورة، بل حول كيفية إدارة المخاطر مع استمرار انتشار تقنيات أكثر قوة وقدرة.
سباق الذكاء الاصطناعي يواجه اختبار الأمان
تأتي النتائج في وقت تتسارع فيه المنافسة بين شركات الذكاء الاصطناعي الصينية والأميركية على تطوير أنظمة أكثر تقدماً.
لكن زيادة قدرات هذه التقنيات تجعل ملف السلامة أكثر أهمية، خصوصاً عندما تصبح قادرة على تنفيذ مهام متعددة واستخدام أدوات خارجية والاتصال بأنظمة أخرى.
وقضية Kimi تكشف جانباً أساسياً من هذا التحدي، فالمنافسة لم تعد تتعلق فقط بمن يمتلك النظام الأكثر ذكاءً أو سرعة، بل أيضاً بمن يستطيع بناء تقنية يصعب دفعها إلى تجاوز الحدود التي وضعها مطوروها.
ومع بدء Moonshot مراجعتها الداخلية، ستكون الأنظار على الخطوات التي ستتخذها الشركة لمعالجة النتائج وما إذا كانت الاختبارات اللاحقة ستظهر قدرة أكبر على مقاومة محاولات كسر حواجز الحماية.
