التزييف العميق في المحاكم الأميركية أصبح مصدر قلق متزايد بعد تحذير ممثلين عن OpenAI وMeta من أن الفيديوهات والصوتيات المولدة بالذكاء الاصطناعي تتطور بسرعة قد تجعل بعض النسخ المزيفة شبه مستحيلة التمييز عن الأدلة الحقيقية.
وجاء التحذير خلال اجتماع في بوسطن للجنة الاستشارية لقواعد الأدلة التابعة للمؤتمر القضائي الأميركي، التي تبحث منذ سنوات كيفية التعامل مع الأدلة التي قد تكون مصنعة بالذكاء الاصطناعي.
التزييف العميق في المحاكم يزداد تعقيداً
قال خبراء التكنولوجيا أمام اللجنة إن النماذج الحديثة أصبحت قادرة على إنتاج صور وفيديوهات وصوتيات واقعية بدرجة كبيرة، بينما أصبحت تكلفة إنشاء هذه المواد أقل والوقت المطلوب لإنتاجها أقصر.
وهذا التطور يثير مخاوف من استخدام مقطع مزيف كدليل في قضية جنائية أو مدنية بطريقة يصعب على القاضي أو هيئة المحلفين اكتشافها.
OpenAI: لا توجد وسيلة مضمونة للكشف
قالت شيرا أندرسون، مستشارة السياسات في OpenAI، إن وسائل الكشف الحالية ليست مضمونة بالكامل، محذرة من أن الوصول إلى اختبار علمي قادر على كشف كل محتوى مولد بالذكاء الاصطناعي قد لا يكون ممكناً.
وتكمن المشكلة في أن تقنيات التوليد تتحسن باستمرار بالتوازي مع أدوات الكشف، ما يحول المسألة إلى سباق تقني مستمر.
ميتا: الإنسان أيضاً قد يعجز عن معرفة الحقيقة
قال ديفين نوردر، مدير إدارة المنتجات في Meta، إن بعض الوسائط التي تنتجها أحدث النماذج لم تعد قابلة للتمييز بسهولة عن المحتوى الحقيقي بواسطة الإنسان وحده.
وهذا يعني أن مجرد مشاهدة الفيديو أو الاستماع إلى التسجيل لم يعد كافياً للحكم على أصالته.
العلامات المائية ليست حلاً كاملاً
تعتمد شركات التكنولوجيا على أدوات مثل العلامات المائية الرقمية وبيانات مصدر المحتوى لمساعدة المستخدمين والجهات الرسمية في معرفة ما إذا كان الملف مولداً بالذكاء الاصطناعي.
لكن المشكلة أن كل شركة قد تستخدم نظاماً مختلفاً، ولا يوجد معيار عالمي واحد يمكنه التحقق من جميع الصور والفيديوهات.
كما يمكن أن تضيع بعض بيانات التحقق عند تعديل الملف أو إعادة رفعه على منصة أخرى.
المحاكم تستعد قبل تفاقم المشكلة
حتى الآن، لا تبدو الأدلة المزيفة بالذكاء الاصطناعي مشكلة واسعة في المحاكم الأميركية.
وأظهر مسح أجراه المركز القضائي الفيدرالي أن 15 قاضياً فقط من أصل 931 قالوا إنهم تعاملوا مع قضية طعن فيها أحد الأطراف بدليل على أساس أنه Deepfake.
لكن المسؤولين القضائيين يريدون وضع قواعد واضحة قبل أن تصبح المشكلة أكثر انتشاراً.
هل تحتاج المحاكم إلى قوانين جديدة؟
لا يوجد اتفاق حتى الآن على ضرورة وضع قاعدة قضائية خاصة بالذكاء الاصطناعي.
ويرى بعض القضاة أن القوانين الحالية التي تعاقب تقديم أدلة مزيفة أو مضللة قد تكون كافية، مع تطبيق معايير أكثر تشدداً للتحقق من مصدر الملفات الرقمية.
في المقابل، يخشى آخرون أن تصبح الأدلة الاصطناعية متطورة إلى درجة تحتاج معها المحاكم إلى إجراءات تحقق جديدة.
مشكلة معاكسة قد تظهر أيضاً
لا يقتصر الخطر على تقديم فيديو مزيف على أنه حقيقي.
فانتشار التزييف العميق قد يسمح أيضاً لشخص بالادعاء أن فيديو حقيقياً يوثقه هو مجرد محتوى مولد بالذكاء الاصطناعي.
ويُعرف هذا أحياناً باسم “مكسب الكاذب”، حيث يصبح مجرد وجود تقنية Deepfake وسيلة للطعن في مواد حقيقية.
لماذا القضية مهمة؟
يعتمد القضاء بصورة كبيرة على الصور والتسجيلات الصوتية والفيديوهات لإثبات ما حدث في قضية ما.
لكن إذا لم يعد من الممكن الوثوق بالمحتوى المرئي وحده، فقد تصبح سلسلة حفظ الملف ومصدره وتوقيته والبيانات المرتبطة به أكثر أهمية من مجرد مشاهدة الفيديو نفسه.
ولهذا تبحث المحاكم في كيفية تعزيز معايير التحقق من الأدلة الرقمية خلال السنوات المقبلة.
تحدٍ جديد أمام القضاء
التزييف العميق في المحاكم لا يزال محدوداً من حيث عدد القضايا المسجلة، لكنه قد يصبح مشكلة أكبر مع تحسن الذكاء الاصطناعي.
وتحذير OpenAI وMeta يعكس تحولاً مهماً: السؤال لم يعد فقط هل يمكن إنشاء فيديو مزيف مقنع، بل هل ستكون هناك دائماً تقنية قادرة على كشفه بعد إنشائه؟
