تقنية «Deepfake»: عصر الحيرة والحقيقة المزورة
استيقظت إحدى الصحفيات الهنديات ذات يوم لتستقبل على هاتفها فيديوهات ستغير حياتها للأبد. حدقت الصحفية في شاشة هاتفها التي تعرض فيديو جنسياً واضحاً. راجعت اسم المرسل، إنه بالفعل أخوها. راجعت الفيديو مرة أخرى، نعم، بمنتهى الوضوح الفيديو يُظهِرها وهي تمارس الجنس مع غرباء لا تعرفهم.
والغريب أن هذه الصحفية الهندية مسلمة ملتزمة، وتعرف تماماً أنها لم تشارك في هذا الفيديو. فكيف تظهر فيه بهذا الوضوح؟ فوجئت بانتشار الفيديو عند أهلها، جيرانها، أصدقائها، ومتابعيها على مواقع التواصل الاجتماعي. كيف حدث هذا؟ وما مصدر الفيديو؟ وكيف تم تزويره؟
اضطرت الصحفية، التي كانت معروفة بكشفها لقضايا الفساد السياسي أن تنسحب من كل أنشطتها في المجتمع، تختفي من على شبكة الإنترنت، تبقى في منزلها حزينة مدمرة حتى ينسى الناس هذا الفيديو تماماً. لم يتم التعرف على منْ زوَّروا هذا الفيديو، ولا منْ نشروه، لكن يمكن أن نتعرف على كيفية وصولنا لعصر الحقائق المزورة، عصر الحيرة.
التزوير العميق Deepfake
منذ سنوات انتشر أدوبي فوتوشوب واستعمله الكثيرون لتحسين الصور الثابتة. بينما استعمله آخرون في التزوير. ولكن مؤخراً، بدأت ثورة من البرامج التي تُعدِّل من الفيديوهات والتسجيلات الصوتية بمنتهي الدقة، لدرجة يصعب على الإنسان أن يفترض أن الفيديو المعروض غير حقيقي. من الممكن طبعاً استعمال برامج متخصصة للكشف عن التزوير في أغلب الحالات، ولكن المتابعين الذين استقبلوا فيديو الصحفية الهندية لا يملكون هذه البرامج.
في ربيع عام 2018 عرضت شركة Belle Production فيديو للرئيس أوباما بعد تعديل حديثه السياسي إلى حوار عن فيلم Black Panther. واستعملت الشركة نظم ذكاء صناعي تقليدية لتعديل الفيديو. ويمكن أن ترى في الفيديو شفاه الرئيس تتحرك مع النص المزور، ويتطابق الصوت المزور مع بصمة صوت الرئيس. وفي ربيع عام 2019، ظهر فيديو مزيف لرئيسة مجلس النواب «نانسي بيلوسي» تم تزويره من فيديو حقيقي.
لذلك، فعلينا أن نتفهَّم، أن اكتشاف التزوير يستغرق وقتاً. ومع مرور الوقت، يثبت تأثير التزوير كما لو كان حقيقة، ويصعب إصلاح سمعة الشخص المستهدف. خاصة إذا كان الأمر يتعلق بحملة انتخابية، فما قيمة اكتشاف التزوير بعد انتهاء التصويت؟ وماذا تفعل لو دمر أحدهم سمعتك في محل عملك؟
ببساطة، استطاع صُنَّاع هذا الفيديو أن يُدمِّروا سمعة الصحفية بدرجة كبيرة.
المتضررون، وكيف ندافع عن أنفسنا؟
ربما يظن البعض أن المشاهير يمكنهم أن يدافعوا عن أنفسهم، وأن الحقيقة ستظهر ولو بعد حين. ولكن المشكلة أخطر من ذلك، فسمعة المشاهير هي أغلى ما يملكون، ومعظم الناس لا تستعيد الثقة في أي إنسان بعد أن يفقدها. كذلك تبقى المشكلة بالنسبة لأي إنسان عادي لا يملك المقدرة على إثبات براءته. فقليل جداً من الناس يُمكنه أن يتعامل مع مثل هذا النوع من التشهير.
المشكلة الأخرى هي في القادة والمشاهير الذين يرتكبون أفعالاً مخزية. لأن وجود التزوير العميق يسمح لهم أن يُشكِّكوا في أي فيديو حقيقي يظهر لهم بحجة أنه تزوير عميق. كذلك يصبح عمل الصحافة ووكالات الأنباء شديد الخطورة نظراً لصعوبة تحليل الأخبار الحقيقية من المزورة. ولعل أكثر المتضررين هي منصات التواصل الاجتماعي التي يصعب عليها اكتشاف التزوير، في نفس الوقت الذي نطالبهم فيه بحماية معلوماتنا واحترام سمعتنا.
أضف إلى ذلك المشاكل القانونية. فالحقيقة أنه لا يمكن الكشف عن كل ما تم تزويره رقمياً. فدقة برامج كشف التزوير لها إشكاليتها مثل عدم القدرة على كشف بعض المُزوَّر. فكيف تثق المحاكم في الأدلة المقدمة لها؟ لقد أصبح العالم يتواصل من خلال الكيان الديجيتال الرقمي، ولكن الحقائق الديجيتال قد يصعب الوثوق بها.
لذلك، يمكنني أن أحدد على الأقل ثلاثة طرق لكي ندافع عن أنفسنا:
- التشريع والتقنين: فربما يمكن اتخاذ إجراءات تشريعية ضد مُنتجي برامج التزوير العميق، على أن القوانين لن تكون فعالة ضد الدول الأجنبية. وتبقى محاولة الإزالة السريعة للمحتوى المزور من على شبكات التواصل الاجتماعي أمراً في أيدي هذه الشركات. أو على الأقل مطالبة هذه الشركات بإضافة علامات توضح إن كان المحتوى مزوراً، أو مشكوكاً فيه، أو لم يُختبَر بعد. وتبقى سرعة الإزالة بحاجة إلى قوانين صارمة.
- التعليم والتدريب: فعلينا أن نُعلِّم أنفسنا وأبناءنا أن الخبر المنشور والمتوافر ليس بالضرورة صحيحاً. ومن الضروري محو الأمية بالوسائط الرقمية وتحسين السلوك عبر التفكير النقدي. من الضروري أن نُحسِن الظن بالآخرين حتى نتأكد. والمشكلة أن هذا يخالف طبيعتنا البشرية التلقائية التي تُصدِّق ما نراه بعيوننا.
- تطوير تقنيات مكافحة التزييف العميق: تحتاج السلطات الحكومية لحظر الاستخدام الاحتيالي لتقنيات التزوير العميق في مجالات الأغراض التجارية أو السياسية أو معاداة المجتمع بصورة عامة.
هذه المحاور الثلاثة هامة لمواجهة الخطر القادم على مجتمعاتنا العربية.
نظرة لبعيد
تقنية التزوير العميق يمكن أن تُسبِّب مشاكل مجتمعية وسياسية بدرجة تزيد كثيراً على ما شرحته في هذا المقال. من الممكن إشعال نيران فتنة دينية، مذهبية، طائفية، أو حرب أهلية باستعمال هذه التقنية. ولو أضفنا إليها تقنيات أخرى، فمن الممكن حياكة قصة كاملة تُصوِّر للمجتمع خيانات سياسية أو عسكرية لا أصل لها على الإطلاق. لذلك، أدق ناقوس الخطر ليتنبَّه العقلاء قبل أن تدخل الشعوب العربية في فوضى أكثر مما نحن عليه الآن.
ويبقى جوهر المشكلة في ضعف العالم العربي في مجال التقنيات الرقمية، وخاصة الذكاء الصناعي. فالعالم العربي لا ينتج من التقنيات الرقمية إلا عدداً محدوداً من البرامج التي تنحصر في المجال الخدمي المحلي. لذلك يبقى العالم العربي من المحيط للخليج عُرضة للتوتر أكثر من أي مجتمع آخر. ولا أبالغ إذا قلت إن بعض الشركات قد يميل لتجربة منتجاته علينا ليدرسوا تأثير منتجاتهم على الجموع.
أتمنى أن يبدأ عالمنا العربي في الإنفاق في مجالات الذكاء الصناعي في أقرب وقت، وقبل أن يفوتنا القطار. خاصة أن الشباب العربي لديه من الذكاء والإبداع ما يمكن أن يُعوِّض تراخينا وتباطؤنا الواضح في كثيرٍ من المجلات.
