لم يعد ظهور شخص في مقطع فيديو، أو سماع صوته في تسجيل، كافيًا للحكم على صحة ما يُنسب إليه. فقد أتاحت تقنيات الذكاء الاصطناعي إنشاء محتوى يحاكي الواقع بدرجة تجعل التحقق من مصدره وسياقه أكثر أهمية
وتتناول دراسة الهيئة السعودية للبيانات والذكاء الاصطناعي «سدايا» هذا التحول من جوانبه التقنية والمجتمعية والتنظيمية، مستعرضة تطور التزييف العميق، وأنواعه، ومخاطره، وطرق الحد منها، واستخداماته الإيجابية. وتعود الدراسة إلى يوليو 2025، بحسب الإحالة الرسمية المنشورة ضمن حملة التوعية المشتركة بين سدايا وهيئة الاتصالات والفضاء والتقنية
من تعديل المحتوى إلى محاكاة الواقع
التزييف العميق تقنية تعتمد على الذكاء الاصطناعي والتعلم العميق لإنشاء محتوى رقمي أو تعديله بدرجة عالية من الواقعية
وتستعرض الدراسة تطور هذه التقنيات من تجارب مبكرة لتحريك الشفاه وتعديل الفيديو، وصولًا إلى الشبكات التوليدية واستنساخ الأصوات وإنتاج الوسائط من الأوصاف النصية. كما تصنّفها إلى ثلاثة أنواع: مرئية وصوتية ونصية
وتشمل الصور المرئية تبديل الوجوه، وتوليد وجوه غير موجودة، وتغيير التعبيرات ومزامنة الشفاه. أما التزييف الصوتي فيشمل استنساخ صوت شخص أو توليد كلام بصوت يحاكيه، بينما قد يظهر التزييف النصي في رسائل أو منشورات تُنسب إلى أشخاص أو جهات دون مصدر موثوق
وتكمن أهمية هذا التصنيف للجهات في اتساع نطاق التحقق المطلوب؛ فالمحتوى الذي يستحق المراجعة قد يكون رسالة مكتوبة، أو تسجيلًا صوتيًا، أو اجتماعًا مرئيًا، وليس مقطعًا متداولًا على منصات التواصل فقط
مخاطر تمتد إلى الأعمال والمجتمع
يعرض ملخص سدايا مخاطر اقتصادية وسياسية وأمنية واجتماعية وتعليمية. وتوضح هذه المجالات أن أثر التزييف العميق قد يتجاوز المحتوى نفسه ليصل إلى القرارات والثقة والعلاقات داخل الجهات وخارجها
المخاطر الاقتصادية: الاحتيال والخسائر المالية
يمكن إساءة استخدام المحتوى المصطنع لإقناع المستلم بأن طلبًا ما صادر عن شخص يثق به، بما يفتح المجال للاحتيال والخسائر المالية
ومثال توضيحي داخل بيئة العمل: تسجيل صوتي يبدو أنه صادر عن مسؤول، يطلب تنفيذ تحويل مالي عاجل أو مشاركة معلومات حساسة.
في مثل هذا السيناريو، تصبح سلامة الإجراء أساسية: هل يتطلب الطلب اعتمادًا إضافيًا؟ وهل تُراجع التغييرات في بيانات المستفيد عبر قناة مستقلة؟ وهل يستطيع الموظف إيقاف التنفيذ للتحقق؟
المخاطر السياسية: التضليل وتشويه السمعة
قد يُستخدم المحتوى المزيف لنسب تصريحات أو مواقف إلى شخصيات عامة، بما يؤثر في فهم الجمهور للأحداث ويضر بالمصداقية
وبالنسبة للجهات، يبرز هنا دور الاتصال المؤسسي في توضيح القنوات الرسمية، وتنظيم اعتماد التصريحات، والاستعداد للتعامل مع محتوى منسوب إليها بصورة غير صحيحة
المخاطر الأمنية: انتحال الهوية وتجاوز التحقق
يشير الملخص إلى مخاطر انتحال الهوية واختراق أنظمة التحقق. وتناقش الدراسة أيضًا الهويات المصطنعة ومحاولات خداع أنظمة القياسات الحيوية
وتعني هذه المخاطر عمليًا أهمية مراجعة القرارات التي تعتمد على الصوت أو الصورة وحدهما، خاصة عندما ترتبط بإتاحة بيانات أو صلاحيات أو تنفيذ إجراءات حساسة
المخاطر التعليمية والاجتماعية: الغش والتنمر وتراجع الثقة
يمتد الأثر إلى البيئة التعليمية والعلاقات الاجتماعية، من خلال الغش والتنمر والإضرار بالسمعة وزعزعة الثقة.
وقد يواجه المتضرر صعوبة في تصحيح الانطباع حتى بعد توضيح أن المحتوى مزيف. ولهذا، تحتاج التوعية إلى تناول مسؤولية المشاركة وإعادة النشر، إلى جانب التعرف على التقنية نفسها
فرص إيجابية تستحق الاستخدام المسؤول
تعرض الدراسة استخدامات إيجابية في المجالات الإبداعية والتعليمية والقانونية. وفي ملخص سدايا، تشمل هذه الفرص دعم صناعة الأفلام، والتعليم بالمحاكاة والتجارب التفاعلية، وإعادة تمثيل الجرائم وحماية الشهود
في الإنتاج الإبداعي، تتيح التقنية تطوير مشاهد وتجارب بصرية وصوتية جديدة. ويظل وضوح حقوق الاستخدام والموافقات والإفصاح عن طبيعة المحتوى جزءًا مهمًا من إدارته
وفي التعليم، يمكن توظيف المحاكاة لتقريب الأفكار وتقديم تجارب تدريبية تفاعلية. وتبدأ القيمة من تحديد الهدف التعليمي ومراجعة دقة المادة، حتى تكون الواقعية البصرية وسيلة للفهم
وفي الاستخدامات القانونية، تبرز أهمية توضيح طبيعة المحاكاة والغرض منها، حتى لا يُفهم المحتوى التوضيحي باعتباره تسجيلًا أصليًا لواقعة
خمسة مسارات لمواجهة المخاطر
يطرح ملخص سدايا خمسة مسارات: رفع الوعي، ووضع علامات على المحتوى الاصطناعي، وتطوير أدوات الكشف، والتشريعات والتنظيمات، والتعاون الدولي
١. رفع الوعي العام
يبدأ الوعي بفهم أن واقعية المحتوى لا تثبت صحته، وأن كثرة تداوله لا تمنحه المصداقية
وفي الجهات، يمكن تحويل هذا المبدأ إلى تدريب يناسب مهام الفرق؛ مثل مراجعة الطلبات المالية لدى الإدارة المالية، والتحقق من التصريحات لدى الاتصال المؤسسي، والتعامل مع طلبات البيانات لدى الفرق التشغيلية
٢. تعزيز الشفافية في المحتوى الاصطناعي
تتناول الدراسة الإفصاح المباشر، مثل التسميات والعلامات الظاهرة، والإفصاح غير المباشر، مثل البيانات الوصفية والبصمات الرقمية والعلامات المائية. كما تعرض التعاون عبر C2PA ومبادرة CAI لتوثيق أصالة المحتوى
ومن الناحية المؤسسية، يساعد تحديد متطلبات الإفصاح قبل إنتاج المحتوى على توحيد الممارسة بين الموظفين والموردين والوكالات
٣. تطوير أدوات الكشف
تدعم أدوات الكشف مراجعة المحتوى المشتبه به. وللاستفادة منها داخل الجهة، يُقترح تحديد الحالات التي تستدعي استخدامها، والمسؤول عن مراجعة نتائجها، وآلية التصعيد عند استمرار الشك
وتكتمل المراجعة بالرجوع إلى المصدر الأصلي، والتحقق من السياق، والتواصل مع الطرف المعني عبر قناة معتمدة
٤. التنظيم والتشريع
تستعرض الدراسة تجارب تنظيمية دولية، وتناقش دور التشريعات والإرشادات في التعامل مع التقنية. وهذه المقارنات تعكس نطاق الدراسة وزمنها، وتحتاج مراجعة مستقلة عند استخدامها لتحديد التزامات قانونية حالية
أما داخل الجهة، فيمكن البدء بسياسات واضحة تحدد الاستخدامات المقبولة، ومسؤوليات الاعتماد، وضوابط استخدام الصور والأصوات والبيانات
٥. التعاون وتوثيق مصدر المحتوى
يساعد التعاون بين الجهات التقنية والمنصات والمؤسسات على تطوير ممارسات مشتركة للتحقق والتوثيق.
وعلى مستوى الجهة، يمكن دعم ذلك بحفظ النسخ الأصلية للمواد المنشورة، وتوثيق مراحل اعتمادها، وتحديد مصادرها وحقوق استخدامها
من الوعي بالتقنية إلى جاهزية مؤسسية
من منظور بايونيرز، تفتح هذه المحاور مجالًا لمراجعة جاهزية الجهة في ثلاثة مجالات مترابطة
حوكمة الذكاء الاصطناعي: تحديد الاستخدامات، وتقييم المخاطر، وتوزيع المسؤوليات، وتنظيم المراجعة والاعتماد
إدارة البيانات وحوكمتها: ضبط الوصول إلى الصور والأصوات والبيانات، وتوثيق مصادرها وموافقات استخدامها ومشاركتها
التحول الرقمي: إدماج التحقق والإبلاغ والاستجابة داخل الإجراءات اليومية، وربط السياسات بممارسات تستطيع الفرق تنفيذها
ويمكن ترجمة ذلك إلى خطوات تبدأ بحصر الاستخدامات الحالية، ومراجعة الإجراءات الحساسة، وتحديد الفجوات، ثم ترتيب أولويات التحسين وتدريب الفرق ومتابعة التطبيق
كيف تدعم بايونيرز جهتك؟
ندعم الجهات في تقييم جاهزية الذكاء الاصطناعي، وتطوير استراتيجياته وأطر حوكمته، وتعزيز إدارة البيانات وحوكمتها، وبناء خرائط طريق للتحول الرقمي
ومن خلال الجمع بين التقييم والخبرة الاستشارية وبناء القدرات، نساعد جهتك على تحويل الوعي بالفرص والمخاطر إلى أولويات وإجراءات عملية
جهّز جهتك للاستفادة من الذكاء الاصطناعي بثقة ومسؤولية
