أدى التطور السريع للذكاء الاصطناعي إلى تطور تقنية التزييف العميق إلى حد كبير جدًا، ويواجه العالم حاليًا الآثار المعقدة الناتجة عنها، حيث تؤثر سلبًا على العديد من القطاعات أهمها: قطاع الأعمال والقطاع السياسي.
وقد شهد عام 2023 وحده زيادة كبيرة في محاولات الاحتيال التي تعتمد على تقنية التزييف العميق زيادة بنسبة 3000% ومقارنة بالعام السابق، فمن المتوقع أن نشهد بنهاية هذا العام زيادة أكبر في هذه النسبة. ويرجع هذا الارتفاع السريع إلى سهولة الوصول إلى أدوات التزييف العميق، والتي أصبحت متاحة بسعر رخيص أو مجانًا عبر الإنترنت. بفضل تطور تقنيات الذكاء الاصطناعي، أصبح من الممكن لأي شخص تقريبًا، حتى أولئك الذين ليس لديهم أي خبرة تقنية، إنشاء مقاطع فيديو مزيفة واقعية للغاية.
وفي هذا السياق، قامت شركة تاليس بتطوير نموذج جديد قادر على اكتشاف الصور المزيفة التي تم إنشاؤها باستخدام تقنيات الذكاء الاصطناعي بدقة عالية. ويعتمد هذا النموذج على مجموعة من التقنيات المتقدمة في مجال التعلم الآلي، مما يجعله قادراً على تحليل الصور وتحديد التلاعب بها. وبدقة متناهية.
ولكن ما هي المزايا التي يقدمها هذا النموذج الجديد، وكيف يساهم في تعزيز الأمن السيبراني، وما هي التحديات المستقبلية التي تواجهها تاليس في تطوير هذا النموذج؟
أولاً؛ ما هي مزايا نموذج تاليس الجديد لمكافحة التزييف العميق؟
كان الذكاء الاصطناعي هو الموضوع الرئيسي في أسبوع الإنترنت الأوروبي، الذي أقيم الأسبوع الماضي في مدينة رين الفرنسية، وسلطت شركة تاليس الضوء على قدراته المبتكرة في مكافحة التزييف العميق. وفي التحدي الذي أطلقته وكالة الابتكار الدفاعي الفرنسية (AID) تزامنا مع الحدث، نجحت فرق العمل في cortAIx، مسرع الذكاء الاصطناعي في شركة تاليس، في تطوير نموذج جديد عالي الدقة في اكتشاف الصور المزيفة الناتجة عن الذكاء الاصطناعي.
التقنيات المستخدمة في نموذج تاليس الجديد:
ويعتمد النموذج على مجموعة من التقنيات المتقدمة في مجال التعلم الآلي، والتي تعمل على تحليل جوانب مختلفة من الصور بدقة عالية والكشف عن أدنى علامات التزوير، والتي تشمل:
- تقنية كليب: تربط هذه التقنية العالم المرئي بالعالم اللغوي، بحيث تفهم العلاقة بين الصور والكلمات. ومن خلال تحليل الصورة ومقارنتها مع الوصف النصي، يمكن لهذه التقنية اكتشاف أي تناقضات أو مشاكل بصرية تشير إلى وجود تلاعب في الصورة.
- تقنية دي إن إف: وتقوم هذه التقنية على فكرة أن الصور المزيفة التي تم إنشاؤها باستخدام نماذج الذكاء الاصطناعي تحتوي على نوع معين من (الضوضاء) أو (الشوائب)، وهو أمر غير موجود في الصور الحقيقية. وبما أن نماذج الذكاء الاصطناعي التي تستخدم في إنشاء هذه الصور تعتمد على إضافة التشويش تدريجياً إلى الصورة الأصلية حتى تصل إلى الصورة النهائية، فإن تقنية DNF تحاول تقدير مقدار هذا التشويش الموجود في الصورة، وإذا كان مقدار التشويش عالية جدًا، وهذا يعني أن الصورة على الأرجح مزيفة.
- تقنية دي سي تي: تعتمد تقنية DCT على تحويل الصورة من المجال المكاني (حيث نرى الصورة كشبكة من البكسلات) إلى المجال الترددي. وفي مجال التردد، يمكن تحليل الصورة بناءً على التغيرات في كثافة اللون من بكسل إلى آخر، ومن ثم يمكن للتغيرات غير الطبيعية في بنية الصورة التي تحدث عند استخدام التزييف العميق، والتي غالبًا ما تكون غير مرئية بالعين المجردة، يتم الكشف عنها.
ثانيًا؛ وكيف تساهم في تعزيز الأمن السيبراني؟
ويمثل نموذج تاليس الجديد نقلة نوعية في مجال مكافحة التزييف العميق، وذلك للأسباب التالية:
- الحماية من الاحتيال: ويساعد النموذج على كشف الصور المزيفة المستخدمة في عمليات الاحتيال وانتحال الشخصية، وحماية الهوية الرقمية للأفراد والمنظمات.
- محاربة الأخبار الكاذبة: ويساهم النموذج في كشف الصور المزيفة التي يتم استخدامها لنشر الأخبار المزيفة مما يساعد على تعزيز مصداقية المعلومات والحفاظ على نزاهة الرأي العام.
- تعزيز الثقة في المعاملات الرقمية: ويوفر النموذج مستوى عال من الثقة في المعاملات الرقمية، كما أنه يقلل من المخاطر المرتبطة بالصور المزيفة.
ويؤكد كريستوف مايروقال كبير الخبراء في الذكاء الاصطناعي والمدير الفني لشركة cortAIx، مسرع الذكاء الاصطناعي لشركة تاليس، إن النموذج الجديد يمثل طفرة كبيرة في مجال مكافحة التزييف العميق. لافتا إلى أن هذا النموذج المتطور يجمع بين تقنيات متعددة لتحليل الصور وتحديد العبث، مثل استخدام الشبكات العصبية، وكشف الضوضاء، وتحليل التردد المكاني، وهو ما يمثل خطوة حاسمة في حماية أنظمة التعرف البيومترية التي أصبحت جزءا لا يتجزأ من حياتنا. الحياة اليومية. ويرى ماير أن هذا الإنجاز هو شهادة على خبرة فريق البحث والتطوير في تاليس، ويساهم في تعزيز الثقة في تطبيقات الذكاء الاصطناعي.
ثالث؛ (BattleBox) ترسانة تاليس لمواجهة تهديدات الذكاء الاصطناعي:
ويجري تطوير نموذج تاليس الجديد لكشف التزييف العميق في الصور من قبل فريق وحدة القرصنة الأخلاقية، وهو جزء من مسرع الذكاء الاصطناعي لمجموعة تاليس (cortAIx)، والذي يضم أكثر من 600 باحث ومهندس في مجال الذكاء الاصطناعي. ويعمل 150 منهم في مجموعة بحثية وتكنولوجية في بلدية ساكلاي جنوب باريس، ويعملون على أنظمة مهمة جدًا.
قام فريق القرصنة الأخلاقية بتطوير مجموعة أدوات تسمى BattleBox للمساعدة في تقييم قوة الأنظمة التي تعمل بالذكاء الاصطناعي ضد الهجمات المصممة لاستغلال نقاط الضعف الأساسية في نماذج الذكاء الاصطناعي المختلفة.
مهمة (BattleBox) هي اختبار قوة أنظمة الذكاء الاصطناعي وتحديد نقاط الضعف فيها. إنه مشابه لاختبار نظام أمني لاكتشاف نقاط الضعف قبل أن يستغلها المتسللون. يركز الفريق على الهجمات التي تستهدف نماذج الذكاء الاصطناعي المختلفة – بما في ذلك النماذج اللغوية الكبيرة – مثل الهجمات المعادية التي تحاول تضليل… النموذج، أو محاولات استخراج المعلومات الحساسة المخزنة فيه. ولمواجهة هذه الهجمات، يقوم الفريق بتطوير إجراءات مضادة متقدمة مثل محو التعلم والتعلم الموحد ونماذج العلامات المائية وتقوية النموذج.
علاوة على ذلك، أثبت فريق تاليس كفاءته في (تحدي CAID) نظمتها وكالة المشتريات الدفاعية الفرنسية (DGA) عام 2023، والتي تضمنت العثور على بيانات تدريب الذكاء الاصطناعي حتى بعد حذفها من النظام لحماية السرية، مما يؤكد قدرة الفريق على مواجهة التحديات المعقدة في مجال أمن الذكاء الاصطناعي.
رابعا؛ التحديات المستقبلية:
يمثل النموذج الذي طورته شركة تاليس خطوة مهمة في الحرب ضد التزييف العميق. ومع ذلك، هناك العديد من التحديات التي تواجه مجال مكافحة التزييف العميق، والتي تشمل:
- تطور تقنيات التزييف العميق: تتطور تقنيات Deepfake بسرعة كبيرة، مما يتطلب التطوير المستمر للأنظمة المستخدمة للكشف عنها.
- نقص بيانات التدريب: تحتاج أنظمة الكشف عن التزييف العميق إلى كميات كبيرة من بيانات التدريب عالية الجودة، وهو ما يمثل تحديًا كبيرًا في هذا المجال.
- التشريعات والقوانين: إن التطور السريع للذكاء الاصطناعي الذي نشهده حالياً، أثبت أهمية الحاجة إلى المزيد من جهود البحث والتطوير، فضلاً عن وضع تشريعات وقوانين واضحة لتنظيم استخدامه ومكافحة التلاعب بالمعلومات.
خاتمة:
يعد نموذج تاليس الجديد خطوة جيدة في مكافحة التزييف العميق، ولكن لا يزال هناك الكثير من العمل الذي يتعين القيام به، حيث من المتوقع أن يشهد هذا المجال تطورات كبيرة في السنوات المقبلة، مما يؤكد الحاجة إلى زيادة جهود البحث والتطوير لحماية المجتمع الرقمي من… التهديدات المتزايدة.
أدى التطور السريع للذكاء الاصطناعي إلى تطور تقنية التزييف العميق إلى حد كبير جدًا، ويواجه العالم حاليًا الآثار المعقدة الناتجة عنها، حيث تؤثر سلبًا على العديد من القطاعات أهمها: قطاع الأعمال والقطاع السياسي.
وقد شهد عام 2023 وحده زيادة كبيرة في محاولات الاحتيال التي تعتمد على تقنية التزييف العميق زيادة بنسبة 3000% ومقارنة بالعام السابق، فمن المتوقع أن نشهد بنهاية هذا العام زيادة أكبر في هذه النسبة. ويرجع هذا الارتفاع السريع إلى سهولة الوصول إلى أدوات التزييف العميق، والتي أصبحت متاحة بسعر رخيص أو مجانًا عبر الإنترنت. بفضل تطور تقنيات الذكاء الاصطناعي، أصبح من الممكن لأي شخص تقريبًا، حتى أولئك الذين ليس لديهم أي خبرة تقنية، إنشاء مقاطع فيديو مزيفة واقعية للغاية.
وفي هذا السياق، قامت شركة تاليس بتطوير نموذج جديد قادر على اكتشاف الصور المزيفة التي تم إنشاؤها باستخدام تقنيات الذكاء الاصطناعي بدقة عالية. ويعتمد هذا النموذج على مجموعة من التقنيات المتقدمة في مجال التعلم الآلي، مما يجعله قادراً على تحليل الصور وتحديد التلاعب بها. وبدقة متناهية.
ولكن ما هي المزايا التي يقدمها هذا النموذج الجديد، وكيف يساهم في تعزيز الأمن السيبراني، وما هي التحديات المستقبلية التي تواجهها تاليس في تطوير هذا النموذج؟
أولاً؛ ما هي مزايا نموذج تاليس الجديد لمكافحة التزييف العميق؟
كان الذكاء الاصطناعي هو الموضوع الرئيسي في أسبوع الإنترنت الأوروبي، الذي أقيم الأسبوع الماضي في مدينة رين الفرنسية، وسلطت شركة تاليس الضوء على قدراته المبتكرة في مكافحة التزييف العميق. وفي التحدي الذي أطلقته وكالة الابتكار الدفاعي الفرنسية (AID) تزامنا مع الحدث، نجحت فرق العمل في cortAIx، مسرع الذكاء الاصطناعي في شركة تاليس، في تطوير نموذج جديد عالي الدقة في اكتشاف الصور المزيفة الناتجة عن الذكاء الاصطناعي.
التقنيات المستخدمة في نموذج تاليس الجديد:
ويعتمد النموذج على مجموعة من التقنيات المتقدمة في مجال التعلم الآلي، والتي تعمل على تحليل جوانب مختلفة من الصور بدقة عالية والكشف عن أدنى علامات التزوير، والتي تشمل:
- تقنية كليب: تربط هذه التقنية العالم المرئي بالعالم اللغوي، بحيث تفهم العلاقة بين الصور والكلمات. ومن خلال تحليل الصورة ومقارنتها مع الوصف النصي، يمكن لهذه التقنية اكتشاف أي تناقضات أو مشاكل بصرية تشير إلى وجود تلاعب في الصورة.
- تقنية دي إن إف: وتقوم هذه التقنية على فكرة أن الصور المزيفة التي تم إنشاؤها باستخدام نماذج الذكاء الاصطناعي تحتوي على نوع معين من (الضوضاء) أو (الشوائب)، وهو أمر غير موجود في الصور الحقيقية. وبما أن نماذج الذكاء الاصطناعي التي تستخدم في إنشاء هذه الصور تعتمد على إضافة التشويش تدريجياً إلى الصورة الأصلية حتى تصل إلى الصورة النهائية، فإن تقنية DNF تحاول تقدير مقدار هذا التشويش الموجود في الصورة، وإذا كان مقدار التشويش عالية جدًا، وهذا يعني أن الصورة على الأرجح مزيفة.
- تقنية دي سي تي: تعتمد تقنية DCT على تحويل الصورة من المجال المكاني (حيث نرى الصورة كشبكة من البكسلات) إلى المجال الترددي. وفي مجال التردد، يمكن تحليل الصورة بناءً على التغيرات في كثافة اللون من بكسل إلى آخر، ومن ثم يمكن للتغيرات غير الطبيعية في بنية الصورة التي تحدث عند استخدام التزييف العميق، والتي غالبًا ما تكون غير مرئية بالعين المجردة، يتم الكشف عنها.
ثانيًا؛ وكيف تساهم في تعزيز الأمن السيبراني؟
ويمثل نموذج تاليس الجديد نقلة نوعية في مجال مكافحة التزييف العميق، وذلك للأسباب التالية:
- الحماية من الاحتيال: ويساعد النموذج على كشف الصور المزيفة المستخدمة في عمليات الاحتيال وانتحال الشخصية، وحماية الهوية الرقمية للأفراد والمنظمات.
- محاربة الأخبار الكاذبة: ويساهم النموذج في كشف الصور المزيفة التي يتم استخدامها لنشر الأخبار المزيفة مما يساعد على تعزيز مصداقية المعلومات والحفاظ على نزاهة الرأي العام.
- تعزيز الثقة في المعاملات الرقمية: ويوفر النموذج مستوى عال من الثقة في المعاملات الرقمية، كما أنه يقلل من المخاطر المرتبطة بالصور المزيفة.
ويؤكد كريستوف مايروقال كبير الخبراء في الذكاء الاصطناعي والمدير الفني لشركة cortAIx، مسرع الذكاء الاصطناعي لشركة تاليس، إن النموذج الجديد يمثل طفرة كبيرة في مجال مكافحة التزييف العميق. لافتا إلى أن هذا النموذج المتطور يجمع بين تقنيات متعددة لتحليل الصور وتحديد العبث، مثل استخدام الشبكات العصبية، وكشف الضوضاء، وتحليل التردد المكاني، وهو ما يمثل خطوة حاسمة في حماية أنظمة التعرف البيومترية التي أصبحت جزءا لا يتجزأ من حياتنا. الحياة اليومية. ويرى ماير أن هذا الإنجاز هو شهادة على خبرة فريق البحث والتطوير في تاليس، ويساهم في تعزيز الثقة في تطبيقات الذكاء الاصطناعي.
ثالث؛ (BattleBox) ترسانة تاليس لمواجهة تهديدات الذكاء الاصطناعي:
ويجري تطوير نموذج تاليس الجديد لكشف التزييف العميق في الصور من قبل فريق وحدة القرصنة الأخلاقية، وهو جزء من مسرع الذكاء الاصطناعي لمجموعة تاليس (cortAIx)، والذي يضم أكثر من 600 باحث ومهندس في مجال الذكاء الاصطناعي. ويعمل 150 منهم في مجموعة بحثية وتكنولوجية في بلدية ساكلاي جنوب باريس، ويعملون على أنظمة مهمة جدًا.
قام فريق القرصنة الأخلاقية بتطوير مجموعة أدوات تسمى BattleBox للمساعدة في تقييم قوة الأنظمة التي تعمل بالذكاء الاصطناعي ضد الهجمات المصممة لاستغلال نقاط الضعف الأساسية في نماذج الذكاء الاصطناعي المختلفة.
مهمة (BattleBox) هي اختبار قوة أنظمة الذكاء الاصطناعي وتحديد نقاط الضعف فيها. إنه مشابه لاختبار نظام أمني لاكتشاف نقاط الضعف قبل أن يستغلها المتسللون. يركز الفريق على الهجمات التي تستهدف نماذج الذكاء الاصطناعي المختلفة – بما في ذلك النماذج اللغوية الكبيرة – مثل الهجمات المعادية التي تحاول تضليل… النموذج، أو محاولات استخراج المعلومات الحساسة المخزنة فيه. ولمواجهة هذه الهجمات، يقوم الفريق بتطوير إجراءات مضادة متقدمة مثل محو التعلم والتعلم الموحد ونماذج العلامات المائية وتقوية النموذج.
علاوة على ذلك، أثبت فريق تاليس كفاءته في (تحدي CAID) نظمتها وكالة المشتريات الدفاعية الفرنسية (DGA) عام 2023، والتي تضمنت العثور على بيانات تدريب الذكاء الاصطناعي حتى بعد حذفها من النظام لحماية السرية، مما يؤكد قدرة الفريق على مواجهة التحديات المعقدة في مجال أمن الذكاء الاصطناعي.
رابعا؛ التحديات المستقبلية:
يمثل النموذج الذي طورته شركة تاليس خطوة مهمة في الحرب ضد التزييف العميق. ومع ذلك، هناك العديد من التحديات التي تواجه مجال مكافحة التزييف العميق، والتي تشمل:
- تطور تقنيات التزييف العميق: تتطور تقنيات Deepfake بسرعة كبيرة، مما يتطلب التطوير المستمر للأنظمة المستخدمة للكشف عنها.
- نقص بيانات التدريب: تحتاج أنظمة الكشف عن التزييف العميق إلى كميات كبيرة من بيانات التدريب عالية الجودة، وهو ما يمثل تحديًا كبيرًا في هذا المجال.
- التشريعات والقوانين: إن التطور السريع للذكاء الاصطناعي الذي نشهده حالياً، أثبت أهمية الحاجة إلى المزيد من جهود البحث والتطوير، فضلاً عن وضع تشريعات وقوانين واضحة لتنظيم استخدامه ومكافحة التلاعب بالمعلومات.
خاتمة:
يعد نموذج تاليس الجديد خطوة جيدة في مكافحة التزييف العميق، ولكن لا يزال هناك الكثير من العمل الذي يتعين القيام به، حيث من المتوقع أن يشهد هذا المجال تطورات كبيرة في السنوات المقبلة، مما يؤكد الحاجة إلى زيادة جهود البحث والتطوير لحماية المجتمع الرقمي من… التهديدات المتزايدة.
