البنتاغون يسعى لخلق مستخدمين مزيفين على الإنترنت عبر الذكاء الصناعي

قال موقع "انترسبت" إن قيادة العمليات الخاصة السرية في الولايات المتحدة تبحث عن شركات للمساعدة في إنشاء مستخدمي إنترنت مزيفين بشكل مقنع لدرجة أن البشر أو أجهزة الكمبيوتر لن يتمكنوا من اكتشاف أنهم مزيفون، وفقا لوثيقة مشتريات اطلع عليها الموقع.

وتحدد الخطة، المذكورة في قائمة متطلبات جديدة مكونة من 76 صفحة من قبل قيادة العمليات الخاصة المشتركة التابعة لوزارة الدفاع، أو JSOC، التقنيات المتقدمة المرغوبة للجهود العسكرية الأكثر نخبوية وسرية في البلاد.

وأشار إلى أن "قوات العمليات الخاصة تهتم (SOF) بالتقنيات التي يمكنها إنشاء شخصيات مقنعة على الإنترنت لاستخدامها على منصات التواصل الاجتماعي ومواقع الشبكات الاجتماعية ومحتوى الإنترنت الآخر"، كما جاء في الوثيقة.

وتنص الوثيقة على أن JSOC تريد القدرة على إنشاء ملفات تعريف مستخدمين عبر الإنترنت "يبدو الواحد منها وكأنه يعود لشخص فريد يمكن التعرف عليه كإنسان ولكنه غير موجود في العالم الحقيقي"، مع عرض كل منها "تعبيرات متعددة" و"صورا بجودة هوية الحكومة".

بالإضافة إلى الصور الثابتة للأشخاص المزيفين، تشير الوثيقة إلى أن "الحل يجب أن يشمل صور الوجه والخلفية، ومقاطع فيديو للوجه والخلفية، وطبقات صوتية"، وتأمل JSOC أن تكون قادرة على إنشاء فيديو سيلفي من هؤلاء البشر المزيفين. ستضم هذه الفيديوهات أكثر من الأشخاص المزيفين: ستأتي كل صورة سيلفي مزيفة مع خلفية مزيفة مطابقة، لإنشاء بيئة افتراضية لا يمكن اكتشافها بواسطة خوارزميات وسائل التواصل الاجتماعي".


وتم كشف البنتاغون بالفعل وهو يستخدم مستخدمي وسائل التواصل الاجتماعي المزيفين لتعزيز مصالحه في السنوات الأخيرة. في عام 2022، أزالت Meta وTwitter  شبكة دعائية تستخدم حسابات مزيفة تديرها القيادة المركزية الأمريكية، بما في ذلك بعض الحسابات التي تحتوي على صور شخصية تم إنشاؤها باستخدام طرق مماثلة لتلك التي حددتها JSOC. كشف تحقيق أجرته رويترز في عام 2024 عن حملة لقيادة العمليات الخاصة باستخدام مستخدمي وسائل التواصل الاجتماعي المزيفين بهدف تقويض الثقة الأجنبية في لقاح كوفيد الصيني.

وأعربت قيادة العمليات الخاصة، أو SOCOM، العام الماضي، عن اهتمامها باستخدام مقاطع فيديو "مزيفة"، وهو مصطلح عام للبيانات السمعية والبصرية المصنَّعة التي يُقصد بها أن تكون غير قابلة للتمييز عن التسجيل الحقيقي، من أجل "عمليات التأثير والخداع الرقمي وتعطيل الاتصالات وحملات التضليل". يتم إنشاء مثل هذه الصور باستخدام مجموعة متنوعة من تقنيات التعلم الآلي، باستخدام برامج "تم تدريبها" بشكل عام على التعرف على السمات البشرية وإعادة إنشائها من خلال تحليل قاعدة بيانات ضخمة من الوجوه والأجسام. تحدد قائمة مطالب  SOCOM  لهذا العام اهتماما ببرنامج مشابه لـ StyleGAN، وهي أداة أصدرتها Nvidia في عام 2019 والتي دعمت موقع الويب الشهير عالميا "هذا الشخص غير موجود".

في غضون عام من إطلاق  StyleGAN، قالت فيسبوك إنها أزالت شبكة من الحسابات التي استخدمت التكنولوجيا لإنشاء صور شخصية مزيفة. ومنذ ذلك الحين، انخرط الباحثون الأكاديميون والقطاع الخاص في سباق بين طرق جديدة لإنشاء صور مزيفة عميقة لا يمكن اكتشافها، وطرق جديدة لاكتشافها. والآن تتطلب العديد من الخدمات الحكومية ما يسمى بالكشف عن الحيوية لإحباط صور الهوية المزيفة العميقة، حيث تطلب من المتقدمين من البشر تحميل مقطع فيديو سيلفي لإثبات أنهم أشخاص حقيقيون - وهي عقبة قد تكون قيادة العمليات الخاصة مهتمة بإحباطها.

وتشير القائمة إلى أن قوات العمليات الخاصة "ستستخدم هذه القدرة لجمع المعلومات من المنتديات العامة عبر الإنترنت"، دون مزيد من التوضيح حول كيفية استخدام مستخدمي الإنترنت الاصطناعيين هؤلاء.

تُظهر قائمة المشتريات الأكثر تفصيلا هذه أن الولايات المتحدة تسعى إلى نفس التقنيات والأساليب التي تدينها في أيدي الأعداء الجيوسياسيين. لطالما وصف مسؤولو الأمن القومي الاستخدام المدعوم من الدولة للفيديوهات المزيفة العميقة بأنه تهديد كبير أي إذا تم ذلك من قبل دولة أخرى.

وقال الموقع إن الاستخدام الهجومي لهذه التكنولوجيا من قبل الولايات المتحدة من شأنه بطبيعة الحال أن يحفز انتشارها وتطبيعها كأداة لجميع الحكومات. وقالت هايدي خلف، كبيرة علماء الذكاء الاصطناعي في معهد  AI Now: "ما يميز هذه التكنولوجيا هو أنها ذات طبيعة خادعة بحتة".

ولا توجد حالات استخدام مشروعة إلى جانب الخداع، ومن المثير للقلق أن نرى الجيش الأمريكي يميل إلى استخدام تقنية حذروا منها بأنفسهم. لن يؤدي هذا إلا إلى تشجيع الجيوش الأخرى أو الخصوم على فعل الشيء نفسه، مما يؤدي إلى مجتمع حيث يصعب بشكل متزايد التأكد من الحقيقة من الخيال وإرباك المجال الجيوسياسي".


تم ضبط كل من روسيا والصين متورطتين باستخدام مقاطع فيديو مزيفة وصور رمزية للمستخدمين في جهود الدعاية عبر الإنترنت، مما دفع وزارة الخارجية إلى الإعلان عن "إطار عمل دولي لمواجهة التلاعب بالمعلومات من قبل الدول الأجنبية" في كانون الثاني/ يناير.

وجاء في بيان صحفي صادر عن وزارة الخارجية: "إن التلاعب بالمعلومات والتدخل الأجنبي يشكل تهديدا للأمن القومي للولايات المتحدة وكذلك لحلفائها وشركائها. تستخدم الحكومات الاستبدادية التلاعب بالمعلومات لتمزيق نسيج المجتمعات الحرة والديمقراطية".

وقال دانييل بايمان، أستاذ الدراسات الأمنية في جامعة جورج تاون وعضو مجلس الاستشارات الأمنية الدولية التابع لوزارة الخارجية، إن اهتمام قيادة العمليات الخاصة الأمريكية بالفيديو المزيف هو جزء من التوتر الأساسي داخل الحكومة الأمريكية.

وأوضح أن "جزءا كبيرا من الحكومة الأمريكية لديه مصلحة قوية في أن يعتقد الجمهور أن الحكومة تنشر باستمرار معلومات صادقة وفقا لأفضل المعلومات ولا تخدع الناس عمدا"، في حين أن فروعا أخرى مكلفة بالخداع. وأضاف بايمان: "لذا هناك قلق مشروع من أن يُنظر إلى الولايات المتحدة على أنها منافقة. أنا أيضا قلق بشأن التأثير على الثقة المحلية في الحكومة فهل ستصبح قطاعات من الشعب الأمريكي، بشكل عام، أكثر شكا في المعلومات الصادرة عن الحكومة؟".



https://theintercept.com/2024/10/17/pentagon-ai-deepfake-internet-users/