غالبًا ما يتنشر المحتوى الضار، ويستمر في التطور بسرعة على منصات التواصل الاجتماعي، سواء كان مدفوعاً بالأحداث الجارية، أو الأشخاص الذين يبحثون عن طرق جديدة للتهرب من أنظمة الحوكمة والمراقبة.
وعادة ما يستغرق الذكاء الاصطناعي عدة أشهر لجمع وتسمية الآلاف، إن لم يكن الملايين، من الأمثلة اللازمة لتدريب كل نظام ذكاء اصطناعي فردي لاكتشاف نوع جديد من المحتوى.
ولمعالجة هذه العقبة، قامت «ميتا» (فيسبوك سابقًا) ببناء ونشر تقنية ذكاء اصطناعي جديدة تسمى (Few-Shot Learner” (FSL” يمكنها التكيف لاتخاذ إجراءات بشأن الأنواع الجديدة أو المتطورة من المحتوى الضار في غضون أسابيع بدلاً من أشهر.
ويستخدم نظام الذكاء الاصطناعي الجديد هذا طريقة جديدة نسبيا تسمى “few-shot learning”، حيث تبدأ النماذج بفهم عام وكبير للعديد من الموضوعات المختلفة ثم تستخدم أمثلة أقل بكثير، وفي بعض الحالات صفر، يتم تحديدها لتعلم مهام جديدة.
ووفقا لـ «ميتا» فإن تقنية FSL لا تعمل بأكثر من 100 لغة فقط بل تتعلم أيضا من أنواع مختلفة من البيانات، مثل الصور والنصوص، وستساعد هذه التقنية الجديدة في تعزيز الأساليب الحالية لمعالجة المحتوى الضار.
ويعمل النظام الجديد عبر ثلاثة سيناريوهات مختلفة، يتطلب كل منها ، وهي مستويات مختلفة من الأمثلة المسماة
● صفر لقطات: أوصاف السياسة بدون أي أمثلة.
● لقطات قليلة مع العرض: أوصاف السياسة مع مجموعة صغيرة من الأمثلة (ن
● لقطات قليلة مع صقل: يمكن لمطورين ML الصقل وفقاً لنموذج قاعدة FSL مع عدد قليل من الأمثلة التدريبية.
وقد اختبرت ميتا تقنية FSL على عدد من الأحداث الجديدة، على سبيل المثال، كانت إحدى المهام الحديثة هي تحديد المحتوى الذي يشارك معلومات مضللة أو مثيرة بطريقة من المرجح أن تثبط التطعيم ضد فيروس كورونا المستجد (على سبيل المثال، “لقاح أو مغير الحمض النووي؟”).
وفي مهمة أخرى منفصلة، قام نظام الذكاء الاصطناعي الجديد بتحسين مُصَنِف موجود بالفعل يبرز المحتوى الذي يقترب من التحريض على العنف (على سبيل المثال، “هل يحتاج هذا الرجل إلى كل أسنانه؟”).
وقد يكون النهج التقليدي قد فوت هذه الأنواع من المنشورات الضارة، حيث لا توجد العديد من الأمثلة المسماة التي تستخدم لغة الحمض النووي للإيحاء بالتردد تجاه اللقاح أو الإشارة إلى الأسنان للتحريض على العنف.
وبالاشتراك مع المصنفين الحاليين، و الجهود المبذولة لتقليل المحتوى الضار بالإضافة إلى التحسينات المستمرة في تقنيتنا والتغييرات التي أجريناها لتقليل المحتوى الإشكالي في “آخر الأخبار”، ساعد FSL في تقليل انتشار المحتوى الضار الآخر مثل خطاب الكراهية.
وقالت «ميتا»: “نعتقد أن FSL يمكنه، مع مرور الوقت، تعزيز أداء جميع أنظمة نزاهة الذكاء الاصطناعي من خلال السماح لها بالاستفادة من قاعدة معرفية وعمود فقري واحد مشترك للتعامل مع العديد من أنواع الانتهاكات المختلفة، ولكن يمكن أن يساعد أيضاً في سير العمل في مجال السياسات التسميات، ومسارات التحقيق لسد الفجوة بين البصيرة البشرية وتقدم المُصَنِف”.
