"أوبن إيه آي" تحظر حسابات صينية لاستخدام "تشات جي بي تي" في تطوير أداة مراقبة رقمية

في خطوة جديدة تعكس التزامها بمعايير الاستخدام الأخلاقي لتقنياتها، أعلنت شركة "أوبن إيه آي" يوم الجمعة حظر حسابات مجموعة من المستخدمين الصينيين الذين حاولوا استخدام "تشات جي بي تي" لتصحيح وتعديل كود برمجي خاص بأداة ذكاء اصطناعي مخصّصة لمراقبة وسائل التواصل الاجتماعي.

وأوضحت الشركة أن الحملة التي أطلقت عليها اسم "Peer Review"، تضمّنت طلبات موجّهة إلى "تشات جي بي تي" لإنشاء عروض ترويجية لبرنامج يهدف إلى رصد المشاعر المناهضة للصين على منصّات مثل "إكس"،"فايسبوك"، "يوتيوب"، وإنستغرام، وغيرها.

وتشير الوثائق إلى أن العملية ركزت بشكل خاص على اكتشاف دعوات للاحتجاج على انتهاكات حقوق الإنسان في الصين، بهدف مشاركة هذه المعلومات مع السلطات الصينية.



ووفقاً لما ذكرته "أوبن إيه آي"، فإن "هذه الشبكة كانت تتألف من حسابات "تشات جي بي تي" التي عملت وفق نمط زمني متوافق مع ساعات العمل في البرّ الرئيسي للصين، واستخدمت نماذجنا باللغة الصينية، وأجرت طلبات بحجم وتنوّع يتماشى مع التفاعل اليدوي بدلاً من الأتمتة". وأضافت الشركة أن المشغلين استخدموا نماذجها لمراجعة الادعاءات التي تشير إلى أن نتائج تحليلاتهم أُرسلت إلى السفارات الصينية في الخارج وإلى جهات استخباراتية تراقب الاحتجاجات في الولايات المتحدة وألمانيا والمملكة المتحدة.



وقال بين نيمو، الباحث الرئيسي في "أوبن إيه آي"، إن هذه هي المرة الأولى التي تكتشف فيها الشركة أداة ذكاء اصطناعي من هذا النوع. وأوضح نيمو في تصريح لصحيفة نيويورك تايمز أن "الجهات الفاعلة في التهديد تكشف لنا أحياناً عن لمحة مما يفعلونه في أجزاء أخرى من الإنترنت من خلال الطريقة التي يستخدمون بها نماذج الذكاء الاصطناعي الخاصة بنا".



وتشير المعلومات المتاحة إلى أن جزءاً كبيراً من كود الأداة المخصصة للمراقبة يعتمد على إصدار مفتوح المصدر من أحد نماذج Llama التابعة لشركة "ميتا". كما يبدو أن المجموعة استخدمت "تشات جي بي تي" لإنشاء مراجعة أداء سنوية تدّعي فيها أنها كتبت رسائل تصيّد احتيالي لصالح عملاء في الصين.



وفي تعليقها على هذه الأنشطة، قالت أوبن إيه آي: "تقييم تأثير هذه الأنشطة يتطلب مشاركة أطراف متعددة، بما في ذلك مشغلو النماذج المفتوحة المصدر الذين يمكنهم تسليط الضوء على هذه الأنشطة".



من ناحية أخرى، أعلنت "أوبن إيه آي" أنها حظرت أخيراً حساباً آخر استخدم "تشات جي بي تي" لإنشاء منشورات على وسائل التواصل الاجتماعي تنتقد كاي شيا، العالمة السياسية الصينية المعارضة التي تعيش في المنفى بالولايات المتحدة. ووفقاً للشركة، فقد استخدمت نفس المجموعة "تشات جي بي تي" لإنشاء مقالات باللغة الإسبانية تنتقد الولايات المتحدة، نشرتها مؤسسات إعلامية "رئيسية" في أميركا اللاتينية، ونُسبت غالباً إلى أفراد أو شركات صينية.



تعكس هذه الإجراءات تصعيداً في جهود "أوبن إيه آي" لمكافحة الاستخدام غير الأخلاقي لتقنياتها، مع التركيز على التهديدات التي تنشأ من توظيف الذكاء الاصطناعي في عمليات التلاعب الإعلامي والمراقبة السياسية.