استمع إلى المقال

وقّع “تحالف الذكاء الاصطناعي” والعديد من المنظمات الأخرى في روسيا على دستور أخلاقيات الذكاء الاصطناعي. وجاء ذلك كجزء من المنتدى الدولي بعنوان “أخلاقيات الذكاء الاصطناعي: بداية الثقة”، الذي بدأ يوم 26 أكتوبر/تشرين الأول في موسكو. ويقوم الدستور على تحديد المبادئ الأخلاقية العامة ومعايير السلوك لتوجيه المشاركين في الأنشطة باستخدام الذكاء الاصطناعي. وسيصبح جزءًا من المشروع الفيدرالي للذكاء الاصطناعي واستراتيجية تطوير مجتمع المعلومات للفترة ما بين 2017-2030.

عن الدستور الجديد

سيتم تطبيق هذا الدستور على العلاقات التي تنطوي على الجوانب الأخلاقية لإنشاء وتنفيذ واستخدام تقنيات الذكاء الاصطناعي في جميع مراحل دورة الحياة، والتي لا يضبطها القانون الروسي حاليًا.

وتنقسم الوثيقة إلى بضعة أقسام تتوزّع على موضوعاتٍ مثل تحفيز تطوير الذكاء الاصطناعي وزيادة الوعي بأخلاقيات استخدام الذكاء الاصطناعي وتحديد مجالات استخدام الذكاء الاصطناعي في تقنيات التواصل وأمن المعلومات. ووفقًا لنائب رئيس المركز التحليلي التابع للحكومة الروسية، سيرجي ناكفاسين، هناك حوالي 20 دولة فقط حاليًا تتعامل مع أخلاقيات الذكاء الاصطناعي.

تم وضع هذا الدستور الروسي من قبل تحالف الذكاء الاصطناعي بالاشتراك مع المركز التحليلي التابع للحكومة الروسية ووزارة التنمية الاقتصادية. وتم النتويه إلى أن الانضمام إلى فريق المشرّعين أمرٌ طوعي.

وتم التوقيع على الوثيقة من قبل أعضاء التحالف، وهي شركات Sberbank و Gazprom Neft و Yandex VK و MTS وصندوق الاستثمار المباشر الروسي، بالإضافة إلى ممثلين عن مؤسسات Skolkovo و Rostelecom و Rosatom و InfoWatch ومنصة Cian العقارية.

ولأول مرة، عند توقيع الاتفاقيات، تم استخدام توقيع Gosklyuch؛ وهي خدمة روسية تُنشئ توقيعًا إلكترونيًا للمستخدم مجانًا. إذ يتم تخزين التوقيع ضمن بنية تحتية محمية خاصة بالحكومة الإلكترونية. وهو أمرٌ بحد ذاته قد يساء استخدامه بالنظر إلى إمكانية الوصول إلى ملايين التواقيع الخاصة بالمواطنين.

ويُذكر أنه في ديسمبر/كانون الأول عام 2020، دعا الرئيس الروسي فلاديمير بوتين إلى وضع دستورٍ أخلاقي داخلي في مجال الذكاء الاصطناعي. وشدد رئيس الدولة على أهمية ضمان مشاركة المجتمع المهني ورجال الأعمال في تشكيل المبادئ الأخلاقية لاستخدام الذكاء الاصطناعي.

تاريخ روسيا الحافل بانتهاكات الذكاء الاصطناعي

إن تشريع دستورًا كهذا أمرٌ بجوهره ضروري وجميع الدول بحاجته، وبشكلٍ أكثر دقة، بحاجة تطبيقه والامتثال له. لكن روسيا الاتحادية ليست الدولة المثلى حاليًا لوضع هكذا تشريعات، فالدولة لها باعٌ طويل وخبرة سنواتٍ في الانتهاكات القانونية التي استخدمت فيها الذكاء الاصطناعي. نستعرض قليلًا منها:

في تقريرٍ صدر عن منظمة هيومن رايتس ووتش الشهر الماضي، فإن السلطات الروسية تواصل توسيع نطاق استخدامها لتقنية التعرف على الوجه في جميع أنحاء البلاد، دون تنظيم أو رقابة أو حماية للبيانات، مما يحمل تداعياتٍ خطيرة على حقوق الإنسان والحريات الأساسية. وقد سهّل ذلك بالفعل استهداف السلطات الروسية للمعارضين السياسيين.

ففي 27 أغسطس/آب 2021، نشرت حكومة موسكو دعوةً لتوسيع استخدامات جهات إنفاذ القانون لنظام الوصول إلى صور الوجه ولقطات الفيديو التي جمعتها شبكة الدوائر التلفزيونية المغلقة -أي شبكات كاميرات المراقبة- الواسعة في المدينة. ومن شأن ذلك أن يمكّن الشرطة من تتبع تحركات الأهداف وأولئك الذين يرتبطون بهم بشكلٍ متكرر وتحديد الأشخاص الذين يظهرون بشكلٍ متكرر في موقع معين. كما تخطط السلطات أيضًا لتوسيع عوامل التصفية لعمليات البحث عن البيانات، مثل الجنس أو العمر أو العرق.

وتخطط سلطات موسكو أيضًا لتسهيل التعرف على الصور الظلية. إذ تخلق هذه التقنية “صورة ظلية” فريدة لشخص ما بناءً على الطول والحجم والملابس وعوامل أخرى لتتبع الحركات عندما يكون وجه الشخص غير مرئي. وتم بالفعل إدخال أنظمة مراقبة بالفيديو جديدة تسمح بالتعرف على الصور الظلية وعلى المركبات في خمس مناطق مختلفة من روسيا.

وقالت إدارة تكنولوجيا المعلومات في موسكو إن هذا التحديث المخطط يهدف إلى خلق بيئة أكثر أمانًا لسكان موسكو وتحسين حماية البيانات. ووفقًا للسلطات، في يوليو/تموز، اكتشف نظام التعرف على الوجه في مترو الأنفاق في موسكو 221 شخصًا من قائمة المشتبه بهم من الجنائيين المطلوبين.

لكن أعرب محامو الخصوصية ومجموعات الحقوق الرقمية بالفعل عن مخاوفهم بشأن الآثار المترتبة على حقوق الإنسان الناجمة عن استخدام هذه التقنيات، بما في ذلك تعزيز قدرة الكرملين على مراقبة ومضايقة أي شخص يعتبره معارضًا.

وصنّفت وكالة التحليل، تليكوم ديلي، روسيا على أنها الدولة التي تمتلك ثاني أكبر نمو لشبكة الدوائر التلفزيونية المغلقة للعام الحالي بعد الصين. ووفقًا لحكومة موسكو ، تعالج خوارزميات تحليل الفيديو تدفقات الفيديو من 125 ألف كاميرا في المدينة تخدم مجموعةً واسعةً من الأغراض في موسكو ، من مراقبة مدفوعات النقل العام إلى مراقبة حركة المرور ونظام المرور المدرسي. وأكثر من 5000 كاميرا مزودة ببرنامج التعرف على الوجه تعمل بالفعل في مناطق أخرى من روسيا.

وفي أبريل/نيسان 2020، اعتمد البرلمان الروسي قانون اسمه: “حول تجربة الذكاء الاصطناعي“، الذي يسمح لسلطات موسكو باختبار التقنيات الجديدة، بما في ذلك تقنيات التعرف على الوجه، بعيدًا عن معظم قيود تشريعات البيانات الشخصية.

وقال كيريل كوروتييف، رئيس برنامج العدالة الدولية في Agora؛ وهي شبكة روسية رائدة لمحامي حقوق الإنسان: “إن القانون الفيدرالي حول تجربة الذكاء الاصطناعي جعل سلطات موسكو تشعر وكأنها تستطيع فعل ما تريد. وبالتالي، فهم لا يتجاهلون التشريعات المتعلقة بالبيانات الشخصية فحسب، بل يتجاهلون أيضًا المعايير الدولية.”

وفي سبتمبر/أيلول 2020، رفعت ناشطة من Roskomsvoboda؛ وهي منظمة حقوق رقمية روسية بارزة دعوى قضائية ضد حكومة موسكو بعد أن تمكنت من شراء معلومات عبر الإنترنت تم تسريبها إلى شبكة الإنترنت المظلم من نظام شبكة الدوائر التلفزيونية المغلقة في المدينة باستخدام برنامج التعرف على الوجه، والتي كشفت عن مكان وجودها على مدار شهرٍ كامل. وفي المحاكمة، أشار محامو المنظمة إلى أنه بينما تفرض سياسات معالجة البيانات في موسكو عدم تخزين البيانات لأكثر من يومين إلى خمسة أيام، كانت المدّعية قادرةً على الحصول على البياناتٍ من فترةٍ أطول.

وبينما تعتمد الشرطة هناك بشكلٍ متزايد على التعرف على الوجه في عملهم اليومي، تظهر التقارير أن التكنولوجيا بعيدةً كل البعد عن أن تكون خالية من العيوب. ففي أكتوبر/تشرين الأول 2020، أبلغ المواطن الروسي سيرجي ميزهوييف روسكومسفوبودا أنه تم اعتقاله بالخطأ من قبل الشرطة في مترو موسكو. إذ قام نظام التعرف على الوجه بمطابقة صورته بشكلٍ خاطئ مع صورة شخص على قائمة المطلوبين، وإخطار الشرطة على الفور. قال مزهوييف إن ضباط الشرطة اعتقلوه وفتشوه وأخذوا بصمات أصابعه، وبينما اعترفوا بالخطأ، حذروا من أن “مشاكله لن تنتهي” حتى يعثروا على الرجل الذي يريدونه. وقال ميزهوييف إن النظام قارن صورته برسم تقريبي مركّب للمشتبه به الجنائي.

وفي نوفمبر/تشرين الثاني من العام نفسه، أوقف ضابط أمن المواطن أنطون لوشن في مركز تجاري، زاعمين أن نظام التعرف على الوجه تعرف عليه على أنه لص، واتصل بالشرطة. وقال إنه بعد ست ساعات من الاستجواب في مركز الشرطة وتهديدات بالسجن ثماني سنوات، تمكن لوشن من إثبات حجة غيابه وتم الإفراج عنه.

وفي أعقاب الاحتجاجات في يناير/كانون الثاني على اعتقال زعيم المعارضة السياسية أليكسي نافالني وفساد الحكومة، أفادت وسائل الإعلام باحتجاز ومقاضاة أكثر من عشرة من المشاركين في الاحتجاج والمارة بناءً على بيانات التعرف على الوجه. وأفاد البعض بأن الشرطة أوقفتهم بعد أيام من الاحتجاج لكونهم على قائمة “المشاركين المتكررين في الاحتجاجات غير المصرح بها”.

اقرأ أيضًا: مايكروسوفت تصرح أن روسيا وراء 58٪ من عمليات الاختراق المُكتشفة

استغلال الجائحة لتوسيع الرقابة

مع بداية الجائحة في مارس/آذار 2020، بدأت روسيا في استخدام تقنيات التعرف على الوجه المتقدمة والذكاء الاصطناعي والمراقبة بالفيديو في كفاحها ضد وباء فيروس كورونا. حيث تم إنشاء مركزًا يُدعى “مركز معلومات فيروس كورونا” ليعمل على تجميع الموارد عالية التقنية، بما في ذلك كاميرات المراقبة وخورازميات الذكاء الاصطناعي، لمراقبة وسائل التواصل الاجتماعي بحثًا عن معلومات مضللة حول انتشار المرض، وفرض الحجر الصحي بشكلٍ صحيح، وتحديد أرفف السوبر ماركت الفارغة.

وقال رئيس الوزراء الروسي ميخائيل ميشوستين للرئيس فلاديمير بوتين حينها عن مركز المعلومات هذا إنه النظام الفريد من نوعه في العالم.

لكن ذلك سهّل على المسؤولين في موسكو المضي قدمًا في تركيب أحد أكبر أنظمة كاميرات المراقبة في العالم المجهزة بتقنية التعرف على الوجه، على الرغم من احتجاجات النشطاء. ففي موسكو وحدها، تم تجهيز شبكة من 100 ألف كاميرا مزودة بتقنية التعرف على الوجه. قيل أنه سيتم استخدامها لضمان بقاء كل شخص تحت الحجر الصحي بعيدًا عن الشوارع، لكن ماذا عن الآن، بعد انتهاء فترة الحجر الصحي؟

وفي بداية هذا العام، أعلنت حكومة مدينة موسكو رسميًا عن بدء برنامج المراقبة باستخدام تقنيات التعرف على الوجه “المدينة الآمنة” في العاصمة، وذلك تتويجًا لخطة استثمار حكومية روسية طويلة الأجل في قطاع الذكاء الاصطناعي. وفي ظل هذا البرنامج، تم تركيب الكاميرات في الأماكن العامة الرئيسية بما في ذلك المترو ومداخل المباني السكنية ومحطات القطارات لمسح الحشود ومقارنة بياناتهم مع قاعدة بيانات للأفراد المطلوبين. وعندما يتم الكشف عن أوجه الشبه، يتم إخطار الشرطة.

ومع استمرار التجارب منذ عام 2018، ووجود ما يقرب من 200 ألف كاميرا متصلة بالنظام، كانت هذه هي المرحلة الأولى فقط في تطوير بنية مراقبة التعرف على الوجه في روسيا.

جعلت التقاليد القوية لتعليم الرياضيات والاهتمام الحكومي الواسع والاستثمار في هذا القطاع من روسيا رائدةً على مستوى العالم في مجال الذكاء الاصطناعي. فاليوم، وبعد استثماراتٍ ضخمة، تعد روسيا واحدةً من الدول القليلة في العالم التي تنتج منتجاتها الخاصة، حيث تبيع الشركات الروسية حلولها للحكومات والشركات في أمريكا اللاتينية والشرق الأوسط.

وفي الختام، فإن بنود التشريعات التي وضعتها موسكو الأسبوع الماضي تبعث بالطمأنينة تجاهٍ عالمٍ يتحرك على الطريق الصحيح نحو تحقيق الأمان الرقمي، لكن معرفة سلوك واضعي هذه التشريعات، وكيف يناقض ما خطّته أيديهم، هو ما يجعل الورق الذي كُتبت عليه أعلى قيمةً منها نفسها.