فاطمة رومات : المغرب مطالب بتحيين السياسات العمومية و التشريعات لتقليص مخاطر الذكاء الاصطناعي

مغربيات

شاركت فاطمة رومات أستاذة العلاقات الدولية بجامعة محمد الخامس بالرباط و رئيسة المعهد الدولي للبحث العلمي بمراكش في صياغة مشروع التوصية حول أخلاقيات الذكاء الاصطناعي، ضمن مجموعة من الخبراء الدوليين الذين عينتهم منظمة اليونسكو لهذه المهمة.

“مغربيات” تواصلت مع الأستاذة فاطمة رومات للحديث عن مشروع هذه التوصية و أهميتها وعن تمثيلها للمغرب ضمن المجموعة التي كلفت بصياغة مشروع التوصية و كذا موقع المغرب ضمن التحولات التكنولوجية و السباق نحو الذكاء الاصطناعي الذي يشهده العالم..

كنت ضمن أعضاء مجموعة صياغة مشروع التوصية حول أخلاقيات الذكاء الاصطناعي، بداية حدثينا عن هذه التوصية و أهميتها

اعتمد المؤتمر العام لليونسكو في دورته الأربعين التي عُقدت في شهر نوفمبر 2019 قرار إعداد أول آلية دولية لتقنين أخلاقيات الذكاء الاصطناعي، بالاعتماد على فريق مكون من 24 خبيرا دوليا خاصا تم تعيينهم لصياغة التوصية مع مراعاة مقاربة النوع الاجتماعي و التمثيلية الجغرافية لكافة الجهات إضافة إلى تعدد التخصصات. استهل الفريق عمله بدءا من أواخر شهر مارس 2020 باجتماعات عبر الانترنيت لصياغة نص المشروع الأولي. تلت هذه المرحلة مشاورات شاملة ومتعددة الاختصاصات مع مجموعة كبيرة من الأطراف المعنية. جُمعت بعد ذلك التعليقات والانطباعات والإسهامات الغنية لكافة الفاعلين وأُدرجت في الصيغة الأولية لمشروع نص التوصية، وقام فريق الخبراء الخاص، في ضوء هذه الإسهامات بإعداد صيغة أولية منقحة لمشروع نص توصية بشأن أخلاقيات الذكاء الاصطناعي،وإحالتها إلى الدول الأعضاء في سبتمبر 2020، لإبداء الرأي فيها و قد أخذت كل التعليقات الخطية بالحسبان من طرف الفريق و أغنت النص بشكل كبير قبل إرسال النسخة المنقحة و التقرير النهائي إلى الدول الأعضاء وتقديمه إلى لجنة خاصة تتألف من خبراء حكوميين (الفئة 2)، اجتمعت في دورتين انعقدتا في أبريل و يونيو عام 2021.

وبعد أن بثت اللجنة الخاصة في موضوع المشروع النهائي لنص التوصية قدَّم إلى المؤتمر العام لليونسكو في دورته التي انعقدت في نوفمبر عام 2021. و تنص التوصية على مجموعة من القيم من بينها احترام حقوق الإنسان و الحريات الأساسية و الكرامة الإنسانية و حمايتها، و كذا تعزيزها و ضمان التنوع و الشمول و ازدهار البيئة و حمايتها طوال دورة حياة نظم الذكاء الاصطناعي لضمان العيش في مجتمعات مسالمة و عادلة. و تضمنت التوصية مجموعة من الإجراءات و التدابير الأساسية لضمان هذه القيم و حمايتها و تعزيزها. نصت التوصية أيضا على مجموعة من المبادئ منها التناسب مع السياق و عدم الإضرار بالبشر أو بحقوقهم و حرياتهم الأساسية أو بالبيئة و المجتمعات، إضافة إلى السلامة و الأمن و العدالة و الإنصاف و عدم التمييز و الحق في الخصوصية، و حماية البيانات و اضطلاع البشر بالإشراف على نظم الذكاء الاصطناعي و التحكم في اتخاذ القرار، و غيرها من المبادئ التي تندرج في إطار القانون الدولي و القانون الدولي لحقوق الإنسان.قدمت بعد ذلك التوصية العديد من التدابير و الإجراءات التي يجب أن ينخرط كافة الفاعلين في بلورتها، لاسيما الدول التي يجب أن تقوم بملاءمة تشريعاتها و سياساتها العمومية مع ما جاء في التوصية لضمان تعزيز الاستفادة من أنظمة الذكاء الاصطناعي و التقليص من مخاطرها. في هذا الإطار تشمل التوصية مجالات عمل بشأن السياسات التي يجب أن تطبق فيها التوصية من الصحة و الرفاهية الاجتماعية إلى التعليم و البحث العلمي و الاقتصاد و العمل و حماية الخصوصية و البيانات و حوكمة أنظمة الذكاء الاصطناعي و التعاون الدولي و الحد من الاستعمالات الخبيثة للذكاء الاصطناعي.

أين تكمن أهمية أن يكون المغرب ممثلا ضمن المجموعة؟

بداية دعيني أقف عند المشاركة المتميزة للمغرب في المراحل الثلاثة الأساسية التي مرت منها هذه التوصية، و أقصد هنا بلورة و صياغة بنود هذه التوصية ، ثم المشاورات التي نظمتها اليونسكو بخصوص مشروع التوصية وبعد ذلك المفاوضات البين حكومية التي توجت بتوافق الآراء قبل الوصول إلى المرحلة الأخيرة أي موافقة الأغلبية الساحقة للدول الأعضاء على التوصية في الدورة 41 للمؤتمر العام لليونسكو. كل الاقتراحات التي تقدم بها المغرب خلال هذه المراحل الثلاث أي أثناء الصياغة و المشاورات و المفاوضات البين حكومية، أُخِذت بعين الاعتبار و حصلت على دعم فريق الخبراء و المراقبين الذين كانوا يشاركون قي الاجتماعات، أثناء عمل الفريق و ممثلي الدول الذين شاركوا في المفاوضات البين حكومية، بل إن الاقتراحات التي كنا نتقدم بها كوفد مغربي ساهمت أحيانا كثيرة في تجاوز نقط خلافية بين ممثلي بعض الدول و بالتالي تحقيق التوافق حولها من طرف ممثلي كافة الدول بما فيها تلك التي تعرف العلاقات بينها و بين المغرب توترات.

ثانيا، هذه التوصية هي أول آلية معيارية حول أخلاقيات الذكاء الاصطناعي و ستؤسس لآليات دولية أخرى في المستقبل، و مشاركة المغرب في بلورتها معناه أنه منخرط في الحكامة العالمية للذكاء الاصطناعي و ما تتطلبه من آليات دولية لتحقيق التوازن بين ثورة الذكاء الاصطناعي و أهداف التنمية المستدامة.

الملاحظ أن موضوع الذكاء الاصطناعي يحظى باهتمام كبير من قبلك، و أنت أصدرت مؤخرا كتابا في الموضوع. كأستاذة في العلاقات الدولية، أين تمكن أهمية مشروع أخلاقيات الذكاء الاصطناعي في تحديد العلاقات بين الدول؟

يوفر الذكاء الاصطناعي فرصًا جديدة لتشجيع التعاون الدولي وحل النزاعات، ويعتبر أداة جديدة لتعزيز دور الفاعلين الجدد في الحوكمة العالمية و بالتالي تغيير اللاعبين في المجتمع الدولي. و مع السباق نحو الذكاء الاصطناعي الذي يسير بوتيرة أسرع من السباق نحو التسلح، تطرح رهانات غير مسبوقة تضع العالم بأسره في مواجهة مخاطر أمنية و اقتصادية، إضافة إلى المخاطر الناجمة عن الاستعمالات الخبيثة للذكاء الاصطناعي و التي تشكل الأدوات الأساسية للأشكال الجديدة للحروب.

في عصر الذكاء الاصطناعي الكلمة الفصل في تحديد مسار الإنسانية و مآل حقوق الإنسان تعود إلى من يمتلك السيادة التكنولوجية، و التي تعتبر البوابة الوحيدة للوصول إلى مركز الصدارة و الريادة عالميا سواء على المستوى العسكري أو الاقتصادي. و تجدر الإشارة إلى أن 48% من الاستثمارات الدولية في مجال الذكاء الاصطناعي و في صناعة الروبوتات بما في ذلك التطبيقات في المجال العسكري تعود إلى الصين، مقابل 38% للولايات المتحدة الأمريكية، و 13% لباقي دول العالم. و من أبرز تداعيات هذا السباق ظهور مجالات جديدة للصراع على السلطة الذي لم يعد مقتصرا على الدول فقط، بل هناك فاعلين آخرين منخرطين في هذا الصراع.

أين يتموقع المغرب وسط هذا العالم الذي يتحول و يتطور باستمرار؟

المغرب باعتباره قوة إقليمية و بالنظر إلى التحديات الجيوستراتيجة المطروحة عليه الآن، و التي ستطرح عليه في المستقبل القريب، و بالنظر إلى كل المتغيرات التي يعرفها العالم منذ بداية الجائحة، اقصد هذا النظام العالمي الجديد الذي أصبحت ملامحه واضحة و التي أُعطيت انطلاقته الرسمية في المنتدى العالمي لحوكمة الانترنيت لسنة 2019 تحت شعار ” انترنيت واحد، عالم واحد، رؤية واحدة“. لكل هذه الاعتبارات المغرب اختار الانخراط بفعالية في هذه الدينامكية بمشاركته في بلورة هذه التوصية و الاهتمام الكبير الذي أصبح يوليه للذكاء الاصطناعي من خلال العديد من المشاريع الضخمة التي تندرج في إطار تعزيز استفادته من الآثار الايجابية لهذه التكنولوجيا، و هذا ما تمت ترجمته حتى على مستوى تسمية بعض القطاعات الوزارية التي شملت المجال الرقمي، رغم أنني شخصيا كنت أتمنى لو استبدلت كلمة رقمي بالذكاء الاصطناعي، على غرار مجموعة من الدول الأوروبية و العربية مثل دولة الإمارات العربية المتحدة، لسبب بسيط و لكن مهم و أساسي، و هو أن العالم تجاوز العصر الرقمي و دخل عصرا جديدا هو عصر الذكاء الاصطناعي. السؤال هنا هو : هل الدول لها بالفعل حرية الاختيار في وضع استراتيجيات جديدة تأخذ بعين الاعتبار الذكاء الاصطناعي و تأثيراته الحالية و المستقبلية، المتوقعة وغير المتوقعة، أم أنها مجبرة على ذلك؟ الجواب ببساطة : لا . الأمر ليس اختيارا بل ضرورة تفرضها التحديات الدولية المرتبطة بالنظام العالمي الجديد و التحديات الإقليمية المرتبطة بالأهمية الجيوستراتيجية للمغرب، بالنسبة للقوى الاقتصادية و التي سينقل الصراع بينها عاجلا أم آجلا من الشرق الأوسط إلى القارة الإفريقية و التي بدأنا نلمس بعض شظاياه في بلدان شمال إفريقيا أيضا، ثم لدينا التحديات الداخلية المندرجة في إطار تحقيق أهداف التنمية المستدامة الرهينة أيضا بمدى قدرة الحكومة الحالية على تدبير تداعيات الجائحة على كافة المجالات الاجتماعية و الاقتصادية.

بعد موافقة منظمة اليونسكو على المشروع. ما هي الخطوات المقبلة بالنسبة لكم كأعضاء المجموعة التي صاغت مشروع التوصية؟

عملنا داخل مجموعة الخبراء انتهى بالموافقة على التوصية، لكن معظمنا منخرط، باعتباره عضوا في مجموعات عمل أخرى تابعة لليونسكو أو من خلال اللجان الوطنية لليونسكو داخل كل بلد أو في الجامعات و مراكز الأبحاث التي ننتمي إليها، في التوعية و التحسيس بأهمية التوصية و كيفية تنزيلها من خلال التشريعات الوطنية و السياسات العمومية داخل كل بلد بمقاربة تشاركية من خلال إشراك كافة الفاعلين على المستوى الدولي كما على المستوى الوطني و مقاربة النوع الاجتماعي، و أيضا باستحضار البعد الحقوقي. في هذا الإطار يندرج برنامج العمل السنوي لمجموعة العمل حول أخلاقيات المعلومة التابعة لبرنامج المعلومة للجميع لليونسكو التي انتمي إليها. يشمل هذا البرنامج العديد من الأنشطة في مجموعة من البلدان و اقترحت أن ينظم أحدها بالمغرب بهدف التوعية و التحسيس بالتوصية لضمان انخراط و مشاركة كافة الفاعلين في تطبيقها. في نفس الإطار وضعنا في المعهد الدولي للبحث العلمي برنامجا سنويا للأنشطة التي ستنظم بشراكة مع جامعات دولية و بعض اللجان الوطنية لبرنامج المعلومة للجميع التابع لليونسكو الموجودة في بعض البلدان إضافة إلى بعض مؤسسات القطاع الخاص في بعض الدول الأوروبية.

كيف ترين اليوم مستقبل العالم في ظل اكتساح الآلة “الروبوت” التي أصبحت بديلا عن الإنسان في العديد من المجالات؟

القصد من الربوتات كآلة تتضمن أنظمة الذكاء الاصطناعي هو تعزيز قدرات الإنسان وتسهيل مهامه، مع أن الخبراء يتوقعون تغيرات عديدة و جوهرية على مستوى سوق الشغل بحيث ستختفي مجموعة من المهن و ستظهر مهن أخرى جديدة يمكن أن يقوم بها الإنسان. و من المهن التي ستعرف اكتساحا للربوتات نجد التعليم و المحاماة و القضاء و سوف يشمل الأمر الصحافة و غيرها من المهن، لذلك يتعين على الحكومة، لاسيما قطاع مثل التعليم و التكوين المهني، وضع استراتيجيات بديلة كفيلة بمواجهة الآثار المتوقعة و غير المتوقعة لتكنولوجيا الذكاء الاصطناعي، على كل المجالات كما يجب أن يفتح نقاش وطني حول هذا الموضوع مع كافة الفاعلين بما في ذلك الأفراد. و لقد نصت التوصية حول أخلاقيات الذكاء الاصطناعي على ضرورة وضع استراتيجيات كفيلة بضمان انتقال الأفراد الموظفين و العاملين إلى وظائف جديدة مع وضع الآليات الكفيلة باستبقاء الموظفين خلال الفترة الانتقالية. في نفس الإطار نصت التوصية على ضرورة وضع برامج تدريبية لتعزيز مهارات الأفراد و تسهيل اكتسابهم لمهارات جديدة مرتبطة بالذكاء الاصطناعي، تساعدهم على ولوج سوق الشغل في إطار سياسات و استراتيجيات إستباقية تشمل كافة المجالات و في إطار التوفيق بين المتطلبات الجديدة و المستقبلية لسوق الشغل و البرامج و المناهج التعليمية، بل حتى أولائك الذين لا يمكن أن يعاد تدريبهم فقد شملتهم التوصية بحيث أكدت على ضرورة إحداث ما يسمى “بشبكة الأمان الاجتماعي” و برامج لتوفير الرعاية الاجتماعية . في هذا السياق نطرح السؤال حول ما إذا كانت الحكومة قد وضعت إستراتيجية بديلة تضمن للأفراد الدين شملهم المنع من ولوج مهنة التعليم، بمقتضى قرار تسقيف السن في أقل من 30 سنة، ولوج سوق الشغل و بالتالي العيش الكريم الذي يعتبر الخيط الناظم لكل المواثيق الدولية و الواجب الأسمى للدولة بمقتضى العقد الاجتماعي ؟

ما هي التحديات المطروحة على الفاعلين في هذا الحقل من أجل الحد من هذا الاكتساح أو على الأقل عقلنته؟

التحدي الأكبر هو ثورة إصلاح تبدأ من التعليم و البحث العلمي و تصل إلى الشؤون الخارجية، مرورا بكافة القطاعات الوزارية. الاستفادة من الذكاء الاصطناعي و التقليص من مخاطره يتطلب تحيين كل السياسات العمومية و التشريعات ووضع تشريعات جديدة إن اقتضى الأمر لأن التحديات كبيرة و تشمل كافة المجالات و يجب إن ينخرط فيها كافة الفاعلين. الاستثمار في التعليم يرهن قدرة الدولة على الحفاظ على السيادة على البيانات، و هذا الشكل الجديد للسيادة يرهن إلى حد كبير السيادة التي تعني في القانون الدولي الاستقلال. بمعنى آخر حماية الحدود المادية و الجغرافية للدولة مرتبط بمدى قدرة الدولة على فرض سيادتها على بياناتها، و هذه الأخيرة تحيلنا على أشكال جديدة من السيادة منها السيادة التكنولوجية التي تشكل جوهر السباق نحو الذكاء الاصطناعي. العلم و البحث العلمي في مجال الذكاء الاصطناعي يسير بوتيرة تصل إلى حدود تحقيق مجموعة من الأفكار التي كانت إلى عهد قريب تندرج في إطار الخيال العلمي، من بينها الربوتات القاتلة ذات المستوى المتقدم من الاستقلالية في اتخاذ القرار، على غرار السيارات الذاتية القيادة. لهذا أعتبر شخصيا أن أهم ما تضمنته التوصية حول أخلاقيات الذكاء الاصطناعي هو احترام سيادة الدول على البيانات، و عدم الاعتراف للربوتات بالشخصية القانونية. هذا طبعا إضافة إلى كل المبادئ و القيم و التدابير و الإجراءات التي تضمنتها التوصية و التي شملت كافة الميادين و كافة الفاعلين. الإستراتيجيات الاقتصادية و العسكرية للقوى التكنولوجية الكبرى في العالم ترتكز على التعليم و البحث العلمي و السباق نحو جلب و استقطاب أفضل الخبراء في العالم لضمان مواكبة التطور السريع للذكاء الاصطناعي و هذا شكل آخر من الحروب التي تميز النظام العالمي الجديد. بالمقابل مازلنا نلاحظ في المغرب نزيفا للأدمغة في غياب تشجيع البحث العلمي و الوضعية المزرية التي يتخبط فيها التعليم بكل مستوياته، و هذا الأمر يدعو للقلق على مستقبل البلد.