عبد الغاني بردي
العالم يتغير أمام أعيننا.
هل هي بداية نهاية “عصر البشرية” (حسب السيناريوهات “المتشائمة”)؟
هل هي انطلاقة “عصر رفاه” جديد ومستقبل واعد؛ شكل جديد ومتقدم من الحضارة يتغلب فيها الإنسان على تحديات العصر الذي نعيشه بتسخير التطور التكنولوجي المتسارع في مدن ذكية وآمنة… عصر تتنبأ فيه خوارزميات الذكاء الاصطناعي وآلياته بالأزمات، وتوفر حلولا استباقية تحول دون حدوثها أو تجاوزها (حسب السيناريوهات “المتفائلة”)؟
قبل هذا وذاك، لا يجادل أحد اليوم في أهمية التطور التكنولوجي المتسارع والذكاء الاصطناعي في حياة الإنسان. تطور تنعكس إيجابياته، في مجالات حساسة وأخرى معقدة. من بين أهمها، على سبيل الذكر لا الحصر، الحق في الصحة، من خلال المساعدة على توفير رعاية صحية أفضل وتشخيص أمراض معينة بشكل يتفوق فيه الذكاء الاصطناعي على الأنظمة القائمة والمتخصصين الطبيين، والمساعدة الحاسمة خلال عمليات جراحية معقدة…
الفرص عديدة ومتعددة والمستقبل واعد بشكل كبير، على أكثر من صعيد، إن لم نقل على جميع الأصعدة ومختلف جوانب الحياة.
وجه العملة الآخر
غير أن الاعتماد على الذكاء الاصطناعي يطرح انشغالات جوهرية وتهديد مباشر على الحريات وحقوق الإنسان الأساسية. ولعل أول حق أساسي يتبادر إلى الدهن في هذا الإطار هو الحق في الخصوصية، على اعتبار أن الأنظمة القائمة على الذكاء الاصطناعي تعتمد بالأساس على جمع واستخدام كميات هائلة من البيانات (الصورة أسفله) من أجل التنبؤ وأداء المهام المتوخاة من تطويرها.
______________________________________
تطور الحجم المتوقع لتدفق البيانات الإنترنت
______________________________________
في الأسابيع القليلة الماضية، أثير نقاش إعلامي بالولايات المتحدة الأمريكية لدفع المشرع الأمريكي لتوفير ضمانات تشريعية لحماية المعطيات الشخصية وتنظيم نشاط وسطاء البيانات (Data Brokers)، الذين يتاجرون في المعلومات والمعطيات الشخصية، من خلال تحديد نوع البيانات التي يمكن بيعها وتحديد من يمكن بيعها . من بين أكثر الآليات أو التقنيات شيوعا لجمع المعطيات ملفات تعريف الارتباط (web cookies)، التي تتبث في الجهاز المستخدم وتتبع سلوك متصفح الويب؛ “آلية بسيطة” يوافق المتصفح في الغالب على استخدامها دون تردد من أجل التمكن من الاطلاع على محتوى “مجاني” (كل الأشياء التي نسلم بمجانتيها هي “مجانية” في الأصل لأن المنتج أو البضاعة الحقيقية هي نحن وبياناتنا الشخصية).
بالاعتماد على البيانات المجمعة من خلال ملفات تعريف الارتباط أو بعض التطبيقات وتحليلها وتحليل سلوكنا على الانترنيت، يصبح من وراء هذه الآلية ومن يشتريها من “سماسرة” ووسطاء (ضمن صناعة تقدر بمليارات الدولارات) يعرفون عنا أكثر بكثير مما نعتقد، ويفعلون بهذه المعطيات أشياء ضد إرادتنا ولا نرغب فيها؛ لعل “أقلها” ضررا الاعتماد على هذه البيانات من أجل استهدافنا بمواد إعلانية. كما يمكن استخدامها للتأثير غير المباشر على قراراتنا واختياراتنا الشخصية وتوجيهها، بعيدا عن ميكنزمات التأثير المباشر التي تتصدى لها آلياتنا الدفاعية الذاتية، التي “تتعطل” في الغالب أمام ماكينات التأثير الناعم!
صحيح أن هذه المعطيات تجمع على أساس أنها بيانات “مجهولة الهوية” (إن سلمنا بإمكانية حماية الهوية بالفعل على الإنترنت). غير أن إعادة تركيب هذه البيانات من أجل الوصول إلى الهوية الحقيقية وكشفها ليس أمرا مستحيلا ولا مكلفا، وهذا ما يشكل تحدي أكبر على الحق في الخصوصية.
هذا بالفعل ما وقع في الولايات المتحدة الأمريكية. حيث جرى على سبيل المثال كشف عنوان إقامة إحدى ضحيا العنف المنزلي وحيث قام متحرش/متربص (stalker) بانتهاك حق زميلة سابقة في الحياة، بعد أن استطاع الوصول إليها بفضل بيانات اشتراها مقابل 45 دولار أمريكي!
تهديد الذكاء الاصطناعي لحقوق الإنسان
التأثيرات السلبية المحتملة لاستخدامات الذكاء الاصطناعي على حقوق الإنسان لا تتوقف عند انتهاك الحق في الخصوصية. فهذه الاستخدامات قد تشكل أيضا انتهاكات محتملة لحريات وحقوق أساسية أخرى. من أبرزها الحق في الحصول على المعلومة الصحيحة التي تمكننا من بناء المواقف والأراء والحق في حرية التعبير، الحق في المشاركة في المسلسلات الديمقراطية وفي الاختيار الحر خلال الاستحقاقات الانتخابية، الحماية من التأثير على الأشخاص (Manipulation) التضليل، التمييز وتكريس التفاوتات، تفاقم تحيز النوع والتحيز الإثني (baises)، خطر المراقبة الجماعية، استخدام تكنولوجيا الذكاء الاصطناعي غير موثوقة في مجال إنفاذ القانون…
علاوة على الحق في قرينة البراءة والمحاكمة العادلة والحقوق الثقافية والولوج للخدمات العمومية والحق في الانتصاف وغيرها من الحقوق الأساسية الأخرى.
الانشغال بهذه التأثيرات والانتهاكات المحتملة للذكاء الصناعي والتطور التكنولوجي أفرز حركة وتعبئة دولية تسعى إلى جعل الأخلاقيات في قلب تصميم وتطوير الخوارزميات وميكنزمات الذكاء الاصطناعي. غير أن الأخلاقيات التي يمكن للشركات تبنيها طواعية تقوم بالأساس على مبدأ القيم وليس على مبدأ الحق، مع العلم أن القيم الأخلاقية تختلف من مجتمع لآخر ومن ثقافة لأخرى.
في هذه الحالة سيذوب الاختلاف والتنوع البشري وستتعزز هيمنة معايير وقيم أخلاقية معينة، خاصة بالدول السباقة في هذا المجال وأكثرها تقدما، لا من حيث استخدام الذكاء الاصطناعي أو من حيث الاستثمار فيه، دون الحديث عن هيمنة ما تمليه معايير وسياسات عمالقة الويب الخمس (GAFAM)، التي تجاوزت قيمتها السوقية مجتمعة سنة 2020، 5 تريليون دولار… وهو رقم فلكي لا يساويه أي ناتج داخلي خام لأي دولة في العالم، باستثناء الولايات المتحدة الأمريكية (أكثر من 20 تريليون دولار) والصين (أقل من 15 تريليون دولار).
______________________________________
______________________________________
غير أنه لابد في هذا السياق من تثمين اعتماد جميع الدول الأعضاء في منظمة الأمم المتحدة للتربية والعلم والثقافة (اليونسكو) لنص دولي جامع يحدد القيم والمبادئ المشتركة اللازمة لضمان تطوير الذكاء الاصطناعي بصورة سليمة . كما لا بد من الإشارة في هذا السياق أيضا على تشديد مفوضة الأمم المتحدة السامية لحقوق الإنسان، السنة الماضية أيضا، على “الضرورة الملحة” لوقف “بيع واستخدام أنظمة الذكاء الاصطناعي التي تشكل خطرا جسيما يهدّد حقوق الإنسان، إلى أن يتم اعتماد الضمانات الملائمة.”
ضمانات حقوقية من أجل الوقاية من انتهاك حقوق الإنسان
بالنسبة للمدافعين عن حقوق الإنسان، هناك قيمة أكبر لاستخدام القانون الدولي لحقوق الإنسان لتقييم ومعالجة الآثار المعقدة للذكاء الاصطناعي على المجتمع. ذلك أن القانون الدولي لحقوق الإنسان، قانون ملزم للحكومات التي صادقت أو انضمت إلى عهوده واتفاقياته، تترتب عنه مسائلة منتظمة ودائمة للحكومات من قبل الهيئات التعاهدية والمساطر الخاصة والخبراء المستقلين، إضافة إلى المؤسسات الوطنية لحقوق الإنسان والمنظمات غير الحكومية…
ذلك أن القانون الدولي لحقوق الإنسان هو في الأصل مجموعة معايير ومقتضيات كونية متفق عليها، تتجاوز مفهوم الخصوصية، وتمثل لغة مشتركة وبنية تحتية مؤسسية تكفل ضمان الاستعانة الفضلى بالذكاء الاصطناعي وتجنب مخاطره وتأثيراته. ضمانة أخرى تمثلها معايير القانون الدولي لحقوق الإنسان تتمثل في المبادئ التوجيهية الخاصة بالأعمال التجارية (الشركات والمقاولات) وحقوق الإنسان، التي تفرض مبدأ العناية الواجبة وتتيح إمكانيات الانتصاف، خاصة أنها في طريق التحول من مبادئ توجيهية إلى اتفاقية جديدة ملزمة، كما يأمل المدافعون عن حقوق الإنسان على المستوى الدولي.
المغرب – أين نحن من هذا النقاش الدولي؟
المغرب ليس ببعيد عن هذا النقاش الدولي، سواء من خلال مشاركته الفعلية في صياغة توصية اليونيسكو المتعلقة بأخلاقيات الذكاء الاصطناعي، التي اعتمدتها 193 دولة السنة الماضية، أو من خلال النقاش الوطني الحاصل حول سؤال وقضايا تأثيرات الذكاء الاصطناعي على حقوق الإنسان.
في هذا السياق، على سبيل الذكر لا الحصر، التأم يوم السبت 23 أبريل 2022 خبراء وأكاديميون وفاعلون مؤسساتيون وجمعويون في يوم دراسي بالعاصمة الرباط، بمبادرة من الهيئة المغربية لحقوق الإنسان، من أجل تجميع توصيات ومقترحات وتوسيع النقاش بشأن فرص وتأثيرات الذكاء الاصطناعي وعلاقتها بالحريات وحقوق الإنسان الأساسية.
وبالأمس المنظور، كان المجلس الوطني لحقوق الإنسان، باعتباره مؤسسة وطنية لحقوق الإنسان، وراء مبادرة إطلاق دينامية وطنية استباقية في هذا المجال، تخللتها مشاورات وطنية حول الذكاء الاصطناعي وتأثيرات استعمالاته المحتملة على حقوق الإنسان. وقد توج هذا المسار، الذي انطلق شهر أبريل 2021 بتنظيم ندوة دولية موسعة آواخر السنة الماضية تمخض عنها تبني “إعلان الرباط – الذكاء الاصطناعي والمواطنة الرقمية: من أجل ذكاء اصطناعي يحترم حقوق الإنسان” ؛ وهو إعلان يشدد على ضرورة مواصلة الجهود لحماية حقوق الإنسان في بيئة الذكاء الاصطناعي وتوسيع نطاق المشاورات الوطنية الواسعة مع الجهات المعنية واقتراح مبادئ توجيهية تنظم تطوير الذكاء الاصطناعي من أجل احترام حقوق الإنسان.
لقد انخرطت المؤسسة الوطنية لحقوق الإنسان، باعتبارها الآلية المؤسساتية الوطنية المعنية بحماية حقوق الإنسان والنهوض بها، في هذا الورش والنقاش الدولي حول الذكاء الاصطناعي وحقوق الإنسان، انطلاقا من محددات أساسية أربع :
(1) الدفع بالتطور التكنولوجي واستخدامات الذكاء الاصطناعي بالمغرب، وفق مقاربة قائمة على حقوق الإنسان وتستحضر قيم المجتمع الديمقراطي
(2) دراسة آثار استخدام وتطوير الذكاء الاصطناعي على حقوق الإنسان ومعالجتها؛
(3) مسائلة الفاعلين المعنيين فيما يتعلق باستخدامات الذكاء الاصطناعي؛
(4) التمتع بالإمكانيات والفرص والمنافع التي يوفرها استخدام الذكاء الاصطناعي، في احترام تام لحقوق الإنسان.
تجدر الإشارة في هذا السياق إلى أن المجلس الوطني لحقوق الإنسان تبنى في تقاريره السنوية توصية دولية أساسية، في هذا الإطار، تبتغي أن جعل حقوق الإنسان في قلب تصميم ووضع وتتبع خوارزميات ومكنيزمات الذكاء الاصطناعي (Human Rights by Design)، وفي كل مراحل تطويرها، من أجل تحقيق التوازن بين التقدم التكنولوجي، من جهة، وحماية حقوق الإنسان والنهوض بها من جهة ثانية.
الذكاء الاصطناعي يتغلغل في حياتنا اليومية، لا جدال في ذلك.
تحدياته غير مسبوقة، وقد تكون آثارها كارثية، خاصة على الفئات والمجتمعات الأكثر هشاشة؛
يشكل “قوة لنشر الخير”، فرصها استثنائية وواعدة لمساعدة المجتمعات على الرقي وتجاوز التحديات العصر.
أي هاذين السيناريوهين هو الأقرب؟
(…)
============================
“doomsday clock”… إذا لم نتمكن من وضع ضمانات حقيقية وفعلية لحماية حقوقنا وحرياتنا الأساسية في عالم جديد ترسم الآن معالمه.
