تحد

كيفية تحقيق ثقة المستخدمين في الخدمات الحكومية الرقمية التي تستخدم البيانات وخوارزميات الذكاء الاصطناعي، مع ضمان استخدامها المسؤول والآمن والعادل. 

الحل المقترح: أن تتضمن كل خدمة رقمية، على صفحتها الرئيسية وعلى البوابة الإلكترونية، Transparència من الجهة المسؤولة، تقرير مفهوم عن تشغيل النظام وتأثيره المحتمل على الناس.
→ انظر نموذج تقرير بصيغة PDF transparència خوارزمية AOC (تم التحديث في 17/4/2026)

المشكلة والسياق الحالي

أصبح الذكاء الاصطناعي (AI) جزءًا لا يتجزأ من حياتنا اليومية. تستخدمه الحكومات لتحسين إمكانية الوصول إلى الخدمات العامة وتجربتها ، أو تحسين العمليات أو إدارة الأماكن العامة ، على سبيل المثال.

تعد الخوارزميات أساس أنظمة الذكاء الاصطناعي وغالبًا ما تعمل مثل "الصناديق السوداء" للأشخاص الذين يستخدمونها ويؤثرون عليها. لمنع حدوث ذلك ، من الضروري أن يفهم المستخدمون الخوارزميات ، وأن يفهموا كيف تم التوصل إلى قرار معين ولماذا يتم اتخاذ هذا القرار. أكثر من ذلك في حالة الحكومة ، التي لا يمكن أن تعمل إلا عندما تكون هناك ثقة بينها وبين الجمهور. يجب أن تسمح الإدارة الجيدة لجميع المواطنين بفهم أسباب القرارات وإمكانية الطعن فيها.

في الحكومات الديمقراطية، تُضمن الثقة من خلال العديد من الضمانات القانونية. وفيما يتعلق بالالتزام بجعل خوارزميات الذكاء الاصطناعي المستخدمة في الخدمات الحكومية الرقمية شفافة، ينص القانون على حق الأفراد في الحصول على تفسير للقرارات الآلية (اللائحة العامة لحماية البيانات)، كما ينص على إنشاء "آليات" تُمكّن الخوارزميات المشاركة في صنع القرار من مراعاة معايير معينة. transparència والتفسير (القانون الشامل رقم 15/2022 بشأن المساواة في المعاملة وعدم التمييز)، ولكنه لا يُنشئ أي آلية محددة أو أداة قانونية لتحقيق ذلك. بل يقدم توصيات فقط ويترك للمنظمات حرية اختيار الأداة الأنسب.

  • توفير معلومات مفيدة حول منطق الخوارزميات المستخدمة وكذلك النتائج المتوقعة ، والتي تكون واضحة وتستخدم لغة مفهومة ،
  • السماح للأشخاص بفهم سبب إعطاء الخوارزمية نتيجة معينة، بالإضافة إلى الإشارة إلى الهيئة التي يمكنهم من خلالها استئناف قراراتهم الخاصة أو الاعتراض على عملها العام،
  • فتح الخوارزميات للسيطرة الديمقراطية.

نظراً لعدم وجود آليات أو تقنيات أو أساليب ملموسة لتحقيق transparència أجرت لجنة التحكيم الأمريكية دراسة في عام 2023 بهدف إيجاد أشكال موحدة لـ transparència وإعطاء الأولوية لفهم الخوارزميات التي نطبقها على خدمات الإدارة الرقمية لدينا.

وهنا تكمن مبادرة transparència الخوارزمية التي نقدمها.

الحل المقترح 

La transparència يُعد تطوير واستخدام الذكاء الاصطناعي مسألة بالغة الأهمية لضمان استخدام هذه التقنية بشكل مسؤول وعادل تجاه المجتمع.

كوسيلة لتحقيق transparència خوارزمي، تقترح لجنة الطيران المدني أن تتضمن كل خدمة رقمية، على صفحتها الرئيسية وعلى البوابة الإلكترونية، ما يلي: Transparència من الجهة المسؤولة، تقرير مفهوم عن تشغيل النظام والخوارزميات التي يستخدمها.

تهدف هذه المبادرة إلى أن تكون أداة من أجل:

  • مساعدة الناس على فهم كيفية عمل الخوارزميات المستخدمة في الحكومات المحلية، وما هو غرضها وكيف يمكن أن تؤثر عليهم،
  • لتوفير transparència ذات مغزى بطريقة موحدة وتسمح بالمقارنة بين الخوارزميات المختلفة،
  • تجعل من السهل على الجميع إبداء آرائهم والمشاركة في إنشاء خوارزميات تتمحور حول الإنسان.

وعلاوة على ذلك، على الرغم من أن المبادرة تركز بشكل أساسي على أنظمة الذكاء الاصطناعي، ويتضمن أيضاً تقارير عن transparència للخوارزميات الحتمية في حالات الاستخدام الحساسة، مثل أنظمة الأتمتة المعقدة للمساعدات الاجتماعية واسعة النطاق، وفقًا للمعيار الذي يجعلها قادرة أيضًا على إحداث تأثير ذي صلة على الناس.

→ انظر نموذج تقرير بصيغة PDF transparència خوارزمية AOC (تم التحديث في 17/4/2026)

محتوى التقرير

كل تقرير من transparència يحتوي الخوارزمي على:

  • المشكلة التي يجب حلها باستخدام الخوارزمية المعنية،
  • شرح خصائص الخوارزمية وكذلك عملها،
  • المجموعات التي قد تتأثر بالخوارزمية،
  • تقدير مستوى المخاطر للنظام الخوارزمي، بناءً على:
    • تحليل المخاطر أو تقييم تأثير الحقوق الأساسية الذي تم إجراؤه (حسب الاقتضاء) لتحديد التحيزات التمييزية المحتملة للخوارزمية،
    • تحليل المخاطر الأمنية للنظام الذي تم إجراؤه لتحديد الحالات الطارئة المحتملة لتوافر وأمن النظام الذي يحتوي على الخوارزمية،
    • la إدارة المخاطر المتخذة والتدابير المطبقة لضمان الامتثال للحقوق الأساسية, 
  • الهيئة التي يمكن أمامها الاستئناف ضد قرارات معينة للخوارزمية أو الاعتراض على عملها العام عندما يتطلب القانون ذلك،
  • تفاصيل الاتصال بالشخص المسؤول ومورد الخوارزمية.

كيف تم تحديد محتوى التقرير

لتحديد محتوى التقارير transparència أجرى فريق الابتكار والبيانات التابع لشركة "أكوستيك" (AOC)، بدعم من الخدمات القانونية التابعة لها، دراسة في عام 2023 تضمنت ما يلي:  

  1. ل تحليل اللوائح القائمة في ذلك الوقت حيث موضوع transparència فيما يتعلق بالقرارات الآلية التي تتخذها خوارزميات الذكاء الاصطناعي، مع إيلاء اهتمام خاص للقواعد التالية:  
  • لائحة حماية البيانات الأوروبية (RGPD)
  • اقتراح بشأن لائحة استخدام الذكاء الاصطناعي لمجلس أوروبا (قانون الذكاء الاصطناعي)
  • القانون رقم 40/2015 بشأن النظام القانوني للقطاع العام (LRJSP) ولوائح أداء وتشغيل القطاع العام بالوسائل الإلكترونية (RD 203/2021)
  • القانون الشامل 15/2022 للمساواة في المعاملة وعدم التمييز 
  1. المستندات التي قدمت المبادئ التوجيهية والإرشادات لتحقيق ذكاء اصطناعي آمن وموثوق. يجب ملاحظة ذلك: 
  • المبادئ التوجيهية الأخلاقية للذكاء الاصطناعي الموثوق به ، من فريق الخبراء رفيعي المستوى التابع للمفوضية الأوروبية بشأن الذكاء الاصطناعي (أبريل 2019) 
  • تقرير "فتح علبة الذكاء الاصطناعي: 10 خطوات لحماية حقوق الإنسان" من قبل مفوض حقوق الإنسان في مجلس أوروبا (مايو 2019)
  • مبادئ الإدارة المسؤولة للذكاء الاصطناعي الموثوق به من توصية مجلس الذكاء الاصطناعي التابع لمنظمة التعاون الاقتصادي والتنمية (مايو 2019)
  • تقرير APDCAT "القرارات المؤتمتة في كاتالونيا" (يناير 2020)  
  • الإعلان الأوروبي بشأن الحقوق والمبادئ الرقمية للعقد الرقمي (يناير 2023)
  • أداة إطار عمل إدارة مخاطر الذكاء الاصطناعي NIST (يناير 2023)
  1. كما تم استكشافها مبادرات transparència خوارزميات الإدارات المختلفةالتي كانت في مرحلة التطوير أو طُبِّقت مؤخرًا. تجدر الإشارة إلى: 
  • سجل الذكاء الاصطناعي لمدينتي هلسنكي وأمستردام - تم تنفيذه
  • معيار transparència خوارزمية المدن الأوروبية، المستندة إلى المعيار البريطاني - تم تطبيقها
  • مقترح لإطار عمل أخلاقي لخوارزميات جنراليتا كاتالونيا (مايو 2021)
  • نموذج تسجيل الخوارزمية البلدية لمجلس مدينة برشلونة، والمستند إلى معيار transparència من يورو سيتيز (يناير 2023)
  • مجموعة من خوارزميات الذكاء الاصطناعي من نظام الصحة الكاتالوني (SISCAT) ومراكز الأبحاث في كاتالونيا في إطار مرصد الذكاء الاصطناعي في الصحة التابع لمؤسسة TIC Salut الاجتماعية (ديسمبر 2022)
  • رادار خوارزميات الذكاء الاصطناعي لجدول كيانات القطاع الاجتماعي الثالث في كتالونيا (يناير 2024)

استنتاجات الدراسة

تلتزم الدول الأعضاء في الاتحاد الأوروبي، من خلال الإعلان الأوروبي بشأن الحقوق الرقمية ومبادئ العقد الرقمي، بضمان مستوى كافٍ من transparència في استخدام الخوارزميات والذكاء الاصطناعي، بحيث يتم إعلام الناس وتدريبهم على استخدامها عند التفاعل معها.

للامتثال لمتطلبات transparència تحدد اللوائح الحالية لأنظمة الذكاء الاصطناعي في الإدارات العامة المعلومات التي يجب تقديمها وفقًا للحالات. [1]ولكنها لا تحدد آلية "ملموسة" أو شكلًا موحدًا أو صكًا قانونيًا للقيام بذلك؛ بالرغم من: 

  • تنص لائحة الذكاء الاصطناعي على ضرورة الاحتفاظ بسجل لجميع المعلومات ذات الصلة بأنظمة الذكاء الاصطناعي عالية المخاطر (المادة 17)؛
  • ينص القانون رقم 15/2022 بشأن المساواة في المعاملة وعدم التمييز على تعزيز تطبيق "الآليات" بحيث تأخذ الخوارزميات المستخدمة في صنع القرار في الاعتبار معايير تقليل التحيز، transparència والمساءلة (المادة 23)؛
  • تنص اللائحة التنظيمية المتعلقة بأداء وتشغيل القطاع العام بالوسائل الإلكترونية على الالتزام بنشر قائمة الإجراءات الإدارية الآلية (AAA) على موقعه الإلكتروني - والتي قد تتضمن أو لا تتضمن استخدام خوارزميات الذكاء الاصطناعي -، وأن تصاحب كل إجراءات إدارية آلية (AAA) وصف لتصميمه وتشغيله (المادة 11). 

لقد استكشفنا مبادرات مختلفة تروج لها الحكومات المحلية والإقليمية الأوروبية، من أجل إيجاد طريقة موحدة تسمح لنا بالامتثال لمتطلبات transparència من خوارزميات الذكاء الاصطناعي التي نطبقها على خدمات الإدارة الرقمية لدينا.

من بين جميع المبادرات التي تم استكشافها ووفقًا للالتزامات القانونية السارية ، توصلنا إلى استنتاج مفاده أن نشر التقارير transparència خوارزمي على بوابة Transparència انه حل سريع وبسيط أن يسهل الامتثال لمتطلبات transparència المنصوص عليها في اللوائح i يسمح لكسب ثقة المستخدمين في أنظمة الذكاء الاصطناعي للإدارات العامة.

أتاحت لنا الدراسة أيضًا تحديد المعلومات ذات الصلة التي يجب تقديمها حول الخدمات العامة القائمة على الذكاء الاصطناعي حتى يتمكن المستخدمون من فهم كيفية اتخاذ الخوارزميات للقرارات وكيفية التحقق من تلك القرارات. بخلاف ذلك، قادتنا الدراسة إلى تطوير منهجية رشيقة وعملية لتحديد وتحليل المخاطر الأكثر احتمالاً التي ينطوي عليها استخدام خوارزميات الذكاء الاصطناعي فيما يتعلق الحقوق الأساسيةوربطها بالتدابير التي يجب تطبيقها في كل حالة لضمان الامتثال لهذه الحقوق.

تركز منهجية إدارة المخاطر على حماية الحقوق الأساسية

ولضمان الاعتماد على الذكاء الاصطناعي والأخلاقي والآمن في الخدمات العامة، طورت AOC منهجيتها الخاصة لإدارة المخاطر. تتناول هذه المنهجية، التي تركز على حماية الحقوق الأساسية، المخاطر المحتملة التي قد تؤثر على المواطنين وتشرح بالتفصيل كيفية التخفيف منها أو التقليل منها. وتتكون المنهجية من ثلاث خطوات رئيسية، لكل منها أساس متين في اللوائح والمبادئ التوجيهية الدولية.

  • الخطوة 1: تحديد المبادئ والحقوق الأساسية التي يجب حمايتها
    ولضمان أن يحترم الذكاء الاصطناعي القيم الديمقراطية، اعتمدنا على ميثاق الحقوق الأساسية للاتحاد الأوروبي، الذي يساعدنا في تحديد المجموعات الرئيسية للحقوق والمبادئ التي قد تتأثر بالذكاء الاصطناعي. هذه هي:

    • أ) المساواة وعدم التمييز
    • ب) حماية البيانات والخصوصية والاستقلالية الشخصية
    • ج) الأمن والمتانة والأمن السيبراني
    • D) Transparència، وإمكانية التفسير والوصول إلى المعلومات
    • هـ) المسؤولية والمساءلة وقابلية التدقيق
    • و) الأثر الاجتماعي والاستدامة والحقوق الاقتصادية

  • الخطوة الثانية: تحديد المخاطر المرتبطة بها وعلاقتها بالمبادئ والحقوق الواجب حمايتها
    لتحديد المخاطر الأكثر شيوعًا في استخدام الذكاء الاصطناعي، اعتمدت AOCإطار إدارة مخاطر الذكاء الاصطناعي (AI RMF 1.0) من NIST، والذي يربط المخاطر المحتملة بالمبادئ والحقوق المذكورة أعلاه. يتيح هذا النهج تحديد المخاطر التي يمكن أن تعرض للخطر كل عائلة من عائلات الحقوق الأساسية، مما يساعد على توقع وإدارة المشاكل مثل التمييز أو الخصوصية أو الأمن.

  • الخطوة 3: تحديد تدابير إدارة المخاطر
    ولتحديد الآليات والضمانات التي قد تكون أكثر ملاءمة وفعالية في كل حالة لتجنب انتهاك المبادئ والحقوق الأساسية، اعتمدنا على الفصل الثاني من المبادئ التوجيهية الأخلاقية للذكاء الاصطناعي الموثوق به التابعة للمفوضية الأوروبية، وفي لائحة الذكاء الاصطناعي التي تمت الموافقة عليها مؤخرًا (التطبيق الإلزامي اعتبارًا من 2/8/2026)، بحيث يتم تحديد الآليات بناءً على مستوى خطورة نظام الذكاء الاصطناعي ولأنظمة أو نماذج معينة للذكاء الاصطناعي. على سبيل المثال:
    • مخاطر عاليةيخضع لمتطلبات السلامة والأمن المحددة. transparènciaوالالتزام بإجراء تقييم للأثر المتعلق بالحقوق الأساسية قبل نشر النظام (المادة 27).
    • مخاطر محدودة: الحد الأدنى من التزامات transparència لتمكين المستخدمين من اتخاذ قرارات مستنيرة وأن يكونوا على دراية عند التفاعل مع الذكاء الاصطناعي.

تساعدنا هذه المنهجية في الحفاظ على نظام ذكاء اصطناعي يتسم بالشفافية والأمان والالتزام بحماية الحقوق الأساسية.

→ لمزيد من التفاصيل، يمكنك الاطلاع على الوثيقة الكاملة: منهجية إدارة مخاطر أنظمة الذكاء الاصطناعي التابعة لشركة AOC (ملف PDF)

→ في عرض تقديمي (PPT، 7/11/2024) يمكنك الاطلاع على جدول ملخص للخطوات الثلاث لمنهجية إدارة المخاطر الخاصة بشركة AOC.

التقارير المنشورة:

حالة المشروع

في الانتاجتم نشر أربعة تقارير. transparència خوارزمي.

معلومات اكثر

حالات عملية تم تنفيذها:

الحالات في مرحلة التطوير:

المراجع الببليوجرافية:

الإلتزامات القانونية:

الإطار الأوروبي

  • اللائحة (الاتحاد الأوروبي) 2016/679 للبرلمان الأوروبي والمجلس الأوروبي ، بتاريخ 27 أبريل 2016 ، المتعلقة بحماية الأشخاص الطبيعيين فيما يتعلق بمعالجة البيانات الشخصية وحرية نقل هذه البيانات والتي بموجبها تلغي التوجيه 95 / 46 / EC ("RGPD"). وصلة
  • مبادئ توجيهية بشأن القرارات الفردية الآلية والتنميط لأغراض اللائحة 2016/679. تم اعتماده في 3 أكتوبر 2017 وتم تنقيحه للمرة الأخيرة وتم اعتماده في 6 فبراير 2018. الفريق العامل المعني بحماية البيانات المادة 29 من التوجيه 95/46 / EC. وصلة
  • لائحة البرلمان الأوروبي والمجلس التي تضع قواعد منسقة بشأن الذكاء الاصطناعي (قانون AI) ويتم تعديل بعض القوانين التشريعية للاتحاد. 12/7/2024. وصلة 

إطار الدولة

  • القانون الأساسي 3/2018 المؤرخ 5 ديسمبر بشأن حماية البيانات الشخصية وضمان الحقوق الرقمية ("لوبدجد"). وصلة
  • الامتثال لـ RGPD للعلاجات التي تتضمن الذكاء الاصطناعي. مقدمة فبراير 2020. AEPD. وصلة
  • القانون رقم 15/2022 الصادر في 12 يوليو ، الشامل للمساواة في المعاملة وعدم التمييز. وصلة

الإطار الكاتالوني

  • القانون رقم 19/2014 الصادر في 29 ديسمبر transparència، الوصول إلى المعلومات العامة والحوكمة الرشيدة. وصلة
  • المرسوم 76/2020 ، 4 أغسطس ، بشأن الإدارة الرقمية. وصلة

[1] فعلى سبيل المثال، يحدد نظام الذكاء الاصطناعي المعلومات التي يجب تقديمها فيما يتعلق بأنظمة الذكاء الاصطناعي المحددة (المادة 50)؛ ويحدد النظام العام لحماية البيانات المعلومات التي يجب تقديمها لصاحب البيانات.eresعندما تكون هناك قرارات آلية (المادة 13)؛ ويحدد قانون LRJSP الالتزام بالإبلاغ عن الهيئة المسؤولة عن إجراء إداري آلي في المكتب الإلكتروني، لأغراض الطعن (المادة 41).