في 29 فبراير الماضي، قدم m4Social (مشروع الابتكار الرقمي في المجال الاجتماعي لجدول كيانات القطاع الاجتماعي الثالث في كتالونيا)، ضمن البرنامج الرسمي لـ MWC 2024، الدراسة 'رادار الخوارزميات وعمليات اتخاذ القرار الآلية للوصول إلى الحقوق الاجتماعية للمواطنين في كاتالونيا"، تم إنتاجه بالاشتراك مع KSNET.
تحلل هذه الدراسة فوائد ومخاطر استخدام الذكاء الاصطناعي (AI) من قبل الهيئات العامة، وتحدد 12 نظامًا للذكاء الاصطناعي تم تنفيذها أو في طور التطوير من قبل الإدارات العامة الكاتالونية. من هؤلاء، تنتمي 3 أنظمة للذكاء الاصطناعي إلى الإدارة المفتوحة في كاتالونيا (AOC)، ولا تتميز فقط بوظائفها، ولكن أيضًا لجهود الشفافية الخوارزمية المهمة التي بذلتها AOC.
أنظمة AOC AI الثلاثة المضمنة في رادار خوارزمية الخدمة الاجتماعية الخاص بـ m3Social هي:
تتجلى الشفافية الخوارزمية لهذه الأنظمة في نشر الملفات التفصيلية بما في ذلك معلومات حول البيانات المستخدمة لتدريب الخوارزمية، ونوع الخوارزمية، وأهداف النظام، والفوائد التي تم تحقيقها حتى الآن، والمخاطر المحددة والتدابير المطبقة في كل حالة للتخفيف من المخاطر وضمان الامتثال للمبادئ والأساسيات حقوق الناس.
يمكنك أدناه الاطلاع على تفاصيل أوراق الشفافية الخوارزمية لأنظمة الذكاء الاصطناعي الثلاثة هذه:
تمكن رموز الشفافية الخوارزمية الأشخاص من فهم كيفية عمل خوارزميات الذكاء الاصطناعي المستخدمة في الخدمات العامة والآثار المترتبة على استخدامها، وكذلك تحسين حوكمة الذكاء الاصطناعي وتعزيز التفاعل الأكثر استنارة بين المواطنين والحكومة.
تعد مبادرة الشفافية الخوارزمية هذه واحدة من أولى المبادرات في كاتالونيا والدولة، وهي الوحيدة التي تم تنفيذها بالفعل. وهو مستوحى من سجل الخوارزميات لمدينتي أمستردام وهلسنكي، ومعيار الشفافية الخوارزمية في المملكة المتحدة، بالإضافة إلى المبادئ التوجيهية المقدمة من منظمة التعاون الاقتصادي والتنمية والمفوضية الأوروبية للذكاء الاصطناعي الموثوق. بالإضافة إلى ذلك، فهو أحد الإجراءات الموصى بها والمشار إليها في اللائحة الأوروبية المقترحة للذكاء الاصطناعي في حالة الخوارزميات منخفضة أو محدودة المخاطر (في حالة الأنظمة عالية المخاطر سيكون ذلك التزامًا).
من خلال المبادرة الشفافية في استخدام خوارزميات الذكاء الاصطناعي, تُظهِر AOC التزامها بالشفافية والمساءلة ومشاركة المواطنين، مما يضمن حصول الناس على معلومات جيدة وتمكينهم من التفاعل مع أنظمة الذكاء الاصطناعي التي تؤثر على حياتهم.. وهذا لا يعزز فهمًا أفضل لكيفية عمل خوارزميات الذكاء الاصطناعي فحسب، بل يعزز أيضًا علاقة أكثر تعاونًا وبناءة بين الإدارة والمواطنين في إنشاء وتنفيذ خدمات أكثر كفاءة وأمانًا وشمولاً.
