شاركت منظمة AOC في ورشة العمل الكبرى للذكاء الاصطناعي التابعة للجنة الفنية الداخلية لشبكة المدن الذكية الإسبانية (RECI)، والتي عُقدت في 14 سبتمبر في مالقة، حيث تبادلنا خبراتنا في مجال الحوكمة. transparència ومساءلة أنظمة الذكاء الاصطناعي.
كيف ننتقل من المبادئ العامة للذكاء الاصطناعي المسؤول إلى الإدارة الفعالة لكل نظام ذكاء اصطناعي ندمجه في خدمة عامة؟
كان هذا هو السؤال الذي طرحه كارمي كاليس انا ايل ديفيد باستورمن المديرية الفرعية للاستراتيجية والابتكار التابعة للجنة الطيران المدني، لقد شاركنا في ورشة عمل RECI AI Macro-Workshop.
اقترحت المدونة المخصصة لمستقبل الذكاء الاصطناعي واستراتيجيته البلدية رحلة من الحوكمة العامة إلى الحالة المحددة: قدمت مدينة سانت فيليو دي يوبريغات خريطة الأبعاد التي تحتاج إلى حوكمة؛ وقدمت مدينة فيلاديكانس كيفية نشر هذه الأبعاد في منظمة حقيقية؛ ومن منظمة AOC نزلنا إلى مستوى آخر: كيف ندير كل نظام من أنظمة الذكاء الاصطناعي التي ندمجها في الخدمات العامة؟
عندما نشرح الذكاء الاصطناعي، فإننا نقود إلى كيفية إدارته.
بدأنا العمل في منظمة AOC في عام 2023 مع تقارير transparència خوارزمي (TRAL) انطلاقاً من سؤال واضح للغاية: ما الذي يجب أن نشرحه للمواطنين عندما نستخدم الخوارزميات أو الذكاء الاصطناعي في خدمة عامة؟
كان الهدف هو اجعل هذه الأنظمة أكثر قابلية للفهم، وابنِ الثقة في الخدمات العامة التي تستخدم الذكاء الاصطناعي. والاستجابة لالتزامات transparència التي كانت تُدمج في الإطار التنظيمي. إنه أصلنا مبادرة transparència خوارزمي.
لقد دفعتنا التجربة إلى إعادة النظر في هذه الفكرة: أن نكون قادرين على شرح نظام الذكاء الاصطناعي وتفسيره، يجب علينا أولاً فهمه وتقييمه وتقديم الضمانات والإشراف عليه.
يتضمن ذلك الإجابة على أسئلة محددة للغاية: لماذا نستخدم الذكاء الاصطناعي؟ ما هي البيانات والتقنيات التي يعمل بها؟ ما هي المشاكل المحتملة؟ ما هي الحقوق التي قد تتأثر؟ ما هي الضمانات التي نقدمها؟ كيف نتحقق من فعاليته؟ من يشرف على النظام ويتحمل مسؤوليته؟ وماذا نشرح للجمهور حول كل هذا؟
إذن، ما بدأ في الغالب كـ أداة transparència يتطور ليصبح أداة مرنة وعملية تساعدنا تنظيم وتوثيق وإضفاء الشفافية على إدارة كل نظام ذكاء اصطناعي على حدة، من تصميمها وطوال دورة حياتها.
ومع ذلك، فإن TRAL لا يحل محل التقييمات والضوابط المطلوبة قانونًا في مسائل حماية البيانات أو الأمن أو الحقوق الأساسية: بل يكملها ويساعد على الجمع بين وجهات النظر والمسؤوليات المختلفة التي ينطوي عليها إدارة نظام الذكاء الاصطناعي.
المسار غير المكتمل: من النظرية إلى التطبيق
بعد العرض التقديمي، قمنا باختبار هذه الفكرة مع المشاركين من خلال الديناميكيات "المسار غير المكتمل: ابحث عن الثغرات".
بدأ التحدي من حالة بسيطة: مجلس مدينة يستخدم الذكاء الاصطناعي للمساعدة يجب إخفاء هوية المراسيم البلدية قبل نشرها.، حالة استخدام يكون فيها بدأت ألكساندريا أوكاسيو كورتيز بالفعل في العمل.يقوم الذكاء الاصطناعي بتحليل المستند ويقترح البيانات التي يجب إخفاؤها، لكن مجلس المدينة يراجع النتيجة ويقرر ما سيتم نشره.
تلقى المشاركون وثيقة تقييم المخاطر (TRAL) التي بدت، للوهلة الأولى، شاملة: فقد تناولت الغرض والبيانات والتكنولوجيا والمخاطر والضمانات والإشراف والمسؤوليات. إلا أنها استخدمت عبارات عامة للغاية: فالمخاطر "قابلة للتحكم"، و"تم تطبيق تدابير للحد من الأخطاء"، و"تمت مراجعة النظام بشكل دوري"، دون تحديد التدابير المطبقة، أو كيفية التحقق منها، أو الجهة المشرفة، أو الجهة المسؤولة عن الاستجابة في حال حدوث أي خلل.
كان على المشاركين، المنظمين في مجموعات، تحديد هذه الثغرات واقتراح كيفية سدها. جُمعت المساهمات في سجل بيانات مشترك كبير، مما ساهم في بناء خريطة للمعلومات اللازمة لفهم النظام والإشراف عليه والمطالبة بالمساءلة عن تشغيله.
إن طرح الأسئلة الصحيحة هو أيضاً أمرٌ أساسي.
أتاحت لنا ورشة العمل فرصة اختبار فكرة بسيطة: لا يقتصر إعداد طلب ترخيص مؤقت (TRAL) على مجرد ملء أقسام النموذج.ولكن لصياغة الأسئلة التي نحتاج إلى الإجابة عليها لكي نحكم نظام الذكاء الاصطناعي بشكل حقيقي:
الفهم ← التقييم ← التأكد ← المراقبة ← الشرح ← الاستجابة.
لأن transparència لا يقتصر مفهوم "الخوارزمي" على مجرد قولنا إننا نستخدم الذكاء الاصطناعي. إنها القدرة على شرح سبب استخدامنا لها، وكيفية إدارتها، والضمانات التي أدرجناها، وكيف نتحقق من أنها تعمل.
وهذه هي الخطوة التي نعمل عليها الآن في لجنة تنظيم المهن: تطوير التقارير الخاصة بـ transparència خوارزمية بحيث تستمر في كونها أداة لـ transparència للمواطنين، وفي الوقت نفسه، ساعدنا على تحويل مبادئ الذكاء الاصطناعي الأخلاقي والمسؤول إلى الإدارة الفعالة لكل حالة استخدام.
