أتاح الاجتماع الإلكتروني الثالث لقسم شرطة العاصمة الأمريكية للجنة العمليات الخاصة عرض التقدم المحرز في التقرير transparència خوارزمية (TRAL) وقارن نهجها مع نهج متخصصي حماية البيانات. مجموعة العمل المعنية بالذكاء الاصطناعي الأخلاقي والمسؤول لقد عملت لمدة عام على تطوير هذا التقرير نحو نموذج مرجعي يجمع بين المعلومات المفهومة للمواطنين والمساءلة القابلة للتحقق بشأن المخاطر والضمانات وحوكمة أنظمة الذكاء الاصطناعي.
جمع الاجتماع، الذي نظمته جمعية حماية البيانات في برشلونة (APDCAT) في 29 أكتوبر في حديقة الأبحاث الطبية الحيوية في برشلونة، مندوبي حماية البيانات لمناقشة تحديات التنظيم الرقمي والذكاء الاصطناعي، من بين أمور أخرى. وترأست الاجتماع كارمي كاليس، رئيسة قسم الابتكار، وباتريشيا مالين، مندوبة حماية البيانات في جمعية حماية البيانات في برشلونة (AOC). ورشة عمل عملية وعرض لنتائج فريق العمل، متحدين بنفس السؤال: كيف يمكننا جعل المخاطر والضمانات والحوكمة لأنظمة الذكاء الاصطناعي التي تستخدمها أي جهة مرئية ومفهومة وقابلة للتحقق؟
من المخاطرة إلى الضمان: تطبيق إدارة المخاطر عملياً
أجرينا ورشة العمل التشاركية في الصباح "من المخاطرة إلى الضمان"، حيث عمل خمسة عشر مشاركًا، موزعين على ثلاثة فرق، على دراسة حالة عملية: مجلس مدينة يستخدم الذكاء الاصطناعي التوليدي لإعداد إخفاء هوية الجلسات العامة قبل نشرها على البوابة. transparènciaكان التحدي هو جعل transparència والحق في الوصول إلى المعلومات العامة مع حماية البيانات الشخصية.
بناءً على هذا السيناريو، عملنا على سؤالين مباشرين للغاية:
- ما الذي يمكن أن يحدث خطأً؟ (المخاطر)
- ما الذي يمكننا فعله لمنع هذه المخاطر أو الحد منها؟ (التدابير والضمانات)
نتائج مطابقة الأعداد الصحيحة الناتجة عن تحديد الأولوياتeresالقديسون. اثنان من الفرق الثلاثة وضعت من بين المخاطر الرئيسية حقيقة أن لا يكتشف الذكاء الاصطناعي البيانات الشخصية التي ينبغي إخفاء هويتهاكما أولى الثلاثة الأولوية لـ خطر عكس عملية إخفاء الهوية تم تطبيق ذلك بمجرد نشر المحضر. ومن بين المخاوف البارزة الأخرى ثقة المراجع المفرطة في نتائج الذكاء الاصطناعي، وإعادة استخدام المستندات دون إذن من قبل مزود النموذج، والنشر غير المقصود لنسخة غير مُدققة.
تُظهر الإجابات المقترحة بوضوح أن قد يتطلب الخطر عدة تدابير، وقد يساهم نفس التدبير في السيطرة على مخاطر مختلفة.مراجعة بشرية فعّالة، ومنع النشر دون التحقق، ومعايير واضحة لتحديد ما يجب إخفاء هويته، وتدريب المستخدمين، وإخفاء الهوية بشكل نهائي، والاختبار باستخدام صيغ مختلفة، وضوابط الوصول أو الضمانات التعاقدية المتعلقة بإعادة استخدام المستندات. كان هذا تحديدًا أحد مبادئ الديناميكيات المقترحة.
كان النقاش ثرياً للغاية لدرجة أننا لم نتمكن من إكمال النشاط الثالث المخصص لـ شرح إدارة المخاطر هذه للجمهور (transparència). ومع ذلك، فإن القدرة على تخصيص المزيد من الوقت للمخاطر والضمانات سمحت لنا بمقارنة المعايير والتعمق فيها، وهو ما كان أيضًا أحد أهداف ورشة العمل.
عامٌ من بناء نموذج مرجعي مشترك
بعد الظهر قدمنا من لائحة الذكاء الاصطناعي إلى تقرير TRAL: من الالتزامات إلى واحد transparència هذا مفهوم.، لمشاركة العمل الذي تم تطويره على مدار العام الماضي من قبل فريق العمل.
تأسست المجموعة في 30 أكتوبر 2025 بهدف تطويرنقل transparència خوارزمية AOC، TRAL، والتحرك نحو نموذج مرجعي قابل للتطبيق على حالات الاستخدام المختلفة ومستويات المخاطر.
يتكون النموذج الجديد من طبقتين:
- طبقة من transparència للمواطنين، وهو ما يشرح الخدمة بلغة واضحة: ما تفعله، ولماذا تستخدم الذكاء الاصطناعي، وكيف تعمل، وما الذي يمكن أن يحدث خطأ، وما نفعله لتجنبه، ومن المسؤول.
- طبقة من الحوكمة والمساءلة، والتي توثق بمزيد من التفصيل البيانات والعمليات والمؤهلات القانونية والضمانات التنظيمية والإشراف البشري وإدارة المخاطر والمراقبة والأدلة المتاحة.
وهذا يجعل من الواضح والقابل للتحقق ليس فقط أن كيانًا ما يستخدم الذكاء الاصطناعي، ولكن أيضًا كيف يدير هذا النظام وكيف يدير المخاطر التي يولدها.
وهناك فرق هام: لا يحل TRAL محل أي تقييم لأثر حماية البيانات (DPIA)، أو تقييم أثر الحقوق الأساسية (FRIA)، أو التحليلات القانونية، أو الوثائق الفنية، أو التقييمات والالتزامات الأخرى المعمول بها.بل على العكس من ذلك: فهي تُكمّلها من خلال الاستفادة من المعلومات والأدلة التي تُنتجها هذه الأدوات، وهيكلتها من منظور transparència ويساعد على شرح الضمانات المعتمدة بطريقة مفهومة.
على وجه التحديد، أحدeres تتمثل أهداف المجموعة في إكمال نموذج TRAL الجديد لأنظمة الذكاء الاصطناعي عالية المخاطر، وتكييف منهجية إدارة المخاطر الخاصة به، ودراسة كيفية دمج توليفة من نتائج FRIA بشكل مناسب بهدف transparència.
من ورشة العمل إلى TRAL
أتاح لنا عرض ما بعد الظهر إتمام العمل الذي أنجزناه في الصباح.
عندما حدد المشاركون مواطن الخلل المحتملة، كانوا يعملون وفق المنطق نفسه الوارد في القسم 1.6 من نموذج تقييم المخاطر. وعندما ناقشوا سبل منع المخاطر أو الحد منها، كانوا يضعون الأساس للقسم 1.7. تُستخلص هذه الأقسام من طبقة المواطنين من التحليل الأكثر تفصيلاً للمخاطر والتدابير والأدلة الموثقة في طبقة الحوكمة والمساءلة.
لم يُنتج المشاركون تقرير TRAL بالكامل، بل جزءًا من جوهره: حدد ما يقلقنا، وقرر ما نفعله للسيطرة عليه، واستعد لشرحه..
Transparència أن يكون مسؤولاً
لقد أتاح لنا الاجتماع الثالث عبر الإنترنت حول حماية البيانات مقارنة النموذج مع متخصصي حماية البيانات ومواصلة بناء نموذج نريده أن يكون جماعيًا ومتعدد التخصصات وقابلًا للتكيف مع واقع الإدارات العامة.
يتمثل التحدي الآن في مواصلة تحويل هذه المنهجية إلى أداة مفيد، ومفهوم، وقابل للتحقق، وقابل لإعادة الاستخداممما يساعدنا على تحويل حوكمة الذكاء الاصطناعي إلى transparència فعال وذو مغزى للمواطنين.
