تحد

كيف يمكننا مساعدة مجالس المدن على إخفاء هوية محاضر الجلسات العامة البلدية بسرعة وبشكل موثوق لحماية البيانات الشخصية، وتسهيل نشرها، وضمان الامتثال للوائح؟

السياق والمشكلة

تُقدّم هيئة الإدارات المحلية خدمات رقمية للإدارات المحلية، تتضمن في كثير من الأحيان نشر وثائق إدارية قد تحتوي على معلومات حساسة. وفي هذا السياق، يُعدّ إخفاء هوية البيانات الشخصية قبل النشر عنصراً أساسياً لضمان الامتثال لأنظمة حماية البيانات والحدّ من المخاطر التي تُهدّد خصوصية الأفراد.

أحد أكثر representaهذه محاضر جلسات المجالس البلدية العامة، والتي يجب على الهيئات المحلية نشرها بشكل استباقي على بوابات transparènciaوفقًا للقانون رقم 19/2014، من transparència، الوصول إلى المعلومات العامة والحوكمة الرشيدة. لم تُنشر إلا في عام 2024 أكثر من 8.000 جلسة عامة على بوابة transparència من AOC.

قد تحتوي هذه المحاضر على بيانات شخصية غير خاضعة للنشر، مثل أسماء الأفراد، وبطاقات الهوية، والعناوين، ورسائل البريد الإلكتروني، أو تفاصيل الحسابات المصرفية. سيتم مراجعتها. يتطلب الأمر التمييز بين المعلومات التي يجب إبقاؤها عامة والمعلومات التي يجب إخفاؤها لحماية حقوق الأفراد المتضررينلا يعتمد هذا القرار على نوع البيانات فحسب، بل يعتمد أيضاً على السياق الذي تظهر فيه ضمن الوثيقة. إنها مهمة تتطلب وقتاً ومعرفة باللوائح ومعايير قانونية دقيقة.

على سبيل المثال، لا يتطلب اسم المسؤول المنتخب في جلسة عامة إخفاء هويته، بينما يتطلب اسم الشخص المتضرر في قرار فرض عقوبة ذلك. وبالمثل، يُعد تاريخ الميلاد من البيانات الشخصية التي يجب عادةً إخفاء هوية صاحبها، بينما يُعد تاريخ الإجراء الإداري جزءًا من المعلومات التي يجب إبقاؤها متاحة للعموم.

عندما تتم هذه العملية يدوياً، يزيد ذلك من عبء العمل على الفرق المسؤولة، كما يزيد من خطر الكشف عن بعض البيانات الشخصية دون قصد.مع ما يترتب على ذلك من عواقب فيما يتعلق بالامتثال للائحة العامة لحماية البيانات (GDPR). علاوة على ذلك، عند اكتشاف نشر بيانات شخصية بشكل غير صحيح، يجب سحب الوثيقة وتصحيحها ونشر نسخة جديدة، وهي عملية بطيئة يتعين على هيئة تنظيم الاتصالات (AOC) إدارتها أسبوعيًا تقريبًا.

في هذا السياق، نظرت لجنة العمل في عام 2025 فيما إذا كان بإمكان تقنيات الذكاء الاصطناعي دعم هذه العملية، ومساعدة موظفي البلدية في تحديد البيانات الشخصية التي تحتاج إلى إخفاء هويتها مع الحفاظ دائمًا على الإشراف البشري على القرار النهائي.

الحل المقترح

استجابةً لهذه المشكلة، أطلقت AOC مشروع إثبات المفهوم (PoC) للتحقق مما إذا كان الذكاء الاصطناعي التوليدي يمكنه أتمتة إخفاء هوية محاضر الجلسات العامة البلدية قبل نشرها على البوابة. transparència.

تستكشف هذه المبادرة كيفية الجمع بين قدرة الذكاء الاصطناعي التوليدي على تفسير سياق المستندات والإشراف البشري، بهدف تقليل عبء العمل المرتبط بهذه العملية، وتقليل مخاطر الكشف عن البيانات الشخصية وضمان الامتثال للوائح حماية البيانات.

الهدف ليس استبدال المعايير القانونية للإدارات، ولكن تقديم أداة دعم تقوم تلقائيًا بالكشف عن البيانات الشخصية وتقترح إخفاء الهوية الذي يتم التحقق منه لاحقًا من قبل شخص ما قبل نشر المستند. يتيح لك هذا النهج الاستفادة من مزايا الذكاء الاصطناعي مع الحفاظ على السيطرة البشرية على القرار النهائي.

تم تصميم إثبات المفهوم كنظام ذي مخاطر ضئيلة: لا يتخذ الذكاء الاصطناعي قرارات آلية بشأن الأشخاص أو يؤثر على حقوقهم، ولكنه يعمل فقط كأداة دعم لتحويل المستندات قبل النشر.

ما هو الحل؟

يتكون إثبات المفهوم من منصة ويب سحابية تستخدم نماذج الذكاء الاصطناعي التوليدية لتحديد وإخفاء هوية البيانات الشخصية الموجودة في الجلسات العامة.

بخلاف الأنظمة التقليدية التي تعتمد فقط على أنماط محددة مسبقًا، تقوم المنصة بتفسير سياق المستند للتمييز بين المعلومات التي ينبغي إبقاؤها عامة، مثل تلك المتعلقة بالمسؤولين المنتخبين أو النشاط المؤسسي، وتلك التي ينبغي حمايتها لأنها تتعلق ببيانات شخصية. وتكتسب هذه القدرة أهمية خاصة لأن قرار إخفاء هوية المعلومات غالباً ما يعتمد على السياق الذي تظهر فيه، وليس فقط على نوع البيانات.

يشتمل الحل على عدة آليات لضمان جودة العملية وموثوقيتها:

  • الكشف السياقي عن البيانات الشخصية، استنادًا إلى الذكاء الاصطناعي التوليدي.
  • القوائم البيضاءوالتي تسمح باستبعاد مصطلحات معينة من عملية إخفاء الهوية لتجنب الإفراط في إخفاء الهوية.
  • إشراف بشري ("الإنسان في الحلقة"), لذلك فإن النظام يقترح فقط عمليات إخفاء الهوية، والمستخدم هو من يقوم بمراجعتها والتحقق منها قبل نشر المستند.
  • إمكانية التتبع والتفسير، وتسجيل المعايير المطبقة في كل عملية إخفاء للهوية بحيث تكون العملية قابلة للمراجعة والتدقيق.

كيف تعمل؟

تتألف عملية إخفاء الهوية من أربع خطوات بسيطة:

  1. يقوم المستخدم بتحميل المستند (PDF أو DOCX) إلى المنصة.
  2. حدد معايير إخفاء الهوية التي تريد تطبيقها (الأسماء والألقاب، وبطاقات الهوية، والعناوين، والتواريخ، وأرقام الهواتف، والحسابات المصرفية، وما إلى ذلك) وابدأ العملية.
  3. يقوم النظام بتحليل المستند، وتفسير سياق المعلومات، وإنشاء اقتراح لمستند مجهول الهوية. وللقيام بذلك، يحدد البيانات الشخصية التي يجب إخفاء هويتها وفقًا للمعايير المختارة، ثم يخفيها باستخدام تقنيات إخفاء الهوية.
  4. يقوم المستخدم بمراجعة النتيجة، ويقبل أو يعدل الأقنعة التي تم إنشاؤها، ويمكنه إنشاء أقنعة جديدة إذا اكتشف بيانات شخصية لم يتم إخفاء هويتها، وأخيراً يقوم بتنزيل المستند المعد للنشر.

نتائج إثبات المفهوم

تم التحقق من صحة المفهوم باستخدام 52 وثيقة مقدمة من 9 بلدياتوقد استُكمل ذلك باختبارات داخلية متعددة أجرتها لجنة مكافحة الفساد أثناء تطوير الحل. وقد سمحت عملية التحقق بتقييم جودة إخفاء الهوية وسلوك المنصة في حالات الاستخدام الحقيقية.

تؤكد النتائج التي تم الحصول عليها الجدوى التقنية والوظيفية للمقترح، فضلاً عن كفاءة النموذج القائم على الجمع بين الذكاء الاصطناعي التوليدي والإشراف البشري. وعلى وجه التحديد، سمح لنا التحقق من صحة النموذج بالتأكد مما يلي:

  • تحقق المنصة دقة إجمالية تبلغ 96%أي عندما يحدد النظام جزءًا من البيانات المراد إخفاء هويته، فإنه عادة ما يفعل ذلك بشكل صحيح، مما يقلل الحاجة إلى مراجعة الاكتشافات الخاطئة.
  • يتجاوز مؤشر F1 الإجمالي، الذي يجمع بين دقة وتغطية اكتشاف البيانات الشخصية في مقياس جودة واحد، نسبة 90%. في الأخيرeres حققت تكرارات إثبات المفهوم مستويات جودة إجمالية تزيد عن 95%.
  • الجمع بين الذكاء الاصطناعي والإشراف البشري إنه نموذج فعال لتقليل الجهد اليدوي مع الحفاظ على الضمانات اللازمة قبل نشر المستندات.

وقد ساهم إثبات المفهوم أيضاً في تحديد التحديات الرئيسية التي يجب معالجتها قبل النشر النهائي في بيئة الإنتاج:

  • زيادة تغطية الكشف (تذكر) لتقليل الحالات التي قد تظل فيها بعض البيانات الشخصية غير مجهولة الهوية، وخاصة في المستندات ذات الهياكل المعقدة أو غير المتجانسة.
  • تطوير بنية الحل لتحسين قابليتها للتوسع وأدائها وكفاءتها، مما يجعل خدمة مشتركة مستدامة ممكنة لعدد كبير من الإدارات.
  • استمر في تدريب النماذج وتحسينها استنادًا إلى النتائج التي تم الحصول عليها وعمليات التحقق الجديدة باستخدام وثائق حقيقية، مع دمج المعرفة التي تم توليدها أثناء مراجعة المستخدم.

وبهذا المعنى، سمح لنا إثبات المفهوم أيضًا بتحديد كيفية تطور بنية الحل. يُعالج الإصدار الحالي عملية إخفاء الهوية بالكامل باستخدام نموذج ذكاء اصطناعي توليدي واحد عالي القدرة، وهو نهج مناسب للتحقق من جدوى الحل، ولكنه ليس فعالًا جدًا للتطبيق على نطاق واسع. التطور المتوقع يفصل بين تحديد البيانات الشخصية والقرار المتعلق بتحديد البيانات التي ينبغي إخفاء هويتها بناءً على السياقوبذلك، يمكن لكل مرحلة استخدام نماذج الذكاء الاصطناعي الأنسب والأكثر كفاءة. وسيؤدي هذا التطور إلى تحسين قابلية التوسع والأداء والاستدامة للخدمة المشتركة المستقبلية.

بشكل عام، يؤكد إثبات المفهوم أن هذا النهج قابل للتطبيق ويوفر أساسًا متينًا لمواصلة تطوير الحل نحو النشر الإنتاجي المستقبلي.

الموارد والتعاون

تم تطوير إثبات المفهوم بشكل مشترك بين AOC، المسؤولة عن القيادة الوظيفية للمشروع؛ وشركة التكنولوجيا OMNIOS، المسؤولة عن تطوير المنصة وتحليل النتائج؛ و9 مجالس مدن، والتي قدمت وثائق حقيقية للتحقق من صحة الحل في بيئة معينة. representaاستخدام.

منذ تصميمها، تم تصميم المنصة وفقًا لـ مبادئ الأمن، transparènciaإمكانية التتبع والإشراف البشري خاصة بأنظمة الذكاء الاصطناعي المطبقة في القطاع العام، بهدف استكشاف نموذج إخفاء الهوية بمساعدة الذكاء الاصطناعي ويمكن أن يتطور ذلك نحو خدمة مشتركة مستقبلية للإدارات المحلية.

قيمة للكيانات المحلية

يُبرز إثبات المفهوم إمكانات الذكاء الاصطناعي التوليدي في دعم العمليات الإدارية التي تتطلب مراجعة دقيقة للوثائق وحكمًا قانونيًا متأنيًا. وإذا تطور هذا الحل ليصبح خدمة مشتركة، فقد يُحقق فوائد كبيرة للسلطات المحلية.

  • تقليل مخاطر الكشف غير المقصود عن البيانات الشخصية، مما يقلل من احتمالية نشر معلومات لا ينبغي أن تكون متاحة للجمهور.
  • توفير الوقت وتحسين الكفاءة، أتمتة جزء كبير من عملية تحديد البيانات مراجعة شخصية وتقليل المراجعة اليدوية.
  • زيادة التجانس في تطبيق معايير إخفاء الهويةمما يعزز تقديم علاج أكثر اتساقاً بين الجرعات.
  • مزيد من الضمانات لإمكانية التتبع والتدقيق، وذلك بفضل تسجيل عمليات إخفاء الهوية التي تم إجراؤها والمعايير المطبقة.
  • القدرة على التحسين المستمر للحل، مع دمج مدخلات المستخدم والتقدم في نماذج الذكاء الاصطناعي ذات القوة المتزايدة.

استنتاجات

لقد سمح إثبات المفهوم بالتحقق من الجدوى التقنية والوظيفية لأداة تعتمد على الذكاء الاصطناعي التوليدي لدعم إخفاء هوية محاضر الجلسات العامة البلدية قبل نشرها.

تُظهر النتائج التي تم الحصول عليها أن الجمع بين الكشف التلقائي والإشراف البشري هو نهج مناسب لتقليل عبء العمل على الكيانات المحلية وتقليل مخاطر الكشف عن البيانات الشخصية، مع الحفاظ على الضمانات اللازمة في عملية من هذا النوع.

وقد مكّنت تجربة إثبات المفهوم من تحديد المجالات الرئيسية التي تحتاج إلى تحسين قبل إمكانية نشر النظام في بيئة الإنتاج، لا سيما في مجال الكشف عن أنواع معينة من البيانات الشخصية في المستندات المعقدة، وفي دمج الحل مع خدمات مركز عمليات الأمن. وتوفر هذه التجربة أساسًا متينًا لمواصلة تطوير المشروع وتقييم إمكانية تحويله إلى خدمة مشتركة مستقبلية للإدارات المحلية.

حالة المشروع

تم تنفيذ إثبات المفهوم والتحقق من صحة الإمكانات. يجري حاليًا التعاقد على استمرارية المبادرة مع تنفيذ مشروع تجريبي بنطاق أوسع.

معلومات اكثر

مدونة AOC:

العروض التقديمية والمقالات:

أشرطة فيديو: