يشهد العالم سباقًا محمومًا لتوظيف الذكاء الاصطناعي (AI) في حماية الفئات الضعيفة، مثل الأطفال في الرعاية البديلة وكبار السن في دور الرعاية والطلاب في المدارس. هذه الأدوات تُبشر بالقدرة على اكتشاف المخاطر مبكرًا وتنبيه السلطات قبل وقوع الأضرار. لكن هل نحن حقًا نبني أنظمة حماية أكثر ذكاءً، أم أننا نُخاطر بأتمتة الأخطاء والتحيزات التي عانت منها هذه الفئات لعقود؟
استخدامات واعدة للذكاء الاصطناعي في الحماية
يمتلك الذكاء الاصطناعي إمكانات هائلة لتعزيز فعالية أنظمة الحماية الاجتماعية، ومن أبرز استخداماته:
تحليل الأنماط اللغوية: تستخدم تقنيات معالجة اللغة الطبيعية (NLP) لتحليل النصوص والرسائل لاكتشاف أنماط التهديد والتلاعب، مما يساعد في تحديد حالات العنف الأسري والتدخل المبكر.
النمذجة التنبؤية: تعتمد وكالات رعاية الأطفال على نماذج الذكاء الاصطناعي لحساب مؤشرات الخطر لدى الأسر، مما يسمح للأخصائيين الاجتماعيين بترتيب أولويات الحالات عالية الخطورة.
المراقبة الذكية: تساعد كاميرات المراقبة المدعومة بالذكاء الاصطناعي على اكتشاف العنف الجسدي في مرافق الرعاية من خلال تحليل حركات أطراف الأشخاص، وليس الوجوه أو الأصوات.
دعم القرار: تُزود هذه الأدوات العاملين في المجال الاجتماعي بتحليلات بيانات عميقة، مما يدعمهم في اتخاذ قرارات مبكرة ومستنيرة.
تحديات عميقة: عندما يرث الذكاء الاصطناعي تحيزات الماضي
رغم هذه الوعود، تتفاقم المخاوف الأخلاقية مع تزايد الاعتماد على الذكاء الاصطناعي في هذا المجال الحساس:
التحيزات المتأصلة في البيانات: تُدرب أنظمة الذكاء الاصطناعي على بيانات تاريخية غالبًا ما تكون مشبعة بعدم المساواة والتحيزات الاجتماعية (مثل العنصرية والتمييز الطبقي). هذا يعني أن الخوارزميات قد تُكرر وتُضخم هذه الأنماط التمييزية.
على سبيل المثال، أظهرت دراسة في مقاطعة أليجيني عام 2022 أن نموذجًا للتنبؤ بالمخاطر كان يبلّغ عن الأطفال السود للتحقيق بنسبة تزيد عن 20% مقارنة بالأطفال البيض، لو لم يكن هناك إشراف بشري.
دراسات أخرى كشفت أن أنظمة معالجة اللغة الطبيعية تُسيء تصنيف اللهجات العامية لبعض المجموعات العرقية على أنها عدوانية.
صعوبة فهم السياق: غالبًا ما تواجه نماذج الذكاء الاصطناعي صعوبة في فهم السياق، مما قد يؤدي إلى تصنيف خاطئ للسخرية أو الفكاهة على أنها تهديدات خطيرة، مما يستدعي تدخلات غير ضرورية أو مؤذية.
المراقبة على حساب الخصوصية: تُطبق أنظمة المراقبة في دور الرعاية والمدارس، ولكنها غالبًا ما تُصدر آلاف التنبيهات الكاذبة (كما حدث في أستراليا عام 2022 حيث ولّد نظام الذكاء الاصطناعي أكثر من 12,000 تنبيه كاذب في عام واحد)، مما يرهق الموظفين وقد يؤدي إلى إغفال حوادث حقيقية. كما تُراقب برامج مثل Gaggle وGoGuardian نشاط الطلاب عبر الإنترنت، وتُشير أحيانًا إلى سلوكيات طبيعية أو غير ضارة على أنها مثيرة للقلق.
نحو إطار عمل مسؤول: مبادئ الذكاء الاصطناعي المستجيب للصدمات
لضمان استخدام الذكاء الاصطناعي كقوة إيجابية، طوّرت الدكتورة أيسلين كونراد إطار عمل “الذكاء الاصطناعي المستجيب للصدمات”، الذي يرتكز على أربعة مبادئ أساسية:
تحكم الناجين في المراقبة والبيانات: يجب أن يكون للأفراد الحق في التحكم في كيفية ووقت استخدام بياناتهم، لتعزيز الثقة وتمكينهم من اتخاذ قرارات بشأن سلامتهم.
الإشراف البشري: لا يمكن للذكاء الاصطناعي أن يحل محل الحكم المهني والخبرة البشرية. يجب أن تظل قرارات التدخل النهائية في أيدي متخصصين قادرين على فهم السياق الشامل.
تدقيق التحيز لضمان الحيادية: يجب على المطورين والحكومات إجراء اختبارات منتظمة لأنظمتهم للكشف عن التحيزات العرقية والاقتصادية وتقليلها، باستخدام أدوات مفتوحة المصدر مثل (AI Fairness 360).
الخصوصية حسب التصميم: يجب بناء الأنظمة مع حماية الخصوصية كهدف أساسي منذ البداية، من خلال تقنيات مثل إخفاء الهوية في البيانات الحساسة أو تعتيم الوجوه في الفيديوهات.
تؤكد هذه المبادئ على ضرورة بناء أنظمة تركز على الرعاية بدلًا من العقاب. بينما لا يمكن للذكاء الاصطناعي أن يحل محل التعاطف البشري وفهم السياق، فإنه إذا صُمم وطُبق وفقًا لمبادئ أخلاقية صارمة، يمكن أن يصبح أداة قوية لتعزيز الحماية والرعاية للفئات الضعيفة، بدلًا من مجرد أتمتة المراقبة والتحيزات.
