الحاجة إلى مقاربة نسويّة للذكاء الاصطناعي

خريستو المرّ – الثلاثاء ١٧ أيلول / سبتمبر ٢٠٢٤ 
يغيّر التطور السريع للذكاء الاصطناعي عالمنا بطرق لم نستوعبها بعد. وبينما يقدم الذكاء الاصطناعي مزايا مهمّة، فإنه يضع أمامنا تحدّيًا كبيرًا: التحيّز الخوارزمي.
يشير التحيز الخوارزمي إلى التمييز المنهجي في أنظمة الذكاء الاصطناعي تجاه مجموعة من الناس، والذي يمكن أن ينشأ أساسا من البيانات (الداتا) التي تستخدمها خوارزميّات الذكاء الاصطناعي.
قد نظنّ أنّ البيانات أمرا غير متحيّز، ولكن الواقع يقول غير ذلك، فقد ننتج نظاما لكشف مبكّر عن مرض باعتمادنا على داتا من مجتمع ما ونكتشف أنّ النظام غير ناجح في مجتمع آخر، لأنّ الداتا فيه مختلفة جذريّا عن الأوّل.
كما أنّ نظرة أكثر نقديّة يمكنها أن تكشف أنّ أصل التحيّز الخوارزمي قد يكمن في قرون من التمييز المنهجي ضدّ مجموعة من الناس. فعلى مرّ التاريخ، أثّرت اختلالات القوّة المتأصّلة في الهيكليّات الاجتماعية، على طريقة جمع البيانات وتحليلها. ولو فكّرنا قليلا بالمعوّقين فكم من الداتا موجودة بالفعل في مجتمعاتنا حول المعوّقين أو وأوضاعهم الحياتيّة والوظيفيّة؟ وكم من الداتا موجودة في مجتمعاتنا حول الأمراض النفسيّة؟ وكم من الداتا موجودة حول أوضاع السكّان الأصليّين والسود والملوّنين في كندا؟ في كلّ الحالات هي قليلة وبالتالي لا تمثّل بشكل صحيح هذه المجموعات، وأيّ برنامج ذكاء اصطناعي يعتمد على هكذا داتا يرجّح أن يكون منحازا ضدّ هذه المجموعات لأنّ الداتا لا تمثّلها.
الاعتقاد الشائع بأن الداتا غير متحيّزة ومحايدة هو اعتقاد خاطئ، فالبيانات في الحقيقة تعكس ديناميات القوّة في المجتمع. ذلك أن عملية جمع البيانات وتنظيمها وتفسيرها تتأثر بشكل أساس بالعوامل السياسية والأيديولوجيات السائدة. الحاملون لمفاتيح القوّة في المجتمع هم الذين يقرّرون أيّ أسئلة يجب أن تسأل (وأيّ تلك التي يجب أن يُسكت عنها)، وموقعهم الاجتماعي-الاقتصاديّ يؤثّر أيضا في الاهتمام بأسئلة وإغفال عن أخرى، وبالتالي بتقرير أيّ نوع من الداتا يجب أن يُجمع. ومن هنا، فإنّ البيانات الموجودة عادة ما تكون متحيّزة، لأنها تعكس وجهات نظر من هم في السلطة.
وبما أنّ الذكاء الاصطناعي يعتمد في عمله على البيانات الموجودة، فإنّ بيانات متحيّزة تؤدّي إلى أنظمة ذكاء اصطناعي متحيّزة تُديم عدم المساواة القائمة في المجتمع، بل وتفاقمه، ممّا يخلق دوّامة خطيرة حيث يستمر التمييز التاريخيّ في التأثير على نتائج العالم الحاضر.
الأمثلة كثيرة حول تمييز أنظمة الذكاء الاصطناعي في مجالات التوظيف حيث بعضها يميّز بين الجنسين، أو بين الأعراق، وتمييزها في مجال العدالة الجنائية حيث بعض الأنظمة المستخدَمة لتقييم المخاطر تستهدف بشكل خاص الأشخاص من المجتمعات المهمشة، وفي مجال الرعاية الصحية حيث تؤّدي بعض الأنظمة لعدم المساواة في الوصول إلى الرعاية أو إلى خيارات العلاج المختلفة، أمّا في مجال المال فالأنظمة المتحيّزة قد تزيد عدم المساواة الاقتصادية سوءًا.
المقاربة النسوية
ما علاقة المقاربة النسويّة بالموضوع؟
تدرس النظريّة النسوية ديناميات القوّة في المجتمع وأنظمة القمع، ولذلك لديها القدرة على تقديم تحاليل حول مصادر التحيّز وآثاره. على وجه التحديد، تستكشف النسوية التقاطعيّة كيف تتقاطع أشكال القمع المختلفة، كالعرق والجنس والطبقة، لإنتاج تفاوتات بين البشر. لذلك يمكن للنظرية النسويّة أن تقدّم وسلائل تحليليّة ونقديّة جدّ مهمّة لفهم ومعالجة التحيّز الخوارزمي. وبشكل أخصّ، تقدم النسوية التقاطعيّة إطارًا لفهم كيفية تقاطع أشكال مختلفة من القمع، بما في ذلك الجنس والعرق والطبقة والجنس، وتفاقمها داخل الأنظمة الخوارزمية.
إنّ مقاربة نسوية للذكاء الاصطناعي تفتح أمامنا فرصة لكشف الطرق المعقدة التي يديم بها التحيّز الخوارزمي، ويفاقم، عدم المساواة القائمة في الداتا. كما أنّ نقديّة المقاربة النسويّة لمراكز القوّة ولتقاطع أشكال القمع، إذا ما طُبِقَّت في مجال الذكاء الاصطناعيّ لها أن تتحدى الأساليب التقليدية لجمع البيانات وتحليلها وتفسيرها؛ ويمكنها كذلك الدفع إلى زيادة الشفافية والمساءلة والتنوّع في جمع الداتا، وأن تعزّز بيئة اجتماعيّة وعلميّة أكثر عدلاً.
خلاصة
إن كان التحيز الخوارزمي يمثل عيبًا رئيسيًا في الذكاء الاصطناعي، فإنّ العدسة النسوية داخل ميدان الذكاء الاصطناعي يمكنها أن تساعد في الكشف عن مصادر التحيز واختلالات القوّة، والخلفيات التاريخية لتلك الاختلالات، وعن أيّ عدم مساواة بنيويّ. ولذلك يمكنها أن تدفع لإعطاء الأولوية للشمولية (inclusivity) والتنوع في الداتا وفي تطوير الذكاء الاصطناعي، مما يؤدّي إلى تضمين وجهات النظر للمجتمعات المهمشة في عمليّة إنتاج أنظمة الذكاء الاصطناعي.
هكذا تزاوج بين المقاربة النسويّة والذكاء الاصطناعي يسمح بالدفع إلى مشاركة حقيقيّة للمجموعات المهمشة في المجتمع في عملية تصميم الأنظمة القائمة على الذكاء الاصطناعي، لكي تُنتَج تلك الأنظمة بشكل أكثر عدلا ودون تحيّز.