نُشر هذا المقال في الأصل على الموقع الإلكتروني لمعهد رينولدز للصحافة وأعيد نشره على شبكة الصحفيين الدوليين بعد الحصول على إذن بالنشر.
الذكاء الاصطناعي من تصميم البشر، لذلك فإنّ عكسه للتحيز البشري أمر متوقع.
في 2020، فصلت شركة مايكروسوفت عشرات الموظفين في غرفة الأخبار من العمل واستبدلتهم بالذكاء الاصطناعي، ومن المؤسف أن الشركة لم تضع في اعتبارها مشاكل التحيز في الخوارزميات وعجزها المتكرر عن التعرف على الأشخاص أصحاب البشرة الملونة. بعد وقت قصير من الظهور الأول للروبوتات التي تعمل كمراسلين لدى مايكروسوفت، نشرت خوارزمية تصفح الأخبار قصة على موقع "إم إس إن MSN" عن جايد ثيرلوال من فرقة "ليتل ميكس" وتأملاتها الشخصية عن العنصرية، وأرفقت القصة صورة الشخص الخطأ، فبدلًا من نشر صورة ثيرلوال، نشرت الخوارزمية صورة زميلتها في الفرقة لي آن بينوك.
إن عجز الذكاء الاصطناعي عن التعرف على وجوه أصحاب البشرة الملونة أمر مقلق للغاية، وفي 2021، تتبع الفيلم الوثائقي Coded Bias قصة جوي بولامويني، عالمة الكمبيوتر في مختبر الميديا في معهد ماساتشوستس للتكنولوجيا، بعد اكتشافها المذهل أن برنامج التعرف على الوجه بتقنية الذكاء الاصطناعي لا يمكنه اكتشاف الوجوه ذات البشرة الداكنة أو التعرف على النساء بدقة.
لماذا الخوارزميات عنصرية؟
في كتابها "عدم الذكاء الآلي Automated (Un)Intelligence"، شرحت أستاذة صحافة البيانات ميريديث بروسارد، أن مصطلح التعلم الآلي مضلل إلى حد ما بمفرده. فعندما يقول علماء الكومبيوتر إن تطبيقات الذكاء الاصطناعي "تتعلم"، فإنهم لا يقصدون التعلم بالمعنى البشري، فالذكاء الاصطناعي يتعلم من بيانات التدريب – وهي مجموعة كبيرة من البيانات تعلمه الأنماط الإحصائية في العالم. بشكل أساسي، يتعلم الذكاء الاصطناعي كيفية حل المشكلات بطريقة أفضل وأسرع؛ لأن بإمكانه التنبؤ بما سيحدث من البيانات التي يتعلم منها، ومع ذلك، فإن نتيجة ذلك هو إغفال الآلة الكثير من الفروق الدقيقة للذكاء البشري والتواصل – على سبيل المثال، من المرجح أن الآلة ستعجز عن كشف السخرية أو الاستعارات.
بالإضافة إلى ذلك، فالذكاء الاصطناعي صنيعة البشر، وهم بدورهم متحيزين، ومن ثم إذا عكست مجموعة البيانات التحيزات البشرية، سيُنتج الذكاء الاصطناعي مخرجات متحيزة. لذلك، على سبيل المثال، عندما استخدمت شركة أمازون الذكاء الاصطناعي لغربلة السير الذاتية وتصفية المتقدمين للوظائف، اكتشفت سريعًا أن الخوارزمية تستبعد السير الذاتية الخاصة بالنساء.
تدربت الخوارزمية على السير الذاتية للموظفين الناجحين، وسيليكون فالي غير معروفة بالتنوع بين الجنسين بداخلها، ومن ثم بدأ التطبيق في رفض السير الذاتية التي تحتوي على لغة أنثوية، وإعاقة السير الذاتية التي احتوت على كلمة "نساء" والتي احتوت على اسم كليات نسائية معينة. كانت النتيجة هو اضطرار أمازون إلى التوقف عن استخدام التطبيق بعد وقت قصير من تقديمه، وعلى الرغم من أنه تم تعديل الأداة لجعلها أكثر حيادية، كان من المستحيل التحقق من أنها لن تكون تمييزية مرة أخرى - لذلك لم يتم استخدامها مجددًا.
كيف يمكنني استخدام الذكاء الاصطناعي مع وضع التحيز في الاعتبار؟
على الرغم من أهمية النظر في سلبيات التحيز الخوارزمي، إلا أنه لا يتعين علينا التخلص من الذكاء الاصطناعي بالكامل. فالاستخدام المسؤول للذكاء الاصطناعي يعني الاعتراف بأن البشر يعطون أحكامهم المسبقة للآلات وأننا مازلنا في حاجة إلى التدخل البشري في كثير من الحالات. وفي واقعة نشر محرر الذكاء الاصطناعي للصورة الخطأ للمرأة السمراء، كان من الممكن تجنب الخطأ إذا قام محرر بشري بكل بساطة بالتحقق من صحة المنشور.
ومن ثم، فإن التوصل إلى فهم التحيز الخوارزمي مفيد لغرف الأخبار التي تتطلع إلى إضافة تطبيقات التعلم الآلي لبعض جوانب دورة الأخبار. إن تمكن الذكاء الاصطناعي من أن يحل محل الصحفيين أمر غير محتمل في أي وقت في المستقبل، وهو ما يتماشى مع إجابات صانعي القرار في الأخبار المحلية الذين شاركوا في دراسة أجرتها وكالة أسوشييتد برس بشأن استخدام غرف الأخبار المحلية للذكاء الاصطناعي.
إليك بعض الطرق التي يمكنك أن تستخدمها لتضع التحيز الخوارزمي في الاعتبار عند استخدام الذكاء الاصطناعي في غرفة الأخبار:
* تأكد من هجاء الأسماء في النسخ المكتوبة.
* استعن بشخص ليتقصى الحقائق.
* تأكد من أن الصور تعود للأشخاص الحقيقيين قبل نشر القصة.
* راجع تطبيقات الذكاء الاصطناعي بانتظام للكشف عن التحيز.
يعمل الذكاء الاصطناعي كمساعد بطريقة أفضل من كونه وكيلًا غير مراقب، وبالرغم من أن إمكانات التطبيقات الخوارزمية في غرف الأخبار لا تزال مجالًا ناميًا، يمكننا البدء من خلال تطوير فهم أساسي لكيفية عمل هذه التطبيقات وكيفية الانخراط في خدمة صحفية أفضل بدعم من التكنولوجيا.
الصورة حاصلة على رخصة الاستخدام على أنسبلاش بواسطة Resource Database™ .