غالبًا ما يُنظر إلى الخوارزميات على أنها موضوعية وغير متحيزة. لكن الذكاء الاصطناعي يتعلم من البيانات التي أنشأها البشر، وإذا كانت تلك البيانات متحيزة، فإن الذكاء الاصطناعي سيصبح متحيزًا أيضًا.
غالبًا ما يُنظر إلى الخوارزميات على أنها موضوعية وغير متحيزة. لكن الذكاء الاصطناعي يتعلم من البيانات التي أنشأها البشر، وإذا كانت تلك البيانات متحيزة، فإن الذكاء الاصطناعي سيصبح متحيزًا أيضًا.
النقاش
تم العثور على انحياز في خوارزميات تستخدم في كل شيء من التوظيف إلى العدالة الجنائية. على سبيل المثال، إذا تم تدريب خوارزمية توظيف على بيانات تاريخية حيث تم توظيف الرجال بشكل أساسي في وظائف معينة، فقد تتعلم الخوارزمية التمييز ضد المرشحات الإناث.
التحليل
المشكلة خطيرة بشكل خاص لأننا نميل إلى الثقة في القرارات التي تتخذها أجهزة الكمبيوتر على أنها 'موضوعية'. 'تبييض التحيز' هذا يمكن أن يؤدي إلى ترسيخ وتضخيم عدم المساواة المجتمعية الحالية.
الخلاصة
إنشاء ذكاء اصطناعي عادل وأخلاقي هو أحد أكبر التحديات في عصرنا. يتطلب الأمر من العلماء وعلماء الأخلاق وصانعي السياسات العمل معًا لضمان أن التكنولوجيا التي نبنيها تعكس أفضل ما فينا، وليس أسوأ ما فينا.
توصية عملية
ابحث عن عمل جوي بولامويني ومشروع 'Algorithmic Justice League'. لقد كشفت أبحاثها عن تحيزات عنصرية وجنسية كبيرة في برامج التعرف على الوجه التجارية.
