اضطرت شركة أمازون حسب تقارير إخبارية إلى إلغاء تجربة نظام ذكاء اصطناعي يساعد في اختيار الموظفين الجدد بعدما أظهر انحيازا ضد النساء.
تقرير نشرته وكالة "رويترز" كشف أن نظام الذكاء الاصطناعي الذي كانت تجربه أمازون استبعد المرشحين للوظائف الذين درسوا بكليات أو مدارس للنساء فقط وكذلك كل السير الذاتية التي تحتوي على كلمة "النساء أو للنساء".
ويرجع تفسير ذلك حسب موقع "ذا فيرج" المختص بالتكنولوجيا إلى أن أنظمة الذكاء الاصطناعي تعتمد في تعلم اتخاذ القرارات على سجلات البيانات التي تحتوي عادة على تحيز في صالح الرجال خاصة في بيئات العمل في مجال التكنولوجيا.
وقال مصدر بالشركة لـ "رويترز" إن الفريق الذي عمل على المشروع أراد تسريع عمليات التوظيف وأن الغرض من المشروع كان "ان تعطي النظام 100 سيرة ذاتية لطالبي توظيف يختار منهم أفضل خمسة ويتم توظيفهم".
وحسب "ذا فيرج" فإن الشركة عندما لاحظت ذلك التحيز حاولت تعديل برمجية النظام إلا أن القائمين على المشروع لم يستطيعوا التأكد من أن المشروع لن ينتج عنه تحيزات أخرى مما أدى في النهاية إلى إلغاءه العام الماضي.
على الرغم من ذلك، فالعديد من الشركات العاملة في مجال التوظيف عبر الذكاء الاصطناعي تبيع خدماتها علنا، وتروج لها على أنها أفضل طريقة لتجنب التحيز البشري، وتؤيد موقفها بأن تفضيل مرشحين على آخرين، يمكن تشفيره.
ويقول تقرير رويترز إن أمازون تسعى الآن للحصول على برنامج توظيف جديد، لكن هذه المرة مع "التركيز على التنوع".