أستمع الى المقال

خلال العقود الأخيرة، تطور الذكاء الصنعي بصورة ملحوظة، وذلك بسبب توجه الكثير من الأبحاث والدراسات والشركات نحو تطوير هذا العلم، وذلك يعود أيضًا للحاجة الملحة للصناعات والمؤسسات والشركات لتطوير خطوط إنتاجها وزيادة إيراداتها.

ومع مرور الوقت وبفضل الكثير من التقنيات يتم تطوير قدرة الذكاء الصنعي على سبيل المثال اللجوء لتقنية التعلم العميق، لإعطاء الذكاء الصنعي القدرة على الاستنتاج والاستنباط والتفكير بشكل مستقل وتعليم نفسه بنفسه، والخروج من نمط الآلة الجامدة.

والآن بتنا نرى العديد من الصناعات وفي مختلف المجالات تعتمد على الذكاء الصنعي، ونحن نتعامل مع هذه التقنية بشكل يومي من خلال سواء في حواسيبنا أو هواتفنا أو الكثير من المرافق العامة.

ولكن رغم كل ما نقرأه عن دور الذكاء الصنعي في تطوير وإنقاذ الشركات من الركود، وزيادة الأمان والحماية في المطارات وفي المرافق العامة، وتسهيل الكثير من تعقيدات العمل وتراكماته في مختلف الصناعات سواء كانت مرتبطة بالسفر والسياحة أو الأمن أو جمع وتحليل البيانات أو المساعدة في كتابة وتدقيق المحتوى أو في المجال الرعاية الطبي والمستشفيات وغيرها الكثير.

كل ما تم ذكره لا يمنع من وجود بعض الأخطاء في عالم الذكاء الصنعي، فهو أولًا وأخيرا تقنية حالها حال غيرها معرضة للهفوات والأخطاء، ولكن بسبب الاعتماد الكبير والموثوقية العالية التي تم منحها لهذه التقنية في الكثير من الأمور، قد تكون أخطاء الذكاء الصنعي ليست مجرد أخطاء بسيطة فقط، بل قد تتحول إلى كوارث كبيرة التي لا تحمد عقباها.

أخطاء الذكاء الصنعي

وفقًا لبعض التقارير لعام 2022، أن 35% من قادة تكنولوجيا المعلومات قد ذكروا أن البيانات وتحليلات الأعمال ستقود معظم استثمارات تكنولوجيا المعلومات في مؤسساتهم هذا العام. وأن 20% من قادة تكنولوجيا المعلومات قد صرحوا إن الذكاء الصنعي سيقود معظم استثمارات تكنولوجيا المعلومات. يمكن لخوارزميات الذكاء الصنعي التي تقوم بتحليل البيانات أن تمنح المؤسسات ميزة تنافسية، لكن الأخطاء يمكن أن تكون مكلفة من حيث السمعة أو الإيرادات أو حتى الأرواح.

فشل برنامج “Watson for Oncology” من شركة IBM لتوصيات العلاج ضد السرطان

في عام 2013، دخلت شركة IBM في شراكة مع مركز إم دي أندرسون للسرطان التابع لجامعة تكساس لتطوير نظام “مستشار خبير الأورام”. والهدف كان تقديم التوصيات لعلاج السرطان. وذلك من خلال تمكين الأطباء من “الكشف المبكر عن السرطان من خلال قواعد البيانات البحثية للمرضى بمركز السرطان”.

في يوليو / تموز 2018، راجعت موقع StatNews الإخباري مستندات شركة IBM الداخلية ووجدت أن الذكاء الصنعي Watson كان يقدم نصائح خاطئة وخطيرة تمامًا لعلاج السرطان.

وفقًا لـ StatNews، تلقي المستندات اللوم إلى حد كبير على مهندسي IBM. من الواضح أنهم دربوا البرنامج على عدد صغير من مرضى السرطان المفترضين، عوضا عن بيانات المرضى الحقيقية.

وأشار المتخصصون الطبيون والعملاء حول الكثير من الأمثلة لتوصيات العلاج غير الآمنة وغير الصحيحة، بما في ذلك حالة واحدة اقترح فيها Watson أن يعطي الأطباء لمريض السرطان المصاب بنزيف حاد دواء يمكن أن يؤدي إلى تفاقم النزيف.

في فبراير / شباط 2017، ذكرت مجلة Forbes إن إم دي أندرسون الذي اختار مشروع Watson للأورام. أ، جامعة تكساس أن إم دي أندرسون أنفق أكثر من 62 مليون دولار دون تحقيق أهدافهم.

شركة Zillow العقارية

في نوفمبر / تشرين الثاني من 2021، أبلغت شركة Zillow التي تعمل في مجال سوق العقارات عبر الإنترنت، المساهمين أنها ستنهي عمليات الشركة بصورة تدريجية وتقوم بخفض 25% من القوة العاملة لديها، وذلك ما يقارب حوالي 2000 موظف. كانت مشاكل وحدة التقليب المنزلي (عملية شراء العقارات وإعادة تأهيلها وبيعها من أجل الربح) نتيجة معدل الخطأ في خوارزمية الذكاء الصنعي التي تستخدمها للتنبؤ بأسعار المنازل.

عروض Zillow عبارة عن برنامج تقدم من خلاله الشركة عروض نقدية على العقارات بناءً على”توصيات الذكاء الصنعي لقيم المنزل. كانت الفكرة هي تجديد العقارات وقلبها بشكل سريع. لكن متحدثًا باسم Zillow قال لشبكة CNN إن الخوارزمية لديها معدل خطأ متوسط ​​قدره 1.9٪، ويمكن أن يكون معدل الخطأ أعلى بكثير، ليصل إلى 6.9٪ للمنازل خارج السوق.

ذكرت وكالة CNN أن Zillow اشترت 27000 منزل من خلال توصيات الذكاء الصنعي منذ إطلاقها في أبريل / نيسان 2018 لكنها باعت فقط 17000 منزل حتى نهاية سبتمبر/ أيلول 2021. ساهمت أحداث جائحة COVID-19 ونقص العمالة في تجديد المنازل في زيادة نسبة الخطأ في دقة خوارزمية الذكاء الصنعي.

وصرحت Zillow إن الخوارزمية دفعتها إلى شراء منازل بأسعار أعلى من تقديراتها الحالية لأسعار البيع المستقبلية، مما أدى إلى نقص بقيمة 304 ملايين دولار في الربع الثالث من عام 2021 من إيرادات الشركة.

بوت الدردشة Tay المعتمد على الذكاء الصنعي من مايكروسوفت

في 23 مارس / آذار عام 2016 أطلقت شركة مايكروسوفت بوت الدردشة Tay الذي يعتمد على الذكاء الصنعي، ويمكن لـ Tay الرد تلقائيًا على الأشخاص والمشاركة في محادثة لمستخدمي منصة تويتر.

صممت مايكروسوفت مشروع Tay لتحسين فهم المحادثة. وتم استخدام التعلم الآلي والذكاء الصنعي تطوير هذا البوت. زعمت الشركة أنه آنذاك أن مع مرور الوقت وزيادة التحدث مع الأشخاص، سيتعلم بوت Tay للدردشة كيفية الكتابة بشكل أكثر طبيعية وإجراء محادثات أفضل.

ولكن بعد أقل من 24 ساعة من إطلاق Tay، أفسد متصيدو الإنترنت شخصية Tay تمامًا عبر إغراق البوت بطوفان من التغريدات العنصرية والمعادية للسامية، وقام المهاجمون بتحويل بوت Tay إلى ببغاء آلي متصل بالإنترنت فقط، ناطق بلسان أيديولوجية عنصرية، وقام بنشر تغريدات عنصرية مسيئة مما اضطر مايكروسوفت لإيقاف البوت بعد 16 ساعة من إطلاقه فقط.

فشل خوارزمية الذكاء الصنعي للرعاية الصحية في الإبلاغ عن المرضى أصحاب البشرة الداكنة

في عام 2019، كشفت دراسة نُشرت في مجلة Science أن خوارزمية التنبؤ بالرعاية الصحية، التي تستخدمها المستشفيات وشركات التأمين في جميع أنحاء الولايات المتحدة لتحديد المرضى الذين يحتاجون إلى برامج إدارة رعاية عالية المخاطر، وكان عدد المرضى أصحاب البشرة الداكنة أقل بكثير رغم حاجتهم إلى الرعاية.

تم استخدام الذكاء الصنعي لتقديم توصيات لطاقم إدارة الرعاية عالية المخاطر وهو طاقم تمريض مدرب على مراقبة ورعاية أولية للمرضى المصابين بأمراض مزمنة في محاولة لمنع حدوث مضاعفات خطيرة. لكن الخوارزمية كانت تقوم بتوصية أكثر للمرضى البيض لهذه البرامج من المرضى من أصحاب البشرة الداكنة.

ووفقًا لمجلة Scientific American، كانت تكاليف الرعاية الصحية للمرضى من ذوي البشرة الداكنة هي نفس تكاليف الأشخاص البيض الذين يمتلكون صحة جيدة نسبيًا، مما يعني أنهم تلقوا درجات مخاطر أقل حتى عندما تكون احتياجاتهم أكبر.

أرجى بعض الباحثين أن هناك بعض العوامل قد تكون ساهمت في ذلك بشكل من الأشكال، ومنها أنه من أن يكون السبب هو أن نسبة البيض في المجتمع أكثر من أصحاب البشرة الداكنة، مما يرجح عدم حصولهم على الرعاية الطبية المطلوبة.

فشل نظام Face ID لجهاز آيفون

أطلقت آبل جهاز iPhone X في عام 2017، وكانت الميزة الجديدة الأكثر تمييزًا في الهاتف هي Face ID، وهو نظام التعرف على الوجه الذي حل محل قارئ بصمات الأصابع.

قالت آبل آنذاك إن تقنية Face ID تستخدم الكاميرا الأمامية المتطورة لجهاز iPhone X والتعلم الآلي لإنشاء خريطة ثلاثية الأبعاد لوجه المستخدم. وساعد الذكاء الصنعي النظام على التكيف مع التغييرات التجميلية مثل وضع المكياج، أو ارتداء النظارات وغيرها.

ولكن بعد أسبوع من إطلاق iPhone X، ادعت مجموعة من المتسللين التغلب على تقنية Face ID باستخدام أقنعة مطبوعة ثلاثية الأبعاد. وكما ادعت أيضًا شركة الأمن Bkav التي تتخذ من فيتنام مقراً لها أنها تستطيع بنجاح فتح جهاز iPhone المزود بمعرف الوجه عن طريق قناع ثلاثي الأبعاد. كانت تكلفة القناع حوالي 200 دولار.

أثارت هذه الادعاءات ضجة واسعة النطاق، بسبب أن شركة آبل كانت تتباهى بتقنية Face ID وقوة تصميمها لحماية المستخدم من انتحال الشخصية باستخدام شبكات عصبية متطورة لمكافحة الانتحال.

مشروع أمازون لاستخدام الذكاء الصنعي للتوظيف يبدي عنصرية ضد النساء

في عام 2014 ، بدأت أمازون العمل على برنامج توظيف مدعوم بالذكاء الصنعي، لاستقبال آلاف السر الذاتية، وكان هذا المشروع من أكبر أحلام الشركة، ولكن مع مرور بعض الوقت أدرك مهندسو أمازون أنهم علموا الذكاء الصنعي الخاص بهم أن المرشحين الذكور كانوا أكثر تفضيًلا على النساء.

إذ قام مهندسو أمازون بتدريب الذكاء الصنعي على السير الذاتية للمتقدمين للوظائف الهندسية. وبعد ذلك قاموا بقياس مجموعة بيانات التدريب تلك مقابل موظفي الهندسة الحاليين. لذلك تعلم الذكاء الصنعي في أمازون للتوظيف أن المرشحين الذين بدوا أكثر بياضًا وذكورًا كانوا مناسبين أكثر ليكونوا موظفي الهندسية. وفي عام 2018، نشرت رويترز نبأً مفاده أن أمازون ألغت المشروع.

تحليلات العملاء الخصوصية

وفقًا لصحيفة New York Times، في عام 2002، بدأ قسم التسويق في شركة Titan Target في التساؤل عن كيفية تحديد ما إذا كان العملاء حوامل. وكان الهدف من ذلك أن هناك فترات معينة في الحياة يغير الناس عاداتهم الشرائية بشكل جذري والحمل في المقام الأول ضمن هذه الفئة، وأدى الاستفسار هذا إلى مشروع تحليلات تنبؤية من شأنه أن يقود بائع التجزئة إلى الكشف عن غير قصد لعائلة فتاة في سن المراهقة أنها حامل. وهذا بدوره سيؤدي إلى جميع أنواع التشهير التي تستشهد بالحادث كجزء من النصيحة لتجنب العامل المقلق.

كانت Target تجمع البيانات عن عملائها عبر رموز المتسوقين وبطاقات الائتمان والاستطلاعات والمزيد. وقامت بمزج تلك البيانات مع البيانات الديموغرافية وبيانات الطرف الثالث التي اشترتها. وتمكن الذكاء الصنعي من تحليل كل تلك البيانات، وتم تحديد أن هناك حوالي 25 منتجًا تم بيعها بواسطة Target والتي يمكن تحليلها معًا لإنشاء نتيجة توقع الحمل.

أن كشف البيانات والتحليلات عن الحالة الصحية للعملاء قد تبدو مخيفة لدى البعض. بالرغم من ذلك لم تتراجع الشركة عن تسويقها المستهدف، لكنها بدأت في خلط الإعلانات عن أشياء كانوا يعرفون أن النساء الحوامل لن تشتريها، على سبيل المثال بدأوا بوضع إعلانات لجزازات العشب بجانب إعلانات الحفاضات، لإنشاء مزيج إعلاني يشعر العميل بأنه عشوائي.

عنصرية نظام التعرف على الوجه Rekognition من شركة أمازون

في عام 2018، أوضح الاتحاد الأمريكي للحريات المدنية أن نظام التعرف على الوجه Rekognition من شركة أمازون القائم على الذكاء الصنعي، فشل فيما يقارب بنسبة 40 في المائة من المطابقات لدى اختباره للأشخاص من ذوي البشرة الداكنة في الكونجرس، على الرغم من أنهم يشكلون 20 في المائة فقط من الكونجرس.

تجدر الإشارة إن هذه ليست المرة الأولى التي يثبت فيها شخص ما أن Rekognition متحيزة عنصريًا. في دراسة أخرى، وجد باحثو جامعة تورنتو ومعهد ماساتشوستس للتكنولوجيا أن كل الاختبارات التي أجروها كان النظام يعمل بشكل أفضل على الوجوه ذات البشرة الفاتحة، مع ذلك معدل فشل 1 من 3 تحديدًا مع الإناث ذوات البشرة الداكنة.

تجنب أخطاء الذكاء الصنعي

ذكرنا بعض الحالات التي أوضحت انحياز الذكاء الصنعي للذكور من ذوي البشرة البيضاء إلى حد بعيد، على حساب النساء والأقليات الأخرى، بالرغم من أن الكثير شركات التكنولوجيا كثفت جهودها لتوظيف النساء والأقليات، إلا أن متخصصي الكمبيوتر والبرمجيات الذين يكتبون برامج الذكاء الصنعي لا يزالون إلى حد كبير من الذكور البيض.

يعتمد المطورون الذين يختبرون منتجاتهم على مجموعات البيانات التي من الواضح أنها تفتقر إلى التمثيل المناسب للنساء أو مجموعات الأقليات. وتُظهر الأبحاث أن إحدى مجموعات البيانات المستخدمة على نطاق واسع هي أكثر من 74% من الذكور و83% من البيض. وبالتالي عندما يختبر المهندسون الخوارزميات التي تعتمد على تلك البيانات فإن الكفة ستميل لصالح الذكور البيض.

تتسبب الخوارزميات المعيبة في حوادث ومواقف محرجة للشركات، فعلى سبيل المثال تعرضت جوجل لانتقادات في عام 2015 عندما قام تطبيق الصور الخاص بها بوضع علامة على اثنين من المستخدمين الأمريكيين من أصل أفريقية على أنهم غوريلا. وسرعان ما اعتذرت الشركة وأصلحت المشكلة.

في عام 2018 أجرت الباحثة Joy Buolamwini دراسة على ثلاث أدوات للتعرف على الوجه من النوع الذي تستخدمه وكالات إنفاذ القانون للعثور على المشتبه بهم من الجناة أو البحث عن الأطفال المفقودين. بتحليل عينة متنوعة من 1270 شخصًا، أخطأت البرامج في تحديد ما يصل إلى 35٪ من النساء ذوات البشرة الداكنة على أنهم رجال، مقارنةً بمعدل خطأ للرجال ذوي البشرة الفاتحة يصل لنسبة 0.8٪ فقط.

يمكن لأي تحيزات في الخوارزمية أن تحرف عملية صنع القرار في الشركات بطرق مكلفة ومرعبة، ولا بد أن يكون القضاء على التحيز من أولويات أولئك الذين يكتبون الخوارزميات.

يقول الدكتور ميريل، رئيس قسم المعلومات السابق في جوجل، في هذا الصدد بأنهم يعملون بجد على تكوين فرق متنوعة. وأن تركيبة الموظفين لديهم، تحتوي على مجموعة منوعة من الأقليات، وبما في ذلك نسبة عالية من النساء، بالإضافة إلى قدامى المحاربين العسكريين والأشخاص ذوي الاحتياجات الخاصة. وفي حال انحاز أحد أعضاء الفريق بصورة جلية، سيتجنب عضو آخر هذا الانحياز، لذلك من الضروري حقًا الحصول على أشخاص مختلفين في الأعراق والجنسيات.

تقوم مايكروسوفت بتوظيف أشخاص يتمتعون بمهارات إبداعية وفنية متنوعة للمساعدة في كتابة لغة محادثة لمساعدها الشخصي Cortana، وهو برنامج ذكاء صنعي يتعامل مع المحادثات الصغيرة للروبوتات التي طورها الآخرون. ضم أعضاء الفريق كاتبًا مسرحيًا وشاعرًا ومؤلفًا للكتب الهزلية ومتخصصًا في الفلسفة وكاتب أغاني وكاتب سيناريو وكاتب مقالات وروائي، كل ذلك التنوع لكتابة لغة مبهجة للروبوتات والابتعاد عن الإساءات العرقية أو الدلالات الجنسية.

فإذًا للحد من أخطاء الذكاء الصنعي، لا بد من التأكد من أن أغلب مشاكل هذه التقنية يقع عاتقها على الشركات المصممة لخوارزمية هذا الذكاء، ولا بد من مراقبة الفرق العاملة في مجال جمع البيانات وإجراء المزيد من الأبحاث والمقارنات، لتحديد وعزل نقاط الضعف لدى تقنية التعلم الآلي والذكاء الصنعي، والتركيز على التوع العرقي والجنسي في هذه الفرق للحد من الانحياز والعنصرية في بعض خوارزميات الذكاء الصنعي.

هل أعجبك المحتوى وتريد المزيد منه يصل إلى صندوق بريدك الإلكتروني بشكلٍ دوري؟
انضم إلى قائمة من يقدّرون محتوى إكسڤار واشترك بنشرتنا البريدية.