أخلاقيات الذكاء الاصطناعي والمساءلة: حوادث الذكاء الاصطناعي الحرجة

Name: أخلاقيات الذكاء الاصطناعي والمساءلة: حوادث الذكاء الاصطناعي الحرجة
Author: Briana Brownell

تعرف على النتائج السلبية للذكاء الاصطناعي من خلال دراسات حالة محددة

شاهد الدرس الأول مجانًا — احصل على وصول كامل إلى جميع الدروس الـ3.

دورة تدريبية: عند الطلب

وقعت حوادث عديدة حيث تم نشر أنظمة الذكاء الاصطناعي مع آثار أخلاقية كبيرة. وتنطوي العديد من هذه الحوادث على التحيز والتمييز. تاريخيًا، كان التحيز ومجموعات البيانات وبناء النماذج يعتبر مشكلة ثانوية. تابعة لدقة النموذج، ولكن العديد من الحوادث الهامة جعلت الممارسين أكثر وعيا بالقضايا والمتطلبات الأخلاقية التي ينبغي عليهم تطبيقها في تصميمات أنظمتهم. دعنا ننظر في حالتين من التحيز والتمييز. في عام 2014، كانت أمازون تحاول إنشاء نظام ذكاء اصطناعي من شأنه أن يساعد مديري التوظيف لديها بسهولة أكبر في تحديد أفضل المرشحين للوظائف. وللقيام بذلك، بدأت الشركة في إنشاء أداة يمكنها أتمتة مراجعة السير الذاتية واستخدم الكلمات الرئيسية لتحديد أفضل المرشحين. استخدمت الشركة بيانات عن السير الذاتية والموظفين الذين عينتهم أمازون خلال السنوات العشر الماضية كجزء من نموذج التعلم الآلي الخاضع للإشراف لتدوين ممارسات التوظيف السابقة في الشركة بشكل أساسي في نظام الذكاء الاصطناعي الآلي. ما لم يدركوه هو أن قرارات مديري التوظيف في الماضي كانت تمييزية. ومن ثم كان نظام الذكاء الاصطناعي يقنن هذا التمييز في النظام الذي كانوا يبنونه. أدركت الشركة في النهاية أن نموذج التعلم الآلي كان يميز ضد المرأة، مما أدى إلى إدامة التحيز الذي كان موجودا في بيانات التدريب الخاصة بهم. لقد كان ذلك بمثابة تقليل من مستوى السير الذاتية باستخدام كلمات مثل "النساء"، مثل تلك التي قد تظهر في بيان السيرة الذاتية مثل كابتن فريق كرة القدم النسائي وذكر بعض كليات البنات. لأن القوى العاملة في أمازون كانت بأغلبية ساحقة من الذكور، وكان خريجو هذه الكليات نادرين أو معدومين في مجموعة التدريب. وعلم نظام الذكاء الاصطناعي أن خريجي هذه الكليات غير مرغوب فيهم. ما إذا كانت الشركة تنوي التمييز ضد المتقدمات من الإناث أم لا، يعد استخدام الخوارزمية التي تزيل المرشحين من جنس أو عرق أو دين معين بشكل غير عادل أمرًا غير قانوني. ونفت الشركة أن الأداة قد تم استخدامها حصراً لتقييم المرشحين وتوقف استخدامها بعد ظهور مشاكل التمييز. هناك مشكلة أخرى شائعة في التمييز والتحيز في الذكاء الاصطناعي تتعلق بالعرق فيما يتعلق بالتعليق على الصور وتصنيفها. خلال بحثها حول التعرف على الوجه وجدت جوي بولامويني، طالبة الدراسات العليا في معهد ماساتشوستس للتكنولوجيا، أن أدوات الذكاء الاصطناعي التي كانت تستخدمها واجهت صعوبة التعرف على وجهها. باعتبارها امرأة سوداء، كان التحدي الذي تواجهه في استخدام التعرف على الوجه شائعًا. يتم تدريب العديد من أنظمة التعرف على الوجه على البيانات التي تحتوي على عدد أكبر من الرجال البيض مقارنة بالمجموعات الأخرى. ونتيجة لذلك، فإن هذه الأنظمة أقل دقة بكثير بالنسبة لمجموعات معينة. ولم تكن قادرة على استخدام التكنولوجيا بسهولة مثل أقرانها من الذكور البيض. مشاكل تصنيف الصور منتشرة. يمكن لأنظمة التعليق على الصور أن تؤدي إلى إدامة التحيز الذي قد يكون موجودًا بالفعل في بيانات التدريب. كما في مثال نظام التوظيف في أمازون. في عام 2020، مع تفشي الوباء في جميع أنحاء العالم، تم تشجيع المواطنين على قياس درجة حرارتهم للرؤية سواء كانوا يعانون من الحمى، أحد الأعراض الأولية لفيروس كورونا. كانت إحدى الطرق الأكثر شيوعًا لقياس الحمى هي مقياس الحرارة المحمول. ولكن عندما قامت شركة Google Cloud Vision بإنتاج تعليقات للصور للأشخاص الذين يحملون أحد هذه الأجهزة، صورًا فوتوغرافية تمت تسمية أصحاب الأيدي ذات البشرة الداكنة على أنها تحتوي على بنادق. بينما تم تصنيف صور الأشخاص الآسيويين الذين يحملونهم على أنها جهاز إلكتروني. وحتى عندما تم استخدام صورة مماثلة ليد تمسك بالجهاز وتغير لون الجلد، بقي الجهاز ثابتًا بواسطة اليد ذات البشرة الداكنة تم التعليق عليها كالمسدس، بينما الجهاز في اليد ذات البشرة الفاتحة تم التعليق عليه كأداة. توضح هذه الأمثلة أهمية استخدام مجموعات البيانات غير المتحيزة للتدريب ولضمان عدم إدامة الأنظمة وتوسيع نطاق التحيزات البشرية من الماضي.

متوسط مقدِّم الخدمة : Briana Brownell 3 الدروس · 14m باللغات: العربية, الألمانية, الإنجليزية, الإسبانية, الفرنسية, البرتغالية, Chinese

وصف الدورة

تتناول هذه الدروس حول حوادث الذكاء الاصطناعي الخطيرة حوادث الذكاء الاصطناعي المهمة من خلال سلسلة من الأمثلة الواقعية للنتائج السلبية في الذكاء الاصطناعي، وكيف تم حلها، وكيف كان من الممكن منعها. وعلى وجه التحديد، ستعمل من خلال دراسات الحالة التي تركز على قضايا الهوية والتمييز والمحتوى المسيء والآثار القانونية. ستراجع أولاً حالة التمييز في توظيف الذكاء الاصطناعي حيث تم استبعاد المتقدمات من الإناث، ثم ستنظر في حالة الصورة المتحيزة للذكاء الاصطناعي التي أدت إلى أوصاف صور مسيئة.

تتضمن السلسلة الثانية من دراسات الحالة توليد وتضخيم المحتوى المسيء على منصات الإنترنت الشهيرة بسبب الجهات الفاعلة السيئة. من خلال دراسات الحالة النهائية، ستستكشف الحالات التي تتقاطع فيها أنظمة الذكاء الاصطناعي مع القانون، وستكتسب نظرة ثاقبة على الآثار القانونية لمثل هذه التفاعلات.

ما ستتعلمه

وصف الطرق التي يمكن أن تفشل بها أنظمة الذكاء الاصطناعي أو تسبب مشكلات
التعرف على القضايا الأخلاقية التي تثيرها حالات استخدام الذكاء الاصطناعي في الواقع
فحص إخفاقات الذكاء الاصطناعي المتعلقة بالهوية والتمييز من خلال دراسات الحالة
تحليل كيفية توليد أنظمة الذكاء الاصطناعي للمحتوى المسيء أو تضخيمه
استكشاف الحالات التي تتقاطع فيها أنظمة الذكاء الاصطناعي مع القانون وتأثيراتها القانونية
التعلم من حوادث الذكاء الاصطناعي السابقة لفهم كيفية حلها والوقاية منها

النقاط الرئيسية

تدرس الدورة حوادث الذكاء الاصطناعي البارزة من خلال أمثلة واقعية لنتائج سلبية، وتبحث في كيفية حلها وكيف كان يمكن منعها.
تغطي دراسات الحالة الهوية والتمييز، بما في ذلك الذكاء الاصطناعي لتوظيف الكفاءات الذي استبعد المتقدمات من الإناث، ونظام الذكاء الاصطناعي المنحاز لتصنيف الصور الذي أنتج أوصافاً مسيئة للصور.
تتناول سلسلة واحدة من دراسات الحالة توليد وتضخيم المحتوى المسيء على منصات الإنترنت الشهيرة نتيجة لتصرفات جهات سيئة النية.
تستكشف دراسات الحالة الأخيرة كيفية تداخل أنظمة الذكاء الاصطناعي مع القانون والآثار القانونية لهذه التفاعلات.
تهدف الدروس إلى بناء فهم لأخلاقيات الذكاء الاصطناعي من خلال التعلم من المشكلات السابقة للذكاء الاصطناعي.

الأسئلة الشائعة

ما الذي تغطيه هذه الدورة؟

تفحص الدورة حوادث الذكاء الاصطناعي البارزة من خلال دراسات حالة واقعية لنتائج سلبية، مع التركيز على الهوية والتمييز، والمحتوى المسيء، والآثار القانونية، بما في ذلك كيفية حل هذه الحوادث والوقاية منها.

ما هي الأمثلة الواقعية التي تتم مناقشتها؟

تشمل الأمثلة حالة تمييز في التوظيف بالذكاء الاصطناعي حيث تم استبعاد المتقدمات من الإناث، ونظام ذكاء اصطناعي منحاز للصور أنتج أوصافاً مسيئة، وتضخيم المحتوى المسيء على منصات الإنترنت الشهيرة من قبل جهات تخريبية، وحالات يتقاطع فيها الذكاء الاصطناعي مع القانون.

ما الذي سأكون قادراً على فعله بعد إتمام هذه الدورة؟

ستكون قادراً على وصف الطرق التي يمكن أن تفشل بها أنظمة الذكاء الاصطناعي أو تتسبب في مشكلات، والتعرف على المسائل المتعلقة بأخلاقيات الذكاء الاصطناعي في حالات الاستخدام الواقعية، والتعلم من مشكلات الذكاء الاصطناعي السابقة.

ما الموضوعات أو الدروس المضمنة؟

الدروس هي: مشكلات الذكاء الاصطناعي في الهوية والتمييز، والذكاء الاصطناعي والمحتوى المسيء، ومترجمو الذكاء الاصطناعي والتأثيرات القانونية.

ما هي المهارات التي تطورها هذه الدورة؟

تطور الدورة مهارات في تطبيقات الذكاء الاصطناعي، وأنظمة الذكاء الاصطناعي، والذكاء الاصطناعي، وتطوير الذكاء الاصطناعي، وأخلاقيات البيانات، والذكاء الاصطناعي القابل للتفسير (XAI).