برمِج

محمد صلاح إبراهيم

مبرمج ومطوّر

هدفنا أن نُيسّر على طالب العلم دخول عالم البرمجة والذكاء الاصطناعي.

والموقع مجاني بالكامل، ولا نسألكم إلا الدعاء.

الدرس 1-4

القضايا الأخلاقية المتعلقة بالذكاء الاصطناعي

لما الآلة تاخد قرار يخصّ حياة إنسان — مين المسؤول؟

افتح المحاكي: bias-balance

إطار العمل

أربعة مبادئ لذكاء اصطناعي مسؤول

لو الآلة أخطأت، الأربعة دول بيحددوا مين يجاوب وليه.

Fairness العدالة عدم التمييز ظلمًا ضد شخص أو مجموعة.
Transparency الشفافية إظهار عملية اتخاذ القرار وحدود النظام بوضوح.
Privacy حماية الخصوصية التعامل المناسب مع البيانات الشخصية وحمايتها.
Accountability المساءلة تحديد مَن يُحاسَب على النظام وقراراته وآثاره.
من خارج المنهج الرسمي — لفهم أعمق

مثال حقيقي: لما البيانات نفسها كانت المشكلة

سنة 2018، اكتشفت أمازون إن أداة ذكاء اصطناعي لفرز طلبات التوظيف كانت تفضّل المتقدمين الرجالة على النساء في الوظائف التقنية. السبب: النظام اتدرّب على سير ذاتية اتقدّمت في العشر سنين اللي فاتت، ومعظمها كان من رجالة — فتعلّم النمط ده واعتبره «المعيار». أمازون ألغت الأداة.

المصدر: Reuters (2018) · MIT Technology Review
  • ✓ التحيّز الخوارزمي: نمط في مخرجات الذكاء الاصطناعي قد يؤدي إلى نتائج غير عادلة أو ضارة.
  • ✓ الذكاء الاصطناعي القابل للتفسير: تقنية تتيح للبشر فهم سبب اتخاذ الذكاء الاصطناعي حكمًا معيّنًا.
قف. جرّب تجاوب.

التحيّز الخوارزمي قد ينشأ من البيانات أو تصميم النظام أو طريقة استخدامه.

صح وخطأ bias-from-data

المفاهيم الأساسية (8)

التحيّز الخوارزمي

Algorithmic Bias

نمط في مخرجات الذكاء الاصطناعي قد يؤدي إلى نتائج غير عادلة أو ضارة.

بيانات التدريب

Training Data

الأمثلة التي يتعلّم منها النظام أنماطه قبل استخدامه.

الذكاء الاصطناعي القابل للتفسير

Explainable AI (XAI)

تقنية تتيح للبشر فهم سبب اتخاذ الذكاء الاصطناعي حكمًا معيّنًا.

مشكلة الصندوق الأسود

Black Box Problem

عدم وضوح كيف توصّل النظام إلى حكمه.

العدالة

Fairness

عدم التمييز ظلمًا ضد شخص أو مجموعة.

الشفافية

Transparency

إظهار عملية اتخاذ القرار وحدود النظام بوضوح.

حماية الخصوصية

Privacy Protection

التعامل المناسب مع البيانات الشخصية وحمايتها.

المساءلة

Accountability

تحديد مَن يُحاسَب على النظام وقراراته وآثاره.

تدرّب (13)

الإجابات الصحيحة لا تصل إلى المتصفح — التصحيح يجري على الخادم عند الإجابة.

أي مما يلي ليس سببًا مناسبًا للتحيّز الخوارزمي؟

اختيار من متعدد bias-from-data

التقنية التي تتيح للبشر فهم سبب اتخاذ الذكاء الاصطناعي حكمًا معيّنًا هي:

اختيار من متعدد transparency-and-explainability

المبدأ الذي يقتضي تحديد الجهات المسؤولة عن النظام وإمكان محاسبتها هو:

اختيار من متعدد transparency-and-explainability

أي مما يلي يصف بشكل أنسب القضايا الأخلاقية المتعلقة بالذكاء الاصطناعي؟

اختيار من متعدد accountability

الفرق بين المساءلة و XAI هو أن:

اختيار من متعدد transparency-and-explainability

أي مما يلي يمثّل قضية خصوصية مرتبطة بالذكاء الاصطناعي؟

اختيار من متعدد bias-from-data

التحيّز الخوارزمي قد ينشأ من البيانات أو تصميم النظام أو طريقة استخدامه.

صح وخطأ bias-from-data

حتى لو كانت عملية اتخاذ القرار غير واضحة، لا مشكلة طالما النتيجة صحيحة.

صح وخطأ transparency-and-explainability

XAI تقنية تتيح للبشر فهم منطق الذكاء الاصطناعي.

صح وخطأ transparency-and-explainability

عندما يتخذ الذكاء الاصطناعي حكمًا خاطئًا، فالمسؤول محدَّد بوضوح بالفعل.

صح وخطأ accountability

الشفافية تعني إتاحة معلومات واضحة عن النظام وعملية اتخاذ القرار وحدوده.

صح وخطأ transparency-and-explainability

طابق كل وصف بالخيار المناسب.

مطابقة ethics-four-principles

ضمان أن يقيّم نظام التوظيف بعدالة بغض النظر عن الجنس
الإفصاح عن عملية اتخاذ القرار للمستخدمين بطريقة سهلة الفهم
عدم استخدام البيانات المجمّعة لأغراض غير الغرض الأصلي منها
تحديد مَن يُحاسب عن نتيجة تشخيصية خاطئة

أكمل الفراغ ethics-four-principles

مع انتشار أنظمة الذكاء الاصطناعي برزت قضايا أخلاقية متعددة. قد يظهر عندما تؤدي البيانات أو طريقة تصميم النظام أو استخدامه إلى نتائج غير عادلة. ولمعالجة مشكلة «الصندوق الأسود» تُطوَّر أساليب تسمى تساعد على فهم العوامل المؤثرة في المخرجات. وعندما ينتج النظام قرارًا خاطئًا أو ضارًا تُطرح مسألة . ومن المبادئ التي تقتضي عدم التمييز ظلمًا ضد أي شخص أو مجموعة مبدأ .