محمد معاذ
باحث في مجال الذكاء الصناعي والأمن السيبراني
ردود فعل قوية تستجلبها فكرة أن “مشكلة العربة” (Trolley Problem) هي تجربة فكرية مفيدة من أجل استكشاف أخلاقيات تقنية المركبات المستقلة أو ذاتية القيادة (Autonomous Vehicle)، ففي حين هناك العديد من العوائق في التطبيق، إلا أنه يمكن الافتراض أن هذه المشكلة تعدّ فعليًا مفيدة في حالة معينة وهي مسألة التحسين عندما يتعلق الأمر بسلامة الركاب مقابل سلامة المشاة.
ما هي مشكلة العربة؟
عندما أصبحت تقنية المركبات ذاتية القيادة بحكم الواقع، كان هناك تفاؤل كبير حول تطبيق “مشكلة العربة” وهي تجربة فكرية كلاسيكية تستخدم في الأخلاقيات لاختبار بعض البداهة الأخلاقية الأساسية. والاختبار هو أننا إذا شاهدنا عربةً خارجة عن السيطرة وتتجه نحو 5 أشخاص، لكننا أدركنا أننا نستطيع سحب المقبض وتحويل العربة إلى مسار آخر يقتل فيه شخصًا واحدًا فقط فهل سنسحب ذلك المقبض؟
إختبار مشكلة العربة
ما يتخيّله مؤلفو هذه الحجة هو نوع السيناريو الذي يقدمه MIT وهي تجربة الآلة الأخلاقية، حيث تتخذ المركبات ذاتية القيادة والمزوّدة بتكنولوجيا التعرّف على الوجه “قرارًا” بالانحراف إلى نوع واحد من الأشخاص بدلاً من النوع الآخر ثم اتخاذ الإجراء. ولعلّه يفترض البعض أنه يمكن أن تكون لـ “مشكلة العربة” اعتبارات مفيدة فقط في حالة:(أ) حدوثها ضمن حدود التردّد المعقول في اتخاذ القرار، (ب) يمكن اكتشافها بثقة و(ج) يتم العمل عليها في المركبات المستقلة مع إجراءات تحت السيطرة، لكن حتى الآن فإن هذه الحجج الثلاث لم يتم تلبيتها مع المركبات ذاتية القيادة بل وهناك إحتمال أن لا تتحقق أبداً.
نقد الحجج
أولاُ فيما يتعلق بالنقطة (أ) يبدو أن هذه الحجة غير عادلة، ذلك أنه سيكون هناك عدد قليل للغاية من “مشكلة العربة” الحقيقية التي قد تواجهها المركبات الذاتية القيادة والتي لا تحتاج خوارزمياتها إلى التدريب بواسطة أمثلة من الحياة الواقعية بل تعتمد على بيانات التدريب المعدة. وفيما يخصّ النقطة (ب)، فإن الحجة غيرعادلة أيضًا لأن تقنية المركبات ذاتية القيادة يمكن دمجها مع تقنية التعرّف على الوجه “للكشف بثقة” عمّن تتحول إليه.ولكن هناك مشكلة أكبر هنا، فالنسخة الأصلية من”مشكلة العربة” تختبر بديهيتنا عندما يكون كل ما نتخذه هو الأرقام نظرًا لأن واحد أقل من خمسة، وفي هذه الحالة يتفق معظم الناس على أن قتل شخص واحد هو الخيار الأفضل.وحول هذه النقطة، هناك اتفاق عام. لكن مشكلة العربة كما تتخيلها “تجربة الآلة الأخلاقية” ونقادها على حد سواء لا تتعلق فقط بالأحكام الكمية (الأرقام)، بل بالأحكام النوعية.وهنا يخطر عدد من الأسئلة حول إذا ما كنا سنكون أكثر استعدادًا لقتل شخص مسنّ أو شاب، أو مجرم أو شخص ثري أو شخص فقير وغيرها من الإحتمالات…لكن هذه ليست مشكلة العربة، إلا أن هذا مطلب لإصدار أحكام نوعية حول حياة الإنسان. وعلى هذا النحو، فإن هذا في الواقع أقرب إلى نسخة من سيناريو “أخلاقيات قارب النجاة” حيث يجب أن نقرر من الذي يجب أن يُسحَب نحو قارب النجاة الافتراضي الخاص بنا إذا لم يكن هناك سعة كافية لجميع السباحين من حولنا. وعليه، فإذا كنا نفكر بأننا سنطبّق أخلاقيات “قارب النجاة” على تقنية المركبات الذاتية، فإننا نفترض أن هذا الأمر قد يكون مهينا بطبيعته إلى حد قد يكون غير إنساني لجميع المعنيين في هذا المثال الذهني! ولكن ماذا يحدث إذا تخلينا عن السلّة الأخلاقية التي تمت إضافتها بواسطة سيناريوهات قارب النجاة، وبدلاً من ذلك ركزنا ببساطة على مشكلة العربة الأصلية؟ الجواب سيكون أننا نفترض أنها ستقودنا إلى تفضيل سلامة المشاة على سلامة الركاب.
الافتراض غير الصحيح
هناك بعض الطروحات التي تفترض أن المركبة ذاتية القيادة قد تكون مُحسّنة لإيذاء ركابها على أن تؤذي المشاة، ولكن هكذا افتراض من شأنه أن يعرقل بشدة سوق هذه المركبات. فمن سيدخل مثل هذا الفخ؟ هذا افتراض نفسي، ونعتقد أنه خطأ، و لتوضيح الفكرة لا بد لنا من البحث عن مقاربة شبيهة والتي نجدها في السفر عبر شركات الطيران. حيث أن السفر بالطيران نفترض أنه سيكون مثل سفرالمركبات المستقلة في المستقبل لكن التشابه المهم الآخر هو أنه على الرغم من عدد الوفيات الكثيرة جراء حوادث الطيران لكن نرى أن صناعة الطيران لا تفتقر إلى الركاب حتى لو قرّر بعض الأفراد عدم ركوب الطائرة. ولعلّ أحد الأسباب المحتملة وراء ذلك هو أن الناس قادرة بشكل عام على تجاوز الوفيات ودراسة الحقيقة الإحصائية حول السلامة النسبية للسفر الجوي أو لعل الإجابة قد تتعلق بالراحة والجنس البشري ببساطة يحب الراحة!
التفاؤل لسلامة المشاة
إذا كانت المقارنة التي وضعناها عادلة، فمن المحتمل أن لا تؤدي المركبات الذاتية لصالح المشاة على الركاب إلى تعطيل سوقها لكن ذلك يبقى مشروطاً بأن تكون حوادث المرور نادرة فعلياُ. ولكن السؤال لماذا يجب أن تكون لصالح المشاة؟ في الواقع نفترض أنّ هناك سبب أخلاقي وسبب قانوني. وفيما يخص الجانب الأخلاقي فالموضوع له ارتباط بالأرقام أي بأقل الضررعلى البشر وما يدعم هذه الفكرة أن عدد ركاب المركبة الذاتية محدود في حين أن عدد المشاة غير محدود ولأننا نفضّل الضرر الأقل نفترض أنه يجب تحسين المركبات المستقلة لإغلاقها ببساطة في حال وقوع أي طارئ حتى عندما يكون ذلك قد يعرّض الركاب للخطر لأنه ببساطة قد يكون هناك مخاطرة كبيرة للغاية في حال السماح لهم بالتحييد عن الطريق أو في الممرات الأخرى. أمّا السبب الثاني فهو السبب القانوني الذي يتعلق بالمسؤولية، إذ ليس صعباً التأكد من أن الذين يدخلون المركبات يدركون حجم المخاطر ولكن نتوقع أن تظل الناس تستقلها برغم الوعي بهذه المخاطر، ما قد يؤدي إلى إنشاء عقد محدد وقابل للتنفيذ بين الشركة المصنعة للمركبات وبين الركاب.ولكن في المقابل، لا يبرم المشاة أي عقد من هذا القبيل، وبالتالي فإن الأسئلة القانونية حول المسؤولية عن وفيات المشاة ستكون أكثر تعقيدًا. وعليه نعتقد أن “مشكلة العربة” لديها بعض الاستخدام في تقنية المركبات المستقلة ولكن تبقى محدودة. إنها توضح أن الناس يفضلون ضررًا أقل على المزيد من الأذى بشكل عام، ومن الأفضل تحسين المركبات لصالح سلامة المشاة على سلامة الركاب وهذا ما يتماشى مع الحدس الأخلاقي الجمعي.
المصادر:
- https://www.americaninno.com/wp-content/uploads/2017/05/The-MM-Experiment.pdf
- http://moralmachine.mit.edu/
