إسباغ مسحة من اللايقين على الخوارزميات قد يجعلها أكثر أخلاقية | تقرير مترجم

إسباغ مسحة من اللايقين على الخوارزميات قد يجعلها أكثر أخلاقية

تبرُع الخوارزميات عندما يتعلق الأمر باستهداف الوصول إلى نتيجةٍ حسابية محددة، لكن أهداف البشر المعقدة كثيرًا ما تتداخل بل تتضارب فيما بينها.

بقلم كارِن هاو وترجمة أحمد الديب

أصبح اللجوء إلى الخوارزميات متزايدًا في تقريرِ أمورٍ ذات طبيعةٍ أخلاقية. ولعل من أفضل الأمثلة على ذلك التنويع التكنولوجي الحديث على المُعضلة الأخلاقية الكلاسيكية المعروفة بمعضلة العَرَبَة: إذا افترضنا وجود سيارة ذاتية القيادة في موقفٍ يتحتم فيه اختيار أن تدهس السيارة واحدًا من بين اثنين من المُشاة؛ فعلى أي أساس سيختار برنامجها مَن سيعيش ومن سيموت؟

في واقع الأمر لا ينطبق هذا المثال بدقة على الطريقة التي تعمل بها السيارات ذاتية القيادة، لكن هناك العديد من النُّظُم الأخرى - المستخدَمة بالفعل أو تحت التطوير - التي يُفرَض عليها الاختيار بين شتى البدائل الأخلاقية الجادة؛ فنُظُم التقييم المستخدَمة في القانون الجنائي مثلًا يجب أن توازِن بين الأضرار الواقعة على المتَّهمين والأخطار المحتمَلة على المجتمع، والأسلحة المستقلة ستحتاج إلى الموازنة بين أرواح الجنود والمدنيين.

المشكلة أن الخوارزميات لم تُصمَّم قط للترجيح بين خيارات بهذه الصعوبة والتعقيد، وإنما لبلوغ أهداف حسابية منفردة؛ كتوفير أكبر عدد ممكن من أرواح الجنود، أو تقليل الخسائر في أرواح المدنيين إلى الحد الأدنى. لكن الحل الحسابي المُرضِي قد يكون بعيد المنال حينما نتعامل مع أهداف متعددة - ومتنافسة في الغالب - أو عندما نحاول إدخال أمور معنوية في الحسابات، كالحرية أو الرخاء.

"نحن البشر نسعى طوال الوقت إلى أشياء ذات طبيعة مزدوجة ومتضاربة"؛ هكذا يقرر (بيتر إكرسلي) - مدير أبحاث الشراكة مع الذكاء الصناعي - الذي نشر مؤخرًا ورقة بحثية تستكشف هذا الموضوع. ويتابع قائلًا: "هناك الكثير من المواقف الدقيقة حيثُ يصبح من غير اللائق - بل من الخطير كذلك ربما - أن نطور برمجيات أحادية الوظائف لمحاكاة منظومات أخلاقية كاملة."

تلك المعضلات التي تبدو بلا حلول ليست مقتصرةً على الخوارزميات، وإنما حيَّرَت - ولا تزال - عقول الباحثين في المبادئ الأخلاقية، الذين لقَّبوها بالقضايا المستحيلة. وقد استلهم (إكرسلي) هذه الأفكار مباشرةً من مباحث علم الأخلاق لاقتراح حلول تصلح للتطبيق عند اللجوء لتحكيم الذكاء الصناعي: ماذا لو غذَّينا خوارزمياتنا ببعض اللايقين؟

يقول (إكرسلي): "نتوصل - كبشرٍ - إلى قراراتنا في الكثير من الأحيان بطرقٍ لا تخلو من الإبهام. سلوكنا - ككائنات أخلاقية - مليء حقًا باللايقين، لكننا حين نحاول برمجة الذكاء الصناعي لمحاكاة سلوكنا الأخلاقي، نميل إلى تحديد خيارات أكثر دقة ورسوخًا. فلم لا نحاول بشكل صريح - بدلًا من ذلك - أن نصمم خوارزمياتنا لتصبح أكثر ارتيابًا وترددًا عند تقرير الأمر "الصحيح" الذي يجب فعله؟"

يقترح (إكرسلي) تقنيتين محتمَلتين للتعبير عن هذه الفكرة رياضيًا. يبدأ من المقدمة التي تقول إن الخوارزميات تُبرمَج في المعتاد بقواعد واضحة فيما يتعلق بتفضيلات البشر. يجب أن نخبرها - مثلًا - أننا نفضِّل جنودنا على مدنيينا، ونفضل مدنيينا على جنود العدو، حتى لو لم نكن على ثقةٍ تامة من صحة ذلك التفضيل، أو من صلاحيته لكل موقف محتمل؛ فعملية تصميم الخوارزمية لا تترك مساحات كبيرة للشك.

التقنية الأولى - وتُدعَى بالترتيب الجزئي - تبدأ بتقديم اللايقين بشكل طفيف للغاية. يمكنك إخبار الخوارزمية بأنك تفضِّل جنودك على جنود العدو وتفضل مدنييك على جنود العدو، مع تجاهُل تحديد تفضيلك بين جنودك ومدنييك.

في التقنية الثانية - وسنسميها بالترتيب اللايقيني - تتوفر قوائم متعددة بتفضيلات مُطلقة، لكن كل تفضيل فيها يرتبط باحتمالية محددة. فستخبر الخوارزمية مثلًا أنك تفضِّل جنودك على مدنييك على جنود العدو، لكن لثلاثة أرباع الوقت فقط. بينما قد تفضِّل في الربع الباقي مدنييك على جنودك على جنود العدو.


يقول (إكرسلي): "في استطاعة الخوارزمية أن تعالج هذا اللايقين بإجراء حسابات لحلول متعددة وتقديم قوائم من الخيارات للبشر بكامل بدائلها وعواقبها. عند طلب المساعدة من الذكاء الصناعي في اتخاذ قرارات طبية مثلا، سيقدِّم لنا - بدلًا من تفضيل علاج واحد على بقية العلاجات - ثلاثة خيارات علاجية محتملة: أحدها يضع على أولوياته إطالة فترة حياة المريض، والآخر يحاول الحد من معاناته قدر الإمكان، والثالث يهتم أكثر بتقليل الأعباء الاقتصادية التي سيسببها العلاج. فلندع الذكاء الصناعي يصاب ببعض الحيرة، ولندعه يرد المعضلة حينها إلى أيدي البشر."

اختبرَت (كارلا جوميز) - أستاذة علوم الحاسب بجامعة كورنيل - تقنيات مشابهة في أبحاثها. في مشروعٍ ما كانت تطوِّر نظامًا إلكترونيًا لتقييم عواقب تشييد سدود كهرومائية جديدة في حوض نهر الأمازون. تعد السدود بالطبع من المصادر الهامة للطاقة النظيفة، لكنها كذلك تتسبب في تغييرات عميقة لقطاعات كاملة من الأنهار وضفافها، وفي إحداث أضرار بالغة بالأنظمة البيئية والحياة البرية فيها.

تقول (جوميز): "يختلف الأمر هنا تمامًا عن مسألة السيارات ذاتية القيادة وغيرها من المعضلات الأخلاقية الشائعة. المشكلات هنا حقيقية تمامًا وحادثة بالفعل. هناك هدفان متنازعان، فلأيِّ منهما ستنتصر؟"

وتضيف: "المشكلة في جملتها شديدة التعقيد. والتعرض لكافة وجوهها سيتطلب جهودًا بحثية مضنية. لكن مُقارَبة (بيتر) هي خطوة هامة في الاتجاه الصحيح".

الحقيقة أن هذه مسألة ستستمر في النمو مع اعتمادنا المتنامي على الأنظمة الخوارزمية. يقول (رومان ف. يامبولسكي) أستاذ علوم الحاسب المُشارِك بجامعة لويسفيل: "هناك المزيد والمزيد من الأنظمة المعقدة التي تضع الذكاء الصناعي في مقعد القيادة. لا يستطيع أي شخص بمفرده أن يحيط علمًا بشيء في غاية التعقيد مثل سوق الأوراق المالية أو أنظمة الدفاع العسكرية. ولهذا فلا مفر من التنازل عن بعض سلطاتنا - شيئًا فشيئًا - إلى الآلات".

المقال الأصلي هنا.