الاعتماد على الخوارزميات في اتخاذ القرارات يتسبب في كثير من «المشكلات»

يستخدم بعض الجهات الحكومية ومؤسسات تطبيق القانون حول العالم، الخوارزميات كجزء من مجموعة جهود تُبذل بهدف تحسين رفاهية المجتمع ومنع الجريمة، إلا أنه في كثير من الأحيان تفشل هذه الخوارزميات في تحقيق أهدافها، كونها في نهاية الأمر موضوعة من قبل البشر فهي بالتالي عرضة للتلاعب والخطأ.

وفي بعض الأحيان، تتم برمجة الخوارزميات لاتخاذ القرارات في مسائل حياة أو موت، الأمر الذي أثار حوله ضجة واسعة في أوساط المُهتمين بأشياء مثل السيارات ذاتية القيادة، خصوصاً بعد ظهور العديد من التقارير التي أشارت إلى أن هذه السيارات سيكون عليها في بعض الظروف اتخاذ قرارات قد تنجم عنها حالات وفاة، ما يضع مُصممي خوارزميات هذه السيارات في مآزق أخلاقية كبيرة، خصوصاً أن قرار السيارة في بعض الأحيان قد يكون مُميتاً حتى لراكبيها.

مسؤولية الخوارزميات

إن النقاش حول مسؤولية الخوارزميات لا يقتصر على القضايا الأخلاقية والقانونية، فقد يؤدي التعويل المُبالغ فيه على هذه الخوارزميات إلى أضرار بالغة في بعض الأحيان، خصوصاً مع اعتماد بعض الدول على الخوارزميات الحاسوبية كأدوات مُساعدة في السياسات الخارجية والعلاقات الدولية.

وبأخذ الأمن الدولي كمثال، تستخدم شركة تدعى «بالانتر» Palantir الخوارزميات لمساعدة المُحللين في اكتشاف الروابط والعلاقات بين مجموعات البيانات، وذلك بغرض تعقب الخلايا الإرهابية أو التخطيط للحملات العسكرية. فمثلاً، يتم تحديد أهداف الطائرات بدون طيار في بعض الأحيان استناداً إلى الخوارزميات، كما يتم وضع خوارزميات خاصة بهدف اكتشاف النشاطات الحاسوبية المشكوك في أمرها، التي يُمكن أن تكون دليلاً لوجود هجمة إلكترونية، إن مثل هذه الأشياء تتفوق الخوارزميات بالقدرة على اكتشافها نظراً إلى عدم قدرة الإنسان على معالجة البيانات بكميات هائلة.

تحليل البيانات

وتساعد الخوارزميات الدول في تحليل البيانات المُلتقطة في أوقات الحروب، حيث يجب في حالات كهذه أن يكون النظام قادراً على تحديد في ما إذا كانت إحدى الدول تواجه اعتداء أم لا خلال دقائق قليلة، فقد يؤدي الوقوع في الخطأ أثناء تحليل البيانات في مثل تلك الظروف إلى وقوع حروب مُدمرة.

أما أثناء حدوث الهجمات الإلكترونية، لا يملك الإنسان أيضاً الوقت الكافي لتعقب البيانات وتحليلها، لذلك يجب عليه تطبيق خوارزميات مُتقدمة لتحديد مصادر الهجوم والاستجابة تلقائياً، حيث يستخدم المهاجمون عادة أدوات متنوعة بغرض حجب هوياتهم ومواقع انطلاق الهجمات وغير ذلك من المعلومات بغرض تضليل الضحية. وفي حال أخطأت الخوارزميات في تحديد الجهات التي تقف وراء الهجمات الإلكترونية، فإن ذلك أيضاً قد يضع الجهات الأمنية المعنية في مواقف محرجة، فمثلاً بعد تعرض شركة «سوني» اليابانية للقرصنة العام الماضي، بذلت الشركة وجهات تطبيق القانون جهوداً كبيرة لمعرفة من يقف وراء تلك الهجمة الكبيرة، وعلى الرغم من أن أصابع الاتهام توجهت بشكل كبير في ذلك الوقت نحو كوريا الشمالية، إلا أن الرد على مثل هذه الهجمات يتطلب تفكيراً كبيراً قبل اتخاذ أي خطوة.

حساسية القرارات

ونظراً إلى حساسية القرارات التي قد تنجم عن تحليلات الخوارزميات، ينكب الباحثون على دمج العديد من التقنيات الذكية المتطورة فيها، مثل تقنيات التعلم العميق والشبكات العصبية الاصطناعية وغيرها من تقنيات الذكاء الاصطناعي، التي تسمح للحواسيب بتحليل البيانات واقتراح أو اتخاذ القرارات المعقدة بشكل سريع. وتسمح تقنيات «تعلم الآلة» machine learning للبرامج الحاسوبية ببناء الخوارزميات الخاصة بها دون تدخل الإنسان وذلك بفضل التجربة والتكرار والتعلم الذاتي، وبالتالي فإن كون مثل هذه البرامج قادرة على التصرف تلقائياً، يحذر الكثير من التقنيين ورجال القانون من المخاطر التي قد تنجم عن هذه البرامج في حال وضع خوارزميات خاصة بها للرد تلقائياً على الهجمات الإلكترونية أو حتى الهجمات العسكرية، كونه يصعب التنبؤ بما قد تقوم به.