كارثة الذكاء الاصطناعي.. هل فات أوان النجاة؟

قد يبدأ الخطر برسالة على حاسوب موظف في مستشفى.. يفتح الملف المرفق، فتتعطل الشبكة، وتختفي ملفات المرضى من الشاشات. يعجز الطبيب عن الاطلاع على صور الأشعة، وتتأجل عملية، وينتظر مريض على سريره جرعة دواء لا يستطيع الممرض مراجعتها. هكذا قد يصل أذى الذكاء الاصطناعي إلى أجسادنا: يستخدمه مخترق ليفتح ثغرة في شبكة المستشفى، ويدفع المريض الثمن.

يطرح مقال في «هارفارد غازيت»، يستند إلى دراسة من مركز بلفر، سؤالاً ثقيلاً: هل فات أوان اتقاء كارثة يساعد الذكاء الاصطناعي على صنعها؟ والإجابة أن الوقت لم ينفد، لكن القرارات التي تتخذها الشركات والحكومات اليوم قد تحدد حجم الخسائر غداً.

المشكلة أن مهارات الذكاء الاصطناعي نفسها قد تخدم الطبيب والمجرم، فالبرنامج الذي يعين الباحث على فهم الأمراض قد يُساء استخدامه في إلحاق الأذى، والنظام الذي يكشف ثغرة في شبكة يمكن أن يساعد على اقتحامها.

لكن الخطر لا يبرر إغلاق المختبرات. المطلوب أبواب محكمة، واختبارات مستقلة قبل طرح الأنظمة، وتدريبها على رفض الطلبات المؤذية، ومراقبة إساءة استخدامها بضوابط تحمي الخصوصية. وعلى الحكومات أن تلزم الشركات الإبلاغ عن الحوادث.

وفي عالمنا العربي، ينبغي أن يبدأ النقاش من المرافق الحيوية وسرير المستشفى وحساب المواطن المصرفي، ماذا يحدث إذا اختُرقت سجلات المرضى، أو استُخدم صوت مصطنع لاستدراج أسرة إلى تحويل مدخراتها؟

وثمة خطر يمس نسيج مجتمعاتنا: تسجيل ملفق لخطيب، أو مقطع مزور لمسؤول، أو صورة مختلقة تُلقى بين جماعتين متخاصمتين. قد تنطلق الشائعة في دقائق، بينما يصل التكذيب بعد فوات الأوان.

وتحتاج العربية، بلهجاتها وسياقاتها، إلى اختبارات أمان يصممها باحثون يعرفونها. كما نحتاج إلى تعاون عربي لتبادل إنذارات الاختراق، وتأهيل فرق الاستجابة، وحماية بيانات المواطنين من التسرب والاستغلال.

لن ينقذنا الفزع.. تحمينا مسؤولية واضحة: مَن اختبر النظام؟ مَن سمح له بالوصول إلى المرفق؟ ومَن يستطيع إيقافه؟ قبل أن نسلّم الآلة مفتاح المستشفى، علينا أن نعرف مَن سيعيد فتح الباب إذا أغلقه الذكاء الاصطناعي في وجوهنا.

لقراءة مقالات سابقة للكاتب، يرجى النقر على اسمه

مسؤولية ما ينشر في مقالات الرأي تقع على الكاتب وحده، ولا تتحمل الصحيفة مسؤولية الآراء الواردة فيها.