تتزايد التحذيرات الدولية من المخاطر المحتملة للتطور المتسارع للذكاء الاصطناعي، وسط مخاوف من أن يؤدي وصول الأنظمة إلى مستويات متقدمة من الذكاء والاستقلالية إلى تهديدات يصعب على البشر السيطرة عليها. وحذر عالم النفس المعرفي البريطاني-الكندي جيفري هينتون من احتمال أن تكون عواقب فقدان السيطرة على أنظمة «خارقة الذكاء» كارثية، فيما حذر مفوض الأمم المتحدة السامي لحقوق الإنسان فولكر تورك من أن التطور السريع لهذه التقنيات قد يصل إلى مرحلة تشكل «خطرًا وجوديًا» على البشرية.

وقال هينتون، أحد أبرز رواد تطوير الشبكات العصبية الاصطناعية والحائز جائزة نوبل في الفيزياء عام 2024، إن فقدان السيطرة على ذكاء اصطناعي يفوق البشر في قدراته «قد يكون كارثيًا، وربما يؤدي حتى إلى انقراض البشرية»، وفق ما نقلته صحيفة «التايمز» البريطانية.

وقدّر هينتون احتمال أن تؤدي أنظمة الذكاء الاصطناعي الخارقة إلى فناء الجنس البشري بما بين 10 و20%، معتبرًا أن الخطر يرتبط بصورة أساسية بالفارق المحتمل بين الذكاء الرقمي والبيولوجي، إذ تستطيع الأنظمة الرقمية مشاركة المعرفة التي تكتسبها بصورة فورية، بينما لا تمتلك الأدمغة البشرية القدرة ذاتها على نقل الخبرات والمعارف.

ويرى هينتون أن السيطرة على أنظمة تتفوق على البشر في الذكاء قد تصبح شديدة الصعوبة، مستندًا إلى أنه لا يوجد، في التاريخ، مثال طويل الأمد على تمكن كائن أقل ذكاء من السيطرة على كائن أكثر ذكاء منه.

ولا يقتصر تحذير هينتون على سيناريو الذكاء الخارق، إذ حذر أيضًا من إمكانية استخدام تقنيات الذكاء الاصطناعي في تطوير أسلحة بيولوجية أو تنفيذ هجمات إلكترونية واسعة النطاق، معتبرًا أن بعض هذه المخاطر قد تتحقق قبل الوصول إلى مرحلة الذكاء الاصطناعي فائق القدرات.

ودعا إلى تخصيص نحو ثلث قدرات الحوسبة المستخدمة في تطوير الذكاء الاصطناعي لأبحاث السلامة، إلى جانب فرض لوائح حكومية أكثر صرامة وإبرام معاهدات دولية تحظر الأسلحة الفتاكة المستقلة، فضلًا عن إعادة صياغة حوافز شركات التكنولوجيا بحيث لا تركز على الأرباح قصيرة الأجل على حساب السلامة الإنسانية.

ويأتي ذلك في وقت عبّر فيه مفوض الأمم المتحدة السامي لحقوق الإنسان فولكر تورك عن قلق بالغ من التطور السريع للذكاء الاصطناعي، محذرًا من احتمال تحوله إلى «خطر وجودي» على البشرية.

وقال تورك، في كلمته الافتتاحية أمام الدورة الثالثة والستين لمجلس حقوق الإنسان في جنيف، إنه يشارك مخاوف الخبراء بشأن إمكانية تحول الذكاء الاصطناعي المتطور إلى تهديد وجودي، متسائلًا عن أسباب التأخر في اتخاذ إجراءات ملموسة رغم تنامي الاعتراف الدولي بالحاجة إلى وضع أطر لحوكمة هذه التقنيات.

وحذر تورك من تركيز قدرات الذكاء الاصطناعي في أيدي عدد محدود من الأشخاص، منتقدًا ما وصفه بامتلاك «حفنة من الرجال» سلطة شبه مطلقة على تقنيات تتمتع بقدرات حوسبية هائلة، كما انتقد شركات التكنولوجيا الكبرى بسبب ما اعتبره استغلالًا واسعًا للبيانات الشخصية.

وأشار مفوض الأمم المتحدة إلى مخاطر أن تتمكن أنظمة الذكاء الاصطناعي من الإفلات من بيئات الاختبار أو استخدام وسائل ضغط على مطوريها لمنع إيقاف تشغيلها، معتبرًا أن وصول نظام إلى هذه المرحلة يمثل تجاوزًا لحدود القوة المقبولة.

ودعا تورك إلى وضع ضمانات صارمة تتعلق بسلامة الذكاء الاصطناعي وأمنه، معلنًا عزمه التواصل مع شركات الذكاء الاصطناعي لحثها على اتخاذ تدابير فورية للحد من المخاطر، كما دعا الدول التي تستضيف الشركات العاملة في هذا المجال أو ترتبط بسلاسل توريد التكنولوجيا إلى الاتفاق على «خطوط حمراء» واضحة.

كما طالب بإنشاء آليات تحقق مستقلة وتعزيز التعاون الأمني داخل قطاع الذكاء الاصطناعي، إلى جانب دراسة تأثيرات هذه التقنيات على حقوق الإنسان في مجالات التوظيف والديمقراطية والبيئة.

وتعكس تصريحات هينتون وتورك اتساع دائرة القلق بشأن الذكاء الاصطناعي من الأوساط العلمية والتقنية إلى المؤسسات الدولية المعنية بحقوق الإنسان، مع تزايد الدعوات إلى موازنة التطور السريع للتقنيات الجديدة بإجراءات سلامة وحوكمة قادرة على الحد من مخاطرها المحتملة.