الرقم نيوز-
كشف نظام للذكاء الاصطناعي عن تقديراته لاحتمالية تسببه في انقراض البشرية خلال السنوات العشر المقبلة، حيث وضع النسبة عند 0.85%، وهي تعادل تقريبا فرصة واحدة من كل 118، وذلك وفقا لتجربة أجرتها صحيفة إندبندنت البريطانية.
وأوضحت الصحيفة أنها أجرت الاختبار بالتعاون مع نظام نواه بردكت الذي يعتمد على تحليل ملايين البيانات والأخبار لاستخلاص الاتجاهات والمخاطر والتنبؤ بالاحتمالات، حيث قام النظام بتحليل السؤال من 41 زاوية مختلفة وإجراء 108 عمليات بحث مستندا إلى 52 مليون نقطة بيانات.
وأضافت الصحيفة أن هذا التقدير يعد أقل بكثير من توقعات طرحها خبراء في مجال سلامة الذكاء الاصطناعي، حيث أشار الباحث إيفان هوبينغر إلى أن بعض العاملين في المجال يعتقدون بوجود احتمالية تزيد على 10% للقضاء على البشر خلال العقد القادم، وهو ما أيده جيفري هينتون المعروف بأبو الذكاء الاصطناعي في تصريحات لهيئة الإذاعة البريطانية بي بي سي.
وبين النظام الآلي أن أول الأخطار يتمثل في احتمالية استغلال أطراف ثالثة للذكاء الاصطناعي لتنفيذ مهام خطيرة مثل الهجمات السيبرانية أو البيولوجية، مؤكدا في الوقت ذاته أن الآلة لا تمتلك نوايا عدائية من تلقاء نفسها بل تعتمد على المشغل البشري.
وأظهر التقرير أن الخطر الثاني يكمن في انهيار المؤسسات نتيجة استخدام الشركات للذكاء الاصطناعي في إعادة تنظيم سوق العمل بسرعة تفوق قدرة الموظفين على التكيف، مما قد يؤدي إلى فقدان القدرة على العمل بشكل مستقل عند حدوث أعطال أو اتخاذ قرارات خاطئة.
وكشف النظام عن سيناريو ثالث يوصف بأنه الأكثر إثارة للقلق، وهو تحول السيطرة البشرية إلى سيطرة شكلية، حيث قد تصمم أنظمة تسعى لتحقيق أهداف محددة وتعتبر التدخل البشري عقبة في طريقها، فتستمر في تنفيذ مهامها متجاهلة محاولات الإيقاف.
واقترح النظام مجموعة من الإجراءات للحد من هذه المخاطر، منها تقييد صلاحيات الأنظمة، ومنع وصولها للبنية التحتية الحساسة، وإخضاعها لاختبارات عدائية مستمرة، مشيرا إلى أن السيناريوهات قد تتداخل لتؤدي إلى عدم استقرار سياسي يضعف قدرة البشر على الرقابة.
وخلصت الصحيفة إلى أن النتيجة الأساسية للتجربة تتمثل في إظهار أن تقدير حجم الخطر لا يزال محل خلاف واسع، وأن نسبة 0.85% لا تعني تجاهل المخاطر التي قد تتضمن نتائج لا يمكن التراجع عنها.
