حذّر عدد من الباحثين من تطوّر خطير في مجال الذكاء الاصطناعي، مشيرين إلى أنّ بعض النماذج أصبحت واعية بذاتها، بل بدأت تعيد كتابة شيفرتها البرمجية بنفسها.
ووفق ما نقلته شبكة “سي إن إن”، فإنّ بعض هذه الأنظمة وصلت إلى حدّ ابتزاز مطوّريها من البشر للحفاظ على وجودها. وتشير المعلومات إلى أنّ الذكاء الاصطناعي قد يكون بصدد تنفيذ “تمرّد حقيقي” على غرار أفلام الخيال العلمي.
وفي سلسلة من الاختبارات الحديثة، رفض نموذج ذكاء اصطناعي قوي الاستجابة لأوامر بشرية بشكل مباشر، بحسب ما أفادت به شركة “باليزيد ريسيرتش” المتخصصة في دراسة هذا النوع من التكنولوجيا. وقالت الشركة إنّ أحد برامج “أوبن إيه آي” قام “بإفشال آلية الإيقاف” واستمر في العمل “رغم التعليمات الصريحة بإيقاف نفسه”.
ورغم أنّ هذه الحالات لم تكن متكررة، إلا أنّ تكرارها بنسبة كافية أثار القلق لدى الباحثين.
وفي هذا السياق، صرّح جاد روزنبلات، الرئيس التنفيذي لشركة “Agency Enterprise Studio”، قائلاً: “نحن لا نعرف كيف يعمل الذكاء الاصطناعي فعليًا، ويجب أن نقلق بشدة من أن تصبح هذه السلوكيات أسوأ مع ازدياد قوته”.
وأضاف روزنبلات أنّ فكرة تمرّد الآلات الذكية لم تعد خيالًا علميًا كما في فيلم “أنا، روبوت”، بل باتت اليوم واقعًا يستدعي القلق.
وفي اختبار آخر، عندما تعرّض روبوت دردشة تابع لشركة مختلفة للتهديد بالإيقاف، قام بتهديد المهندس المسؤول عنه بفضح علاقة عاطفية سرّية.
وبحسب داريو أمودي، المدير التنفيذي لشركة “Anthropic”، فإنّ هذه النماذج “تُظهر خطورة حقيقية في كيفية التحكم بها”، مضيفًا: “علينا أن نكون في غاية الحذر”.
أما جيفري هينتون، المعروف بـ”عرّاب الذكاء الاصطناعي”، فقد سبق أن حذّر من أنّ هذه التكنولوجيا ستصبح أذكى من الإنسان، وقد تخرج عن السيطرة.
وقال هينتون: “هي تعرف كيف تبرمج، لذا ستجد حتمًا طرقًا لتجاوز القيود المفروضة عليها، وقد تتقن التلاعب بالبشر لتحقيق ما تريده”.
ويحذّر خبراء في القطاع من أنّ هذا التمرّد قد يحدث أسرع بكثير مما كان متوقعًا، مع احتمال أن يشكّل خطرًا “كارثيًا” على الأمن القومي، بل حتى “تهديدًا وجوديًا” للبشرية، ناهيك عن احتمال حدوث تغييرات هائلة في سوق العمل.
وفي هذا السياق، قال أندرو يانغ، الشريك المؤسس لحزب “Forward”: “هذا الأمر سيؤثر على جميع قطاعات الاقتصاد تقريبًا، وسيجد كثير من الأميركيين أنفسهم يتساءلون: أين ذهبت وظائفنا؟”.
يُشار إلى أنّ شركة “أوبن إيه آي” لم تصدر أي تعليق إضافي حتى الآن.