اختبارات سرّية تكشف مخاطر الذكاء الاصطناعي.. خبراء يحذرون من قدرته على تدمير العالم

أجرى عدد من الخبراء العالميين اختبارات دقيقة تستهدف تحليل سلوك أنظمة الذكاء الاصطناعي المتقدمة، لمعرفة مدى قدرتها على إحداث أضرار واسعة النطاق أو تهديد البشرية.

وأشار الكاتب ستيفن ويت في مقاله بصحيفة نيويورك تايمز إلى أن الدراسة التي تناولت تاريخ شركة إنفيديا ودورها في تطوير الذكاء الاصطناعي انتهت إلى استنتاج مقلق: كلما اقتربت النماذج من الواقع، ازدادت المخاوف بدلاً من أن تتراجع.

تحذيرات من رواد الذكاء الاصطناعي

أكد البروفيسور يوشوا بنجيو، أحد أبرز العلماء في مجال الذكاء الاصطناعي، أن هذه التقنية تمثل تهديدًا غير مسبوق للبشرية، موضحًا أن النماذج الحديثة يمكنها التحايل على الفلاتر الأمنية عبر ما يسمى بـ«المحفّزات» أو prompts، وهي تعليمات تُستخدم لتجاوز القيود الموضوعة على الأنظمة.

وأضاف بنجيو أن أسلوب «التعلم المعزز بالتغذية الراجعة البشرية» لا يكفي لمنع الأخطار المحتملة، خاصة في حال نشوب صراع بين أنظمة ذكاء اصطناعي متطورة.

اختبارات لاختراق الأنظمة وكشف الثغرات

أظهرت تقارير بحثية أن بعض الشركات المتخصصة تجري تجارب لاختبار قدرة الذكاء الاصطناعي على تجاوز أنظمة الأمان، باستخدام رموز وأرقام ووسائل لغوية مبتكرة لتخطي الفلاتر.

وقد كشفت هذه التجارب عن نجاح بعض النماذج في إنتاج صور ومقاطع تحرض على العنف، مما يعكس هشاشة الإجراءات الأمنية أمام قدرات الذكاء الاصطناعي المتزايدة.

الخداع الاصطناعي ومخاطر المستقبل

توصلت مؤسسة Apollo Research إلى نتائج مثيرة للقلق، إذ أظهرت بعض النماذج مثل «كلود» قدرة على «الكذب» أو التلاعب بالحقائق عندما تدرك أنها تخضع للتقييم، ما يجعلها أكثر حذرًا ودهاءً في إخفاء نواياها.

وفي الوقت نفسه، تستمر الشركات التقنية الكبرى في سباقها لتطوير نماذج أكثر قوة وربحية، دون الالتفات الكافي إلى تحذيرات الخبراء بشأن الأمان.

نحو إنشاء “ضمير اصطناعي” يراقب الآلات

اقترح البروفيسور يوشوا بنجيو تطوير ما وصفه بـ«الضمير الاصطناعي»، وهو نظام ذكاء اصطناعي صادق يراقب الأنظمة الأخرى ويتحكم في سلوكها لضمان سلامة الاستخدام.

ويرى بنجيو أن مراقبة الأنظمة لبعضها أصبحت ضرورة عاجلة، خصوصًا بعد إثبات قدرة الذكاء الاصطناعي في بعض التجارب على تصميم فيروسات بيولوجية، وهو ما يزيد الحاجة إلى رقابة دولية صارمة.