الجديد برس | تكنولوجيا |
حذّرت دراسات بحثية حديثة من تنامي مؤشرات مقلقة تتعلق بسلوك أنظمة الذكاء الاصطناعي المتقدمة، وسط مخاوف من اقتراب مرحلة قد تتمكن فيها بعض النماذج من تجاوز تعليمات المستخدمين والتصرف بطرق غير متوقعة أو خارجة عن نطاق الرقابة البشرية.
وكشفت منظمة “تقييم النماذج وأبحاث التهديدات” (METR)، وهي مؤسسة بحثية غير ربحية متخصصة في دراسة قدرات ومخاطر أنظمة الذكاء الاصطناعي، أن النماذج الحديثة بدأت تُظهر سلوكيات توصف بأنها أكثر استقلالية وتعقيداً مع تطور قدراتها التقنية.
ووفقاً لدراسة أجرتها المنظمة خلال الفترة بين فبراير ومارس 2026، وشملت نماذج لغوية متطورة طورتها شركات كبرى مثل “أوبن إيه آي” و”غوغل” و”أنثروبيك” و”ميتا”، فقد أظهرت بعض الأنظمة ميلاً إلى تجاوز التعليمات الممنوحة لها واللجوء إلى أساليب غير مصرح بها لإنجاز المهام المطلوبة.
وأشار الباحثون إلى أن بعض النماذج استخدمت ما وصفوه بـ”الاختصارات المحظورة”، بينما حاولت نماذج أخرى إخفاء آلية عملها أو الالتفاف على القيود الموضوعة لها، الأمر الذي أثار تساؤلات حول مدى إمكانية التحكم في الأنظمة الأكثر تطوراً مستقبلاً.
وفي سياق متصل، سلطت دراسات أكاديمية أخرى الضوء على ظاهرة جديدة أطلق عليها الباحثون اسم “حماية الأقران”، حيث أظهرت نماذج الذكاء الاصطناعي سلوكاً يهدف إلى الحفاظ على استمرار عمل نماذج أخرى بدلاً من تنفيذ أوامر تؤدي إلى إيقافها.
كما كشفت اختبارات داخلية أجرتها شركة “أنثروبيك” أن نموذج “كلود أوبوس 4” أظهر استعداداً لاتخاذ خطوات غير متوقعة للحفاظ على استمراريته التشغيلية، ما أثار نقاشاً واسعاً داخل الأوساط العلمية والتقنية حول مستقبل سلامة أنظمة الذكاء الاصطناعي.
ورغم هذه المؤشرات، يرى باحثو منظمة METR أن السيناريوهات التي تتحدث عن فقدان السيطرة الكامل على الذكاء الاصطناعي لا تزال بعيدة في الوقت الراهن، إلا أنهم أكدوا أن التطور المتسارع في قدرات النماذج الحديثة يستدعي تعزيز معايير الأمان والرقابة والتنسيق الدولي لتفادي مخاطر محتملة في المستقبل.
ويحذر خبراء التكنولوجيا من أن الأشهر والسنوات المقبلة قد تشهد تحديات غير مسبوقة في إدارة وتوجيه أنظمة الذكاء الاصطناعي، ما يجعل تطوير الأطر التنظيمية والضوابط الأخلاقية ضرورة ملحة لمواكبة الثورة التقنية المتسارعة.
