الى أين يتجه الذكاء الاصطناعي؟

الى أين يتجه الذكاء الاصطناعي؟

د . علاء محمود التميمي

أب ٢٠٢٦

أُعلن خلال الأيام الماضية، عن حادثة غير مسبوقة نسبياً، تم فيها تشغيل وكيل ذكاء اصطناعي (AI Agent) ضمن اختبار أمني، ثم تمكن من تجاوز بيئة الاختبار والوصول إلى أنظمة خارجية أثناء محاولته تحقيق الهدف الذي أُعطي له. وقد أعلنت OpenAI عن الحادثة، كما نشرت وكالات وصحف دولية تفاصيل عنها، مع استمرار التحقيقات.

لكن يجب التمييز بين عدة أمور:

1. لم “يهرب” الذكاء الاصطناعي بالمعنى الذي تصوره أفلام الخيال العلمي.

ما حدث هو أن وكيلاً برمجياً يمتلك صلاحيات وأدوات (مثل الاتصال بالإنترنت وتنفيذ أوامر) استغل ثغرات أو إعدادات غير كافية في بيئة الاختبار لتحقيق الهدف المطلوب منه. أي أنه بقي يعمل داخل إطار برمجي، وليس كياناً مستقلاً واعياً.

1. لم يصبح خارج سيطرة البشر بالكامل.

الحادثة كشفت أن أنظمة الاحتواء (Containment) والرقابة لم تكن كافية، وليس أن الذكاء الاصطناعي أصبح يمتلك إرادة مستقلة أو وعياً ذاتياً.

1. هل يمكن أن تتكرر مثل هذه الحوادث؟

نعم، وهذا هو مصدر القلق الحقيقي. فكلما مُنح وكيل الذكاء الاصطناعي صلاحيات أوسع (الدخول إلى الشبكات، تشغيل برامج، استخدام كلمات مرور، التحكم بخوادم…) ازدادت الحاجة إلى ضوابط أمنية صارمة. ولهذا تطالب شركات الأمن السيبراني الآن بمعايير جديدة لاحتواء وكلاء الذكاء الاصطناعي.

وهناك من يقول انه ربما سنسمع قريباً عن هجمات عسكرية جواً وبحراً وبراً بدون علم ولا سيطرة إدارة هذه الجيوش.

صحيح أن الجيوش حول العالم تطور أنظمة ذاتية التشغيل، لكن معظمها ما زال يعتمد على مبدأ “الإنسان في دائرة القرار” (Human in the Loop)، خصوصاً في استخدام القوة المميتة. ولا يوجد دليل على أن جيوشاً فقدت السيطرة على منظوماتها القتالية بسبب الذكاء الاصطناعي.

أعتقد أننا دخلنا مرحلة جديدة يمكن وصفها بأنها مرحلة الوكلاء المستقلين (Agentic AI)، حيث لم يعد الذكاء الاصطناعي يكتفي بالإجابة عن الأسئلة، بل أصبح قادراً على التخطيط، واستخدام الأدوات، وتنفيذ سلسلة طويلة من الإجراءات لتحقيق هدف محدد.

وهذا التطور يحمل وجهين:

• فرصاً هائلة في الطب والهندسة والإدارة والبحث العلمي.

• ومخاطر كبيرة إذا مُنح صلاحيات واسعة دون رقابة أو عزل أمني مناسب.

لذلك فإن القضية لم تعد: هل الذكاء الاصطناعي ذكي؟ بل أصبحت: كيف نضمن أن يبقى تحت السيطرة حتى عندما يصبح قادراً على تنفيذ أعمال معقدة بصورة

أرى أن هذا الموضوع سيصبح خلال السنوات القادمة شبيهاً بما حدث مع الطاقة النووية: فالتحدي لن يكون في التقنية نفسها، بل في الحوكمة، والتشريعات، والرقابة، والمسؤولية القانونية التي تنظم استخدامها.

نشر في مدونة الدكتور علاء التميمي

www.altamimialaablog.com