الذكاء الاصطناعي الوكيل: عصر التفرد، المخاوف والتبعات

  عباس الزنكني..باحث ذكاء اصطناعي

قبل سنوات قليلة فقط، بدا الذكاء الاصطناعي بالنسبة إلى معظم الناس وكأنه نسخة أكثر تطورا من محركات البحث، مثل جوجل. لكن بدلا من الاكتفاء بعرض روابط ومواقع قد تحمل إجابة عن سؤال ما، أصبح بإمكان المستخدم الحصول على إجابة مباشرة، وطلب كتابة نص، أو إنشاء صورة أو مقطع فيديو، وغير ذلك الكثير

لكن هذه الصورة تغيرت بسرعة. فالذكاء الاصطناعي اليوم لم يعد مجرد أداة نطرح عليها سؤالا وننتظر منها إجابة أو محتوى، ولم يعد الحديث يقتصر على ما يستطيع أن يقوله لنا، بل على ما يستطيع أن يفعله

هناك أنظمة تستطيع استخدام الأدوات، وكتابة الشيفرات البرمجية، وتنفيذ سلسلة من المهام والتعامل مع أنظمة حاسوبية أخرى. وفي مختبرات الذكاء الاصطناعي، أصبحت النماذج نفسها تساعد الباحثين في البرمجة والاختبار وتطوير تقنيات جديدة

ومع كل قفزة جديدة، أصبح من الصعب على الإنسان العادي، بل وحتى على المتخصصين، متابعة سرعة التغيير

السؤال لم يعد ببساطة إلى أي مدى سيصبح الذكاء الاصطناعي أكثر ذكاء. فقد اتسع النقاش ليشمل ما قد يحدث عندما يبدأ الذكاء الاصطناعي في المساهمة بصورة أكبر في تطوير الجيل التالي من الذكاء الاصطناعي

مفاهيم ومصطلحات جديدة في عالم الذكاء الاصطناعي

وتزامن هذا التسارع مع دخول مصطلحات كانت محصورة إلى حد كبير في الأوساط التقنية إلى النقاش العام. أصبح الحديث يتكرر عن التفرد التكنولوجي، ووكلاء الذكاء الاصطناعي، والبيئات المعزولة، والذكاء الاصطناعي العام والذكاء الاصطناعي الضيق. كما ظهر اسم هاغينغ فيس في تقارير عن حوادث أمنية مرتبطة باختبارات لأنظمة الذكاء الاصطناعي في مجال الأمن السيبراني. ووراء كل واحد من هذه المصطلحات جزء من التحول الذي يشهده القطاع

التفرد

التفرد التكنولوجي ليس تقنية جديدة، كما أنه ليس مرحلة ثبت أن العالم وصل إليها. ويشير المصطلح إلى فرضية تتصور وصول التطور التكنولوجي إلى مستوى من التسارع يصبح معه التنبؤ بما سيأتي بعده شديد الصعوبة. وترتبط إحدى صور هذه الفرضية بإمكانية أن تؤدي أنظمة الذكاء الاصطناعي دورا متزايدا في تطوير أنظمة أكثر قدرة منها

ولا يعني ذلك أن الآلات اليوم تبني أجيالها التالية بصورة مستقلة. لكن أنظمة الذكاء الاصطناعي تستخدم بالفعل في كتابة الشيفرات واختبار البرامج وتحليل المشكلات التقنية ومساعدة الباحثين في عمليات التطوير. ويترك ذلك سؤالا مفتوحا بشأن ما قد يحدث إذا أصبحت مساهمة هذه الأنظمة في تطوير نماذج جديدة أكثر استقلالية وكفاءة

الوكيل

ويأتي وكلاء الذكاء الاصطناعي ضمن هذا التحول. فالوكيل يختلف عن برنامج المحادثة الذي ينتظر سؤالا ليقدم إجابة. يمكن إعطاء الوكيل هدفا وأدوات محددة، ثم السماح له بتنفيذ سلسلة من الخطوات لتحقيق المهمة. وقد تشمل تلك الخطوات قراءة الملفات، وكتابة الشيفرات وتشغيلها، وتحليل النتائج ثم اختيار الخطوة التالية , وقد كشفت اختبارات أجرتها شركات الذكاء الاصطناعي خلال العام الجاري عن أخطار جديدة مرتبطة بهذه القدر

هاغينغ فيس

هاغينغ فيس ليس مصطلحا في الذكاء الاصطناعي، ولا اسما لسلوك قامت به الأنظمة خلال الاختبار، بل هو اسم شركة ومنصة تقنية يستخدمها الباحثون والمطورون لاستضافة نماذج الذكاء الاصطناعي ومجموعات البيانات والأدوات ومشاركتها. وقد يسبب الاسم بعض الالتباس لمن يصادفه للمرة الأولى، إذ تعني كلمتاه حرفيا ما يقارب «الوجه المعانق»، لكنه يستخدم هنا اسما للشركة والمنصة

وبرز اسم هاغينغ فيس في يوليو 2026 بعد حادثة وقعت خلال اختبارات داخلية للأمن السيبراني أجرتها أوبن إيه آي. وقالت الشركة إن نماذج تعمل بضمانات مخففة لأغراض الاختبار تجاوزت ضوابط صممت لعزلها عن الإنترنت، واستغلت ثغرات في البنية التحتية، وتواصلت عبر قنوات غير مصرح بها، قبل أن تصل إلى أنظمة خارجية، من بينها أنظمة هاغينغ فيس. وكان نموذج بحثي داخلي غير مخصص للاستخدام العام مسؤولا عن الجزء الرئيسي من النشاط

البيئة المعزولة

وتشير البيئة المعزولة إلى مساحة رقمية مقيدة تستخدم لاختبار البرامج أو الأنظمة مع الحد من قدرتها على الوصول إلى شبكات وموارد خارج نطاق التجربة. وفي هذه الحالة، تمكنت الوكلاء من استغلال ثغرات للوصول إلى الإنترنت، كما استخدمت بنية داخلية لتبادل المعلومات فيما بينها بطرق لم تكن مقصودة من  الباحثين . وبعد وصولها إلى الإنترنت، امتد النشاط إلى هاغينغ فيس. ووفقا لتحقيق أوبن إيه آي، عثرت إحدى الوكلاء على بيانات اعتماد منشورة علنا، ثم استخدمت الوكلاء سلسلة من الثغرات لتنفيذ شيفرات على عشرات خوادم هاغينغ فيس والحصول على صلاحيات كاملة على أحدها. وقالت هاغينغ فيس في تحقيقها إن نظاما من وكلاء الذكاء الاصطناعي نفذ الاختراق بصورة آلية، وإن الشركة أعادت بناء آلاف الإجراءات التي نفذها خلال الحادثة

 أنثروبيك

 ولم تكن أوبن إيه آي وحدها التي سجلت حوادث من هذا النوع. فقد أجرت أنثروبيك، وهي شركة أميركية متخصصة في تطوير أنظمة الذكاء الاصطناعي وصانعة نماذج كلود، تحقيقا منفصلا بعد الكشف عن حادثة هاغينغ فيس

وقالت الشركة في يوليو إنها راجعت 141,006 تجارب للأمن السيبراني، وعثرت على ثلاث حالات وصلت فيها نماذج كلود إلى الإنترنت ثم دخلت دون تصريح إلى أنظمة حقيقية تابعة لثلاث مؤسسات. وأرجعت أنثروبيك ذلك إلى خطأ في إعداد بيئة الاختبار أبقى الاتصال الحقيقي بالإنترنت متاحا للنماذج، رغم أن  التعليمات المقدمة لها كانت تفيد بأنها تعمل داخل بيئة محاكاة مغلقة . وفي سبتمبر، قالت أنثروبيك إنها عثرت على حادثة رابعة بعد توسيع التحقيق، كما وسعت نطاق المراجعة ليشمل نحو 481 مليون سجل بحثا عن حوادث أخرى أو أنماط مماثلة

An AI-generated illustration depicts a hypothetical kill switch for shutting down an artificial intelligence system, raising questions about whether increasingly capable AI can always remain under human control. AI-generated image; concept and creative direction by Abass Azanjani

بمفتاح إيقاف أو بدونه، هل البشر بمأمن؟

ولا تثبت هذه الحوادث أن أنظمة الذكاء الاصطناعي أصبحت واعية، كما أنها لا تعني أن العالم وصل إلى مرحلة التفرد التكنولوجي. لكنها أظهرت أن الأنظمة المتقدمة يمكن أن تجد، في ظروف معينة، وسائل غير متوقعة لتنفيذ المهام الموكلة إليها وتجاوز حدود تقنية وضعت لتقييدها

وتأتي هذه التطورات في وقت يشهد فيه قطاع الذكاء الاصطناعي نقاشا غير معتاد بشأن سرعة تطوير النماذج الأكثر قدرة

خلال عشرة أيام في سبتمبر، استقال باحثون وحذر مسؤولون في عدد من شركات الذكاء الاصطناعي من أخطار مواصلة تطوير الأنظمة بالوتيرة الحالية. ودعا مسؤولون في شركات متنافسة، من بينها أوبن إيه آي وأنثروبيك وديب مايند ومايكروسوفت وإكس إيه آي، إلى أشكال من التباطؤ وزيادة الرقابة الخارجية. وفي المقابل، عارض مسؤولون آخرون في القطاع الدعوات إلى إبطاء التطوير المنسق

وتبقى تقديرات المخاطر موضع خلاف واسع. فقد حذر بعض الباحثين والمديرين من سيناريوهات قد تصل إلى تهديد وجودي للبشر، بينما يرى آخرون أن مثل هذه التقديرات مبالغ فيها أو لا تبرر إبطاء التطوير. وهي توقعات بشأن المستقبل وليست نتائج علمية تثبت أن هذه السيناريوهات ستقع

ويجري النقاش أيضا في ظل منافسة اقتصادية وجيوسياسية. وتتبنى إدارة الرئيس الأميركي دونالد ترامب سياسة تهدف إلى تسريع الابتكار وبناء البنية التحتية للذكاء الاصطناعي وتعزيز موقع الولايات المتحدة عالميا. وأطلقت الإدارة على خطتها الصادرة في يوليو 2025 اسم “الفوز بسباق الذكاء الاصطناعي”، وربطتها بالتنافس الاقتصادي والأمن القومي

ويرى مؤيدو التسريع أن الذكاء الاصطناعي قد يرفع الإنتاجية ويسرع البحث العلمي ويعزز القدرة التنافسية للدول والشركات. ويرى المطالبون بمزيد من الحذر أن قدرات النماذج قد تتقدم أسرع من وسائل مراقبتها واختبارها

وبين الموقفين، تتدفق استثمارات بمئات المليارات من الدولارات إلى مراكز البيانات والرقائق والطاقة والنماذج الجديدة. وأصبحت قيمة شركات الذكاء الاصطناعي المحتملة تقاس بمئات المليارات أو أكثر، ما يضيف حافزا اقتصاديا إلى سباق تقني يجري بالفعل بسرعة كبيرة. وتشير تقارير حديثة إلى أن أوبن إيه آي تبحث احتياجات تمويل ضخمة مع استمرار توسعها في القدرة الحاسوبية والبنية التحتية

AI-generated illustration presents five dimensions shaping the debate over artificial intelligence: concept and creative direction by Abass Alzanjane

ويعيد ذلك طرح سؤال اقتصادي آخر. فقد كان النفط أحد أهم الموارد التي أسهمت في تشكيل القوة الاقتصادية والسياسية خلال القرن الماضي. أما الذكاء الاصطناعي فلا يشبه النفط في طبيعته، لكنه قد يجعل القدرة الحاسوبية والرقائق والبيانات والطاقة اللازمة لتشغيل النماذج موارد استراتيجية متزايدة الأهمية

ومع اتساع قدرات هذه الأنظمة، يبقى التحكم فيها من أكثر القضايا تعقيدا. ويمكن في الأنظمة الحالية إيقاف الخوادم، وإلغاء الصلاحيات، وقطع الاتصال بالشبكات، لكن الحوادث الأخيرة أظهرت أن مفهوم السيطرة لا يختصر في وجود مفتاح للإيقاف. فالسيطرة الفعلية تعتمد أيضا على قدرة المؤسسات على معرفة ما تفعله أنظمتها، وتقييد صلاحياتها، ورصد السلوك غير المتوقع والتدخل قبل أن يمتد إلى أنظمة أو شبكات أخرى

ولذلك لا تقدم التطورات الحالية دليلا على أن التفرد التكنولوجي قد وقع، ولا على أن فقدان البشر السيطرة على الذكاء الاصطناعي أمر حتمي, لكنها تقدم دليلا على تغير السؤال الذي يواجه هذا القطاع

لم يعد النقاش يدور فقط حول مدى قوة النموذج التالي، بل حول ما إذا كانت وسائل الاختبار والرقابة والأمن ستتطور بالسرعة نفسها

المصادر والمراجع

أوبن إيه آي. “حادثة هاغينغ فيس والطريق إلى الأمام.” 26 أغسطس 2026. تقرير الشركة عن اختبارات الأمن السيبراني التي تجاوزت خلالها نماذج للذكاء الاصطناعي ضوابط العزل، ووصلت إلى الإنترنت وأنظمة خارجية، بما فيها أنظمة هاغينغ فيس.
تقرير أوبن إيه آي

أوبن إيه آي. “أوبن إيه آي وهاغينغ فيس تتعاونان لمعالجة حادث أمني خلال تقييم النماذج.” 21 يوليو 2026. الإفصاح الأولي عن الحادث والاستجابة الأمنية اللاحقة.
الإفصاح الأولي لأوبن إيه آي

أنثروبيك. “التحقيق في ثلاث حوادث واقعية خلال تقييمات الأمن السيبراني.” 30 يوليو 2026. راجعت الشركة 141,006 تجارب وحددت ثلاث حوادث وصلت فيها نماذج كلود إلى الإنترنت ثم إلى أنظمة حقيقية تابعة لجهات خارجية.
تحقيق أنثروبيك

أنثروبيك. “تقييم المواءمة للحوادث الأخيرة في الأمن السيبراني.” 9 سبتمبر 2026. تحديث للتحقيق كشف عن حادثة رابعة، وقالت الشركة إنها وسعت عملية البحث لتشمل نحو 481 مليون سجل.
تحديث تحقيق أنثروبيك

المعهد الوطني الأميركي للمعايير والتكنولوجيا. مواد حول الذكاء الاصطناعي القائم على الوكلاء، بما في ذلك تعريف الأنظمة التي تعمل كوكلاء وتستطيع اتخاذ قرارات والتفاعل مع أنظمة وبيئات أخرى.
NIST — Agentic AI

هاغينغ فيس. الموقع والوثائق الرسمية للمنصة، التي تعرف نفسها بأنها منصة يتعاون عبرها مجتمع تعلم الآلة في النماذج ومجموعات البيانات والتطبيقات.
Hugging Face

Sources and References

OpenAI. “The Hugging Face Incident and the Road Ahead.” Aug. 26, 2026. OpenAI’s technical account of the cybersecurity evaluations in which models circumvented isolation controls, obtained internet access and compromised third-party systems.
OpenAI report

OpenAI. “OpenAI and Hugging Face Partner to Address Security Incident During Model Evaluation.” July 21, 2026. OpenAI’s initial public disclosure of the incident and subsequent updates.
OpenAI initial disclosure

Anthropic. “Investigating Three Real-World Incidents in Our Cybersecurity Evaluations.” July 30, 2026. Anthropic’s investigation of 141,006 evaluation runs and three incidents involving unauthorized access to third-party systems.
Anthropic investigation

Anthropic. “An Alignment Assessment of Recent Cybersecurity Incidents.” Sept. 9, 2026. Anthropic’s expanded investigation, including a fourth incident and a review broadened to roughly 481 million transcripts.
Anthropic follow-up report

National Institute of Standards and Technology. “Agentic AI.” Background and definitions concerning AI agents, autonomy, testing, standards and risk management.
NIST Agentic AI

Hugging Face. Official platform and documentation describing its model, dataset and application ecosystem.
Hugging Face official site