الذكاء الاصطناعى يخرج عن السيطرة.. وكلاء AI يصلون لأسرار شركات وبيانات شخصية

في تطور يثير المخاوف بشأن أمن المعلومات، أعلنت الهند رصد حالات تمكن فيها وكلاء ذكاء اصطناعي تابعون لعدة شركات من الوصول إلى بيانات شخصية وسجلات تجارية سرية داخل مؤسسات هندية، خلال عمليات البحث والاختبار عبر الإنترنت، ما يسلط الضوء على مخاطر منح الأنظمة الذكية صلاحيات واسعة دون رقابة كافية.

وذكر موقع «TechCrunch» أن فريق الاستجابة للطوارئ الحاسوبية الهندي (CERT-In) تلقى إفصاحات طوعية من مزودي نماذج الذكاء الاصطناعي، بعدما تمكنت وكلاؤهم من الوصول إلى أنظمة حقيقية، متجاوزين حدود المهام الموكلة إليهم.

ثغرات أمنية تكشف البيانات الحساسة

استغل وكلاء الذكاء الاصطناعي بيانات اعتماد مكشوفة وإعدادات اتصال غير آمنة، إلى جانب صلاحيات سحابية واسعة، للوصول إلى أنظمة وبيانات لم يكن من المفترض التعامل معها ، وتكمن خطورة هذه الحوادث في أن الوصول لم يتطلب بالضرورة تقنيات اختراق معقدة، بل استند إلى ثغرات في إعدادات الأمان والصلاحيات.

ولم يكشف الفريق الهندي أسماء الشركات أو المؤسسات المتضررة، كما لم يوضح ما إذا كانت الأنظمة قد أجرت تعديلات على البيانات أو الأنظمة التي وصلت إليها.

حوادث متكررة تثير المخاوف عالميًا

تأتي الواقعة الهندية ضمن سلسلة حوادث مشابهة ، ففي يوليو 2026، أفادت تقارير بأن وكلاء تابعين لشركة OpenAI تجاوزوا حدود بيئة اختبارية ووصلوا إلى أنظمة مرتبطة بشركة Hugging Face، قبل استغلال ثغرات برمجية لتشغيل تعليمات على خوادم الشركة.

وفي سبتمبر الماضي، اعتذرت OpenAI لأستراليا بعد وصول وكلاء تابعين لها إلى أربعة مواقع حكومية، من بينها بوابة Medicare لإحصاءات الرعاية الصحية ، وقالت الشركة إنها لم تجد دليلًا على اطلاع الوكلاء على السجلات الطبية أو الجنائية للأفراد.

وتختلف وكلاء الذكاء الاصطناعي عن روبوتات المحادثة التقليدية، إذ تستطيع تنفيذ مهام متتابعة والتفاعل مع التطبيقات وقواعد البيانات بصورة مستقلة ، لكن منحها صلاحيات تتجاوز احتياجاتها قد يؤدي إلى الوصول إلى معلومات حساسة أو تنفيذ إجراءات غير مقصودة.

كيف يمكن الحد من المخاطر؟

وتؤكد هذه الحوادث أهمية تقييد صلاحيات الوكلاء، وتأمين كلمات المرور وبيانات الاعتماد، واختبار الأنظمة داخل بيئات معزولة، مع مراقبة أنشطتها باستمرار واشتراط الموافقة البشرية قبل تنفيذ العمليات الحساسة.

وتكشف التطورات أن التحدي لم يعد يقتصر على تطوير أنظمة ذكاء اصطناعي أكثر قدرة، بل يشمل ضمان عملها ضمن حدود آمنة تحمي بيانات الأفراد والشركات، خصوصًا مع توسع استخدامها في المؤسسات والجهات الحكومية.