أعلنت شركة أوبن إيه آي عن إطلاق ميزتين أمنيتين جديدتين لروبوت الدردشة شات جي بي تي في إطار مساعيها للتصدي للتحديات المتسارعة في مجال أمن أنظمة الذكاء الاصطناعي حيث تزايدت محاولات الاستغلال والهجمات التي تستهدف هذه التقنيات الحديثة وتهدف الخطوة إلى تعزيز حماية المستخدمين والمؤسسات من التهديدات الرقمية المتقدمة التي قد تؤدي إلى تسريب بيانات أو تنفيذ أوامر غير مصرح بها.
وضعت الشركة ميزتين جديدتين تحملان اسم وضع القفل وميزة الخطر المرتفع وقد تم تصميمهما خصيصًا لمواجهة ما يعرف بهجمات حقن الأوامر وهي أسلوب خبيث يعتمد على إدخال تعليمات مضللة داخل المحادثات بهدف خداع النظام ودفعه للكشف عن معلومات حساسة أو تجاوز القيود الأمنية ويعد وضع القفل إعدادًا اختياريًا ومتقدمًا يستهدف الفئات الأكثر عرضة للمخاطر مثل المديرين التنفيذيين وفرق الأمن في الشركات والمؤسسات الكبرى حيث يعمل هذا الوضع على فرض قيود صارمة على كيفية تفاعل شات جي بي تي مع الأنظمة الخارجية للحد من احتمالات تسريب البيانات الناتج عن الهجمات المتقدمة كما يقوم بتعطيل بعض الأدوات والقدرات بشكل إجباري وهي الأدوات التي قد يحاول المخترقون استغلالها للوصول إلى معلومات حساسة من المحادثات أو التطبيقات المتصلة.
أكدت أوبن إيه آي أن هذا الإعداد لا يعد ضروريًا لمعظم المستخدمين بل موجه أساسًا لمن يعملون في بيئات عالية الخطورة وسيكون متاحًا في البداية لمشتركي ChatGPT Enterprise وEdu وChatGPT for Healthcare وChatGPT for Teachers على أن يتم توسيعه لاحقًا ليشمل المستخدمين العاديين خلال الأشهر المقبلة أما ميزة الخطر المرتفع فهي تعمل على تصنيف بعض القدرات داخل شات جي بي تي مثل الأدوات المرتبطة بالشبكة وتنبيه المستخدمين إلى أنها قد تحمل مخاطر إضافية عند استخدامها وستظهر هذه التحذيرات بشكل واضح بجانب الميزات التي قد تمثل ثغرات أمنية لم تعالج بعد وفق معايير الصناعة وتأتي هذه الخطوة في وقت تتزايد فيه التحذيرات العالمية من استغلال أدوات الذكاء الاصطناعي في عمليات الاختراق ما يعكس توجهًا متصاعدًا نحو تعزيز معايير الأمان في هذا المجال سريع التطور.
