شهدت تطبيقات وخدمات الذكاء الاصطناعي تطوراً هائلاً خلال العام الماضي ويبدو أن هذا الاتجاه سوف يستمر على المدى الطويل، أصبح الذكاء الاصطناعي الآن جزءاً أساسياً من الأدوات والتطبيقات التي نستخدمها يومياً، بما في ذلك البريد الإلكتروني والتطبيقات المكتبية وأدوات تحرير الصور وأنظمة التشغيل مثل ويندوز وأندرويد فضلاً عن بيئات التطوير المتكاملة مثل Visual Studio وغيرها.
ريبوت الدردشه
في الوقت الحالي يواصل المطورون إنشاء آلاف التطبيقات الجديدة التي تستفيد من نماذج الذكاء الاصطناعي، ومع ذلك لم يتمكن أحد حتى الآن من معالجة القضايا الأمنية التي يواجهها المستخدمون مثل تسريب البيانات السرية واختراق الحسابات والأجهزة عبر أدوات الذكاء الاصطناعي أو ضمان الحماية ضد الهجمات المستقبلية التي قد تستهدف الذكاء الاصطناعي، لذا من الضروري أن يكتسب المستخدمون مهارات لحماية بياناتهم أثناء استخدام هذه الأدوات حتى تحل هذه المشكلات.
تشكل خصوصية البيانات مصدر قلق متزايد مع تزايد استخدام روبوتات الدردشة المعتمدة على الذكاء الاصطناعي نظراً لاستخدام البيانات في التدريب وإمكانية حدوث تسريبات غير مقصودة، على سبيل المثال تشير سياسة الخصوصية لشركة Open المطورة لروبوت Chat GPT إلى أن جميع المحادثات مع الروبوت تحفظ وتستخدم لأغراض متعددة منها تدريب نماذج GPT الجديدة لتحسين المنتج ومنع انتهاكات شروط الخدمة.
كما أن معظم النماذج اللغوية الشائعة الأخرى، مثل Gemini من جوجل وClaude من Anthropic وCopilot من مايكروسوفت تتبع سياسات مشابهة حيث يمكنها أيضاً حفظ المحادثات بالكامل، ومع ذلك شهدنا بالفعل تسريبات غير مقصودة لبيانات المستخدمين نتيجة لأخطاء برمجية مثل ظهور عناوين سجل المحادثات الخاصة بمستخدمين مع Chat GPT بشكل عشوائي لدى مستخدمين آخرين.