يمكن لمتصفحات الذكاء الاصطناعي، مثل Comet من Perplexity وLeo من Brave، أن تقدم وسائل راحة لا تتوفر في المتصفحات التقليدية، لكنها قد تنطوي أيضًا على مخاطر أكبر محتملة.
لاحظ آندي بينيت، المدير التنفيذي للأمن السيبراني في شركة أبولو لأنظمة المعلومات، وهي مزود للحلول الأمنية وتقنية المعلومات في دالاس، أن "القدرة على جمع المعلومات المتاحة وتلخيصها بسرعة دون الحاجة لاستثمار ساعات من النقر والقراءة أمر ذو قيمة كبيرة".
وقال لموقع TechNewsWorld: "في الوقت نفسه، توفر متصفحات الذكاء الاصطناعي التحليل وتمكن المستخدم من استخلاص رؤى قد تستغرق عادة وقتًا طويلاً أو قد يتم تفويتها بالكامل. يمكن للذكاء الاصطناعي المساعدة في العثور على المعلومات عبر عدد أكبر من المصادر مما يمكن للمستخدم معالجته فعليًا أو يدويًا في تجربة المتصفح التقليدية".
لكن مع تلك القوة العظيمة تأتي مخاطر كبيرة، كما شرح الباحثون في Brave في تدوينة على المدونة:
بدلاً من الاكتفاء بطرح سؤال مثل 'لخص ما تقوله هذه الصفحة عن رحلات لندن'، يمكنك أن تأمر: 'احجز لي رحلة إلى لندن يوم الجمعة المقبل.' الذكاء الاصطناعي لا يكتفي بالقراءة فقط، بل يتصفح ويكمل المعاملات بشكل ذاتي.
وأشاروا أيضًا إلى: "هذا النوع من التصفح الوكِيلي قوي بشكل لا يُصدق، ولكنه يقدم أيضًا تحديات كبيرة في مجال الأمان والخصوصية. ومع شعور المستخدمين بالارتياح تجاه متصفحات الذكاء الاصطناعي وبدء ثقتهم بها للبيانات الحساسة في الجلسات المسجلة الدخول — مثل المواقع المصرفية والرعاية الصحية وغيرها من المواقع الحيوية — تتضاعف المخاطر."
سألوا: "ماذا لو تخيّل النموذج ونفّذ أفعالاً لم تطلبها؟" أو الأسوأ، ماذا لو أن موقعًا إلكترونيًا يبدو غير ضار أو تعليقًا على موقع التواصل الاجتماعي يمكن أن يسرق بيانات تسجيل الدخول الخاصة بك أو بيانات حساسة أخرى عن طريق إضافة تعليمات خفية لمساعد الذكاء الاصطناعي؟
خطر التعليمات المخفية
وجد الباحثون فعليًا ضعفًا يسمى "تعليمات مخفية" في متصفح كوميت. عندما يُطلب من المتصفح تلخيص صفحة ويب، يقوم المتصفح بإدخال الصفحة في نموذج اللغة الكبير الخاص به (LLM) دون التمييز بين تعليمات المستخدم والمحتوى غير الموثوق على الصفحة. "هذا يسمح للمهاجمين بتضمين حمولات حقن التعليمات غير المباشرة التي سينفذها الذكاء الاصطناعي كأوامر"، كما أوضحوا.
لاحظ ليونيل ليتي، الرئيس التنفيذي لأمن المعلومات والمهندس الرئيسي للأمن في شركة مينلو سيكيوريتي، مزود أمان المتصفحات في ماونتن فيو، كاليفورنيا، أن "حقن التعليمات يُعد مصدر قلق لجميع وكلاء الذكاء الاصطناعي، ولكنه يمثل مصدر قلق شديد بشكل خاص لمتصفحات الذكاء الاصطناعي".
وقال لموقع TechNewsWorld: "ذلك لأن محتوى الويب بطبيعته غير موثوق ويتم تجميعه غالبًا من مصادر عديدة. حتى عند زيارة موقع تجارة إلكترونية موثوق به، قد يشمل المحتوى الذي تراه متصفح الذكاء الاصطناعي تقييمات العملاء وإعلانات من أطراف ثالثة، وكلها مصادر محتملة لإدخال الموجهات الضارة."
وأضاف قائلاً: "بشكل عام، أدوات الشبكة ليست مؤهلة بشكل جيد للتعامل مع حقن الموجهات، لأنها تملك فهماً محدوداً جداً لأنشطة التصفح. هناك حاجة لحلول تفهم السياق الكامل لجلسة التصفح ويمكنها حماية الوكيل بشكل استباقي من خلال إضافة حواجز صارمة."
تبادل الاتهامات
تم ذكر الأمان من بين الأسباب التي جعلت أمازون تصدر أمرًا لشركة بيربلكسيتِي لإزالة بائع التجزئة عبر الإنترنت من تجربة كوميت.
كتبت أمازون في رسالة "توقف وانسحاب" مُرسلة إلى بيربلكسيتي: "شروط استخدام بيربلكسيتي وإشعار الخصوصية تمنحها حقوقاً واسعة لجمع كلمات المرور ومفاتيح الأمان ووسائل الدفع وتاريخ التسوق والبيانات الحساسة الأخرى من العملاء الذين يصلون إلى متجر أمازون أو مواقع الطرف الثالث الأخرى، مع التنصل من أي مسؤولية عن أمان البيانات.
“وفي الوقت نفسه،” واصلت، “يتعمد Perplexity التهرب من تحديد Amazon لعميل Comet AI عند وصوله إلى متجر Amazon، ومن ثم يتدخل مباشرة في جهود Amazon لإدارة مخاطر الأمن. وهذا مقلق بشكل خاص بالنظر إلى التقارير الأخيرة التي أظهرت أن Comet AI عرضة لهجمات حقن التعليمات البرمجية، والتصيد الاحتيالي، والاحتيالات، وأشكال أخرى من الهجمات الإلكترونية.”
ردت بيربلكسيتي بأن الهدف الحقيقي لأمازون هو حماية نموذج أعمالها المربح القائم على الإعلانات. عندما يُكلف وكيل الذكاء الاصطناعي ببساطة بشراء أرخص منظف للغسيل، فإنه يتخطى النتائج الممولة والبيع الإضافي والعروض المربكة التي تولد الإيرادات لأمازون، حسب قولها. وقارنت بيربلكسيتي الوضع بمتجر يسمح للعملاء فقط بتوظيف مساعد شخصي يعمل حصريًا لصالح المتجر، وليس مساعدًا شخصيًا حقيقيًا، بل مندوب مبيعات.
تطرح متصفحات الذكاء الاصطناعي مخاطر لا توجد في المتصفحات التقليدية. شرح دان بينتو، الرئيس التنفيذي والمؤسس المشارك لشركة Fingerprint، وهي شركة متخصصة في استخبارات الأجهزة وبصمة المتصفح في شيكاغو، قائلاً: "المتصفحات التقليدية لا تحاول تفسير الصفحة أو التفاعل معها".
قال لموقع TechNewsWorld: "مع متصفحات الذكاء الاصطناعي، يصبح المساعد الذكي جزءاً من تجربة التصفح. هذا يعني أنه سيقوم بتفسير الصفحة والتصرف بناءً على التعليمات المخفية بذكاء، لأن هذا ما صُمم للقيام به."
المتصفحات التقليدية تعرض المحتوى بينما تقوم متصفحات الذكاء الاصطناعي بتفسيره، كما أوضح ديلان ديودني، المؤسس المشارك والرئيس التنفيذي لشركة Kuvi.ai، مزود منتجات البرمجيات المدمجة.
قال لموقع TechNewsWorld: "هذه الطبقة التفسيرية هي مضاعف التهديدات. قد يقوم متصفح عادي بتحميل موقع ضار، لكن المتصفح المعتمد على الذكاء الاصطناعي يمكن التلاعب به اجتماعياً، خداعه، أو إجباره لغوياً على اتخاذ إجراءات نيابة عنك، بما في ذلك إجراءات لم توافق عليها أو حتى تفهمها. الأمر أشبه باختراق المساعد الذي كلفته باتخاذ القرارات بدلاً من اختراق المتصفح نفسه."
