تبين أن محرك البحث ChatGPT، الذي يعمل بالذكاء الاصطناعي والذي تم إطلاقه هذا الشهر، يمكن أن يتم خداعه لتوليد ملخصات مضللة تماما، كما اكتشفت صحيفة The Guardian البريطانية.
يوفر ميزة البحث التابعة لـ ChatGPT جعل التصفح أسرع من خلال أمور مثل تلخيص مراجعات المنتجات الموجودة على صفحة الويب. ولكن وجدت The Guardian أنه يمكنها أن تجعل ChatGPT يتجاهل المراجعات السلبية ويولد ملخصات 'إيجابية تماما' عن طريق إدراج نص مخفي في المواقع التي أنشأتها. بالإضافة إلى ذلك، يمكن أيضا جعل ChatGPT Search يخرج برمز خبيث باستخدام هذه الطريقة.
هذه الهجمات بالنصوص الخفية هي مخاطر معروفة لنماذج اللغة الكبيرة، لكن يبدو أن هذا هو المرة الأولى التي يتم فيها إظهار ذلك على منتج بحث مدعوم بالذكاء الاصطناعي بشكل مباشر. ولاحظت The Guardian أن Google، الرائد في مجال البحث، لديه خبرة أكبر في التعامل مع مشاكل مماثلة.
لم تعلق OpenAI على هذا الحادث المحدد عندما تواصلت معها TechCrunch ولكنها قالت إنها تستخدم مجموعة متنوعة من الأساليب لمنع المواقع الخبيثة وتعمل باستمرار على تحسين أدائها.
!TechCrunch لديه نشرة إخبارية مركزة على الذكاء الاصطناعي! سجل هنا لتحصل عليها في صندوق البريد الوارد كل أربعاء.
