ما تثقش في ChatGPT.. دراسة تؤكد: يخدعك بنتائج مضللة ولا يمكن الاعتماد عليه

كشفت دراسة نشرت في صحيفة The Guardian البريطانية، أن ChatGPT Search، وهو محرك بحث يعمل بالذكاء الاصطناعي تم إطلاقه هذا الشهر، يمكن خداعه لتوليد ملخصات مضللة تمامًا.

كشفت دراسة نشرت في صحيفة The Guardian البريطانية، عن أن ChatGPT Search، وهو محرك بحث يعمل بالذكاء الاصطناعيتم إطلاقه هذا الشهر، يمكن خداعه لتوليد ملخصات مضللة تمامًا.

وأوضح الباحثون، أن ميزة البحث فيChatGPT، تهدف إلى جعل التصفح أسرع من خلال القيام بأشياء مثل تلخيص مراجعات منتجات صفحة الويب، لكن The Guardian وجدت أنه يمكن جعل ChatGPT ، يتجاهل المراجعات السلبية ويولد ملخصات "إيجابية تمامًا" عن طريق إدراج نص مخفي في مواقع الويب التي أنشأها.

وأشار التقرير، إلى أنه يمكن أيضًا جعلChatGPT Searchيخرج كودًا ضارًا باستخدام هذه الطريقة.

تعد مثل هذه الهجمات النصية المخفية خطرًا معروفًا لنماذج اللغة الكبيرة، ولكن يبدو أن هذه هي المرة الأولى التي يتم فيها إثبات ذلك على منتج بحث مباشر يعمل بالذكاء الاصطناعي.

لم تعلقOpenAIعلى هذه الحادثة المحددة عندما تواصلت معها TechCrunch لكنها قالت إنها تستخدم مجموعة متنوعة من الأساليب لحظر المواقع الضارة وتحسن باستمرار.