باحثون يحذرون من إمكانية تسميم أدوات الذكاء الاصطناعي لتوليد محتوى مضلل

(MENAFN) حذر باحثون من تعرض بعض أدوات الذكاء الاصطناعي مثل "تشات جي بي تي" و"جيميناي" لخطر التلاعب والتسميم، مما قد يؤدي إلى إنتاج محتوى مضلل وغير دقيق.

وأظهرت دراسة مشتركة أجراها مركز الذكاء الاصطناعي في بريطانيا، ومعهد ألان تورينغ، وشركة أنتروبيك للذكاء الاصطناعي، سهولة استغلال ثغرات هذه الأدوات عبر تدريبها ببيانات مغلوطة.

وبحسب الدراسة، فقد تم تغذية هذه الأدوات بأكثر من 250 وثيقة ملوثة بمعلومات خاطئة، تم إدخالها عبر ثغرة خلفية، ما أدى إلى إنتاج نصوص غامضة وغير واضحة. وجاء في تقرير صحيفة إندبندنت البريطانية أن النتائج أظهرت مدى هشاشة هذه النماذج أمام الهجمات التي تستهدف تشويه مخرجاتها.

MENAFN11102025000045017169ID1110181666