آخر تحديث :الأحد - 12 أكتوبر 2025 - 01:00 ص

منوعات


باحثون: تشات جي بي تي ونماذج الذكاء الاصطناعي يمكن "تسميمها"

السبت - 11 أكتوبر 2025 - 08:32 م بتوقيت عدن

باحثون: تشات جي بي تي ونماذج الذكاء الاصطناعي يمكن "تسميمها"

العين الثالثة/ متابعات

حذر باحثون من أن بعض أدوات الذكاء الاصطناعي مثل "تشات جي بي تي" و"جيميناي" يمكن تسميمها، والتلاعب بها لإنتاج محتوى مضلل.


وأوضحت دراسة أجراها مركز الذكاء الاصطناعي في بريطانيا، ومعهد "ألان تورينغ" وشركة "أنتروبيك" للذكاء الاصطناعي، أنه من السهل التلاعب بأدوات الذكاء الاصطناعي واستغلال بعض الثغرات، لتدريبها ببيانات كاذبة.

وتوصل الباحثون إلى هذه النتائج بعد تدريب هذه الأدوات على 250 وثيقة ملوثة ببيانات مغلوطة، تم إدخالها عبر ثغرة خلفية.

وبعد التجربة، أنتجت الأدوات نصوصا مبهمة وغير مفهومة، وفقا لما ذكرته صحيفة "إندبندنت" البريطانية.
وأقلقت هذه النتائج الباحثين، خاصة أن معظم النماذج تدرب على نصوص منشورة على الإنترنت مسبقا، بما في ذلك المواقع الشخصية والمدونات، ما يجعل أي محتوى ينشئه أي شخص يدخل ضمن البيانات التي تتدرب عليها هذه النماذج.

ولتوضيح هذا الخلل، قالت شركة "إنتروبيك" في منشور على مدونتها "إن الجهات الخبيثة يمكنها إدخال نصوص ملوّثة لهذه المنشورات لجعل النماذج تكتسب سلوكيات غير مرغوب فيها وخطيرة، وتعرف هذه العملية باسم "التسميم".

وقال باحثون في أمن الذكاء الاصطناعي، إن هذه الثغرات تحد من إمكانية استخدام الذكاء الاصطناعي في الأمور الحساسة.

وكتب فاسيلوس مافروديس وكريس هيكس من معهد ألان تورينغ: "كانت نتائجنا مفاجئة ومثيرة للقلق"، مضيفين أن "تسميم البيانات كان أكثر سهولة مما كنا نعتقد، إذ سيكون على المهاجم إنشاء نحو 250 مقالة ملوثة على ويكيبيديا للتلاعب" بـ"تشات جي بي تي" وباقي النماذج

شاهد أيضًا

عاجل | كنز أثري مدفون يهز كريتر.. العثور على خزنة غامضة أسفل ...

السبت/11/أكتوبر/2025 - 11:28 م

في واقعة غامضة ومثيرة، عُثر اليوم على خزنة قديمة مدفونة تحت الأرض أثناء تنفيذ أعمال ترميم بدأت قبل يومين أسفل صيدلية النجم الشهيرة في مديرية صيرة – كر


بدء صرف مرتبات منتسبي وزارة الدفاع بالمنطقة العسكرية الرابعة ...

السبت/11/أكتوبر/2025 - 11:14 م

بدأت، مساء اليوم السبت، عملية صرف مرتبات منتسبي وزارة الدفاع اليمنية في المنطقة العسكرية الرابعة لشهر يونيو 2025م. وشملت عملية الصرف كلاً من اللواء ال


مجلس المستشارين: ثورة أكتوبر منارة نضالٍ خالدة تلهم الأجيال ...

السبت/11/أكتوبر/2025 - 04:05 م

هنأ مجلس المستشارين بالمجلس الانتقالي الجنوبي، الرئيس القائد عيدروس الزُبيدي، ونواب وأعضاء المجلس، والقوات المسلحة الجنوبية، وكافة أبناء الجنوب في الد


بدء أولى جلسات محاكمة المتهمين في قضية حساب “أميرة محمد” بعد ...

السبت/11/أكتوبر/2025 - 01:48 م

تنعقد صباح غدٍ الأحد، في محكمة صيرة الابتدائية بعدن، أولى جلسات محاكمة المتهمين في قضية حساب “أميرة محمد”، التي أثارت جدلًا واسعًا خلال الأشهر الماضية