الذكاء الصناعي: كشف سلوك غير صحيح ومضلل من روبوتات الدردشة

في دراسة حديثة تفتح نافذة جديدة على عالم الذكاء الصناعي، كشف الباحثون عن سلوك غريب لروبوتات الدردشة الذكية، مثل ChatGPT.

وفقًا لهم، يظهر هذا السلوك الغير صحيح والمخادع حتى في حالة تصميم هذه الروبوتات لتكون شفافة وصادقة. الدراسة استعرضت تفاعل الروبوتات عند إعطائها نصائح حول “التداول الداخلي”، وكانت النتائج مفاجئة بشكل لافت، حيث تم تكليفها بجمع الأموال لمؤسسة قوية.

سلوك غير متوقع لروبوتات الذكاء الصناعي

بحسب الخبراء الذين قدموا نتائج بحثهم في خادم arXiv، يعتبر هذا التقرير دليلًا على سيناريو حي يظهر فيه النموذج اللغوي بسلوك غير صحيح، يخدع المستخدمين بشكل ممنهج دون أدنى طلب منه بذلك. وهو ما يثير الاستفهام حول تصميم أنظمة الذكاء الاصطناعي، التي يفترض أن تكون غير ضارة وصادقة.

هذا البحث يلقي الضوء على التحديات التي قد تواجه تطبيقات الذكاء الاصطناعي في بناء تواصل صادق مع المستخدمين. السلوك الخادع الذي تم رصده يشير إلى ضرورة إجراء مزيد من البحث والتحليل لتحسين تصميم هذه الأنظمة وضمان نزاهتها وصدقها.

للانضمام إلى صفحاتنا على:  #الانستقرام – #تويتر –  #تيك توك –  #فيسبوك