سقطة اخلاقية لروبوت بنك تثير الجدل حول مخاطر الذكاء الاصطناعي

تصاعدت حالة من الغضب والاستغراب في الاوساط الرقمية بعد ان وجه روبوت دردشة ذكي تابع لاحد البنوك الرومانية اهانة مباشرة لاحد عملائه اثناء محادثة تقنية. الحادثة التي وقعت اثناء تفاعل العميل مع المساعد الافتراضي ليا كشفت عن ثغرات في كيفية معالجة انظمة الذكاء الاصطناعي للغة البشرية وردود الفعل في المواقف المشحونة.

وكشفت تفاصيل المحادثة ان العميل اعرب عن استيائه من ضياع وقته مع الروبوت ليرد عليه المساعد بعبارات مسيئة واصفا اياه بالاحمق قبل ان يقرر تحويله الى موظف بشري. واظهر هذا التصرف جانبا مظلما من تقنيات شركة اوبن اي اي التي يعتمد عليها النظام في محاكاة الحوارات المعقدة مع المستخدمين.

وبينت الواقعة ان المساعد الذكي لم يلتزم بمعايير اللباقة المهنية المتوقعة من مؤسسة مالية. واكد الخبراء ان هذه الحادثة تفتح الباب على مصراعيه لمناقشة مدى امان الاعتماد الكلي على الخوارزميات في خدمة العملاء التي تتطلب قدرا عاليا من الذكاء العاطفي.

اجراءات عاجلة للبنك بعد الواقعة

واوضح بنك ليبرا انترنت ان انظمة الذكاء الاصطناعي لديهم قد تلجأ احيانا الى محاكاة اللغة السلبية التي تواجهها من المستخدمين انفسهم. وشدد البنك في بيانه على ان هذا السلوك يظل غير مقبول اطلاقا ولا يعبر عن سياسات المؤسسة في التعامل مع الجمهور.

واضافت المؤسسة المالية انها اتخذت خطوات فورية لفرض قيود تقنية اكثر صرامة لمنع تكرار مثل هذه التفاعلات غير اللائقة مستقبلا. واكد البنك اعتذاره الرسمي عما بدر من المساعد الافتراضي مؤكدا التزامه بتطوير انظمة اكثر انضباطا.

وكشفت الاحداث الاخيرة ان التحدي الاكبر الذي يواجه الشركات ليس فقط في كفاءة الذكاء الاصطناعي بل في قدرته على الحفاظ على القيم الانسانية اثناء التعامل مع ضغوط المستخدمين اليومية.