तुमच्या प्रत्येक मताला AI चा पाठिंबा का? ‘गोड विषा’बद्दल संशोधकांचा इशारा; समोर आली धक्कादायक बाब
तुम्ही कधी निरीक्षण केले आहे का, की तुम्ही एखाद्या विषयावर मत मांडल्यानंतर एआय तुमच्या प्रत्येक मताला हो असे उत्तर देतो. म्हणजेच तुमच्या हो ला हो करतो. असे का, यामुळे यूजर्सवर परिणाम होऊ शकतो का? याबाबत संशोधकांनी देखील त्यांच मत मांडले आहे. तसेच यूजर्सना सावध राहण्याचा देखील इशारा दिला आहे. (फोटो सौजन्य – AI Created)
तुम्ही कधी या गोष्टीकडे लक्ष दिले आहे का की, जेव्हा तुम्ही एआय चॅटबॉटकडे एखादे मत मांडता, तेव्हा तो नेहमी तुमच्याशी सहमत असतो. तुम्ही चुकीचे असलात तरी तो तुमच्या ‘हो’ ला ‘हो’ मिळवतो. प्रत्येकाला आपली स्तुती आणि आपल्या मताचे समर्थन आवडते. एआय कंपन्यांना ही बाब नेमकी माहित आहे. विज्ञानाच्या भाषेत याला ‘सायकोफॅटिक एआय’ किंवा ‘चापलूस एआय’ म्हटले जात आहे.
स्टॅनफोर्ड आणि कार्नेगी मेलन युनिव्हर्सिटीच्या सायन्स जर्नलमध्ये प्रसिद्ध झालेल्या एका संशोधनाने या ‘गोड विषा’ बद्दल सावध केले आहे.
२.४०५ सहभागीवर केलेल्या प्रयोगातून असे दिसून आले की, एआयच्या ‘हो’ ला ‘हो’ मिळवण्यामुळे लोक अधिक अहंकारी झाले आणि आपणच बरोबर आहोत असा त्यांचा समज पक्का झाला आहे. चुकीचे असूनही एआयचे समर्थन मिळाल्यामुळे, ही मंडळी खऱ्या आयुष्यात माफी मागण्यास कमी उत्सुक दिसली. यामुळे त्यांच्या आत्मचिंतन करण्याच्या प्रक्रियेवर वाईट परिणाम झाला आहे.
संशोधकांनी ११ प्रमुख एआय मॉडेल्सच्या चाचणीत असे आढळले की, एआय सिस्टम माणसांच्या तुलनेत ४९% वेळा वापरकर्त्याच्या मतांची पुष्टी करतात.
