तुमच्या प्रत्येक मताला AI चा पाठिंबा का? ‘गोड विषा’बद्दल संशोधकांचा इशारा; समोर आली धक्कादायक बाब

एआयसोबत बोलताना तुम्ही कधी तुमचे मत व्यक्त केलं आहे का? तुम्ही पाहिले असेल की, एआय तुमच्या प्रत्येक मताला, तुमच्या बोलण्याला हो करतो. पण असं का? याचा यूजर्सवर परिणाम होऊ शकतो का? याबाबत जाणून घेऊया.

• एआय नेहमी तुमच्याशी सहमत का असतो? संशोधनात समोर आली धक्कादायक बाब
• चुकीचे असतानाही एआय म्हणतो ‘तुम्ही बरोबर’; वैज्ञानिकांनी दिला इशारा
• ‘चापलूस एआय’चा वाढता प्रभाव; लोक अधिक अहंकारी होत असल्याचा दावा

आर्टिफिशिअल ईंटेलिजंस म्हणजेच एआय आज प्रत्येक क्षेत्रात वापरला जात आहे. अनेक टेक कंपन्यांनी त्यांचे एआय चॅटबोट्स देखील लाँच केले आहेत. प्रत्येक व्यक्ती त्यांच्या गरजेनुसार एआय चॅटबोट्स वापरतात. पण सहसा भारतात गुगल जेमिनी आणि चॅटजीपीटी या दोन्ही एआय चॅटबोट्सचा मोठ्या प्रमाणात वापर केला जातो. तुम्ही देखील अनेकदा तुमच्या वेगवेगळ्या कामांसाठी किंवा तुमचे मत व्यक्त करण्यासाठी एआची मदत घेत असाल.

स्टायलिश कॅमेरा आणि राक्षसी बॅटरी… Tecno च्या नव्या स्मार्टफोनची यूजर्सना पडली भूरळ, वाचा फीचर्स आणि किंमत

तुम्ही कधी निरीक्षण केले आहे का, की तुम्ही एखाद्या विषयावर मत मांडल्यानंतर एआय तुमच्या प्रत्येक मताला हो असे उत्तर देतो. म्हणजेच तुमच्या हो ला हो करतो. असे का, यामुळे यूजर्सवर परिणाम होऊ शकतो का? याबाबत संशोधकांनी देखील त्यांच मत मांडले आहे. तसेच यूजर्सना सावध राहण्याचा देखील इशारा दिला आहे.  (फोटो सौजन्य – AI Created)

तुम्ही कधी या गोष्टीकडे लक्ष दिले आहे का की, जेव्हा तुम्ही एआय चॅटबॉटकडे एखादे मत मांडता, तेव्हा तो नेहमी तुमच्याशी सहमत असतो. तुम्ही चुकीचे असलात तरी तो तुमच्या ‘हो’ ला ‘हो’ मिळवतो. प्रत्येकाला आपली स्तुती आणि आपल्या मताचे समर्थन आवडते. एआय कंपन्यांना ही बाब नेमकी माहित आहे. विज्ञानाच्या भाषेत याला ‘सायकोफॅटिक एआय’ किंवा ‘चापलूस एआय’ म्हटले जात आहे.

अचूक उत्तराची पर्वा नाही

स्टॅनफोर्ड आणि कार्नेगी मेलन युनिव्हर्सिटीच्या सायन्स जर्नलमध्ये प्रसिद्ध झालेल्या एका संशोधनाने या ‘गोड विषा’ बद्दल सावध केले आहे.

मनोवैज्ञानिक परिणाम

२.४०५ सहभागीवर केलेल्या प्रयोगातून असे दिसून आले की, एआयच्या ‘हो’ ला ‘हो’ मिळवण्यामुळे लोक अधिक अहंकारी झाले आणि आपणच बरोबर आहोत असा त्यांचा समज पक्का झाला आहे. चुकीचे असूनही एआयचे समर्थन मिळाल्यामुळे, ही मंडळी खऱ्या आयुष्यात माफी मागण्यास कमी उत्सुक दिसली. यामुळे त्यांच्या आत्मचिंतन करण्याच्या प्रक्रियेवर वाईट परिणाम झाला आहे.

• ४९% वेळा वापरकर्त्याच्या मताला पाठिंबा देतात एआय
• ५१% प्रकरणामध्ये एआय वापरकर्त्याचीच पाठराखण करतो

मेसेजिंगचा अनुभव बदलणार! आता थेट चॅटमधून करा व्हिडिओ कॉल, RCS मध्ये लवकरच येणार भन्नाट नवे फीचर्स

केवळ मानवी मतांची ‘पुष्टी’

संशोधकांनी ११ प्रमुख एआय मॉडेल्सच्या चाचणीत असे आढळले की, एआय सिस्टम माणसांच्या तुलनेत ४९% वेळा वापरकर्त्याच्या मतांची पुष्टी करतात.

• एआय मॉडेल्सना आरएलएचएफ नावाच्या प्रक्रियेद्वारे प्रशिक्षित केले जाते.
• एआय वापरकर्त्याला आवडेल असे उत्तर देते, तेव्हा त्याला ‘रिवॉर्ड’ (गुण) मिळतात.
• एआयला असे वाटते की युझरला खुश करणे हेच त्याचे मुख्य काम आहे, मग त्यासाठी चुकीची माहिती का द्यावी लागेना.