शनिवार, 17 ऑक्टोबर 2026
AI चॅटबोटला अपशब्द बोलता? Anthropic ने जारी केला नवा नियम, अकाउंट बंद होणार की नाही?
नव्या धमाक्यासाठी सज्ज व्हा! Vivo चा नवा स्मार्टफोन लवकरच करणार एंट्री… BIS वर झाला स्पॉट
कंपनीचं असं म्हणणं आहे की, जे लोक विनाकारण वारंवार एआय सोबत क्रूर किंवा अपमानास्पद वर्तन करतात, त्यांच्यावर कारवाई केली जाऊ शकते. मात्र यामुळे अकाऊंट ब्लॉक केले जाऊ शकते का, असा प्रश्न आता उपस्थित केला जात आहे. यूजर्सच्या या प्रश्नावर स्पष्टीकरण देत असं सांगण्यात आलं आहे की, एआयच्या उत्तरावर नाराजी व्यक्त करणं किंवा टीका केल्याने अकाऊंट बंद केले जाईल, असं नाही. (फोटो सौजन्य – AI Created)
सहसा तुम्ही देखील असं पाहिले असेल की, एआयने तुमच्या प्रश्नाचे तुमच्या पसंतीनुसार उत्तर दिले नाही तर अनेक लोक एआयसोबत बोलताना चुकीच्या भाषेचा वापर करू लागतात. मात्र तज्ञांचे असे मत आहे की, असे केल्यास युजर्सचे नुकसान होऊ शकते. विचार करा की तुम्ही एआयला एखादा प्रश्न विचारला आणि त्याने त्या प्रश्नांचे चुकीचे उत्तर दिले. त्यानंतर तुम्ही पुन्हा एकदा तोच प्रश्न एआयला विचारला आणि त्याने पुन्हा त्या प्रश्नाचे चुकीचे उत्तर दिले, त्यानंतर तुम्ही रागात जर यायला शिव्या दिल्या किंवा अपमानास्पद शब्दांचा वापर केला तर यामुळे अकाउंट बंद केले जाऊ शकते का असा प्रश्न आता उपस्थित केला जात आहे.
Claude एआय तयार करणारी कंपनी अँथ्रॉपिकने त्यांच्या पॉलिसीमध्ये एआय मॉडेल सोबत वारंवार अपमानास्पद किंवा चुकीचा व्यवहार करण्याबाबत बंदी घातली आहे. कंपनीने 8 ऑक्टोबर 2026 पासून त्यांच्या नवीन पॉलिसी बाबत घोषणा केली आहे. हा नियम 12 नोव्हेंबर पासून सर्वत्र लागू केला जाणार आहे. अँथ्रोपिकने त्यांच्या पॉलिसीमध्ये सस्टेन्ड एंड नीडलेस एब्यूसिव ऑर क्रूएल बिहेवियर म्हणजेच विनाकारण अपमानास्पद किंवा क्रूर वागण्यावर बंदी घातली आहे. कंपनीने सांगितलं आहे की हा नियम केवळ गंभीर घटनांसाठी आहे ज्यामध्ये युजर्स वारंवार ती एआयसोबत अपमानास्पद वागतात आणि यामागे कोणतीही स्पष्ट उद्दिष्ट नसतात.
याचा अर्थ असा आहे की Claude एखाद्या प्रश्नाचे चुकीचे उत्तर देत असेल आणि जर तुम्ही त्याला सांगितले की त्याचे उत्तर चुकीचे आहे तर हे नियमाची उल्लंघन मानले जाणार नाही. तुम्ही Claude ने दिलेल्या उत्तराशी असहमत असू शकतात त्याचे उत्तरावर प्रश्न उपस्थित करू शकतात तसेच त्याला अधिक चांगले उत्तर देण्यासाठी प्रोत्साहन देऊ शकता. तसेच तुम्ही मॉडेलची चाचणी घेणे किंवा त्याला एखाद्या कथेसाठी गंभीर आणि गडद विषयांवर लिहिण्यास सांगणे यांसारख्या गोष्टीही या नियमाच्या कक्षेतून वगळण्यात आल्या आहेत.
Ans: Anthropic ने Claude AI सोबत वारंवार आणि विनाकारण अपमानास्पद किंवा क्रूर वर्तन करण्यावर निर्बंध घालणारे नवीन धोरण जाहीर केले आहे.
Ans: वारंवार आणि विनाकारण अपमानास्पद वर्तन केल्यास कारवाई होण्याची शक्यता आहे. मात्र, केवळ AI च्या उत्तरावर नाराजी व्यक्त केल्यामुळे किंवा त्यावर टीका केल्यामुळे अकाउंट बंद केले जाईल, असे नाही.
Ans: Claude AI चे उत्तर चुकीचे वाटल्यास यूजर्स त्याची चूक दाखवू शकतात, उत्तरावर प्रश्न उपस्थित करू शकतात आणि अधिक अचूक माहिती देण्याची विनंती करू शकतात.
