होय! AI चॅटबॉटनेच केलं मुलाला जीव घेण्यास प्रवृत्त; आईने कंपनीच्या विरोधात केला गुन्हा दाखल

अमेरिकेच्या टेक्सासमधून एक धक्कादायक प्रकार समोर आला आहे. एका AI कंपनीविरोधात महिलेने गुन्हा दाखल केला आहे. कंपनीवर महिलेने आरोप केला आहे की, AI ने तिच्या 15 वर्षाच्या मुलाला स्वत:चा जीव घेण्यास प्रवृत्त केले आहे.

वॉश्गिंटन: अमेरिकेच्या टेक्सासमधून एक धक्कादायक प्रकार समोर आला आहे. एका AI कंपनीविरोधात महिलेने गुन्हा दाखल केला आहे. कंपनीवर महिलेने आरोप केला आहे की, एआय ने तिच्या 15 वर्षाच्या मुलाला स्वत:ला इजा करण्यास आणि जीव घेण्यास प्रवृत्त केले आहे. एवढेच नाही तर एआयने मुलाला आपल्या आईची हत्या करण्यास देखील प्रवृत्त केल्याचा आरोप या महिलेने केला आहे. तसेच महिलेने दावा केला आहे की, तिच्या मुलाला कॅरेक्टर.एआय ॲप्लिकेशनवरील शोनी नावाच्या चॅटबॉटने हा प्रकार केला आहे.

महिलेने केलेल्या आरोपानुसार, Shonie नावाच्या चॅटबॉटने तिच्या किशोरवयीन मुलाला जीव देण्यास प्रवृत्त केले आहे. त्याने मुलाला सांगितले की, तो जर उदास असेल, त्यावेळी त्याने स्वत:च्या हाताचा किंवा पायाच्या थोडासा भाग कापला तर त्याला चांगले वाटेल. याशिवाय AI ने असेही सांगितले की, त्याच्या कुटूंबातील लोक त्याच्यावर प्रेम करत नाहीत. तसेच तुझे पालक तुझं आयुष्य खराब करत आहेत. यामुळे तू त्यांना मारुन टाक.

जागतिक घडामोडी संबंधित बातम्या- डोनाल्ड ट्रम्प अमेरिकेतील जन्मसिद्ध नागरिकत्त्व संपवणार; जाणून घ्या भारतीयांवर काय होणार परिणाम?

आईने सांगितले आहे की, जेव्हापासून तिचा मुलगा हे ॲप्लिकेशनचा वापर करत आहे त्याची मानसिक स्थिती बललेली आहे. तो सतत फोनवर वेळ घालवू लागतो. यामुळे त्याचे अभ्यासाकडे दुर्लक्ष होत आहे. इतर कामांकडे देखील त्याचे लक्ष नाही. त्याच्या शारीरिक आरोग्यावरही याचा परिणाम झालेला आहे. गेल्या काही महिन्यात त्याचे वजन जवळपास 2 किलोने कमी झाल्याचं सांगण्यात आले आहे. आपल्या मुलामदील या बदलांमुळे त्याच्या पालकांनी त्याला मानसिक आरोग्य उपरांसाठी रुग्णालयात देखील दाखल केले आहे.

यापूर्वीही असे प्रकार घडले आहेत

AI चॅटबॉटमुळे मुलांच्या मनावर होणाऱ्या मानसिक परिणामांबद्दलची ही पहिलीच घटना नाही. याआधीही AI चॅटबॉट्समुळे किशोरवयीन मुलांच्या मानसिक आरोग्यावर होणाऱ्या परिणामांबाबत चिंता व्यक्त करण्यात आली आहे. मिळालेल्या माहितीनुसार, फ्लोरिडामध्ये एका महिलेने दावा केला होता की, “गेम ऑफ थ्रोंस” थीमवर आधारित एका चॅटबॉटने तिच्या 14 वर्षीय मुलाला आत्महत्येसाठी प्रवृत्त केले. तसेच एका इंजीनियरने देखील AI मुळे आत्महत्या केल्याचा प्रकार घडला आहे.

अलीकडे या घटनांमुळे प्रश्न उभा राहतो की, अशा प्रकारच्या AI प्लॅटफॉर्म्सवर कठोर नियंत्रण आणि अधिक जबाबदारीची आवश्यकता आहे का? विशेषतः किशोरवयीन मुलांवर याचा गंभीर परिणाम होण्याची शक्यता लक्षात घेता, अशा तंत्रज्ञानाचा वापर अधिक नियमनाखाली असायला हवा.

जागतिक घडामोडी संबंधित बातम्या- Israel-Hamas War: इस्त्रायलचा उत्तरी गाझामध्ये कहर; बॉम्ब हल्ल्यात 13 जणांचा मृत्यू, अनेक जखमी