तुमचा आवाजच तुमच्या मत्यूचं कारण बनू शकतं का? ‘या’ AI मॉडेलचा वापर धोकादायक ठरू शकतो

काही दिवसांपूर्वीच फ्रेंच कंपनी Kyutai ने जगातील पहिला AI व्हॉईस असिस्टंट Moshi लाँच केला आहे. Moshi मराठीसह अनेक भाषांमध्ये बोलू शकतो. यानंतर आता Microsoft ने AI स्पीच जनरेटर VALL-E 2 लाँच केला आहे. VALL-E 2 हा टेक्स्ट-टू-स्पीच (TTS) जनरेटर आहे. एखाद्या व्यक्तिचा आवाज ऐकल्यानंतर काही सेकंदातच VALL-E 2 हुबेहुब त्या व्यक्तीच्या आवाजात बोलू लागतो.

Apple, Microsoft, Samsung, Meta आणि Google या कंपन्यानी त्यांचे AI असिसस्टंट लाँच केले आहेत. Meta चा AI चॅटबोट ChatGPT आणि Gemini ला टक्कर देत आहे. Apple ने Apple Intelligence, Google ने Gemini, Samsung ने Galaxy AI असिस्टंट लाँच केलं. कंपन्या दिवसेंदिवस AI क्षेत्रात मोठी प्रगत करत आहेत. यामुळे जतभरात AI ची क्रेझ वाढत आहे. AI मध्ये होणारी प्रगती पाहता लोकं त्यांच्या छोट्या छोट्या कामांसाठी देखील AI चा वापर करत आहेत. AI असिसस्टंट आपल्या जीवनाचा एक भाग बनले आहेत. दिवसेंदिवस AI चा ट्रेंड मोठ्या प्रमाणात वाढत आहे. AI च्या मदतीनं आपली अनेक कामं सहज शक्य होतात. कोणत्या प्रश्नाचं उत्तर शोधणं असो किंवा कोणत्या विषयावर खोलवर माहिती शोधणं, आपण आपल्या अनेक कामांसाठी AI चा वापर करू शकतो.

काही दिवसांपूर्वीच फ्रेंच कंपनी Kyutai ने जगातील पहिला AI व्हॉईस असिस्टंट Moshi लाँच केला आहे. Moshi मराठीसह अनेक भाषांमध्ये बोलू शकतो. तो बोलताना तुमच्या आवाजातील सूर समजून घेतो आणि त्यानुसार तुम्हाला उत्तर देतो. यानंतर आता Microsoft ने AI स्पीच जनरेटर VALL-E 2 लाँच केला आहे. VALL-E 2 हा टेक्स्ट-टू-स्पीच (TTS) जनरेटर आहे. एखाद्या व्यक्तिचा आवाज ऐकल्यानंतर काही सेकंदातच VALL-E 2 हुबेहुब त्या व्यक्तीच्या आवाजात बोलू लागतो. त्यामुळे आपण AI स्पीच जनरेटर सोबत बोलत आहोत की एखाद्या व्यक्तिसोबत हे ओळखणं देखील कठीण होतं. पण VALL-E 2 च्या फीचरमुळे अनेक चुकीचे काम होण्याची शक्यता आहे. त्यामुळे VALL-E 2 चा वापर करणे मानसांसाठी धोकादायक आहे, असा दावा संशोधकांनी केला आहे.

Microsoft ने लाँच केलेला AI स्पीच जनरेटर VALL-E 2 टेक्स्ट-टू-स्पीच (TTS) जनरेटर आहे. VALL-E 2 माणसाचा आवाज ऐकू शकतो आणि काही सेकंदात त्या माणसाच्या आवाजासारखा आवाज तयार करू शकतो. सध्या सर्वसामान्यांनी VALL-E 2 चा वापर करू नये, असा सल्ला संशोधकांनी दिला आहे.

संशोधकांच्या मते, VALL-E 2 अचूक आणि नैसर्गिक मानवी आवाज तयार करू शकते. सोप्या भाषेत, फक्त ऐकून तुम्ही यंत्राशी बोलत आहात की माणसाशी हे ठरवणे कठीण आहे. VALL-E 2 पारंपारिकदृष्ट्या गुंतागुंतीची आणि आव्हानात्मक असलेली वाक्येही बोलू शकतो. त्यामुळे अनेक समस्या निर्माण होऊ शकतात. एवढेच नाही तर VALL-E 2 च्या गैरवापरामुळे तो आपल्या मृत्यूचं कारण देखील ठरू शकतो. VALL-E 2 अगदी माणसासारखा आवाज करू शकतो. पण त्याचे हेच वैशिष्ट्ये चुकीच्या कारणांसाठी वापरली जाऊ शकते. त्यामुळे VALL-E 2 मानवांमध्ये लाँच करण्याची कोणतीही योजना नाही. त्याचा गैरवापर रोखणे हे त्यामागचे कारण आहे. कोणीही याचा वापर करून दुसऱ्याची तोतयागिरी करून फसवणूक करू शकतो. याशिवाय व्हॉईस क्लोनिंग आणि डीपफेकच्या वाढत्या प्रकरणांमुळेही हा निर्णय घेण्यात आला आहे.