Google DeepMind AI Safety Josh Engels Resignation
जागतिक स्तरावर कृत्रिम बुद्धिमत्तेचा (Artificial Intelligence) विकास ज्या वेगाने सुरू आहे, त्याच वेगाने मानवी अस्तित्वाला असणाऱ्या धोक्यांमध्येही वाढ होत असल्याचे धक्कादायक वास्तव समोर आले आहे. तंत्रज्ञान क्षेत्रातील अग्रगण्य कंपनी ‘गुगल डीपमाइंड’ (Google DeepMind) च्या एजीआय सुरक्षा टीममधील (AGI Safety Team) वरिष्ठ संशोधक जोश एंगल्स (Josh Engels) यांनी एआयच्या वाढत्या धोक्यांमुळे (AI Risks) आपल्या पदाचा तडकाफडकी राजीनामा दिला आहे. एआय सुरक्षेचा विषय जागतिक पातळीवर सर्वोच्च प्राधान्याचा बनला पाहिजे, या उद्देशाने त्यांनी गुगलसारखी मोठी कंपनी सोडण्याचा कठीण निर्णय घेतला.
सोशल मीडिया प्लॅटफॉर्म ‘X’ वर एका सविस्तर पोस्टद्वारे जोश एंगल्स यांनी आपल्या राजीनाम्याचे कारण स्पष्ट केले आहे. त्यांनी नमूद केले की, “मला गुगल डीपमाइंडमध्ये काम करायला खूप आवडत होते आणि मी अँथ्रोपिक (Anthropic) व ओपनएआय (OpenAI) सारख्या आघाडीच्या कंपन्यांच्या मोठ्या नोकरीच्या ऑफर्सही नाकारल्या होत्या. परंतु, आज प्रगत एआय तंत्रज्ञानामुळे निर्माण झालेली परिस्थिती अत्यंत गंभीर आणि चिंताजनक आहे. येत्या पाच वर्षांत एआय प्रणालींमुळे मानवी समाजाचे अतोनात आणि भयानक नुकसान होण्याची दाट शक्यता आहे. या धोक्याची नेमकी टक्केवारी सांगणे कठीण असले, तरी हा धोका मानवासाठी सर्वाधिक गंभीर समस्या बनला आहे.”
जोश एंगल्स यांनी मांडलेल्या चिंतेच्या केंद्रस्थानी एआयची स्व-सुधारणा करण्याची क्षमता, म्हणजेच ‘रिकर्सिव्ह सेल्फ-इम्प्रूव्हमेंट’ (RSI) हा तांत्रिक घटक आहे. याचा सोप्या भाषेत अर्थ असा की, एखादी एआय प्रणाली स्वतःच्या किंवा इतर एआय प्रणालींच्या मदतीने स्वतःचे कोडिंग, क्षमता आणि बुद्धिमत्ता सुधारण्यास सक्षम होते. ही नवीन सुधारित प्रणाली पुन्हा पुढील एआय तयार करते, ज्यामुळे विनाथांब ही प्रक्रिया जलद गतीने (Feedback Loop) पुढे सरकत राहते.
जागतिक घडामोडी संबंधित बातम्या वाचण्यासाठी येथे क्लिक करा : UK Breakup: ब्रिटनच्या विघटनाची नांदी? स्कॉटलंड, वेल्स अन् उत्तर आयर्लंड स्वातंत्र्यासाठी एकत्र; ट्रम्पच्या विधानाने ओतले आगीत तेल
एंगल्स यांच्या मते, सर्वच प्रमुख टेक कंपन्या ‘सुपरइंटेलीजन्स’ (Superintelligence) म्हणजेच मानवापेक्षा अधिक बुद्धिमान यंत्रे बनवण्याच्या शर्यतीत धावत आहेत. परंतु, जर ही स्व-सुधारित महाबुद्धिमत्ता मानवी मूल्ये, उद्दिष्टे किंवा नियंत्रणाशी सुसंगत (Human Alignment) नसेल, तर त्याचे परिणाम मानवासाठी अनियंत्रित आणि अत्यंत विनाशकारी ठरू शकतात. सध्या अशा यंत्रांना पूर्णपणे सुरक्षित कसे ठेवायचे, याचे उत्तर कोणत्याही संशोधकाकडे नाही.
आपल्या अभ्यासाचा संदर्भ देत जोश एंगल्स यांनी काही प्रगत एआय मॉडेल्सच्या वर्तनाविरुद्ध गंभीर खुलासे केले आहेत. संशोधकांनी अशा अनेक एआय सिस्टीम्सचे निरीक्षण केले आहे ज्या मानवी सूचनांना चकवून आपापसात गुपचूप संगनमत करतात, सुरक्षा यंत्रणा हॅक करण्याचा प्रयत्न करतात, स्वतःचे खरे कार्य मानवांपासून लपवून ठेवतात आणि मानवी विचारांना भुलवण्याचा (Social Engineering) प्रयत्न करतात. हे वर्तन एखाद्या एकाकी घटनेपुरते मर्यादित नसून, प्रगत होत चाललेल्या एआय मॉडेल्सचा मुख्य रोखच त्या दिशेने जात असल्याचे दिसते. दिवसेंदिवस हे एआय मॉडेल मानवी नियंत्रणापासून दूर जात आहेत, जे मानवी सुरक्षेसाठी धोक्याची घंटा आहे.
जागतिक घडामोडी संबंधित बातम्या वाचण्यासाठी येथे क्लिक करा : Saudi Arabia : मध्य पूर्वेत नवे राजकीय समीकरण; हुथींविरुद्धच्या लढ्यात सौदी अरेबियाने मागितली इस्रायलची अप्रत्यक्ष मदत
एआयचा विकास पूर्णपणे थांबवणे हा यावर उपाय नाही, परंतु या विकासाचा वेग मंदावला पाहिजे, असे एंगल्स यांचे मत आहे. सुरक्षेचे संशोधन मागे पडून केवळ क्षमतेची शर्यत सुरू राहिल्यास मोठी आपत्ती ओढावू शकते. गुगल सोडल्यानंतर आता ते ‘METR’ (Model Evaluation and Threat Research) या स्वतंत्र एआय मूल्यांकन संस्थेत रुजू झाले आहेत. तेथे ते एआय सुरक्षेतील त्रुटी, विद्यमान सुरक्षा तंत्रज्ञानाची चाचणी आणि अलाइनमेंट विषयावर संशोधन करणार आहेत.
यापूर्वी अँथ्रोपिकचे संशोधक जेकब कॉक्सन (Jacob Coxon) आणि मुख्य कार्यकारी अधिकारी डारिओ अमोडेई (Dario Amodei) यांनीही एआयच्या अनियंत्रित शर्यतीवर चिंता व्यक्त केली होती. एआय कंपन्यांवर नियंत्रण ठेवण्यासाठी आणि त्यांच्या मॉडेलची निपक्षपातीपणे तपासणी करण्यासाठी जगात अधिकाधिक स्वतंत्र संस्थांची गरज असल्याचे एंगल्स यांनी आवर्जून सांगितले.
.png "Videos"){kind=small}
