फोटो सौजन्य AI
जसे भारतात AI वरती काम सुरु नसताना , दक्षिणेत मात्र शंकर या दिग्दर्शकाने रजनीकांत यांना घेऊन रोबोट नावाच्या सिनेमात आधीच भविष्य वर्तवून सांगितले आहे . तसेच बिल गेट्स यांनी सुद्धा AI कोट्यवधी लोकांचा जीव घेऊ शकते अशी भीती व्यक्त केली आहे . तसेच स्वतः AI कंपन्यांच्या मोठ्या आणि महत्वाच्या पदावर असलेल्या काही व्यक्तींनी कंपनीच्या AI पॉलिसी विरोधात आपल्या नोकऱ्या सोडल्या आहेत .
तर काहींनी तज्ञ मंडळींनी यावर सावधगिरीचे भाष्य करत सूचक इशारे दिले आहेत . याच पृष्ठभूमीवर कृत्रिम बुद्धिमत्ता आता केवळ प्रश्नांची उत्तरे देण्यापुरती मर्यादित राहिलेली नाही. AI एजंट्स स्वतः निर्णय घेऊन फाइल्स वाचणे, कोड चालवणे, ऑनलाइन साधनांचा वापर करणे आणि विविध कामे पूर्ण करणे अशा क्षमता मिळवत आहेत. त्यामुळे हे एजंट मानवी नियंत्रणाबाहेर जाऊ नयेत, यासाठी NVIDIAने ‘OpenShell’ नावाचे ओपन-सोर्स सुरक्षा साधन विकसित केले आहे.
Breaking News : इराणने उडवली १९ जहाजे ? पुन्हा होर्मूझमध्ये तणाव
NVIDIA चे OpenShell प्रत्येक AI एजंटला स्वतंत्र आणि नियंत्रित Sandbox Environment मध्ये चालवण्याची व्यवस्था करते . त्यामुळे एजंटला कंप्यूटर मधील प्रत्येक फाईल , नेटवर्क किंवा संवेदनशील माहितीवर थेट प्रवेश मिळत नाही . कोणत्याही संसाधनांचा वापर करायचा , कोणत्या नेटवर्कशी जोडायचे आणि कोणती कृती करायची यावर स्वतंत्र सुरक्षा नियम लागू करता येतात .
या प्रणालीचे महत्वाचे वैशिष्ठ म्हणजे सुरक्षा धोरणे AI मॉडेलच्या बाहेर Infrastructure Level वर लागू केली जातात . त्यामुळे एजंटने स्वतःच्या सूचना बदलण्याचा किंवा सुरक्षा निर्बंध बाजूला करण्याचा प्रयत्न केला तरी त्याला तांत्रिक मर्यादा लागू राहतात . openshell मध्ये प्रत्येक कृतिपूर्वी परवानगी तपासणारी Policy enforcement system आणि gateway देण्यात आला आहे .
NVIDIA च्या Secure Agent Workspace डिज़ाइनमध्ये प्रणाली बदलणाऱ्या महत्वाच्या कृतीसाठी मानवी मंजुरी आवश्यक ठेवण्याची तरतूद आहे , नेटवर्क प्रवेश मर्यादित करणे , संवेदनशील एजंट्सपासून दूर ठेवणे आणि प्रत्येक कृतींची नोंद ठेवणे यावरही भर देण्यात आला आहे . कंपनीच्या मते , अशा नियंत्रणामुळे दीर्घकाळ स्वतंत्रपणे काम करणाऱ्या AI एजेंट्सना अधिक सुरक्षित पद्धतीने वापरता येऊ शकते .
.png "Videos"){kind=small}
