'AI मुळे मानवजातीचा अंत होण्याची शक्यता 10 टक्क्यांहून अधिक'; अँथ्रोपिकमधील संशोधकाचा इशारा

प्रातिनिधिक छायाचित्र

फोटो स्रोत, Getty Images

फोटो कॅप्शन, प्रातिनिधिक छायाचित्र
    • Author, टॉम गर्केन
    • Role, तंत्रज्ञान प्रतिनिधी
  • Published
  • वाचन वेळ: 4 मिनिटे

आर्टिफिशिएल इंटेलिजन्सची इतक्या जलदगतीने प्रगती होत आहे की पुढील दशकात AI मुळे मानव जात नष्ट होण्याची शक्यता 10 टक्क्यांहून अधिक झाली आहे, असा इशारा अँथ्रोपिक (Anthropic) कंपनीतील उच्चपदस्थ सेफ्टी रिसर्चरने दिला आहे.

सेफ्टी रिसर्चर इव्हान ह्युबिंगर यांनी X वरील पोस्टमध्ये असे म्हटले आहे की सध्या अस्तित्वात असलेल्या AI मॉडल्सपासून मानवतेला होणारा धोका कमी आहे. पण हे तंत्रज्ञान असं विकसित होऊ शकतं आणि हे तंत्रज्ञान स्वतःत इतके बदल करून घेऊ शकतं की मानव जातीच्या अस्तित्वालाच थेट धोका आहे.

AI मुळे मानव जातीचा नेमका कसा अंत होईल हे त्यांनी स्पष्ट केले नाही. पण, AI मुळे मानव जातीच्या भविष्याला जे धोके संभवतात याबाबत गेल्या काही काळापासून जो धोक्याचा इशारा दिला जात आहे त्यात त्यांच्या इशाऱ्याची देखील भर पडली आहे.

याआधी AI बद्दल अशी चर्चा होत होती की AI पासून खरंच मोठा धोका आहे का, पण अलीकडच्या काळात AI बाबतच्या धोक्याचे अनेक तज्ज्ञांकडून इशारे दिले जात आहेत. त्या संदर्भाने ह्युबिंगर यांचे वक्तव्य पाहावे लागणार आहे.

काही दिवसांपूर्वीच जेकब कॉक्सॉन या AI रिसर्चरने अँथ्रोपिक कंपनी सोडली होती. त्याआधी ते ओपन AI मध्ये काम करत होते. जेकब यांच्या X वरील पोस्टला उत्तर देताना ह्युबिंगर यांनी आपली प्रतिक्रिया दिली होती.

जेकब यांनी म्हटलं होतं की कोणतीच कंपनी जबाबदार वर्तन करत नाहीये.

जेकब पुढे म्हणाले होते की ही प्रणाली अत्याधिक प्रगत होऊन सुपर ह्युमन होईल आणि कोणतीही गोष्ट हॅक करू शकेल, कोणत्याही क्षेत्राचा रात्रीतून कायापालट करू शकेल आणि खरं वर्चस्व आणि संसाधने हस्तगत करू शकेल.

या वक्तव्यांबाबत प्रतिक्रिया घेण्यासाठी ओपन AI ला संपर्क करण्यात आला आहे.

Skip सर्वाधिक वाचलेले and continue reading
सर्वाधिक वाचलेले

End of सर्वाधिक वाचलेले

Skip podcast promotion and continue reading
बीबीसी न्यूज मराठी आता व्हॉट्सॲपवर

तुमच्या कामाच्या गोष्टी आणि बातम्या आता थेट तुमच्या फोनवर

फॉलो करा

End of podcast promotion

डेम वेंडी हॉल या कॉम्प्युटर सायन्टिस्ट आहेत, त्या युनायटेड नेशन्सला AI संबंधित सल्लागार आहेत. त्या म्हणाल्या ह्युबिंगर आणि कॉक्सॉन यांच्या सोशल मीडिया पोस्ट पाहून त्यांना धक्का बसला आहे.

बीबीसी रेडिओ फोर या चॅनेलवरील वर्ल्ड अॅट वन कार्यक्रमावेळी त्यांनी म्हटले की कदाचित हा प्रसिद्धी आणि मार्केटिंगचा फंडा असू शकतो. तथापि, अँथ्रोपिक आणि ओपन AI मध्ये तीव्र स्पर्धा सुरू आहे कारण दोन्ही कंपन्यांच्या शेअर बाजारातील पदापर्पणाबाबत जोरदार चर्चा सुरू आहे.

पण त्यांनी पुढे म्हटले, की असा कुणी उगंच का म्हणेल, मी गुंतवणूकदारांना विनंती करते की जर या कंपन्यांची मूल्यं अशी असतील तर त्यात तुम्ही गुंतवणूक करू नका.

दरम्यान, फायनान्शिएल टाइम्सने वृत्त दिलंय की युकेतील AI सेफ्टी इंस्टिट्यूटमध्ये (AISI) कार्यरत असलेले अत्याधुनिक मॉडल अँथ्रोपिकने रद्द केलं. आपल्या कर्मचाऱ्यांच्या पोस्टवर किंवा AISI मधील घटनेवर त्यांनी प्रतिक्रिया देण्याचे नाकारले.

युकेच्या कॅबिनेट ऑफिसच्या प्रवक्त्यांनी देखील यावर प्रतिक्रिया दिली नाही की खरंच AISI मधील लेटेस्ट मॉडल हे रद्द करण्यात आले की नाही. त्याऐवजी ते म्हणाले, आम्ही संबंधित उद्योग क्षेत्रातील भागीदारांसह, ज्यात अँथ्रोपिकचा देखील समावेश आहे आहे त्यांच्यासोबत काम करत राहू आणि मॉडल्स सुरक्षित बनवू.

ह्युबिंगर आणखी काय म्हणाले?

ह्युबिंगर यांच्या पोस्टला 10 मिलियन (1 कोटी) हून अधिक व्ह्यूज आले आहेत. ह्युबिंगर म्हणतात की आमचा यावर प्रचंड विश्वास आहे की AI मुळे मानवजात नष्ट होण्याचा धोका आहे.

"मला असं वाटतं की अँथ्रोपिक हे सर्वोतपरी प्रयत्न करतंय, पण आपल्याकडे अद्याप सुपरइंटिलिजन्सचा मानवी मूल्यांशी समतोल कसा राखायचा याची निश्चित योजना नाहीये आणि आपण त्या मार्गावर देखील नाहीत," ह्युबिंगर म्हणाले.

ह्युबिंगर हे AI अलायनमेंटमध्ये काम करतात. AI अलायनमेंट म्हणजे AI ची ध्येयं ही मानवी मूल्यं, मानवी संवेदना यांच्याशी सुसंगत ठेवणे. थोडक्यात सांगायचं झालं तर AI हे मानवी मूल्यांच्या मार्गावर चालेल हे पाहणे.

अनेक संशोधकांचे असे म्हणणे आहे हे प्रयत्न पुरेसे नाहीत आणि वारंवार ते अपयशी ठरत आहेत. अलीकडच्या काळातील अनेक उदाहरणांमधून असं दिसून आलं आहे की जिथे AI प्रणालीला स्वायत्तता दिली आहे त्या ठिकाणी या प्रणालींनी सायबर अॅटॅक केले आहेत.

ओपन AI, अँथ्रोपिक आणि मेटा या सर्व कंपन्यांनी हे कबूल केले आहे की त्यांच्या AI टूल्सने हे अॅटॅक केले आहेत.

अँथ्रोपिकच्या ऑगस्ट महिन्यातील सेफ्टी रिपोर्टमध्ये म्हटले होते की AI मॉडल्सकडून एखाद्या काल्पनिक शक्तिशाली संस्थेच्या उद्दिष्टांना धोका पोहचवण्याची आणि त्यांच्या प्रणालीत छेडछाड करण्याचा धोका खूप कमी आहे.

या रिपोर्टमध्ये अँथ्रोपिकने म्हटले की सध्या एआय स्वतःहून संशोधन करून मानवांसाठी मोठा धोका निर्माण करेल, अशी शक्यता कमी आहे. मात्र याचे मूल्यांकन करण्याबाबत कंपनीला आधी जितका विश्वास वाटत होता तितका आता राहिला नसल्याचे देखील त्यांनी म्हटले आहे.

एआयच्या क्षमतेत वेगाने वाढ होण्याची सुरुवातीची लक्षणं आम्हाला दिसत आहेत, असं या अहवालात म्हटलंय.

वारंवार देण्यात आलाय धोक्याचा इशारा

AI क्षेत्रातील आघाडीचे तज्ज्ञ वारंवार धोक्याचा इशारा देत आहेत. 2023 मध्ये ओपन AI, गुगलचे डीपमाइंड, अँथ्रोपिकचे प्रमुख यांनी देखील याबाबत भाष्य केले होते. पण गेल्या काही आठवड्यात हा इशारा खूपच गंभीर बनला आहे, कारण असं दिसून आलंय की काही वेळा कंपन्या आपल्या AI वर नियंत्रण ठेवण्यासाठी झगडत आहेत.

या महिन्याच्या सुरुवातीला ओपन AI चे प्रमुख वैज्ञानिक जाकूब पाचोकी यांनी AI च्या प्रगतीबाबत कमालीची सावधगिरी बाळगण्याचा इशारा दिला. भविष्यात मानवाच्या हाती नियंत्रण ठेवायचे असेल तर जास्त हस्तक्षेप करणे गरजेचे असल्याचे त्यांनी सांगितले.

येत्या काही काळात AI च्या प्रगतीचा वेग थोडा कमी करायला हवा असं या क्षेत्रातील आघाडीचे लोक म्हणत आहेत. यात अँथ्रोपिकचे प्रमुख डारियो अॅमोदेई आणि जेरड कॉपलान यांचाही समावेश आहे.

AI कंपन्यात काम करणाऱ्या 1300 कर्मचाऱ्यांनी आपल्या स्वाक्षरीनिशी एक खुले पत्र अमेरिकन सरकारला लिहिले आहे. त्यात त्यांनी असं म्हटलं आहे की जे AI स्वयंचलित विकास करत आहेत त्यांच्या विकासाचा वेग जाणीवपूर्वक नियंत्रणात आणण्यासाठी आंतराष्ट्रीय स्तरावर जे प्रयत्न होत आहेत त्यांना अमेरिकन सरकारने पाठिंबा द्यावा.

बीबीसीसाठी कलेक्टिव्ह न्यूजरूमचे प्रकाशन.