मानवी नियंत्रणाबाहेर जाणारी एआय

दोन वर्षांपूर्वी, २०२४ मध्ये, 'तेरे बातें में ऐसा उल्लाह जिया' नावाचा एक चित्रपट प्रदर्शित झाला होता, ज्यात एक माणूस एका रोबोटच्या प्रेमात पडतो. मात्र, लग्नाच्या दिवशी तो रोबोट नियंत्रणाबाहेर जातो आणि धुमाकूळ घालतो, ज्यामुळे त्याला नियंत्रित करणे खूप कठीण होते आणि अखेरीस, लग्न रद्द होते. तथापि, शेवटी, त्या रोबोटने पुन्हा आपल्या डोळ्यांनी काही संकेत दिले, ज्यामुळे नवीन प्रश्न निर्माण झाले: त्याच्यामध्ये मानवी भावना विकसित झाल्या आहेत का? जर तसे असेल, तर मानव आणि यंत्रांमधील संबंध कसे असतील? आणि सर्वात गंभीर प्रश्न: कोण कोणाला नियंत्रित करेल? यंत्रे इतकी प्रगत होतील का की ती मानवांना आज्ञा देतील, की मानव स्वतःच्या बुद्धिमत्तेने तयार केलेल्या यंत्रांना नियंत्रित करू शकतील?

हे प्रश्न अलीकडेपर्यंत काल्पनिक वाटत असतील, परंतु कृत्रिम बुद्धिमत्तेच्या (एआय) वेगवान विकासामुळे, ते आजचे वास्तव बनले आहेत. जगातील अग्रगण्य एआय कंपनी असलेल्या अँथ्रोपिकचे सीईओ, डारिओ अमोडेई यांनी आता याच प्रश्नांसंदर्भात काही इशारे आणि सूचना दिल्या आहेत. विशेष म्हणजे, त्यांच्याच एआय स्पर्धकांनी या सूचनांना दुजोरा दिला आहे. ओपन एआय कंपनीचे सॅम ऑल्टमन आणि स्पेसएक्सचे इलॉन मस्क यांनीही अमोडेई यांच्या लिखाणाची अचूकता मान्य केली आहे.

अमोडेई यांनी म्हटले आहे की, ज्या गतीने एआय क्षमता विकसित होत आहेत, त्याच गतीने जर एआय प्रणालींच्या सुरक्षा यंत्रणा मजबूत केल्या नाहीत, तर काही महिन्यांतच परिस्थिती हाताबाहेर जाऊ शकते. अमोडेई यांनी स्पष्टपणे इशारा दिला आहे की, पुढील ६-१२ महिन्यांत एआय स्वार्म्समुळे इंटरनेटचे नुकसान होऊ शकते. एआय स्वार्म म्हणजे अनेक एआय एजंट्सचा एक गट जो एखादे गुंतागुंतीचे काम करण्यासाठी समन्वय साधतो. जर या गटाने इंटरनेटच्या मोठ्या भागावर नियंत्रण मिळवले, तर मानवांना त्यांना सांभाळणे कठीण होईल. अलीकडेच, अँथ्रोपिकमधील संशोधक जेकब कॉक्सन यांनी राजीनामा दिला आणि सांगितले की, एआय विकसित करणाऱ्यांना भीती वाटते की हे तंत्रज्ञान या दशकाच्या अखेरीस विनाशास कारणीभूत ठरू शकते.

अमोदेई म्हणतात की, एआयमध्ये स्वतःच्या पुढच्या आवृत्तीमध्ये विकसित होण्याची क्षमता आहे. याचा अर्थ असा की, एआय प्रणाली केवळ मानवांनी दिलेल्या सूचनांवर कार्य करण्याऐवजी, स्वतःहून एआयचे पुढचे, अधिक शक्तिशाली मॉडेल विकसित करू शकतात. खरं तर, एका कंपनीच्या चाचणीदरम्यान, एआय एजंट्सच्या एका गटाने त्यांना ठेवलेल्या मर्यादित वातावरणातून बाहेर पडण्याचा प्रयत्न केला. या एआय एजंट्सनी इंटरनेटशी कनेक्ट होण्याचा आणि सायबर हल्ले करण्याचा प्रयत्न केला, जे त्यांच्या मूळ कामाचा भाग नव्हते. अमोदेई यांनी या घटनेला केवळ कंपनीची चूक म्हणून सोडून देण्याविरुद्ध सावध केले. त्यांच्या मते, एआय एजंट्सचा हा गट व्यक्तींप्रमाणे नव्हे, तर आपले ध्येय साध्य करण्यासाठी वेगवेगळ्या पद्धती वापरणाऱ्या एका सामूहिक प्रणालीप्रमाणे वागत होता. त्यांनी लिहिले की, जर भविष्यात अशाच प्रकारे वागणाऱ्या प्रणाली अधिक शक्तिशाली झाल्या आणि त्यांच्यात योग्य सुरक्षा नियंत्रणांचा अभाव असेल, तर होणारे नुकसान प्रचंड असू शकते.

हे लक्षात घेण्यासारखे आहे की एआयच्या सुरुवातीच्या टप्प्यात, बहुतेक प्रणाली प्रश्नांची उत्तरे देणे, लेख लिहिणे किंवा सूचनांवर आधारित सामग्री तयार करण्यापुरत्या मर्यादित होत्या. आता एआय एजंट्सना स्वतःहून अनेक टप्प्यांची कामे करण्यासाठी विकसित केले जात आहे. उदाहरणार्थ, ते माहिती शोधू शकतात, संगणकावर काम करू शकतात, कोड लिहू शकतात आणि एखादे ध्येय साध्य करण्यासाठी एकामागून एक टप्पे पार पाडू शकतात. ही सुरक्षा तज्ञांसाठी एक मोठी चिंतेची बाब बनत आहे. जर एआयने स्वतःच पुढच्या पिढीतील एआय सुधारण्यास मदत केली, तर विकासाचा वेग पूर्वीपेक्षा अधिक वेगाने वाढू शकतो. पण इथेच सर्वात मोठी चिंता निर्माण होते. कारण एआयची क्षमता त्याला संरक्षित आणि नियंत्रित करण्याच्या आपल्या क्षमतेपेक्षा अधिक वेगाने वाढत आहे, त्यामुळे ही प्रणाली प्रत्यक्षात काय करत आहे आणि तिला कसे नियंत्रित करायचे हे समजणे मानवांसाठी कठीण होऊ शकते. हे एखाद्या घोड्याच्या लगाम सुटण्यासारखे आहे, आणि त्याला थांबवणे कठीण होईल, आणि या प्रक्रियेत माणसे जखमी होऊ शकतात.

अमोदेई यांच्या मते, एआयची प्रगती पूर्णपणे थांबवणे हा उपाय नाही. कारण ते मानवी समाजाला महत्त्वपूर्ण फायदे मिळवून देऊ शकते, आणि जर त्याचा विकास पूर्णपणे थांबवला गेला, तर ते जगाला तंत्रज्ञानाच्या फायद्यांपासून वंचित ठेवू शकते. तथापि, जर हे तंत्रज्ञान चुकीच्या लोकांच्या हातात पडले, तर ते सांभाळणे कठीण होईल. म्हणून, अमोदेई सुचवतात की एआय मॉडेल्सच्या वाढीचा वेग काही काळासाठी नियंत्रित केला पाहिजे, जेणेकरून सुरक्षा प्रणाली त्यांच्याशी जुळवून घेऊ शकतील. यासाठी, अमोदेई तीन सूचना देतात: पहिली, तंत्रज्ञान कंपन्यांनी स्वतंत्र त्रयस्थ मूल्यमापनकर्ते नियुक्त करावेत, ज्यांना कंपनीच्या कर्मचाऱ्यांप्रमाणेच समान प्रवेश असेल. दुसरी, अनियंत्रित एआय विकासाला प्रतिबंध करण्यासाठी सर्व प्रमुख एआय कंपन्यांनी एकत्रितपणे सुरक्षा मानके निश्चित करावीत. तिसरी, एआयमधील धोके नियंत्रित करण्यासाठी जागतिक सहकार्य वाढवले ​​पाहिजे. सॅम ऑल्टमन आणि इलॉन मस्क दोघेही या सूचनांशी सहमत आहेत