हमारा अंतिम आविष्कार: क्या AI मानवता के लिए परिभाषित करने वाला मुद्दा है?

मानवता आज अविश्वसनीय खतरों और अवसरों का सामना कर रही है: जलवायु परिवर्तन, परमाणु हथियार, जैव प्रौद्योगिकी, नैनो प्रौद्योगिकी और बहुत कुछ।

मानवता आज अविश्वसनीय खतरों और अवसरों का सामना कर रही है: जलवायु परिवर्तन, परमाणु हथियार, जैव प्रौद्योगिकी, नैनो प्रौद्योगिकी और बहुत कुछ। लेकिन कुछ लोगों का तर्क है कि ये सभी चीजें एक से एक हैं: कृत्रिम बुद्धिमत्ता (एआई)। आज तक, यह तर्क मुख्य रूप से विज्ञान कथाओं और विद्वानों और उत्साही लोगों के एक छोटे से चक्र तक सीमित है। वृत्तचित्र जेम्स बरात दर्ज करें, जिसकी नई पुस्तक हमारी अंतिम आविष्कार स्पष्ट, सादे भाषा में एआई (और खिलाफ) के लिए मामला बताती है।

प्रकटीकरण: मैं बारात को व्यक्तिगत रूप से जानता हूं। उन्होंने मुझे एक मुफ्त अग्रिम प्रति इस उम्मीद में भेजी कि मैं एक समीक्षा लिखूंगा। पुस्तक में खान के अनुसंधान का भी हवाला दिया गया है। और मैं मशीन इंटेलिजेंस रिसर्च इंस्टीट्यूट का अवैतनिक अनुसंधान सलाहकार हूं, जिसकी पुस्तक में भारी चर्चा की गई है। लेकिन जब मुझे अच्छी बातें कहने के लिए कुछ प्रोत्साहन मिलेगा, तो मेरे पास जो (मामूली) आलोचना है, उसमें मैं बख्शा नहीं जाऊंगा।

केंद्रीय विचार बेहद सरल है। बुद्धिमत्ता वह महत्वपूर्ण गुण हो सकता है जो मनुष्य को अन्य प्रजातियों से अलग करता है। हम निश्चित रूप से जंगल में सबसे मजबूत जानवर नहीं हैं, लेकिन हमारे स्मार्ट (और हमारे सक्षम हाथों) के लिए धन्यवाद, हम शीर्ष पर बाहर आए। अब, हमारे प्रभुत्व को हमारे स्वयं के निर्माण के प्राणियों से खतरा है। कंप्यूटर वैज्ञानिक अब एआई को अधिक से अधिक मानव बुद्धि ("सुपरिन्टिजेन्स") के निर्माण की प्रक्रिया में हो सकते हैं। ऐसा एआई इतना शक्तिशाली हो सकता है कि यह हमारी सभी समस्याओं को हल करेगा या हमें सभी को मार सकता है, यह इस बात पर निर्भर करता है कि यह कैसे डिज़ाइन किया गया है।

दुर्भाग्य से, कुल मानव विलुप्त होने या कुछ अन्य बुराई अधीक्षण एआई के अधिक संभावित परिणाम प्रतीत होते हैं। यह किसी भी महान जिन्न-इन-द-बोतल कहानी की तरह है: अनपेक्षित परिणामों की एक कहानी। हमें खुश करने के लिए एक अधीक्षक एआई से पूछें, और यह हमारे दिमाग के आनंद केंद्रों में इलेक्ट्रोड को रट सकता है। इसे शतरंज में जीतने के लिए कहें, और यह चालों की गणना के लिए आकाशगंगा को सुपर कंप्यूटर में परिवर्तित करता है। यह बेतुका तर्क सटीक बैठता है क्योंकि एआई में बेतुकेपन की हमारी अवधारणा का अभाव है। इसके बजाय, यह वही करता है जो हम इसे करने के लिए प्रोग्राम करते हैं। अपनी इच्छाओं के बारे में सजग रहें!

शोधकर्ताओं ने संकीर्ण और सामान्य कृत्रिम बुद्धिमत्ता (एएनआई और एजीआई) के बीच अंतर को समझना महत्वपूर्ण है। ANI शतरंज खेलने या वेब पर खोज करने जैसे एक संकीर्ण कार्य में बुद्धिमान है, और हमारी दुनिया में तेजी से सर्वव्यापी है। लेकिन ANI केवल इस बात पर मनुष्यों को बहिष्कृत कर सकती है कि यह एक अच्छी बात है, इसलिए यह बड़ी परिवर्तनकारी चिंता नहीं है। यह AGI होगा, जो डोमेन की एक विस्तृत श्रृंखला में बुद्धिमान है - संभवतः एजीआई को भी डिजाइन करने सहित। मनुष्य के पास सामान्य बुद्धि भी होती है, लेकिन एक एजीआई शायद इंसानों की तुलना में बहुत अलग तरीके से सोचेगा, जैसे एक शतरंज का कंप्यूटर हमारे मुकाबले शतरंज को बहुत अलग तरीके से पेश करता है। अभी, कोई मानव-स्तरीय एजीआई मौजूद नहीं है, लेकिन अपने समाज, पत्रिका और सम्मेलन श्रृंखला के साथ एक सक्रिय एजीआई अनुसंधान क्षेत्र है।

हमारा अंतिम आविष्कार एआई दुनिया के एक भव्य दौरे का नेतृत्व करते हुए इन और अन्य तकनीकी एआई विवरणों को समझाने का एक उत्कृष्ट काम करता है। यह कोई सघन शैक्षणिक पाठ नहीं है। बारात स्पष्ट पत्रकारिता गद्य और राष्ट्रीय भौगोलिक, डिस्कवरी और पीबीएस के लिए वृत्तचित्रों का निर्माण करने वाले अपने वर्षों के माध्यम से सम्मानित एक व्यक्तिगत स्पर्श का उपयोग करता है। पुस्तक में एअर इंडिया के शोधकर्ताओं और विश्लेषकों की चौड़ाई का साक्षात्कार करने वाली उनकी यात्रा को शामिल किया गया है, जो कि बारात की अपनी सोची-समझी टिप्पणी के साथ अन्तर्निहित है। शुद्ध परिणाम एआई अवधारणाओं और पात्रों के लिए एक समृद्ध परिचय है। नवागंतुक और विशेषज्ञ समान रूप से इससे सीखेंगे।

इस पुस्तक का विशेष रूप से काउंटरपॉइंट के रूप में स्वागत है विलक्षणता निकट है और रे कुर्ज़वील द्वारा अन्य कार्य। दुनिया को बदलने के लिए एआई की क्षमता के लिए कुर्ज़वील अब तक का सबसे प्रमुख प्रवक्ता है। लेकिन जब कुर्ज़वील एआई के जोखिमों को स्वीकार करता है, तो उसका समग्र स्वर खतरनाक रूप से आशावादी होता है, यह गलत धारणा देता है कि सब ठीक है और हमें एजीआई और अन्य परिवर्तनकारी प्रौद्योगिकियों के साथ आगे बढ़ना चाहिए। हमारा अंतिम आविष्कार यह गलती नहीं करता है। इसके बजाय, यह चिंता के अपने संदेश में स्पष्ट नहीं है।

अब, सतर्क पाठक विरोध कर सकता है, क्या एजीआई वास्तव में कुछ गंभीरता से लिया जाना है? आखिरकार, यह अनिवार्य रूप से समाचार में कभी नहीं होता है, और अधिकांश एआई शोधकर्ता चिंता भी नहीं करते हैं। (एजीआई आज व्यापक एआई क्षेत्र की एक छोटी शाखा है।) यह केवल कुछ भयावह सनकी द्वारा गंभीरता से लिया गया एक फ्रिंज मुद्दा होने की कल्पना करना आसान है।

मैं वास्तव में यही चाहता हूं। हमें चिंता करने के लिए पर्याप्त अन्य चीजें मिली हैं। लेकिन अन्यथा विश्वास करने का कारण है। सबसे पहले, सिर्फ इसलिए कि कुछ प्रमुख नहीं है, इसका मतलब यह नहीं है कि यह कभी नहीं होगा।एआई आज अनिवार्य रूप से है जहां जलवायु परिवर्तन 1970 और 1980 में था। इसके बाद, केवल कुछ शोधकर्ताओं ने इसका अध्ययन किया और चिंता व्यक्त की। लेकिन यह रुझान तब बहुत ही चिंताजनक था, और आज जलवायु परिवर्तन अंतरराष्ट्रीय प्रमुख समाचार है।

AI का आज अपना ट्रेंड है। सबसे स्पष्ट मूर का नियम है, जिसमें प्रति डॉलर कंप्यूटिंग शक्ति हर दो साल में एक बार लगभग दोगुनी हो जाती है। अधिक कंप्यूटिंग शक्ति का अर्थ है AI अधिक जानकारी संसाधित कर सकता है, जिससे वे (कुछ मायनों में) अधिक बुद्धिमान बन सकते हैं। सॉफ्टवेयर से न्यूरोसाइंस तक सभी चीजों में समान रुझान मौजूद हैं। जलवायु परिवर्तन के साथ, हम अनुमान नहीं लगा सकते हैं कि कब क्या होगा, लेकिन हम जानते हैं कि हम तेजी से परिष्कृत AI के साथ दुनिया की ओर बढ़ रहे हैं।

यहां एआई वास्तव में जलवायु परिवर्तन जैसे मुद्दों को ट्रम्प कर सकता है। इसके सभी क्षेत्रों के लिए, जलवायु परिवर्तन धीरे-धीरे बढ़ता है। सबसे बुरे प्रभावों को किक करने में सदियां लगेंगी। एक परिवर्तनकारी AI कुछ ही दशकों में आ सकता है, या शायद दस साल भी। यह जलवायु परिवर्तन को अप्रासंगिक बना सकता है।

लेकिन एआई एक प्रमुख संबंध में जलवायु परिवर्तन की तरह नहीं है: कम से कम अभी के लिए, इसमें वैज्ञानिक सहमति का अभाव है। वास्तव में, अधिकांश एआई शोधकर्ता एक एआई अधिग्रहण के विचार को खारिज करते हैं। यहां तक ​​कि एजीआई के शोधकर्ता भी विभाजित हैं कि क्या होगा और कब होगा। यह 2009 में एजीआई के शोधकर्ताओं द्वारा किए गए एक अध्ययन का मुख्य परिणाम था।

विभाजन को देखते हुए, हमें किस पर विश्वास करना चाहिए? बारात को यकीन है कि हम मुसीबत में हैं। मुझे बहुत ज़्यादा यकीन नहीं है। एआई अनिवार्य रूप से प्रगति करेगा, लेकिन यह बारात के रूप में मौलिक रूप से परिवर्तनकारी नहीं हो सकता है और अन्य लोग उम्मीद करते हैं। हालाँकि, विपरीत भी सच हो सकता है। मेरे सभी वर्षों के लिए इस बारे में सोचने के बाद, मैं कुछ प्रमुख एआई घटना की संभावना से इनकार नहीं कर सकता।

हमें विराम देने के लिए मात्र संभावना पर्याप्त होनी चाहिए। आखिरकार, दांव अधिक नहीं हो सकता। यहां तक ​​कि एक प्रमुख एआई घटना का एक बाहरी मौका गंभीर ध्यान देने के लिए पर्याप्त है। एआई के साथ, मौका छोटा नहीं है। मैं एक प्रमुख क्षुद्रग्रह प्रभाव की तुलना में इसे बहुत अधिक संभावित कहता हूं। यदि क्षुद्रग्रह प्रभाव को कुछ गंभीर ध्यान दिया जाता है (नासा, बी 612 फाउंडेशन और अन्य द्वारा), तो एआई जोखिम बहुत अधिक मिलना चाहिए। लेकिन यह नहीं है मुझे उम्मीद है कि हमारा अंतिम आविष्कार इसे बदलने में मदद करेगा।

यह हमें उस क्षेत्र में लाता है जहां हमारा अंतिम आविष्कार दुर्भाग्य से काफी कमजोर है: समाधान। अधिकांश पुस्तक एआई अवधारणाओं को समझाने और यह तर्क देने के लिए समर्पित है कि एआई महत्वपूर्ण है। मैं केवल आधे अध्याय की चर्चा करता हूं कि कोई भी वास्तव में इसके बारे में क्या कर सकता है। यह एक अफसोसजनक चूक है। (एक असुविधाजनक सत्य एक ही दुःख को झेलता है)।

एआई से बचाव के लिए दो बुनियादी प्रकार के विकल्प उपलब्ध हैं। सबसे पहले, हम सुरक्षित AI डिजाइन कर सकते हैं। यह एक बड़ी दार्शनिक और तकनीकी चुनौती है, लेकिन अगर यह सफल होता है तो यह दुनिया की कई समस्याओं को हल कर सकता है। दुर्भाग्य से, जैसा कि पुस्तक बताती है, खतरनाक एआई आसान है और इस प्रकार पहले आने की संभावना है। फिर भी, AI सुरक्षा एक महत्वपूर्ण शोध क्षेत्र बना हुआ है।

दूसरा, हम खतरनाक एआई को डिजाइन नहीं कर सकते। पुस्तक में एआई को आगे बढ़ाने वाले आर्थिक और सैन्य दबावों पर चर्चा की गई है। खतरनाक एआई से बचने के लिए इन दबावों का दोहन करने की आवश्यकता होगी। मेरा मानना ​​है कि यह संभव है। आखिरकार, यह मानवता को नष्ट करने के लिए किसी के हित में नहीं है। खतरनाक एआई के निर्माण से लोगों को रोकने के उपायों का पीछा किया जाना चाहिए। विभिन्न कारणों से उच्च-आवृत्ति ट्रेडिंग पर प्रतिबंध लगाने के लिए एक बुरा स्थान नहीं हो सकता है।

जब तक एआई हाथ से निकल नहीं जाता है तब तक इंतजार करने का एक विकल्प नहीं है और फिर सुपरिंटग्लिंग एजीआई के खिलाफ "दुनिया के युद्ध" अभियान को बढ़ाने की कोशिश करें। यह महान सिनेमा के लिए बनाता है, लेकिन यह पूरी तरह से अवास्तविक है। हमारे लिए कोई भी मौका पाने के लिए AI बहुत स्मार्ट और बहुत शक्तिशाली होगा। (विदेशी आक्रमण के लिए भी यही माना जाता है, हालांकि AI की संभावना अधिक है।) इसके बजाय, हमें इसे समय से ठीक पहले प्राप्त करने की आवश्यकता है। यह हमारी अत्यावश्यक अनिवार्यता है।

अंततः, AI से जोखिम एआई को डिजाइन करने वाले मनुष्यों और उन्हें प्रायोजित करने वाले मनुष्यों और प्रभाव के अन्य मनुष्यों द्वारा संचालित होता है। हमारे अंतिम आविष्कार के बारे में सबसे अच्छी बात यह है कि, अपने समृद्ध साक्षात्कारों के माध्यम से, यह एआई क्षेत्र का मानवकरण करता है। एआई मुद्दे के पीछे लोगों में इस तरह की अंतर्दृष्टि कहीं और नहीं है। पुस्तक इस बीच एक स्पष्ट और सम्मोहक परिचय है जो मानवता के लिए परिभाषित मुद्दा हो सकता है (या नहीं) हो सकता है। किसी को भी, जो कुछ भी बहुत कुछ के बारे में परवाह करता है, या जो लोग सिर्फ एक अच्छी विज्ञान कहानी पसंद करते हैं, के लिए पुस्तक अच्छी तरह से पढ़ने लायक है।

व्यक्त किए गए विचार लेखक के हैं और जरूरी नहीं कि वे भी हैं।

अनुशंसित