एआई एल्गोरिदम को विनियमित करने के कारण आपके विचार से सरल हैं

क्या आपको चिंता है कि कृत्रिम बुद्धिमत्ता दुनिया पर कब्ज़ा कर लेगी? बहुत से लोग करते हैं. एलन मस्क की चिंता से गो के उन्नत गेम में डीपमाइंड इंसानों को हरा रहा है 2017 में, कांग्रेस के सदस्यों, यूरोपीय नीति निर्माताओं को (देखें कृत्रिम बुद्धिमत्ता के प्रति एक यूरोपीय दृष्टिकोण), और शिक्षाविदों की यह भावना है कि यह एआई को गंभीरता से लेने का दशक है, और यह जोर पकड़ रहा है। हालाँकि, उन कारणों से नहीं जो आप सोच सकते हैं और न ही किसी मौजूदा खतरे के कारण।

यहीं पर एल्गोरिदम आते हैं। आप पूछ सकते हैं कि एल्गोरिदम क्या है? इसके बारे में सोचने का सबसे सरल तरीका निर्देशों का एक सेट है जिसे मशीनें समझ सकती हैं और सीख सकती हैं। हम पहले से ही एक मशीन को गणना करने, डेटा संसाधित करने और संरचित, स्वचालित तरीके से तर्क करने का निर्देश दे सकते हैं। हालाँकि, समस्या यह है कि एक बार निर्देश दिए जाने के बाद, मशीन उनका पालन करेगी। अभी के लिए, यही बात है। इंसानों के विपरीत, मशीनें निर्देशों का पालन करती हैं। वे उतनी अच्छी तरह नहीं सीखते. लेकिन एक बार जब वे ऐसा कर लेते हैं, तो वे समस्याएं पैदा कर सकते हैं।

मैं इस विचार के बारे में कोई सनसनीखेज तर्क नहीं देना चाहता कि कंप्यूटर एक दिन मानव बुद्धि को पार कर जाएगा, जिसे विलक्षणता तर्क के रूप में जाना जाता है (एनवाईयू दार्शनिक डेविड चाल्मर्स देखें) विषय पर चिंतन.) बल्कि, विनिर्माण इस बात का सबसे अच्छा उदाहरण हो सकता है कि एआई एल्गोरिदम आम जनता के लिए अधिक मायने क्यों रखने लगे हैं। किसी को डर है कि मशीनें हमारी कीमत पर अपनी शक्ति में अत्यधिक तेजी लाएँगी। आवश्यक रूप से कुछ उन्नत तर्कों के कारण नहीं, बल्कि एल्गोरिथम जो कहता है उसकी सीमाओं के भीतर अनुकूलन के कारण।

मैन्युफैक्चरिंग का मतलब चीजें बनाना है। लेकिन जब मशीनें चीजें बनाती हैं तो हमें ध्यान देने की जरूरत है। भले ही मशीनें जो बनाती हैं वह सरल हो। मैं समझाऊंगा क्यों।

रेनबूट से लेकर सेलफोन और वापस तक

मान लीजिए, एक फ़ैक्टरी रेन बूट बना रही है। मुझे बरसाती जूते बहुत पसंद हैं क्योंकि मैं नॉर्वे के एक ऐसे क्षेत्र में पला-बढ़ा हूं जहां बहुत बारिश होती है; मुझे प्रकृति के कई तत्वों के अधीन रहकर बाहर रहना पसंद है। नोकिया ने वे रेन बूट बनाए जिनके साथ मैं बड़ा हुआ हूं। जी हां, जिस नोकिया को आज हम रबर के जूते बनाने वाली इलेक्ट्रॉनिक्स कंपनी के नाम से जानते हैं। यह कुंजी क्यों है? क्योंकि एक बार जब आप कुछ बना लेते हैं, तो सुधार करने की चाहत आपकी नियति होती है। यह समझ आता है। आप कह सकते हैं कि यह मानव स्वभाव है।

नोकिया के साथ जो हुआ वह सर्वविदित है और कुछ इस तरह है: शुरुआत में एक पेपर मिल, जब मैं बच्चा था, रबर के जूते (और टायर) का निर्माण कंपनी के लिए विशेष रूप से सफल था। हालाँकि, उन्हें आगे अवसर दिखे। इसलिए, 1980 के दशक में किसी समय, वे इलेक्ट्रॉनिक्स में स्थानांतरित हो गए और तेजी से आसपास के कारखानों को बदल दिया, जब उन्होंने सेल फोन बनाना शुरू किया तो स्थानीय आपूर्तिकर्ताओं की एक बड़ी संरचना बनाई। इससे मोबाइल संचार क्रांति की शुरुआत हुई, जो स्कैंडिनेविया में शुरू हुई और दुनिया के बाकी हिस्सों में फैल गई। जाहिर है, कई लोगों ने 1990 के दशक में नोकिया की कहानी लिखी है (देखें)। फ़िनिश चमत्कार के पीछे का रहस्य: नोकिया का उदय).

मेरा उदाहरण सीधा है. शायद, बहुत सरल. लेकिन इसे इस तरह से सोचें. यदि एक बड़ी कंपनी तेजी से लिखने के लिए कागज बनाने से लेकर बारिश में बाहर रहना आसान बनाने वाले जूते बनाने और फिर अंततः सेल फोन बनाने में बदलाव कर सकती है जो इंसानों के संचार के तरीके को बदल देता है: अगला कदम कितना आसान होगा? मान लीजिए कि सेल फोन बनाने वाली एक कंपनी नैनोबॉट्स बनाने का फैसला करती है और हो सकता है कि एक दशक में यह काम शुरू हो जाए, जिससे हर जगह स्वायत्त रूप से चलने वाली छोटी मशीनों के साथ मानवता में बदलाव आएगा, जो मानव अनुभव को फिर से जोड़ने और बदलने में सक्षम हैं। क्या होगा यदि यह इस बात पर विचार किए बिना होता है कि हम इसे कैसे घटित करना चाहते हैं, हम किसे प्रभारी बनाना चाहते हैं, और अंतिम लक्ष्य क्या हैं?

यह सुझाव देना कि रोबोट ने जानबूझकर नोकिया को सेल फोन बनाने का निर्णय लेने में मदद की, एक खिंचाव होगा। लेकिन यह स्वीकार करना कि उत्तरी तट पर फिनिश ग्रामीण क्षेत्र को यह सोचने की अनुमति देने में प्रौद्योगिकी की भूमिका थी कि वे एक नए उद्योग में विश्व प्रभुत्व प्राप्त कर सकते हैं, एक महत्वपूर्ण भूमिका निभाता है।

हाल के दशक में नोकिया की कहानी इतनी अच्छी नहीं रही है क्योंकि वे सॉफ्टवेयर-आधारित आईओएस और एंड्रॉइड ऑपरेटिंग सिस्टम के उद्भव को ध्यान में रखने में विफल रहे। अब, परिणामस्वरूप, नोकिया अब फ़ोन नहीं बनाता है। थोड़ी सी वापसी की कहानी में, वे अब नेटवर्किंग और टेलीकॉम इंफ्रास्ट्रक्चर, नेटवर्क सुरक्षा समाधान, वाई-फाई राउटर, स्मार्ट लाइटिंग और स्मार्ट टीवी बनाते हैं (देखें) नोकिया की वापसी की कहानी). नोकिया अभी भी चीज़ें बनाता है, यह सच है। एकमात्र अवलोकन यह है कि नोकिया हमेशा अपने द्वारा बनाई गई चीजों को मिश्रित करने का आनंद लेता है। यहां तक ​​कि मनुष्य के विनिर्माण निर्णयों को भी, कभी-कभी, समझना कठिन होता है।

विनिर्माण का अर्थ है चीज़ें बनाना और चीज़ें विकसित होती हैं। मोटे तौर पर, आज हम जो बनाते हैं वह सिर्फ एक दशक पहले की तुलना में बदल गया है। 3डी प्रिंटर ने उद्योग और घर दोनों में कई उन्नत उत्पादों का विकेंद्रीकृत उत्पादन किया है। 3डी प्रिंटिंग के जीवन-परिवर्तनकारी परिणाम अभी तक सामने नहीं आए हैं। हम नहीं जानते कि यह टिकेगा या नहीं, लेकिन हम जानते हैं कि एफडीए का ध्यान उत्पादों के विनिर्माण को विनियमित करने पर है (देखें) यहाँ उत्पन्न करें) मुद्रित गोलियों या चिकित्सा उपकरणों की तरह, स्पष्ट बौद्धिक संपदा और दायित्व के मुद्दे, या आग्नेयास्त्रों को मुद्रित करने में सक्षम होने के आसपास के मुद्दे। अंततः, 3डी प्रिंटिंग के इससे परे क्या नकारात्मक परिणाम हो सकते हैं, इस पर नीतिगत चर्चा न के बराबर है, और हममें से कुछ लोगों ने इसके बारे में सोचने की जहमत उठाई है।

मैं यह नहीं कह रहा कि 3डी प्रिंटिंग अपने आप में खतरनाक है। शायद, यह एक ख़राब उदाहरण है. फिर भी, जो चीज़ें शुरू में सांसारिक लगती हैं वे दुनिया को बदल सकती हैं। ऐसे बहुत से उदाहरण हैं: धातु से बना शिकारी/संग्रहकर्ता का तीर का सिरा जो युद्ध शुरू करता है, अनुष्ठानिक मुखौटे जो हमें कोविड-19 से बचाते हैं, कीलें जो गगनचुंबी इमारतों का निर्माण करती हैं, चल प्रकार के प्रिंटिंग प्रेस जो (अभी भी) हमारे कारखानों को मुद्रित कागज से भरते हैं और बिजली प्रदान करते हैं प्रकाशन व्यवसाय, प्रकाश बल्ब जो आपको रात में अंदर देखने और काम करने में सक्षम बनाते हैं, मैं आगे बढ़ सकता हूं। मैं जिनके बारे में जानता हूं उनमें से किसी ने भी 1800 के दशक के अंत में यह भविष्यवाणी नहीं की थी कि नोकिया अपना उत्पादन कागज से रबर से इलेक्ट्रॉनिक्स तक और फिर सेल फोन से दूर ले जाएगा। शायद उन्हें ऐसा करना चाहिए.

मनुष्य कदम परिवर्तन के खराब भविष्यवक्ता हैं, वह प्रक्रिया जहां एक परिवर्तन अधिक परिवर्तन की ओर ले जाता है, और अचानक, चीजें मौलिक रूप से भिन्न हो जाती हैं। हम अभी तक इस प्रक्रिया को नहीं समझ पाए हैं क्योंकि हमें घातीय परिवर्तन का व्यावहारिक ज्ञान बहुत कम है; हम इसकी कल्पना नहीं कर सकते, इसकी गणना नहीं कर सकते, या इसकी थाह नहीं ले सकते। हालाँकि, बार-बार, यह हम पर प्रहार करता है। महामारी, जनसंख्या वृद्धि, किताब छपाई से लेकर रोबोटिक्स तक तकनीकी नवाचार, यह आम तौर पर बिना किसी चेतावनी के हम पर हमला करता है।

भविष्यवाद की युक्ति यदि नहीं, बल्कि कब है। कोई वास्तव में कुछ नई उत्पादन विधियों को चुनकर और यह बताकर बदलाव की भविष्यवाणी करने में सक्षम हो सकता है कि वे भविष्य में और अधिक प्रचलित हो जाएंगी। यह काफी सरल है. मुश्किल हिस्सा यह पता लगाना है कि वास्तव में कब और विशेषकर कैसे।

पेपर क्लिप समस्या नहीं हैं

मेरे कारखाने के उदाहरण पर फिर से विचार करें, लेकिन इस बार, कल्पना करें कि मशीनें कई निर्णयों की प्रभारी हैं, सभी निर्णयों की नहीं, बल्कि अनुकूलन जैसे उत्पादन निर्णयों की। उनकी किताब में superintelligenceऑक्सफ़ोर्ड यूनिवर्सिटी के डायस्टोपियन मानवतावादी निक बोस्ट्रोम ने एक पेपर क्लिप फैक्ट्री चलाने वाले एआई अनुकूलन एल्गोरिदम की प्रसिद्ध कल्पना की। वह कहते हैं, कुछ बिंदु पर, कल्पना करें कि मशीन कारण है कि कार्य के लिए लगातार बढ़ते संसाधनों को मोड़ना तर्कसंगत है, अंत में धीरे-धीरे हमारी दुनिया को पेपर क्लिप में बदल देती है, और इसे बंद करने के हमारे प्रयासों का विरोध करती है।

एक चतुर व्यक्ति होने के बावजूद, बोस्ट्रोम का उदाहरण बहुत मूर्खतापूर्ण और भ्रामक (फिर भी, यादगार) है। एक के लिए, वह इस तथ्य पर ध्यान देने में विफल रहता है कि मनुष्य और रोबोट अब अलग-अलग संस्थाएँ नहीं हैं। हम बातचीत करते हैं। अधिकांश चतुर रोबोट कोबोट या सहयोगी रोबोट में विकसित हो रहे हैं। इंसान के पास मशीन को सही करने के कई मौके होंगे. फिर भी उनका मूल बिंदु बना हुआ है. किसी बिंदु पर कदम परिवर्तन हो सकता है, और यदि वह परिवर्तन पर्याप्त तेजी से और पर्याप्त निरीक्षण के बिना होता है, तो नियंत्रण खो सकता है। लेकिन वह चरम परिणाम थोड़ा दूर की कौड़ी लगता है। किसी भी तरह से, मैं सहमत हूं, हमें उन मनुष्यों को विनियमित करने की आवश्यकता है जो इन मशीनों को संचालित करते हैं और यह आदेश देते हैं कि श्रमिकों को उचित प्रशिक्षण देकर हमेशा लूप में रखा जाए। उस प्रकार का प्रशिक्षण ठीक नहीं चल रहा है. वर्तमान में इसमें बहुत अधिक समय लगता है और प्रशिक्षण और प्रशिक्षण दोनों के लिए विशेष कौशल की आवश्यकता होती है। मैं एक बात जानता हूं. भविष्य में सभी प्रकार के लोग रोबोट का संचालन करेंगे। जो नहीं करेंगे, वे बहुत शक्तिहीन होंगे।

इंसानों को विकसित करना नासमझ स्वचालन से बेहतर है, भले ही हम कभी भी मशीनों के साथ पूरी तरह से विलय न करें। दोनों अवधारणाएँ तार्किक रूप से भिन्न हैं। यह संभव है कि लोग और रोबोट दोनों ही स्वचालन के लिए स्वचालन में फंस जाएं। इससे आगे चलकर विनिर्माण को बहुत नुकसान होगा। भले ही यह हत्यारे रोबोट का उत्पादन नहीं करता हो। मेरा मानना ​​है कि विलय में सैकड़ों साल लगेंगे, लेकिन मुद्दा यह नहीं है। भले ही यह केवल तीस साल दूर हो, सरलीकृत एल्गोरिदम पर चलने वाली स्व-प्रोपेलिंग मशीनें नियंत्रण खो देती हैं, वह परिदृश्य दुकान के फर्श पर पहले से ही होता है। उनमें से कुछ मशीनें तीस साल पुरानी हैं और पुरानी, ​​मालिकाना नियंत्रण प्रणालियों पर चलती हैं। उनकी मुख्य चुनौती यह नहीं है कि वे उन्नत हैं बल्कि इसके विपरीत है। वे संवाद करने में सक्षम होने के लिए बहुत सरल हैं। यह कल के लिए कोई समस्या नहीं है. यह पहले से मौजूद समस्या है. हमें इसके प्रति अपनी आंखें खोलनी होंगी। अगली बार जब आप रबर के जूते पहनें तो इस बारे में सोचें।

मेरे पास अभी भी 1980 के दशक के नोकिया बूट हैं। उनमें एक छेद है, लेकिन मैं खुद को याद दिलाने के लिए उन्हें रखता हूं कि मैं कहां से हूं और कितनी दूर चला हूं। बारिश भी होती रहती है, और जब तक यह पर्याप्त रूप से साफ है, मैं इसके लिए उन जूतों से बेहतर कोई उपाय नहीं चाहता। फिर, मैं इंसान हूं। संभवतः एक रोबोट पहले ही आगे बढ़ चुका होगा। मुझे आश्चर्य है कि रेनबूट्स का एआई संस्करण क्या है। यह कोई सेल फ़ोन नहीं है. यह वर्षा सेंसर नहीं है. यह दिमाग को चकरा देता है.

आज डिजिटल बूटों का मतलब है कि आप उन्हें वैयक्तिकृत कर सकते हैं क्योंकि उन पर 3डी-मुद्रित डिज़ाइन होते हैं। ऐसे आभासी जूते हैं जो केवल एनएफटी (अपूरणीय टोकन) के रूप में मौजूद हैं जिन्हें बेचा और व्यापार किया जा सकता है। शीर्ष वर्चुअल स्नीकर्स की कीमत इन दिनों $10,000 है (देखें)। एनएफटी स्नीकर क्या है, और इसकी कीमत $10,000 क्यों है?). मैं उनसे नहीं डरता लेकिन क्या मुझे डरना चाहिए? यदि आभासी दुनिया भौतिक दुनिया से अधिक मूल्यवान हो जाती है, तो शायद मैं ऐसा करूंगा। या क्या मुझे तब तक चिंतित होने का इंतजार करना चाहिए जब तक कि एआई का अपना अवतार "बारिश" से निपटने के लिए अपना खुद का एनएफटी बूट नहीं खरीद लेता? यदि हम अपनी छवि में एल्गोरिदम बनाते हैं, तो यह अधिक संभावना है कि एआई उन चीजों में अच्छा होगा जिनमें हम चाहते हैं कि हम अच्छे हों, लेकिन आम तौर पर नहीं होते हैं, जैसे स्टॉक खरीदना, वफादार दोस्ती बनाना (शायद मशीनों और इंसानों दोनों के साथ), और याद रखना चीज़ें। औद्योगिक मेटावर्स आश्चर्यजनक रूप से परिष्कृत हो सकता है - डिजिटल जुड़वाँ से भरा हुआ जो हमारी दुनिया की नकल करता है और उपयोगी तरीकों से इसे पार करता है - या यह आश्चर्यजनक रूप से सरल हो सकता है। शायद दोनो। हम अभी तक नहीं जानते.

हमें एआई एल्गोरिदम को विनियमित करने की आवश्यकता है क्योंकि हम नहीं जानते कि कोने में क्या है। यह पर्याप्त कारण है, लेकिन हम इसे कैसे करते हैं, यह एक लंबी कहानी है। मुझे एक और त्वरित अवलोकन की अनुमति दें, शायद सभी मौलिक एल्गोरिदम को सार्वजनिक रूप से उपलब्ध कराया जाना चाहिए। कारण यह है कि यदि नहीं, तो यह जानने का कोई तरीका नहीं है कि वे किस ओर ले जा सकते हैं। शीर्ष वाले काफी प्रसिद्ध हैं (देखें)। शीर्ष 10 मशीन लर्निंग एल्गोरिदम), लेकिन दुनिया भर में इसका कोई अवलोकन नहीं है कि उनका उपयोग कहां और कैसे किया जाएगा। यह विशेष रूप से अपर्यवेक्षित एल्गोरिदम है जिसे ध्यान से देखा जाना चाहिए (देखें)। विनिर्माण में मशीन लर्निंग के लिए छह शक्तिशाली उपयोग के मामले), चाहे उनका उपयोग रखरखाव या गुणवत्ता की भविष्यवाणी करने के लिए किया जाता है, उत्पादन वातावरण (उदाहरण के लिए डिजिटल जुड़वाँ) का अनुकरण करने के लिए, या नए डिज़ाइन उत्पन्न करने के लिए जिनके बारे में मनुष्य ने कभी नहीं सोचा होगा। आज के परिदृश्य में, ये अप्रशिक्षित एल्गोरिदम आमतौर पर तथाकथित कृत्रिम तंत्रिका नेटवर्क हैं, जो मानव मस्तिष्क की नकल करने का प्रयास करते हैं।

मैंने तंत्रिका जालों के बारे में चिंता करना शुरू कर दिया है, केवल इसलिए क्योंकि मुझे उनके तर्क को समझना मुश्किल लगता है। समस्या यह है कि अधिकांश विशेषज्ञ, यहां तक ​​​​कि उन्हें तैनात करने वाले भी, यह नहीं समझते हैं कि ये एल्गोरिदम एक चरण से दूसरे चरण या परत से परत तक कैसे चलते हैं। मुझे नहीं लगता कि "छिपी परतों" का रूपक, जो अक्सर इस्तेमाल किया जाता है, बहुत उपयुक्त या बहुत मज़ेदार है। शुरुआत के लिए, विनिर्माण में, स्वचालित कर संग्रह में, नियुक्ति संबंधी निर्णयों में, या कॉलेज प्रवेश में कोई छिपी हुई परतें नहीं होनी चाहिए। शायद आपको भी चिंतित होने पर विचार करना चाहिए? एक बात निश्चित है, मनुष्य और मशीनें मिलकर चीजें बनायेंगे तो दुनिया बदल जायेगी। यह पहले ही कई बार हो चुका है। कागज से लेकर रेनबूट और आज के कृत्रिम मस्तिष्क की परतों तक, कुछ भी अनदेखा नहीं छोड़ा जाना चाहिए। हमें इस साधारण तथ्य से नहीं छिपना चाहिए कि कई छोटे बदलावों से अचानक एक बड़ा बदलाव सामने आ सकता है।