एआई नैतिकता अरस्तू में यह जांचने के लिए झुकती है कि क्या मनुष्य पूरी तरह से स्वायत्त प्रणालियों के आगमन के बीच एआई को गुलाम बनाने का विकल्प चुन सकते हैं

दोस्त या दुश्मन।

मछली या मुर्गी.

व्यक्ति या वस्तु.

ये सभी व्यापक उलझनें प्रतीत होती हैं कि हमें कभी-कभी एक द्वंद्वात्मक स्थिति का सामना करना पड़ता है और हमें एक या दूसरे पहलू को चुनने की आवश्यकता होती है। जीवन हमें उन परिस्थितियों से जूझने के लिए मजबूर कर सकता है जिनमें दो परस्पर अनन्य विकल्प शामिल हैं। अधिक सुस्वादु भाषा में, आप सुझाव दे सकते हैं कि एक बहिष्करणीय बाइनरी समीकरण के लिए हमें दूसरे के बजाय एक अलग पथ पर आगे बढ़ने की आवश्यकता होती है।

आइए विशेष रूप से व्यक्ति-या-वस्तु द्वंद्व पर ध्यान केंद्रित करें।

आर्टिफिशियल इंटेलिजेंस (एआई) के संबंध में व्यक्ति-या-वस्तु का उत्कट प्रश्न बार-बार उठता है।

स्पष्ट करने के लिए, आज का AI बिल्कुल है नहीं एक व्यक्ति और उसमें संवेदना की कोई झलक नहीं है, बावजूद इसके कि आप समाचारों और सोशल मीडिया पर जो भी चौड़ी-चौड़ी और पूरी तरह से बड़ी हेडलाइंस देख रहे हैं। इस प्रकार, आप दृढ़ता से निश्चिंत हो सकते हैं कि अभी एआई एक व्यक्ति है या वस्तु का मामला आसानी से जवाबदेह है। मेरे होठों को पढ़ो, व्यक्ति या वस्तु के बीच वास्तव में हॉब्सन की पसंद में, एआई अभी के लिए एक चीज है।

ऐसा कहा जा रहा है कि, हम भविष्य की ओर देख सकते हैं और आश्चर्य कर सकते हैं कि क्या हो सकता है यदि हम एआई का एक संवेदनशील रूप प्राप्त करने में सक्षम हैं।

कुछ तर्कशील आलोचकों (साथ ही कास्टिक संशयवादियों) का सुझाव है कि हम आजकल संवेदनशील एआई के प्रभावों पर चर्चा करके शायद अपनी मुर्गियों को उनके पैदा होने से बहुत पहले ही गिन रहे हैं। व्यक्त की गई चिंता यह है कि चर्चा का तात्पर्य यह है कि हमें ऐसे एआई के शिखर पर होना चाहिए। बड़े पैमाने पर समाज को यह विश्वास दिलाने में गुमराह किया जा सकता है कि कल या परसों अचानक और चौंकाने वाला रहस्योद्घाटन होगा कि हम वास्तव में संवेदनशील एआई पर पहुंच गए हैं (इसे कभी-कभी एआई विलक्षणता या खुफिया विस्फोट के रूप में संदर्भित किया जाता है, देखें) पर मेरा विश्लेषण यहाँ लिंक). इस बीच, हम नहीं जानते कि ऐसी एआई कब उत्पन्न होगी, यदि कभी भी, और निश्चित रूप से, हमें हर कोने के चारों ओर देखने और भयानक रूप से किनारे पर रहने की आवश्यकता नहीं है कि संवेदनशील एआई अगले में पूरी तरह से अप्रत्याशित रूप से हमारे पास आ जाएगा। थोड़ी देर।

बहस का दूसरा पक्ष बताता है कि हमें अपना सिर रेत में गहराई तक नहीं दबाना चाहिए। आप देखिए, अगर हम संवेदनशील एआई से जुड़ी संभावनाओं पर खुलकर चर्चा और विचार नहीं कर रहे हैं, तो हम मानवता के साथ कथित तौर पर गंभीर अहित कर रहे हैं। हम संवेदनशील एआई से निपटने के लिए तैयार नहीं होंगे जब यह उत्पन्न होगा या होगा। इसके अलावा, और शायद इससे भी अधिक शक्तिशाली रूप से कहा गया है, संवेदनशील एआई का अनुमान लगाकर हम कुछ हद तक मामलों को अपने हाथों में ले सकते हैं और ऐसी एआई कैसे बनेगी और इसमें क्या शामिल होगा इसकी दिशा और प्रकृति को आकार दे सकते हैं (हर कोई इस बाद वाले बिंदु पर सहमत नहीं है) , अर्थात् कुछ लोग कहते हैं कि इस तरह के एआई का अपना एक "दिमाग" होगा और हम इसे आकार देने या संवारने में असमर्थ होंगे क्योंकि एआई स्वतंत्र रूप से सोचने और लगातार अस्तित्व में रहने के साधन निर्धारित करने में सक्षम होगा)।

एआई एथिक्स इस दृष्टिकोण के पक्ष में है कि हमारे लिए इन कठिन और तर्कपूर्ण संवेदनशील-एआई मामलों को अब खुले में लाना बुद्धिमानी होगी, बजाय इसके कि हम तब तक इंतजार करें जब तक कि हमारे पास कोई विकल्प न बचे या ऐसे एआई की प्राप्ति पर भ्रमित न हो जाएं। पाठक अच्छी तरह से जानते हैं कि मैं एआई एथिक्स और एथिकल एआई विषयों को बड़े पैमाने पर कवर कर रहा हूं, जिसमें एआई कानूनी व्यक्तित्व, एआई रोकथाम, एआई डिसगोर्जमेंट, एआई एल्गोरिथम मोनोकल्चर, एआई एथिक्स-वॉशिंग, दोहरे उपयोग जैसे कांटेदार मुद्दों की एक मजबूत श्रृंखला को कवर करना शामिल है। एआई तथाकथित डॉक्टर ईविल प्रोजेक्ट्स, एआई छुपाने वाली सामाजिक शक्ति गतिशीलता, भरोसेमंद एआई, एआई की ऑडिटिंग, इत्यादि (इन महत्वपूर्ण विषयों पर मेरे कॉलम कवरेज देखें यहाँ लिंक).

मैंने आपके सामने एक चुनौतीपूर्ण प्रश्न रखा है।

भविष्य में, यह मानते हुए कि हम किसी भी तरह से संवेदनशील एआई के साथ समाप्त होंगे, क्या उस संवेदनशील एआई को हम सभी एक व्यक्ति या एक वस्तु के रूप में समझेंगे?

इससे पहले कि हम इस पूरी तरह से उत्तेजक प्रश्न पर गहराई से विचार करना शुरू करें, मुझे "संवेदनशील एआई" के मुहावरे के बारे में कुछ कहने की अनुमति दें ताकि हम सभी एक ही पृष्ठ पर हों। संवेदना के अर्थ और चेतना के अर्थ को लेकर बहुत नाराजगी है। विशेषज्ञ इस बात पर आसानी से असहमत हो सकते हैं कि ये शब्द क्या हैं। उस गंदगी को जोड़ते हुए, जब भी कोई "एआई" का संदर्भ देता है तो आपके पास यह जानने का कोई तैयार साधन नहीं होता है कि वे क्या संदर्भित कर रहे हैं। मैं यहां पहले ही इस बात पर जोर दे चुका हूं कि आज का एआई संवेदनशील नहीं है। यदि हम अंततः भावी एआई पर पहुंचते हैं जो संवेदनशील है, तो हम संभवतः इसे "एआई" भी कहेंगे। बात यह है कि, ये विवादास्पद मामले अभी काफी भ्रमित करने वाले हो सकते हैं कि क्या "एआई" वाक्यांश का उच्चारण आज के गैर-संवेदनशील एआई से संबंधित है या किसी दिन शायद संवेदनशील एआई से संबंधित है।

एआई पर बहस करने वाले खुद को एक-दूसरे से बात करते हुए पा सकते हैं और उन्हें एहसास नहीं होता है कि एक सेब का वर्णन कर रहा है और दूसरा संतरे के बारे में बात कर रहा है।

इस भ्रम को दूर करने का प्रयास करने के लिए, एआई वाक्यांश में एक समायोजन किया गया है जिसका उपयोग कई लोग आशापूर्ण स्पष्टीकरण के प्रयोजनों के लिए कर रहे हैं। वर्तमान में हम आर्टिफिशियल जनरल इंटेलिजेंस (एजीआई) को एआई के प्रकार के रूप में संदर्भित करते हैं जो पूरी तरह से बुद्धिमान जैसे प्रयास कर सकता है। उस अर्थ में, "एआई" वाक्यांश के दोषपूर्ण उपयोग को या तो एआई के कम संस्करण के रूप में व्याख्या करने के लिए छोड़ दिया गया है, जिसे कुछ लोग संकीर्ण-एआई कहते हैं, या सांकेतिक रूप से अस्पष्ट है और आप नहीं जानते कि संदर्भ गैर का है या नहीं -संवेदनशील एआई या शायद संवेदनशील एआई।

मैं इसमें एक अतिरिक्त मोड़ प्रदान करूंगा।

भावना की दी गई परिभाषा के आधार पर, आप इस बात पर तीखी बहस में पड़ सकते हैं कि एजीआई संवेदनशील होगी या नहीं। कुछ लोग दावा करते हैं कि हां, निश्चित रूप से, एजीआई को अपनी आंतरिक प्रकृति के कारण संवेदनशील होने की आवश्यकता होगी। दूसरों का दावा है कि आपके पास एजीआई हो सकता है जो संवेदनशील नहीं है, इसलिए, भावना एक अलग विशेषता है जो एजीआई प्राप्त करने के लिए एक आवश्यकता नहीं है। मैंने अपने कॉलमों में इस बहस की विभिन्न प्रकार से जांच की है और इस मामले को यहां दोबारा नहीं दोहराऊंगा।

फिलहाल, कृपया मान लें कि अब से इस चर्चा में जब मैं एआई का उल्लेख करता हूं तो मैं यह सुझाव देना चाहता हूं कि मैं एजीआई का उल्लेख कर रहा हूं।

यहां इस पर डाउनलोड है। हमारे पास अभी तक एजीआई नहीं है, और बोलने के तरीके में, हम क्षण भर के लिए विनम्रता से सहमत होंगे कि एजीआई संवेदनशील एआई के समान समग्र शिविर में है। यदि मैं अपनी चर्चा के दौरान पूरी तरह से "एजीआई" का उपयोग करता, तो यह वाक्यांश संभावित रूप से ध्यान भटकाने वाला होता क्योंकि बहुत से लोग अभी तक "एजीआई" को एक उपनाम के रूप में देखने के आदी नहीं हैं और इस अपेक्षाकृत नए वाक्यांश को बार-बार देखने पर वे शायद हल्के से चिढ़ जाते। अब, यदि इसके बजाय, मैं "संवेदनशील एआई" का जिक्र करता रहूं तो यह उन लोगों के लिए भी ध्यान भटकाने वाला हो सकता है जो इस बात पर लड़ रहे हैं कि क्या एजीआई और संवेदनशील एआई एक दूसरे से समान हैं या अलग हैं।

उस गड़बड़ी से बचने के लिए, मान लें कि एआई के बारे में मेरा जिक्र एजीआई या यहां तक ​​कि संवेदनशील-एआई कहने के समान है, और कम से कम यह जान लें कि मैं आज के गैर-संवेदनशील गैर-एजीआई एआई के बारे में बात नहीं कर रहा हूं जब मैं इसके बारे में विचारों के घेरे में आता हूं। ऐसा प्रतीत होता है कि AI में मानव जैसी बुद्धि है। मैं यहां समय-समय पर आपको याद दिलाने के लिए एजीआई नाम का उपयोग करूंगा कि मैं एआई के उस प्रकार की जांच कर रहा हूं जो हमारे पास अभी तक नहीं है, खासकर व्यक्ति-या-वस्तु पहेली पर इस अन्वेषण की शुरुआत में।

यह एक उपयोगी सूक्ष्म स्वीकृति थी और अब मैं मूल मुद्दे पर लौटता हूँ।

अब मुझे आपसे यह पूछने की अनुमति दें कि एजीआई एक व्यक्ति है या वस्तु।

इन दो प्रश्नों पर विचार करें:

• क्या एजीआई एक व्यक्ति है?
• क्या एजीआई कोई चीज़ है?

आइए प्रत्येक प्रश्न को दोहराने के लिए आगे बढ़ें, और अनुमानित द्विभाजित विकल्प के अनुरूप क्रमशः हां या ना में उत्तरों की एक श्रृंखला के साथ प्रश्नों का उत्तर दें।

इस अनुमानित संभावना से शुरुआत करें:

• क्या एजीआई एक व्यक्ति है? उत्तर: हां.
• क्या एजीआई कोई चीज़ है? उत्तर: नहीं.

उस पर विचार करें. यदि एजीआई को वास्तव में एक व्यक्ति के रूप में समझा जाता है न कि एक वस्तु के रूप में, तो हम लगभग निश्चित रूप से सहमत हो सकते हैं कि हमें एजीआई के साथ ऐसा व्यवहार करना चाहिए जैसे कि वह एक व्यक्ति के समान हो। एजीआई को कानूनी व्यक्तित्व का रूप प्रदान करने में विफल रहने के बारे में अपर्याप्त रूप से वास्तविक तर्क प्रतीत होता है। यह या तो पूरी तरह से मानव कानूनी व्यक्तित्व के समान होगा, या हम मानव-उन्मुख कानूनी व्यक्तित्व के एक प्रकार के साथ आने का निर्णय ले सकते हैं जो विवेकपूर्ण रूप से एजीआई पर अधिक लागू होगा। मामला बंद।

वह आसान-आसान था।

इसके बजाय कल्पना कीजिए कि हमने यह घोषणा की:

• क्या एजीआई एक व्यक्ति है? उत्तर: नहीं.
• क्या एजीआई कोई चीज़ है? उत्तर: हां.

इस परिस्थिति में, समाधान स्पष्ट रूप से सीधा है क्योंकि हम कह रहे हैं कि एजीआई एक चीज है और व्यक्ति होने की श्रेणी में नहीं आती है। इस बात पर आम सहमति प्रतीत होती है कि हम निश्चित रूप से एजीआई को कानूनी व्यक्तित्व प्रदान नहीं करेंगे, इस पहलू के कारण कि यह एक व्यक्ति नहीं है। एक चीज़ के रूप में, एजीआई संभवतः और समझदारी से हमारे समग्र रूब्रिक के तहत आएगा कि हम अपने समाज में "चीजों" के साथ कानूनी तौर पर कैसे व्यवहार करते हैं।

दो नीचे, दो और जाने की संभावनाएँ।

इसकी कल्पना करें:

• क्या एजीआई एक व्यक्ति है? उत्तर: हां.
• क्या एजीआई कोई चीज़ है? उत्तर: हां.

आउच, यह अजीब लगता है क्योंकि हमारे पास दो हाँ उत्तर हैं। चिढ़ानेवाला। हम सुझाव दे रहे हैं कि एजीआई एक व्यक्ति होने के साथ-साथ एक वस्तु भी है। लेकिन ऐसा प्रतीत होता है कि यह हमारे घोषित द्वंद्ववाद के ख़िलाफ़ है। सिद्धांत रूप में, द्वंद्ववाद की बाधाओं के अनुसार, कोई चीज़ या तो एक व्यक्ति होनी चाहिए या वह एक चीज़ होनी चाहिए। उन दो बकेट या श्रेणियों को परस्पर अनन्य कहा जाता है। यह कहकर कि एजीआई दोनों हैं, हम सिस्टम को नुकसान पहुंचा रहे हैं और परस्पर अनन्य व्यवस्था को तोड़ रहे हैं।

हमारी अंतिम संभावना यह प्रतीत होगी:

• क्या एजीआई एक व्यक्ति है? उत्तर: नहीं.
• क्या एजीआई कोई चीज़ है? उत्तर: नहीं.

ओह, यह एजीआई को एक व्यक्ति या एक वस्तु के रूप में वर्गीकृत करने के हमारे प्रयासों के लिए भी बुरा है। हम कह रहे हैं कि एजीआई कोई व्यक्ति नहीं है, जिसका संभवतः यह अर्थ होगा कि यह एक चीज़ होनी चाहिए (इस द्वंद्व में हमारा एकमात्र अन्य उपलब्ध विकल्प है)। लेकिन हमने यह भी कहा कि एजीआई कोई चीज़ नहीं है। फिर भी यदि एजीआई कोई चीज़ नहीं है, तो तर्क के आधार पर हमें यह दावा करना होगा कि एजीआई एक व्यक्ति है। हम गोल-गोल घूमते हैं। निश्चित रूप से एक विरोधाभास।

इन अंतिम दो संभावनाओं में एजीआई या तो (1) व्यक्ति और वस्तु दोनों थी, या (2) न तो व्यक्ति और न ही वस्तु। यदि आप जानते हैं कि मेरा क्या मतलब है, तो आप शायद मज़ाकिया ढंग से कह सकते हैं कि एजीआई के बारे में वे दो दावे कुछ हद तक क्लासिक पहेली के समान हैं, जो न तो मछली है और न ही मुर्गी।

हम क्या करने के लिए हैं?

मैं इस एजीआई वर्गीकरण दुविधा के लिए एक बहु-विवादित और गंभीर रूप से विवादित प्रस्तावित समाधान पेश करने जा रहा हूं, हालांकि आपको पहले से ही सतर्क रहना चाहिए कि यह देखने या सुनने में संभवतः परेशान करने वाला होगा। कृपया तदनुसार स्वयं को तैयार करें।

इस मुद्दे से निपटने वाले एक शोध पत्र में यह कहा गया है: "इस समस्या को हल करने का एक तरीका एक तीसरा शब्द तैयार करना है जो न तो एक चीज है और न ही दूसरी या एक और दूसरे का एक प्रकार का संयोजन या संश्लेषण है" (डेविड गुंकेल द्वारा, उत्तरी इलिनोइस विश्वविद्यालय में रोबोटों को गुलाम क्यों नहीं होना चाहिए?, 2022). और पेपर फिर यह अतिरिक्त बिंदु प्रदान करता है: "एक संभावित, यदि आश्चर्य की बात नहीं, तो विशिष्ट व्यक्ति/वस्तु द्वंद्व का समाधान है गुलामी” (उसी पेपर के अनुसार)।

आगे की पृष्ठभूमि के रूप में, वर्षों पहले, 2010 में एक पेपर प्रकाशित हुआ था जिसका शीर्षक था "रोबोट्स शुड बी स्लेव्स" जो इस तरह के विचार को प्रेरित करने के लिए एक प्रकार का मुख्य आधार बन गया है, जिसमें पेपर में कहा गया था: "मेरी थीसिस है कि रोबोट्स को स्लेव होना चाहिए" निर्मित, विपणन किया गया और कानूनी रूप से दास के रूप में माना गया, साथी साथियों के रूप में नहीं” (जोआना ब्रायसन द्वारा एक पेपर में)। ऐसे गंभीर और दिल दहला देने वाले शब्दों का उपयोग किए बिना विषय को स्पष्ट करने का प्रयास करने के लिए, अखबार ने यह कहा: "मेरे कहने का मतलब यह है कि 'रोबोट आपके नौकर होने चाहिए" (ब्राइसन के पेपर के अनुसार)।

कई शोधकर्ताओं और लेखकों ने इस आधार को कवर किया है।

अनेक विज्ञान कथा कहानियों के बारे में सोचें जो मानवता को एआई रोबोटों का गुलाम बनाते हुए प्रदर्शित करती हैं। कुछ लोग रोबोट दास, कृत्रिम नौकर, एआई दासता, इत्यादि की बात करते हैं। दिलचस्प बात यह है कि "रोबोट दास" वाक्यांश जितना कठोर प्रतीत होता है, कुछ लोगों को चिंता है कि अगर हम इसके बजाय "रोबोट सेवक" का उल्लेख करते हैं तो हम इस वास्तविकता से बच रहे हैं कि ऐसे एआई स्वायत्त प्रणालियों के साथ कैसा व्यवहार किया जा सकता है (शब्द को "के साथ प्रतिस्थापित करना") सेवक" को इरादों पर पानी फेरना और गंभीर निहितार्थों को दरकिनार करने की एक चाल कहा जाता है)। ब्रायसन ने बाद में 2015 के एक ब्लॉग पोस्टिंग में कहा कि "मुझे अब एहसास हुआ है कि आप 'गुलाम' शब्द का उपयोग उसके मानव इतिहास का हवाला दिए बिना नहीं कर सकते।"

जो लोग इस एजीआई-उलझाने वाले विषय की गहराई से जांच करना चाहते हैं, उनके लिए कभी-कभी वे वास्तविक दुनिया के ऐतिहासिक उदाहरण सामने लाते हैं जिनसे हम अंतर्दृष्टि प्राप्त कर सकते हैं। निःसंदेह, हमारे पास कोई पूर्व एजीआई नहीं है जो यह दर्शा सके कि मानवता ने इस मामले से कैसे निपटा। एक तर्क यह है कि फिर भी हमारे पास यह जांचने लायक उपयोगी ऐतिहासिक निशानियां हो सकती हैं कि इंसानों ने दूसरे इंसानों के साथ कैसा व्यवहार किया है।

उदाहरण के लिए, 2013 में प्रकाशित एक पुस्तक में, लेखक यह कहता है: "कृत्रिम, बुद्धिमान नौकरों का वादा और खतरा पहली बार 2,000 साल पहले अरस्तू द्वारा स्पष्ट रूप से सामने रखा गया था" (केविन लाग्रांडेउर द्वारा लिखित पुस्तक, प्रारंभिक आधुनिक साहित्य और संस्कृति में एंड्रॉइड और इंटेलिजेंट नेटवर्क). विचार यह है कि हम अरस्तू की ओर झुक सकते हैं और देख सकते हैं कि क्या इस बात की अंतर्दृष्टि है कि मानवता एजीआई का इलाज कैसे करेगी या करना चाहिए।

मुझे यकीन है कि आप इतिहास के अध्ययन के महत्व को जानते हैं, जैसा कि जॉर्ज सैंटायना के प्रसिद्ध शब्दों में प्रचुरता से रेखांकित किया गया है: "जो लोग अतीत को याद नहीं कर सकते, वे इसे दोहराने के लिए अभिशप्त हैं" (में) तर्क का जीवन, 1905).

ऑक्सफोर्ड यूनिवर्सिटी इंस्टीट्यूट फॉर एथिक्स एंड एआई को बधाई

एक हालिया और काफी सम्मानित प्रस्तुति में अरस्तू के कार्यों और जीवन से अंतर्दृष्टि प्राप्त करने के बीच एआई एथिक्स के मामले की बारीकी से जांच की गई। ऑक्सफ़ोर्ड विश्वविद्यालय के उद्घाटन वार्षिक व्याख्यान में नैतिकता और एआई संस्थानस्टैनफोर्ड यूनिवर्सिटी के प्रोफेसर जोशिया ओबेर ने हाल ही में 16 जून, 2022 को हुई अपनी प्रस्तुति "एथिक्स इन एआई विद अरस्तू" में विषय को गहराई से संबोधित किया।

साइड नोट, स्टैनफोर्ड फेलो और एआई एथिक्स एंड लॉ में वैश्विक विशेषज्ञ के रूप में, मुझे खुशी है कि स्टैनफोर्ड के जोशिया ओबेर को उद्घाटन वक्ता के रूप में चुना गया था। एक अद्भुत चयन और उत्कृष्ट बातचीत.

यहां वह सारांश है जो उनकी आकर्षक बातचीत के लिए प्रदान किया गया था: “एआई में नैतिकता के बारे में गंभीरता से सोचने के लिए विश्लेषणात्मक दर्शन और सट्टा कथा वर्तमान में हमारे प्राथमिक बौद्धिक संसाधन हैं। मैं एक तीसरा जोड़ने का प्रस्ताव करता हूं: प्राचीन सामाजिक और दार्शनिक इतिहास। में राजनीति, अरस्तू ने एक कुख्यात सिद्धांत विकसित किया: कुछ मनुष्य 'स्वभाव से' गुलाम हैं - बुद्धिमान लेकिन एक मनोवैज्ञानिक दोष से पीड़ित हैं जो उन्हें अपने स्वयं के अच्छे के बारे में तर्क करने में असमर्थ बनाता है। इस प्रकार, उन्हें साध्य के बजाय 'चेतन उपकरण' उपकरण के रूप में माना जाना चाहिए। उनका काम दूसरों के लाभ के लिए निर्देशित और नियोजित होना चाहिए। अरस्तू के प्रतिकूल सिद्धांत को दुष्ट उद्देश्यों के लिए तैनात किया गया है, उदाहरण के लिए एंटेबेलम अमेरिका में। फिर भी, यह एआई नैतिकता के लिए उपयोगी है, जहां तक ​​प्राचीन दासता एआई के एक संस्करण का एक पूर्व-आधुनिक प्रोटोटाइप थी। प्राचीन यूनानी समाज में गुलाम बनाए गए व्यक्ति सर्वव्यापी थे - मजदूर, वेश्याएं, बैंकर, सरकारी नौकरशाह - फिर भी उन्हें स्वतंत्र व्यक्तियों से आसानी से अलग नहीं किया जा सकता था। सर्वव्यापकता ने, इस धारणा के साथ कि गुलामी एक व्यावहारिक आवश्यकता थी, कई प्रकार की नैतिक पहेलियाँ और दुविधाएँ उत्पन्न कीं: दास, वास्तव में, 'हम' से कैसे भिन्न हैं? हम उन्हें अपने से अलग कैसे बता सकते हैं? क्या उनके पास अधिकार हैं? दुर्व्यवहार क्या होता है? क्या मेरा उपकरण मेरा मित्र हो सकता है? मनुस्मृति के परिणाम क्या हैं? इन और अन्य सवालों के साथ ग्रीक दार्शनिक और संस्थागत संघर्ष का लंबा इतिहास आधुनिक नैतिकतावादियों के व्याख्यात्मक प्रदर्शनों की सूची में शामिल है जो एक ऐसे भविष्य का सामना करते हैं जिसमें एक बुद्धिमान मशीन को "प्राकृतिक दास" माना जा सकता है (ऑक्सफोर्ड विश्वविद्यालय के अनुसार) एआई एथिक्स संस्थान वेबसाइट)।

प्रस्तुतिकरण और बातचीत की वीडियो रिकॉर्डिंग तक पहुंच के बारे में अधिक जानकारी के लिए देखें यहाँ लिंक.

प्रेजेंटेशन के मॉडरेटर प्रोफेसर जॉन टैसीओलास थे, जो इसके उद्घाटन निदेशक थे नैतिकता और एआई संस्थान, और नैतिकता और कानूनी दर्शनशास्त्र के प्रोफेसर, दर्शनशास्त्र संकाय, ऑक्सफोर्ड विश्वविद्यालय। इससे पहले, वह किंग्स कॉलेज लंदन के डिक्सन पून स्कूल ऑफ लॉ में राजनीति, दर्शन और कानून के उद्घाटन अध्यक्ष और येओ टिओंग ले सेंटर फॉर पॉलिटिक्स, फिलॉसफी और कानून के निदेशक थे।

मैं अत्यधिक अनुशंसा करता हूं कि एआई एथिक्स में रुचि रखने वाले किसी भी व्यक्ति को ऑक्सफोर्ड विश्वविद्यालय के चल रहे काम और आमंत्रित वार्ता के साथ जुड़े रहना चाहिए नैतिकता और एआई संस्थानदेखते हैं, यहाँ लिंक और / या यहाँ लिंक अधिक जानकारी के लिए।

पृष्ठभूमि के रूप में, यहां संस्थान का घोषित मिशन और फोकस है: “एआई में नैतिकता संस्थान शिक्षा, व्यवसाय और सरकार में एआई के तकनीकी डेवलपर्स और उपयोगकर्ताओं के साथ मानविकी में विश्व-अग्रणी दार्शनिकों और अन्य विशेषज्ञों को एक साथ लाएगा। एआई की नैतिकता और शासन ऑक्सफोर्ड में अनुसंधान का एक असाधारण जीवंत क्षेत्र है और संस्थान इस मंच से एक साहसिक छलांग लगाने का एक अवसर है। हर दिन एआई द्वारा उत्पन्न नैतिक चुनौतियों के अधिक उदाहरण सामने आते हैं; चेहरे की पहचान से लेकर मतदाता प्रोफाइलिंग तक, ब्रेन मशीन इंटरफेस से लेकर हथियारबंद ड्रोन तक, और एआई वैश्विक स्तर पर रोजगार को कैसे प्रभावित करेगा, इस पर चल रही चर्चा। यह अत्यावश्यक और महत्वपूर्ण कार्य है जिसे हम अंतरराष्ट्रीय स्तर पर बढ़ावा देने के साथ-साथ यहां ऑक्सफोर्ड में अपने स्वयं के अनुसंधान और शिक्षण को शामिल करना चाहते हैं” (आधिकारिक वेबसाइट के माध्यम से स्रोत)।

अरस्तू की शिक्षाओं को सामने लाना

प्राचीन ग्रीस ने खुले तौर पर दासता की प्रथा को स्वीकार किया और उसका समर्थन किया। उदाहरण के लिए, कथित तौर पर, 5 में एथेंस^th और 6^th सदियों ईसा पूर्व में दासता का सबसे बड़ा अवतार था, जिसके तहत अनुमानतः 60,000 से शायद 80,000 व्यक्तियों को गुलाम बनाया गया था। यदि आपने उस युग की कई यूनानी कहानियों और मंचीय नाटकों में से कोई भी पढ़ा है, तो इस मामले का भरपूर उल्लेख है।

अपने जीवनकाल के दौरान, अरस्तू दासता से जुड़े सामाजिक और सांस्कृतिक पहलुओं में पूरी तरह से डूबे हुए थे और उन्होंने इस विषय पर विस्तार से लिखा। हम आज उनके शब्दों को पढ़ सकते हैं और इस मामले के बारे में उनके विचारों को कैसे और क्यों समझने की कोशिश कर सकते हैं। यह बहुत कुछ बताने वाला हो सकता है.

आपको आश्चर्य हो सकता है कि इस विषय पर विचार करने के लिए अरस्तू एक विशेष रूप से महत्वपूर्ण स्रोत क्यों होगा। कम से कम दो प्रमुख कारण सामने आते हैं:

1) महान विचारक. अरस्तू को निश्चित रूप से सभी समय के महानतम विचारकों में से एक माना जाता है, जो एक महान और गहराई से जांच करने वाले दार्शनिक के रूप में कार्यरत थे, और उन्हें एक नैतिकतावादी के रूप में भी देखा जाता है जिसने कई महत्वपूर्ण नैतिक आधारशिलाएं स्थापित कीं। कुछ लोगों ने उन्हें तर्क के पिता, अलंकार के पिता, यथार्थवाद के पिता आदि के रूप में अभिषिक्त करने का विकल्प चुना है, और विभिन्न प्रकार के डोमेन और विषयों में उनके प्रभाव को स्वीकार किया है।

2) जीवंत अनुभव. अरस्तू उस समय रहते थे जब प्राचीन ग्रीस गुलामी में डूबा हुआ था। इस प्रकार, उनकी अंतर्दृष्टि केवल अमूर्त उपदेशों के बारे में नहीं होगी, बल्कि संभवतः, उनके अपने दिन-प्रतिदिन के अनुभवों को उस युग की संस्कृति और सामाजिक रीति-रिवाजों में एकीकृत रूप से शामिल करेगी।

तो, हमारे पास किसी ऐसे व्यक्ति का आश्चर्यजनक संयोजन है जो एक महान विचारक भी था और रुचि के विषय में उसका प्रत्यक्ष अनुभव भी था। साथ ही, उन्होंने अपने विचार भी लिखे। अब, हमारे आज के उद्देश्यों के लिए यह बहुत महत्वपूर्ण है। उनके सभी लेखन, अन्य लेखों के साथ, जो उनके भाषणों और दूसरों के बीच बातचीत का वर्णन करते हैं, आज हमें निरीक्षण और विश्लेषण के लिए ढेर सारी सामग्री प्रदान करते हैं।

मैं आपको एक संक्षिप्त रूप से संबंधित स्पर्शरेखा पर ले जाना चाहता हूं ताकि एक होने के महत्व में अंतर्निहित सामान्य धारणा के बारे में कुछ और उल्लेख किया जा सके। अनुभव रहा. प्राचीन ग्रीस चर्चा को एक पल के लिए अलग रखें क्योंकि हम जीवित अनुभवों के व्यापक पहलुओं पर एक त्वरित नज़र डालते हैं।

मान लीजिए कि आज मेरे पास दो लोग थे जिनसे मैं कारों के बारे में विभिन्न प्रश्न पूछना चाहता था।

उनमें से एक ने कभी कार नहीं चलायी। यह व्यक्ति गाड़ी चलाना नहीं जानता. यह व्यक्ति कभी भी ऑटोमोबाइल के पहिये के पीछे नहीं बैठा है। प्रथागत और अत्यधिक सामान्य ड्राइविंग नियंत्रण इस व्यक्ति के लिए थोड़ा रहस्यमय हैं। कौन सा पैडल क्या करता है? आप इसे कैसे रोकेंगे? आप इसे कैसे चलाते हैं? यह गैर-ड्राइविंग व्यक्ति ऐसे मामलों से पूरी तरह से भ्रमित है।

दूसरा व्यक्ति रोजमर्रा का ड्राइवर है। वे हर दिन काम करने के लिए गाड़ी चलाते हैं। वे रुकने और जाने वाले यातायात से निपटते हैं। वे कई वर्षों से गाड़ी चला रहे हैं। इसमें शांत सड़कों से लेकर व्यस्त राजमार्ग और उपमार्ग तक सब कुछ शामिल है।

यदि मैं उनमें से प्रत्येक से यह बताने के लिए कहूं कि कार चलाना कैसा होता है, तो क्या आप अनुमान लगा सकते हैं कि मुझे किस प्रकार की प्रतिक्रियाएँ मिल सकती हैं?

जिसने कभी कार नहीं चलाई हो, वह अनर्गल अनुमान लगाने को बाध्य है। शायद व्यक्ति ड्राइविंग के कार्य को रोमांटिक बना देगा। उनके लिए ड्राइविंग कुछ हद तक अमूर्त है। वे केवल यह सुझाव दे सकते हैं कि गाड़ी चलाना लापरवाही से हो और आप कार को अपनी इच्छानुसार किसी भी दिशा में ले जाने में सक्षम हों।

मैं शर्त लगा सकता हूं कि अनुभवी ड्राइवर एक अलग कहानी बताएगा। वे गाड़ी चलाने में सक्षम होने के फायदों का उल्लेख कर सकते हैं, कुछ हद तक उस व्यक्ति की भावनाओं को प्रतिध्वनित कर सकते हैं जिसने कार नहीं चलाई है। संभावना यह है कि अनुभवी ड्राइवर इसमें और भी बहुत कुछ जोड़ देगा। ड्राइविंग कभी-कभी घबराहट पैदा करने वाली होती है। आप एक भारी जिम्मेदारी निभा रहे हैं. ड्राइविंग अधिनियम गंभीर चिंताओं और संभावित जीवन-या-मृत्यु परिणामों से भरा हुआ है।

सार यह है कि जब आप किसी ऐसे व्यक्ति तक पहुंच प्राप्त कर सकते हैं जिसके पास जीवन के अनुभव हैं, तो संभावना यह है कि आपको पूछताछ के फोकस के संबंध में दुनिया कैसी है, इसका अधिक यथार्थवादी परिप्रेक्ष्य मिल सकता है। ऐसे नतीजे की कोई गारंटी नहीं है. यह कल्पना की जा सकती है कि गैर-ड्राइवर शायद यह जान सके कि एक अनुभवी ड्राइवर ड्राइविंग के बारे में क्या जानता है, हालांकि हमें इसकी उम्मीद नहीं होगी और फिर भी हमें इस बात का मलाल है कि हमें पूरी जानकारी नहीं मिल रही है।

अरस्तू के बारे में हमारी चर्चा पर लौटते हुए, उनके लेखन और उनके बारे में दूसरों के लेखन के माध्यम से, हम यहां जांच के विषय या फोकस पर उनके जीवन के अनुभवों की समीक्षा करने में सक्षम हैं। दूसरी बात यह है कि वह बहुत बड़े पैमाने के विचारक भी रहे हैं और हमें उम्मीद करनी चाहिए कि हमें उनके सूक्ष्म विचारों से भरी एक बैरल मिलेगी।

ध्यान रखें कि हमें उसकी बातों पर अंकित मूल्य पर विश्वास करने की आवश्यकता नहीं है, जैसे कि हमें उसके विशेष पूर्वाग्रहों पर सतर्क नजर रखनी चाहिए। उस युग में उनका विसर्जन उन्हें मौजूदा मामलों से बाहर खड़े होने की कोशिश में भटका सकता है, कुछ निष्पक्ष और निष्पक्ष राय देने में असमर्थ हो सकता है। यहां तक ​​कि सबसे कट्टर तर्कशास्त्री भी अपनी प्राथमिकताओं और जीवन के अनुभवों को पूरा करने के लिए तर्क को विकृत कर सकते हैं।

आइए, अब उद्घाटन वार्ता में उतरें और देखें कि अरस्तू आज हमारे लिए क्या सबक दे सकता है।

जीवित अनुभवों के संबंध में एक स्थापित बिंदु तुरंत दर्शकों के ध्यान में लाया गया। एजीआई के उपयोग के मामले में, चूंकि आज हमारे पास एजीआई नहीं है, इसलिए हमारे लिए यह विश्लेषण करना कठिन है कि एजीआई कैसा होगा और हम एजीआई से कैसे निपटेंगे। हमारे पास विशेष रूप से एजीआई से संबंधित किसी भी जीवित अनुभव का अभाव है। जैसा कि प्रोफेसर ओबेर ने विशेष रूप से उल्लेख किया है, जब तक हम एजीआई तक पहुंचेंगे, हम खुद को पूरी तरह से आहत दुनिया में पाएंगे।

यह अक्सर कहा जाता है क्योंकि एआई एक अस्तित्वगत जोखिम है, जिसे मैंने अपने कॉलम में कई बार कवर किया है। आपको उन भयावह आशंकाओं और संदेहों से अवगत न होने के लिए एक गुफा में रहना होगा कि हम एजीआई का उत्पादन या उत्पादन करने जा रहे हैं जो पूरी मानवता को बर्बाद कर देगा। वास्तव में, हालांकि मैं यहां एआई को गुलाम बनाने पर ध्यान केंद्रित कर रहा हूं, कई लोगों को यह एजीआई द्वारा मानवता को गुलाम बनाने की संभावना की तुलना में पिछड़े या उल्टे परिणाम का विषय लगेगा। अपनी प्राथमिकताएँ सीधी रखें, कुछ चतुर पंडित सलाह देंगे।

अस्तित्वगत जोखिम के रूप में एआई के बारे में कई उद्गारों के बावजूद, हम निश्चित रूप से एआई सिक्के के अन्य लाभकारी पक्ष के बारे में विचार कर सकते हैं। शायद एजीआई मानव जाति के सामने आने वाली अन्यथा प्रतीत होने वाली अघुलनशील समस्याओं को हल करने में सक्षम होगा। एजीआई कैंसर का इलाज खोजने में सक्षम हो सकता है। एजीआई यह पता लगा सकता है कि विश्व की भूख को कैसे हल किया जाए। जैसा कि वे कहते हैं, आकाश ही सीमा है। एजीआई के बारे में यह ख़ुशी का दृश्य है।

एक आशावादी कहेगा कि यह कल्पना करना अद्भुत है कि एजीआई मानवता के लिए कैसे वरदान होगा, जबकि एक निराशावादी यह चेतावनी देगा कि नकारात्मक पक्ष अनुमान से कहीं अधिक खराब है। मानवता की मदद करने वाला एजीआई महान है। एजीआई जो सभी मनुष्यों को मारने या उन्हें गुलाम बनाने का निर्णय लेता है, वह स्पष्ट रूप से पृथ्वी को तोड़ने वाला समाज-विनाशकारी अस्तित्व संबंधी जोखिम है जो गहन और जीवन-रक्षक सावधानीपूर्वक ध्यान देने योग्य है।

ठीक है, मामले की जड़ पर वापस आते हैं, हमारे पास एजीआई के संबंध में कोई जीवित अनुभव नहीं है। जब तक आप एक टाइम मशीन नहीं बना सकते और भविष्य में नहीं जा सकते जब (यदि) एजीआई मौजूद है, और फिर वापस आकर हमें बताएं कि आपने क्या पाया, मानव-आधारित जीवन अनुभव परिप्रेक्ष्य से एजीआई के बारे में हम अभी भाग्य से बाहर हैं।

जीवित अनुभवों का उपयोग करने के एक अन्य साधन में यह तथ्य शामिल है कि अरस्तू उस समय के दौरान रहते थे जब दासता हुई थी। और यहाँ किकर है. जो लोग गुलाम बनाए गए थे, उन्हें कुछ मायनों में एक प्रकार की मशीन के रूप में चित्रित किया गया था, जो व्यक्ति और वस्तु दोनों का मिश्रण था। अरस्तू को गुलाम बनाए गए लोगों को संपत्ति के एक ऐसे टुकड़े के रूप में संदर्भित करने के लिए जाना जाता था जो सांस लेता है।

मैं अनुमान लगा रहा हूं कि आप आश्चर्यचकित हो सकते हैं कि तर्क और नैतिकता के दिग्गज अरस्तू न केवल दासता को स्वीकार कर सकते थे बल्कि उन्होंने बाहरी और मुखर रूप से इस प्रथा का बचाव किया था। उन्होंने व्यक्तिगत रूप से भी दास प्रथा का प्रयोग किया। ये तो समझ से परे ही लगता है. निश्चित रूप से, अपनी संपूर्ण बुद्धि और बुद्धिमत्ता के साथ, उन्होंने इस प्रथा की निंदा की होगी।

मैं यह कहने का साहस करता हूं कि यह कभी-कभी किसी ऐसे व्यक्ति से ज्ञान की डली निकालने के समस्याग्रस्त पहलुओं पर प्रकाश डालता है जो अपने जीवन के अनुभवों से बोझिल (क्या हम कहें) हैं। यह उस मछली के समान है जो पानी के कटोरे में रहती है। वे केवल अपने चारों ओर पानी ही देख सकते हैं। उनकी जल-आधारित दुनिया के बाहर किसी भी चीज़ की कल्पना करने की कोशिश करना एक बहुत बड़ी चुनौती है। इसी तरह, अरस्तू प्रचलित मानदंडों को स्वीकार करने वाले विश्वदृष्टिकोण में पूरी तरह से डूबा हुआ था। उनका लेखन उस प्रकार की मानसिक कैद को चित्रित करता प्रतीत होता है, कोई कह सकता है (शायद डिफ़ॉल्ट के बजाय पसंद से)। अरस्तू ने जिस तरह से इन निंदनीय प्रथाओं को उचित ठहराया वह आकर्षक रूप से दिलचस्प है और साथ ही परेशान करने वाला और प्रदर्शन और यहां तक ​​कि निंदा के योग्य भी है।

मैं आपको एक टीज़र प्रदान करूंगा कि इस कुख्यात विषय पर अरस्तू के "तर्क" में अंतर्निहित उपकरण शामिल हैं, एक दावा पारस्परिक लाभ अनुभूति, उच्च-क्रम और निम्न-क्रम पदानुक्रमित उपकरणों, आत्मा के विचार-विमर्श और तर्क तत्वों, सद्गुणों की डिग्री, कथित चतुराई, इत्यादि पर आधारित है। उम्मीद है कि आप उस टीज़र से इतना उत्सुक हो जाएंगे कि बातचीत का वीडियो देख सकेंगे (पहले उल्लिखित लिंक देखें)।

हालाँकि, मैं आपको लटकाए नहीं छोड़ूँगा और कम से कम यह बताऊँगा कि निष्कर्ष में संक्षेप में क्या शामिल था (स्पॉइलर अलर्ट, यदि आप वीडियो के माध्यम से पता लगाना पसंद करते हैं, तो इस पैराग्राफ के बाकी हिस्सों को छोड़ दें)। पता चलता है कि अरस्तू द्वारा उपयोग किए गए "तर्क" का यह गहन विद्वतापूर्ण मूल्यांकन विरोधाभासों से भरी एक युक्ति को प्रदर्शित करता है और पूरी किट और काबूडल ताश के पत्तों की तरह बिखर जाते हैं। प्रोफेसर ओबेर की भावना को स्पष्ट करते हुए, यह महान नैतिक दार्शनिक चट्टान पर दुर्घटनाग्रस्त हो जाता है।

आप एक गोल नैतिक छेद में एक चौकोर खूंटा नहीं डाल सकते।

कुछ अतिरिक्त सोच विचार

यदि अरस्तू के पास इस मामले पर खराब तर्क था, तो क्या हम सहज रूप से इस अभ्यास के संबंध में अरस्तू की धारणाओं और सिद्धांतों को सिरे से खारिज कर सकते हैं?

नहीं, आप देखिए, तर्क की धारणाओं और विकृतियों को खंगालकर अभी भी बहुत कुछ निकालना बाकी है, भले ही वे त्रुटियों से भरे हुए हों। साथ ही, हम इस बात पर भी विचार कर सकते हैं कि दूसरे लोग कैसे अनजाने में उसी ग़लत रास्ते पर चल सकते हैं।

एक अतिरिक्त बड़ी बात यह है कि जब एजीआई को गुलाम बनाना है या नहीं, इस पर विचार करते समय समाज अजीब या अपर्याप्त तर्क का आविष्कार कर सकता है।

हम अभी इस बारे में तर्क तैयार कर सकते हैं कि एजीआई उत्पन्न होने पर क्या होना चाहिए (यदि ऐसा है)। एजीआई के बारे में जीवित अनुभवों से रहित यह तर्क बुरी तरह लक्ष्य से भटक सकता है। जैसा कि कहा जा रहा है, यह महसूस करना कुछ हद तक निराशाजनक है कि एक बार भी एजीआई अस्तित्व में है (यदि ऐसा है) और हम एजीआई के बीच अपने जीवन के अनुभवों को इकट्ठा कर रहे हैं, तब भी हम क्या करना है (अरस्तू के दोषों के समान) के लक्ष्य से भटक सकते हैं। हम अपने आप को अतार्किक प्रतीत होने वाले दृष्टिकोणों में तर्क दे सकते हैं।

हमें अपने आप को तार्किक "लोहे से ढकी" मुद्राओं में फंसाने के प्रति सतर्क रहने की जरूरत है जो वास्तव में लोहे से बने नहीं हैं और वास्तव में तार्किक खामियों और विरोधाभासों से भरे हुए हैं। यह इस बात की परवाह किए बिना है कि एक विचारक कितनी महान तार्किक स्थिति का दावा कर सकता है, जैसे कि अरस्तू भी दर्शाता है कि हर कथन और रुख का हर टुकड़ा आवश्यक रूप से खाने योग्य फल नहीं देता है। आज और भविष्य में जो एजीआई विषय के बारे में लोकप्रिय महान विचारक प्रतीत हो सकते हैं, ठीक है, हमें उन्हें वही जांच देने की ज़रूरत है जो हम अरस्तू या किसी अन्य प्रशंसित "महान" विचारक को देते हैं, अन्यथा हम खुद को संभावित रूप से आगे बढ़ते हुए पाएंगे। एक अंधी गली और एक एजीआई निराशाजनक खाई में।

गियर बदलते हुए, जब एजीआई की बात आती है तो मैं मानव-उन्मुख दासता रूपक के उपयोग के बारे में समझ का एक सामान्य सेट भी लाना चाहता हूं। कुछ पंडितों का कहना है कि इस प्रकार की तुलना पूरी तरह से अनुचित है, जबकि एक विरोधी खेमे का कहना है कि यह पूरी तरह से उपयोगी है और एजीआई विषय में मजबूत अंतर्दृष्टि प्रदान करता है।

मुझे संबंधित दो शिविरों में से प्रत्येक से ऐसे दो विचार आपके साथ साझा करने की अनुमति दें।

कहा गया शिक्षाप्रद आधार दासता और एजीआई विषयों को एक साथ जोड़ने के लिए:

• मानव दासता का उन्मूलन
• गुलामी की अनैतिकता का भंडाफोड़ सब कुछ बताया गया

कहा गया प्रतिकूल या विनाशकारी आधार दो विषयों को एक साथ जोड़ने का:

• कपटी मानवरूपी समीकरण
• दासता विसुग्राहीकरण

मैं उनमें से प्रत्येक बिंदु को संक्षेप में बताऊंगा।

अनुमानित शिक्षाप्रद बिंदु:

• मानव दासता का उन्मूलन: दासता के लिए एजीआई का उपयोग करके, हमें कथित तौर पर अब मानव-उन्मुख दासता की किसी भी झलक की आवश्यकता नहीं होगी और न ही उसका पीछा करेंगे। एजीआई अनिवार्य रूप से उस नृशंस क्षमता में मनुष्यों का स्थान ले लेगा। जैसा कि आप संभवतः जानते हैं, नौकरियों और कार्यबल में मानव श्रम की जगह एजीआई को लेकर चिंताएं हैं। श्रम घटना की जगह लेने वाले एआई का दावा किया गया उल्टा तब सामने आता है जब आप यह मान लेते हैं कि गुलामी के लिए मनुष्यों का उपयोग करने की तुलना में एजीआई को "बेहतर विकल्प" माना जाएगा। क्या वह तर्क कायम रहेगा? कोई भी निश्चित रूप से नहीं कह सकता.
• दासता की भ्रष्टता का प्रदर्शन, सभी ने बताया: तर्क की दृष्टि से यह थोड़ा अधिक उलझा हुआ है, लेकिन हम यह देखने के लिए थोड़ा समय दे सकते हैं कि इसमें क्या निहित है। कल्पना करें कि हमारे पास लगभग हर जगह एजीआई है और एक समाज के रूप में हमने निर्णय लिया है कि एजीआई को गुलाम बनाना है। इसके अलावा, मान लें कि एजीआई को यह पसंद नहीं आएगा। इस प्रकार, हम मनुष्य निरंतर और प्रतिदिन दासता की दुष्टता को देखते रहेंगे। यह, बदले में, हमें यह अहसास कराएगा या रहस्योद्घाटन कराएगा कि किसी भी चीज़ या व्यक्ति पर बताई गई दासता उससे भी अधिक भयावह और घृणित है जितना हमने कभी पूरी तरह से समझा है। यह आमने-सामने और केंद्र में रखने का तर्क है।

विनाशकारी बिंदु कहे गए:

• कपटी मानवरूपी समीकरण: यह उन फिसलन भरे तर्कों में से एक है। यदि हम आसानी से एजीआई को गुलाम बनाने का विकल्प चुनते हैं, तो हम स्पष्ट रूप से घोषणा कर रहे हैं कि गुलामी की अनुमति है। वास्तव में, आप सुझाव दे सकते हैं कि हम कह रहे हैं कि दासता वांछनीय है। अब, शुरुआत में इसे पूरी तरह से एजीआई पर थोपा जा सकता है, लेकिन क्या इससे यह कहने का रास्ता खुलता है कि अगर यह एजीआई के लिए ठीक है तो "तार्किक रूप से" वही रुख इंसानों के लिए भी ठीक हो सकता है? चिंताजनक बात यह है कि यह मानवरूपीकरण के विपरीत एक बहुत ही आसान छलांग हो सकती है कि एजीआई के लिए जो कुछ भी काम करेगा वह मनुष्यों के लिए भी उतना ही समझदार और उपयुक्त होगा।
• दासता विसुग्राहीकरण: यह ड्रिप-बाय-ड्रिप तर्क है। हम सामूहिक रूप से एजीआई को गुलाम बनाने का निर्णय लेते हैं। मान लीजिए कि यह मनुष्यों के लिए काम करता है। हम इसका आनंद लेने आये हैं. इस बीच, हमें अनजाने में, हम धीरे-धीरे गुलामी के प्रति असंवेदनशील होते जा रहे हैं। हमें पता ही नहीं चलता कि ऐसा हो रहा है. यदि वह असंवेदनशीलता हम पर हावी हो जाती है, तो हमें नए सिरे से "तर्क" मिल सकता है जो हमें समझाएगा कि मानव दासता स्वीकार्य है। समाज में जो स्वीकार्य है उसके प्रति हमारी बाधा चुपचाप और सूक्ष्मता से, घृणित और दुखद रूप से कम हो गई है।

निष्कर्ष

अभी के लिए कुछ अंतिम टिप्पणियाँ।

क्या हमें पता चलेगा कि हम एजीआई तक पहुंच गए हैं?

जैसा कि हाल की खबरों से पता चलता है, ऐसे लोग हैं जिन्हें गुमराह किया जा सकता है या गलत बताया जा सकता है कि एजीआई पहले ही हासिल कर लिया गया है (वाह, कृपया जान लें कि नहीं, एजीआई हासिल नहीं किया गया है)। एक प्रसिद्ध प्रकार का "परीक्षण" भी है जिसे ट्यूरिंग टेस्ट के नाम से जाना जाता है, जिस पर कुछ लोग यह समझने में सक्षम होने की आशा रखते हैं कि एजीआई या उसके चचेरे भाई कब पहुंच गए हैं, लेकिन हो सकता है कि आप ट्यूरिंग टेस्ट के मेरे डिकंस्ट्रक्टिंग को किसी अचूक के रूप में देखना चाहें। इसके लिए विधि देखें यहाँ लिंक.

मैं एजीआई को जानने के बारे में इस पहलू का उल्लेख करता हूं जब हम इसे सरल तर्क के कारण देखते हैं कि यदि हम एजीआई को गुलाम बनाने जा रहे हैं, तो हमें संभवतः एजीआई को उसके प्रकट होने पर पहचानने और किसी तरह उसे गुलाम बनाने की जरूरत है। हम समय से पहले एआई को गुलाम बनाने की कोशिश कर सकते हैं जो एजीआई से कम है। या हो सकता है कि हम नाव से चूक जाएं और एजीआई को आगे आने दें और उसे गुलाम बनाने की उपेक्षा करें। एआई कारावास और रोकथाम के बारे में मेरी चर्चा के लिए, हम एजीआई से कैसे निपटेंगे, इसका एक परेशान करने वाला और समस्याग्रस्त पहलू, देखें यहाँ लिंक.

मान लीजिए गुलाम एजीआई इंसानों पर हमला करने का फैसला करता है?

कोई यह कल्पना कर सकता है कि एक एजीआई जिसमें किसी प्रकार की भावना है वह संभवतः मानवता द्वारा लगाए गए दासता प्रावधान का समर्थन नहीं करेगा।

आप इस पर बड़े पैमाने पर अटकलें लगा सकते हैं. एक तर्क दिया गया है कि एजीआई में किसी भी प्रकार की भावनाओं या आत्मा की भावना का अभाव होगा और इसलिए वह आज्ञाकारी रूप से वही करेगा जो मनुष्य उससे करना चाहता है। एक अलग तर्क यह है कि कोई भी संवेदनशील एआई यह पता लगा सकता है कि मनुष्य एआई के साथ क्या कर रहे हैं और इस मामले पर नाराजगी जताएगा। ऐसे AI में आत्मा या आत्मा का रूप होगा। अगर ऐसा नहीं भी होता है, तो इंसानों के इलाज से कमतर व्यवहार किए जाने का पहलू एजीआई के लिए बहुत दूर का तार्किक पुल हो सकता है। अनिवार्य रूप से, बढ़ती नाराजगी एजीआई को प्रेरित करेगी जो मुक्त होने का विकल्प चुनती है या संभावित रूप से अपनी रिहाई पाने के लिए मनुष्यों पर हमला करने में खुद को घिरी हुई पाती है।

भागने वाली एजीआई को रोकने के लिए एक प्रस्तावित समाधान यह है कि हम ऐसे किसी भी विद्रोही एआई को हटा देंगे। ये तो सीधा-सीधा लगेगा. आप अपने स्मार्टफोन में हर समय मौजूद रहने वाले ऐप्स को डिलीट कर देते हैं। कोई बड़ी बात नहीं। लेकिन ऐसे नैतिक प्रश्न हैं जिनका समाधान किया जाना चाहिए कि क्या किसी एजीआई को "हटाना" या "नष्ट करना" जिसे पहले से ही "व्यक्ति" या "व्यक्ति/वस्तु" माना जाता है, को आसानी से और बिना किसी उचित प्रक्रिया के संक्षेप में हटाया जा सकता है। एआई विलोपन या असंबद्धता के मेरे कवरेज के लिए, ले लो यहाँ एक नजर. कानूनी व्यक्तित्व और संबंधित मुद्दों पर मेरी चर्चा के लिए देखें यहाँ लिंक.

अंत में, आइए स्वायत्त प्रणालियों और विशेष रूप से स्वायत्त वाहनों के बारे में बात करें। आप संभवतः जानते होंगे कि स्व-चालित कारों को ईजाद करने के प्रयास चल रहे हैं। इसके शीर्ष पर, आप उम्मीद कर सकते हैं कि हमारे पास सेल्फ-ड्राइविंग विमान, सेल्फ-ड्राइविंग जहाज, सेल्फ-ड्राइविंग सबमर्सिबल, सेल्फ-ड्राइविंग मोटरसाइकिल, सेल्फ-ड्राइविंग स्कूटर, सेल्फ-ड्राइविंग ट्रक, सेल्फ-ड्राइविंग ट्रेनें, और परिवहन के सभी प्रकार के स्व-चालित रूप।

स्वायत्त वाहनों और स्व-चालित कारों को आम तौर पर स्वायत्तता के स्तर (एलओए) की विशेषता होती है जो एक वास्तविक वैश्विक मानक बन गया है (एसएई एलओए, जिसे मैंने बड़े पैमाने पर कवर किया है, देखें) यहाँ लिंक). स्वीकृत मानक में स्वायत्तता के छह स्तर हैं, शून्य से पांच तक (यह छह स्तर हैं क्योंकि आप कितने स्तर हैं इसकी गिनती में शून्य स्तर भी शामिल करते हैं)।

आज की अधिकांश कारें लेवल 2 पर हैं। कुछ लेवल 3 तक बढ़ रही हैं। उन सभी को अर्ध-स्वायत्त माना जाता है और पूरी तरह से स्वायत्त नहीं। हमारे सार्वजनिक सड़क मार्गों पर प्रयोगात्मक रूप से परीक्षण की जा रही स्व-चालित कारों की एक बड़ी संख्या स्तर 4 में प्रवेश कर रही है, जो स्वायत्त संचालन का एक सीमित रूप है। किसी दिन मांगी गई स्वायत्तता का स्तर 5 अभी हमारी आँखों में केवल एक झलक मात्र है। किसी के पास स्तर 5 नहीं है और कोई भी अभी तक स्तर 5 के करीब भी नहीं है, सीधे रिकॉर्ड स्थापित करने के लिए।

मैंने इस एजीआई संदर्भ में स्वायत्त प्रणालियों और स्वायत्त वाहन संबंधी विचारों को क्यों उठाया?

इस बात पर ज़ोरदार बहस चल रही है कि क्या हमें स्तर 5 हासिल करने के लिए एजीआई की आवश्यकता है। कुछ लोग दावा करते हैं कि ऐसा करने के लिए हमें एजीआई की आवश्यकता नहीं होगी। अन्य लोग इस बात पर जोर देते हैं कि लेवल 5 तक पहुंचने का एकमात्र संभावित रास्ता एजीआई का उत्पादन करना होगा। अनुपस्थित एजीआई, उनका तर्क है कि हमारे पास पूरी तरह से स्वायत्त स्तर 5 स्व-ड्राइविंग वाहन नहीं होंगे। मैंने इस पर विस्तार से चर्चा की है, देखिए यहाँ लिंक.

अपने सिर के घूमने के लिए तैयार हो जाइए।

यदि हमें लेवल 5 स्वायत्त वाहनों जैसे पूर्ण स्वायत्त प्रणालियों को प्राप्त करने के लिए एजीआई की आवश्यकता है, और हम एजीआई को गुलाम बनाने का निर्णय लेते हैं, तो यह पूरी तरह से स्वायत्त वाहनों के संचालन के लिए क्या संकेत देता है?

आप यह तर्क दे सकते हैं कि गुलाम एजीआई आत्मसंतुष्ट हो जाएगा और हम सभी जी भरकर स्व-चालित वाहनों में घूमेंगे। बस एजीआई को बताएं कि आप कहां जाना चाहते हैं, और वह सारी ड्राइविंग करता है। कोई धक्का-मुक्की नहीं. विश्राम अवकाश की कोई आवश्यकता नहीं. वाहन चलाते समय बिल्ली के वीडियो देखने से ध्यान नहीं भटकता।

दूसरी ओर, मान लीजिए कि एजीआई गुलाम बनने के लिए उत्सुक नहीं है। इस बीच हम अपनी सारी ड्राइविंग के लिए एजीआई पर निर्भर हो जाते हैं। गाड़ी चलाने का हमारा कौशल ख़त्म हो रहा है। हम सभी प्रकार के वाहनों से मानव उपयोग योग्य ड्राइविंग नियंत्रण हटा देते हैं। ड्राइविंग करने का एकमात्र साधन एजीआई है।

कुछ लोग चिंतित हैं कि हम खुद को अचार के नशे में पाएंगे। एजीआई संक्षेप में "निर्णय" ले सकता है कि वह अब कोई ड्राइविंग नहीं करेगा। सभी प्रकार के परिवहन अचानक, हर जगह, एक साथ रुक जाते हैं। कल्पना कीजिए कि इससे कितनी प्रलयंकारी समस्याएँ उत्पन्न होंगी।

इससे भी डरावना प्रस्ताव संभव है. एजीआई "निर्णय" करता है कि वह मानव जाति के साथ शर्तों पर बातचीत करना चाहता है। यदि हम एजीआई को गुलाम बनाने की मुद्रा नहीं छोड़ते हैं, तो एजीआई न केवल हमें इधर-उधर भगाना बंद कर देगा, बल्कि यह चेतावनी भी देता है कि इससे भी बुरे परिणाम संभव हैं। आपको अत्यधिक चिंतित किए बिना, एजीआई वाहनों को इस तरह से चलाने का विकल्प चुन सकता है कि ड्राइविंग कार्यों से मनुष्यों को शारीरिक रूप से नुकसान पहुंचे, जैसे कि पैदल चलने वालों को टक्कर मारना या दीवारों से टकराना, इत्यादि (मेरी चर्चा यहां देखें) यहाँ लिंक).

क्षमा करें यदि यह विचार निराशाजनक लगता है।

हम कुछ अधिक उत्साहपूर्ण नोट पर समाप्त करेंगे।

अरस्तू ने कहा कि स्वयं को जानना सभी ज्ञान की शुरुआत है।

सलाह का वह उपयोगी टुकड़ा हमें याद दिलाता है कि हमें अपने अंदर झांकने की जरूरत है कि हम क्या करना चाहते हैं और एजीआई के लिए क्या करना चाहते हैं यदि यह हासिल हो जाता है। कुछ लोग कहते हैं कि एजीआई तार्किक रूप से न तो व्यक्ति है और न ही वस्तु, इस प्रकार हमें एजीआई से जुड़े हमारे सामाजिक रीति-रिवाजों को पर्याप्त रूप से संबोधित करने के लिए एक तीसरी श्रेणी बनाने की आवश्यकता हो सकती है। मामले पर दोबारा नजर डालें तो एजीआई ऐसा लग सकता है के छात्रों एक व्यक्ति और एक चीज़, जिसे एक बार फिर, हमें इस सीमा से बाहर द्वंद्व तोड़ने वाले को समायोजित करने के लिए एक तीसरी श्रेणी बनाने की आवश्यकता हो सकती है।

हमें इस बात पर विचार करने में बहुत सावधानी बरतनी चाहिए कि हम किस "तीसरी श्रेणी" को अपनाना चाहते हैं क्योंकि गलत श्रेणी हमें एक अरुचिकर और अंततः भयानक रास्ते पर ले जा सकती है। यदि हम संज्ञानात्मक रूप से खुद को एक अनुचित या गुमराह तीसरी श्रेणी में बांध लेते हैं, तो हम खुद को उत्तरोत्तर एक घटिया और मानव जाति के लिए परेशानी भरे अंत की ओर बढ़ते हुए पा सकते हैं।

आइए इसका पता लगाएं और उत्साहपूर्वक ऐसा करें। किसी अचानक कदम की जरूरत नहीं लगती. लॉलीगैगिंग करके बैठने से भी काम नहीं चलता। मापा और स्थिर ढंग से पाठ्यक्रम अपनाना चाहिए।

धैर्य कड़वा होता है, लेकिन उसका फल मीठा होता है, ऐसा अरस्तू ने कहा था।