एआई एथिक्स और प्रशंसित एआई अनकैनी वैली, जो एआई-आधारित सेल्फ-ड्राइविंग कारों को भी चकमा देती है

कभी-कभी कुछ अजीब चीजें होती हैं जो आपका ध्यान खींचती हैं और आपके अंतर्ज्ञान को जगा देती हैं कि कुछ तो गड़बड़ है। अजीबता स्पष्ट नहीं है, आपके चेहरे पर बिल्कुल भी स्पष्ट नहीं है। हो सकता है कि आप तुरंत इस बात पर अपनी उंगली न रख पाएं कि असंगति क्या है या आपकी लौकिक स्पाइडररी सेंस में कैसे झुनझुनी आ रही है।

शायद सूक्ष्म संकेत सुरागों को महसूस किया जा रहा है। हो सकता है कि आपको अपने मन में यह एहसास हो कि एक असंगति मौजूद है। मुझे लगता है कि आप कह सकते हैं कि थोड़ी सी घबराहट का संकेत है और आपका नाजुक मानव रडार अन्यथा छिपे हुए संकेतों को पकड़ रहा है।

अलौकिक घाटी में आपका स्वागत है।

यदि आपने अलौकिक घाटी के बारे में कभी नहीं सुना है, जो कि एआई और विशेष रूप से रोबोटिक्स के क्षेत्र में अपेक्षाकृत लोकप्रिय विषय है, तो आप थोड़े से आनंद के लिए हैं क्योंकि यही वह विषय है जिस पर मैं यहां बारीकी से चर्चा और विश्लेषण करने जा रहा हूं।

व्यापक धारणा उन बहुत सी चीजों पर लागू हो सकती है जिन्हें हम जीवन में अनुभव करते हैं, हालांकि मुख्य सिद्धांतों और मूल परिभाषा में एआई सिस्टम और रोबोट शामिल हैं। हम पहले अलौकिक घाटी की उत्पत्ति और प्रारंभिक अर्थ का पता लगाएंगे और फिर यह देखने के लिए विस्तार में आगे बढ़ेंगे कि यह घटना बड़े संदर्भों में कैसे लागू होती है।

मैं यह भी जोड़ सकता हूं कि हम इस बात पर विचार करेंगे कि क्या अलौकिक घाटी का अस्तित्व है भी या नहीं।

आप देखिए, कुछ संशयवादी और निंदक तर्क देते हैं कि पूरा मामला थोड़ा-बहुत दिखावा है और इसमें कोई दम नहीं है। विषय को उन लोगों के सामने लाते समय सावधान रहें जो इसके बारे में जानते हैं। कुछ लोग खुशी से मुस्कुराएंगे और आपकी पीठ थपथपाएंगे कि आप अलौकिक घाटी से अच्छी तरह परिचित हैं, जबकि अन्य आपको सख्ती से व्याख्यान देंगे कि यह गंदगी का ढेर है और आपको मानसिक सफाई करने वाले साबुन की एक झागदार पट्टी से अपने दिमाग को साफ करने की जरूरत है। .

यहां अच्छी खबर यह है कि आपको यह तय करना है कि अलौकिक घाटी वास्तविक है या नहीं, साथ ही यह भी तय करना है कि क्या इसमें सावधानीपूर्वक उपयोग के गुण हैं या इसके बजाय इसे बिना किसी औपचारिकता के तकनीकी-विचारों के कबाड़ में फेंक दिया जाना चाहिए। इस अर्थ में, आप ड्राइवर की सीट पर हैं।

यह सब एथिकल एआई के बढ़ते क्षेत्र और इस बढ़ते अहसास से भी संबंधित है कि समाज को एआई की नैतिकता पर गंभीरता से ध्यान देना होगा। हम उस बंधन को क्षण भर में जोड़ देंगे।

शुरुआत करने के लिए सबसे अच्छी जगह सीधे उस प्रोफेसर को उद्धृत करना है जो अलौकिक घाटी अवधारणा के साथ आए और इस घोषित घटना को स्पष्ट रूप से नाम दिया। 1970 में, टोक्यो इंस्टीट्यूट ऑफ टेक्नोलॉजी में प्रोफेसर मासाहिरो मोरी ने कुछ हद तक कम प्रसिद्ध पत्रिका में एक छोटा सा लेख प्रकाशित किया। ऊर्जा (विशेष रूप से एआई और रोबोटिक्स के लिए हॉटबेड नहीं), और यह कहा:

"मैंने देखा है कि, रोबोट को इंसान जैसा दिखाने के लक्ष्य की ओर बढ़ते हुए, उनके प्रति हमारी आत्मीयता तब तक बढ़ती जाती है जब तक हम एक घाटी तक नहीं पहुँच जाते, जिसे मैं अलौकिक घाटी कहता हूँ।"

कृपया ध्यान दें कि उपरोक्त वाक्यांश अंग्रेजी में दिखाया गया है, हालांकि मूल पेपर जापानी में था। अंग्रेजी अनुवादित संस्करण की देखरेख लेखक द्वारा की गई और बाद में इसे प्रकाशित किया गया आईईईई स्पेक्ट्रम 2012 में और लेखक के रूप में मासाहिरो मोरी को श्रेय दिया गया। आप स्वयं पेपर पढ़ सकते हैं क्योंकि यह खुले तौर पर और स्वतंत्र रूप से ऑनलाइन उपलब्ध है। यह निश्चित रूप से शायद दस मिनट या उसके आसपास का त्वरित पाठ है और इसमें कोई भी तकनीकी भारी शब्दावली शामिल नहीं है।

जैसा कि कहा जा रहा है, यह दिलचस्प और कुछ हद तक आश्चर्यजनक है कि 1970 में प्रकाशित इस तरह के एक तेजतर्रार लेख ने अंततः जांच का एक पूरा क्षेत्र शुरू कर दिया और असंख्य संबंधित अध्ययन, परियोजनाएं, अनुसंधान और कभी-कभी इस बारे में विवाद की आग भड़का दी कि क्या इसे पेश किया गया था। एक अलौकिक घाटी की अवधारणा वास्तव में मौजूद है। मेरा मानना ​​है कि यह दिखाता है कि दिलचस्प और कभी-कभी दृष्टिकोण बदलने वाले विचारों को बड़े पैमाने पर जटिल या शब्दजाल और ऊंचेपन से भरा हुआ नहीं होना चाहिए। एक संक्षिप्त विचार उतना ही शक्तिशाली हो सकता है जितना कि वह चीजों को देखने पर लगता है।

मुझे विश्वास है कि यह आपको अपने नए विचारों को आज़माने और बढ़ावा देने के लिए प्रोत्साहित करेगा, ऐसा इस एहसास के साथ करेंगे कि मधुर और सरल उतना ही शानदार हो सकता है या कभी-कभी जटिल और जटिल से भी अधिक हो सकता है।

आइए अलौकिक घाटी के उद्बोधन में वापस कूदें।

आप एक ऐसे रोबोटिक सिस्टम के सामने आते हैं जिसका चेहरा इंसान जैसा दिखने वाला होता है। कल्पना कीजिए कि इस रोबोटिक चेहरे को कई पुनरावृत्तियों के माध्यम से तैयार किया गया है। एआई डेवलपर्स रोबोट के सिर को एक साथ रखकर रोबोट के चेहरे के हिस्से को अधिक से अधिक वास्तविक मानव चेहरे की तरह दिखाने का प्रयास कर रहे हैं।

उनका पहला प्रयास अत्यधिक आदिम था। रोबोट का चेहरा वैसा ही था जैसा आपने विज्ञान-फाई फिल्मों में देखा है, यह पूरी तरह से धातु का है और गियर और तारों को प्रदर्शित करता है। जब आप उपकरण को देखते हैं तो आपको तुरंत पता चल जाता है कि यह एक रोबोट है। इसे लेकर आपके मन में कोई सवाल नहीं है.

एआई डेवलपर्स के अगले प्रयास में धातु के टुकड़ों के चारों ओर कुछ प्लास्टिक सामग्री लपेटना शामिल था। हालाँकि यह दिखने में कुछ अधिक मैत्रीपूर्ण लगता है, फिर भी आपको तुरंत पता चल जाता है कि यह एक रोबोट का सिर और एक रोबोटिक चेहरा है। फिर, पता लगाना आसान-आसान है।

वे एआई डेवलपर इसे जारी रखने के लिए प्रतिबद्ध हैं। वे प्लास्टिक को तराशते हैं और उसे स्किन टोन देते हैं। वे ऐसी विशेषताएं जोड़ते हैं जो मानव चेहरे के समान लगती हैं, जैसे कि तिल, बाल, दाग-धब्बे और इसी तरह की अन्य चीजें।

पहली नज़र में, आपको विश्वास हो सकता है कि यह एक मानवीय चेहरा है। यदि रोबोटिक चेहरे की एक तस्वीर ली गई थी और आपसे यह पहचानने के लिए कहा गया था कि क्या तस्वीर में एक व्यक्ति बनाम एक रोबोटिक चेहरे को दर्शाया गया है, तो आप तुरंत यह कहने में असमर्थ हो सकते हैं कि यह कौन सा था। दूसरी ओर, यदि आप डिवाइस के बगल में खड़े थे, तो आप बारीकी से निरीक्षण करने पर यह समझ पाएंगे कि यह कोई मानव नहीं बल्कि एक रोबोटिक उपकरण है।

बात यह है कि, इससे पहले कि आपको क्लोज़अप जांच करने का मौका मिले, चेहरे के बारे में कुछ ऐसा था जो पूरी तरह से जुड़ता नहीं दिख रहा था। यह निश्चित रूप से एक मानवीय चेहरे जैसा दिखता था। लेकिन कुछ गड़बड़ थी. आपको उस चीज़ पर अपनी उंगली रखने के लिए बार-बार ध्यान से घूरना पड़ता है जो बिल्कुल सही नहीं लगती है। शायद ये असली चेहरा है. तो फिर, शायद ऐसा नहीं है। आपका दिमाग उसी के अनुसार घूमता रहता है।

आपके मन में भय की एक झलक घर कर जाती है।

जब आपने पहले के दो संस्करण देखे थे तो आपके अंदर उतनी घबराहट नहीं थी। आप बिना रुके या झिझक के पता लगा सकते हैं कि रोबोट एक रोबोट था। केवल एक बच्चा ही यह विश्वास करके मूर्ख बन सकता है कि इनमें से कोई भी संस्करण किसी वास्तविक व्यक्ति का था।

हालाँकि यह नवीनतम संस्करण अलग था। इसे अभी तक मानवीय चेहरे की तरह दिखने के लिए तैयार नहीं किया गया था। न ही यह वास्तविक चीज़ से इतना दूर था कि यह स्पष्ट हो कि यह एक रोबोट होना चाहिए। एक प्रकार की गंदली ज़मीन पर पहुँच गया था।

मान लीजिए कि डेवलपर्स ने अपने शोध प्रयासों को और आगे बढ़ाया और सब कुछ व्यवस्थित कर दिया ताकि रोबोटिक चेहरा मानव चेहरे से लगभग अप्रभेद्य हो जाए। आप कितनी भी देर तक उस चीज़ को घूरते रहें, आपको यकीन नहीं होता कि वह इंसान है या नहीं। जब आपको बताया जाता है कि यह रोबोटिक चेहरा है तो आप दंग रह जाते हैं। भगवान, उन्होंने इसे वास्तविक दिखाने के लिए बहुत अच्छा काम किया है।

ध्यान दें कि अब तक आप केवल उपस्थिति के आधार पर रोबोटिक पहलुओं पर विचार कर रहे हैं।

हम समीकरण में गति जोड़ सकते हैं। यह आपके लिए यह समझने के लिए एक अतिरिक्त आयाम जोड़ता है कि रोबोट रोबोट बनाम इंसान है या नहीं। मैं इस चर्चा में इसे एक बहुआयामी प्रकार की समस्या के रूप में पूरी तरह से मनोरंजन नहीं करना चाहता क्योंकि यह इस विषय पर स्पष्टीकरण को और अधिक जटिल बना देता है (यद्यपि बहु-आयाम अनिवार्य रूप से आपस में जुड़े हुए हैं)। किसी भी मामले में, कल्पना करें कि आपने न केवल रोबोट का चेहरा देखा, बल्कि यह भी देखा कि रोबोट चेहरे की विशेषताओं, जैसे कि मुंह, आंखें, नाक आदि को कैसे हिलाता है। जाहिर है, वे इस बारे में भी उपहार दे सकते हैं कि क्या यह एक है रोबोट या इंसान.

अलौकिक घाटी में सबसे आगे रखने के लिए एक महत्वपूर्ण पहलू यह है कि मूल अवधारणा मानव आत्मीयता के कार्य पर जोर देती है। दावा किया गया तथ्य यह है कि जैसे-जैसे आप बढ़ते हुए रोबोट चेहरों को देखते हैं, आपकी आत्मीयता बढ़ती जा रही है, जब तक कि उस बिंदु पर अलौकिक संस्करण उत्पन्न न हो जाए। उस मोड़ पर, आपकी आत्मीयता की भावना नाटकीय रूप से कम हो जाती है, एक आत्मीयता खाई या घाटी में गिर जाती है।

उस विशेष संस्करण के लिए जिसके कारण आपको संदेह हुआ कि कुछ गड़बड़ है, आपकी आत्मीयता कथित तौर पर मौलिक रूप से गिर गई है। इसके अलावा, सिद्धांत के अनुसार, एक बार जब आप अधिक उन्नत संस्करण का सामना करते हैं जो वास्तव में मानव रूप के समान होता है तो आपकी आत्मीयता फिर से आसमान छू सकती है।

यहां इस बारे में अधिक जानकारी दी गई है कि लेखक ने यह मानने की हमारी सामान्य प्रवृत्ति के बारे में क्या कहा है कि जीवन के पहलू सुचारू रूप से बढ़ रहे हैं: “गणितीय शब्द नीरस रूप से बढ़ता कार्य उस संबंध का वर्णन करता है जिसमें फ़ंक्शन y = ˒(x) चर के साथ लगातार बढ़ता है x. उदाहरण के लिए, प्रयास के रूप में x बढ़ता है, आय y बढ़ जाती है, या जैसे ही कार का एक्सीलेटर दबाया जाता है, कार तेजी से चलने लगती है। इस प्रकार का संबंध सर्वव्यापी है और बहुत आसानी से समझा जा सकता है। वास्तव में, क्योंकि ऐसे नीरस रूप से बढ़ते कार्य रोजमर्रा की जिंदगी की अधिकांश घटनाओं को कवर करते हैं, लोग इस भ्रम में पड़ सकते हैं कि वे सभी संबंधों का प्रतिनिधित्व करते हैं। इस गलत धारणा को प्रमाणित करने वाला तथ्य यह भी है कि बहुत से लोग पीछे खींचने की प्रभावशीलता को समझे बिना लगातार धक्का देकर जीवन भर संघर्ष करते हैं। यही कारण है कि जब लोग किसी ऐसी घटना का सामना करते हैं, जिसका यह फ़ंक्शन प्रतिनिधित्व नहीं कर सकता, तो वे आमतौर पर हैरान हो जाते हैं।'' यह प्रति उद्धृत किया गया है आईईईई स्पेक्ट्रम अनुवादित पेपर.

हमेशा बढ़ने की यह लगभग सार्वभौमिक धारणा तब पलटी जा सकती है जब हमें कुछ गड़बड़ी का सामना करना पड़ता है। सिद्धांत के अनुसार, घबराहट और संदेह आत्मीयता में अपेक्षाकृत अचानक और नाटकीय गिरावट का कारण बनेंगे, जैसे कि एक रोबोटिक हाथ जिसे आप हिलाना चाहते हैं और मानव हाथ की हड्डी वाली विशेषताओं को महसूस नहीं कर सकते हैं: "जब ऐसा होता है, तो हम अपनी समझ खो देते हैं आत्मीयता का, और हाथ अलौकिक हो जाता है। गणितीय शब्दों में, इसे एक नकारात्मक मान द्वारा दर्शाया जा सकता है।

यदि आप इस आधार को स्वीकार करते हैं कि एक अलौकिक घाटी की यह घटना है, तो मुझे यकीन है कि आप सोच रहे होंगे कि यह जानने से आपको क्या फायदा होगा कि अलौकिक घाटी स्पष्ट रूप से मौजूद है।

यह सर्वकालिक क्लासिक है "तो क्या हुआ?" व्यावहारिकता का परीक्षण.

पता चला कि बहुत से लोग इस अनोखी घाटी के बारे में बहुत सारी व्याख्याएँ लेकर आए हैं कि हमें क्या करना चाहिए या क्या कर सकते हैं। ढेर सारी राय हैं. मैं जल्द ही उनमें से कुछ को संबोधित करूंगा।

इस बीच, मासाहिरो मोरी ने जो कहा वह इस प्रकार है: “हम ऐसे रोबोट और कृत्रिम हाथ डिजाइन करने और बनाने की उम्मीद करते हैं जो अलौकिक घाटी में नहीं गिरेंगे। इस प्रकार, दूसरी चोटी पर चढ़ने के लिए मानवीय समानता की अपनी डिग्री बढ़ाने की कोशिश में निहित जोखिम के कारण, मैं सुझाव देता हूं कि डिजाइनर इसके बजाय पहली चोटी को अपने लक्ष्य के रूप में लें, जिसके परिणामस्वरूप मध्यम स्तर की मानवीय समानता और काफी आत्मीयता की भावना पैदा होती है। . वास्तव में, मेरा अनुमान है कि जान-बूझकर एक गैर-मानवीय डिज़ाइन को अपनाकर आत्मीयता का एक सुरक्षित स्तर बनाना संभव है। मैं डिजाइनरों से इस पर विचार करने के लिए कहता हूं।

अलौकिक घाटी के संबंध में क्या करना है, इसके बारे में मेरे बारह उपयोगी सीट-ऑफ-द-पैंट नियमों का एक त्वरित संक्षेपण विशेष रूप से एआई डेवलपर्स के लिए इस प्रकार है:

1) अनोखी घाटी से अवगत रहें और उसके अनुसार सतर्क रहें

2) आप संभवतः जितना संभव हो सके अपने एआई के लिए मानवीय आत्मीयता प्राप्त करना चाहते हैं

3) यदि आपका एआई अलौकिक घाटी में गिरता है तो मानवीय आत्मीयता के नुकसान के लिए तैयार रहें

4) इस प्रकार अपने एआई को तैयार करके अलौकिक घाटी से बचने का प्रयास करें

5) ऐसा लक्ष्य रखना सम्मानजनक है जो अलौकिक घाटी से छोटा हो

6) अनोखी घाटी के किनारे तक चलें लेकिन चट्टान से न गिरें

7) अलौकिक घाटी से आगे जाने का जुनून मत पालो

8) ऐसी संभावना है कि आप अलौकिक घाटी को पार कर सकते हैं

9) छलाँग लगाने में व्यस्त न रहें क्योंकि आप वैसे भी घाटी में गिर सकते हैं

10) अधिकतम मानवीय आत्मीयता अलौकिक घाटी को पार करके प्राप्त की जा सकती है

11) फिर भी, अलौकिक घाटी से पहले पर्याप्त और उपयुक्त आत्मीयता पाई जाती है

12) अलौकिक घाटी के प्रति लगातार सचेत रहें और इसे अपने दिमाग से फिसलने न दें

ये दर्जनों सामान्य नियम हैं जिन्हें अलौकिक घाटी के बारे में जानने के लिए मुख्य आधार या आधार बिंदु माना जा सकता है। मैं तुरंत स्वीकार करूंगा कि उन छोटे दर्जन में सूचीबद्ध नहीं किए गए अन्य बिंदु भी हैं जिनके बारे में उतना ही महत्वपूर्ण तर्क दिया जा सकता है। मैं यह भी आसानी से स्वीकार करूंगा कि पहचाने गए प्रत्येक बिंदु पर असहमति होना तय है, और प्रत्येक बिंदु पर लंबी गरमागरम बहस हो सकती है।

इससे भी अधिक, कुछ लोग कहेंगे कि बारह बिंदु पूरी तरह से बकवास हैं क्योंकि वे शुरू से ही झूठ पर आधारित हैं। वे तर्क देंगे कि अलौकिक घाटी जैसी कोई चीज़ नहीं है। यह सब केवल कपटपूर्ण और मनगढ़ंत युक्ति है जो केवल कमजोर दिमागों को आकर्षित करने के लिए और दुख की बात है (ओह, यह बहुत दुखदायी है!)। अलौकिक घाटी की ओर किसी का भी ध्यान हवा की बर्बादी की तरह है और किसी को आगे आना चाहिए और मामले के केंद्र में एक तेज लकड़ी का सैद्धांतिक दांव लगाना चाहिए (कुछ शोधकर्ताओं ने ऐसा करने की कोशिश की है)।

चर्चा के लिए, आइए प्रवाह के साथ चलें और मान लें कि एक अनोखी घाटी है और यह आम तौर पर मेरे द्वारा अब तक बताए गए संकेतों से मेल खाती है। जो लोग एक अलौकिक घाटी की संकल्पना से असहमत हैं, उन्हें बाहर कर दिया जाना चाहिए या दांत पीसकर और बौद्धिक क्रोध को उबालकर पढ़ना जारी रखना चाहिए (इसके लिए खेद है)।

यहां बताया गया है कि एथिकल एआई और एथिकल एआई को तैयार करने और क्षेत्ररक्षण पर ध्यान कैसे दिया जाता है। वैसे, एआई नैतिकता के मेरे चल रहे और गहन अन्वेषणों के लिए, मेरी चर्चा देखें इस लिंक यहाँ और इस लिंक यहाँ, कुछ लोगों का नाम बताने के लिए।

एथिकल एआई में रुचि रखने वालों के लिए अलौकिक घाटी निश्चित रूप से प्रेम-घृणा का मामला है।

सबसे पहले, कुछ को पृष्ठभूमि की आवश्यकता थी। सबसे रोंगटे खड़े कर देने वाली नैतिक एआई-संबंधी शंकाओं में से एक यह है कि मनुष्यों को यह विश्वास दिलाकर मूर्ख बनाया जा सकता है कि एआई प्रणाली संवेदनशील है। कृपया ध्यान रखें कि आज का कोई भी एआई ऐसा नहीं है जो संवेदनशील होने के बिल्कुल भी करीब हो। इस समय ऐसा नहीं हो रहा है. मेरा प्रकट रूप से "निर्लज्ज" दावा उन निरंतर और भयावह सुर्खियों के बावजूद किया गया है जो इस एआई की घोषणा करते हैं या कि एआई या तो संवेदनशील है या इस तरह माना जाने वाला पर्याप्त करीब है। मालार्की। हम एआई की भावना पर नहीं हैं।

हम नहीं जानते कि वहाँ कैसे पहुँचें। हमें नहीं पता कि ऐसा होगा या नहीं. एआई सेंटीनेंस एक सार्थक सपना और आकांक्षा है, हालांकि यह मत सोचिए कि हम इसे हासिल करने की कगार पर हैं।

बेशक, कई लोग उत्साहपूर्वक चेतावनी दे रहे हैं कि अगर हम किसी तरह एआई भावना को दूर करने में कामयाब हो जाते हैं, चाहे हम ऐसा डिजाइन से करें या शुद्ध दुर्घटना से, हम एक अस्तित्वगत जोखिम का सामना करेंगे। उस तरह की सोच में, शायद एआई भावना की तलाश करना इतना सार्थक नहीं है। जोखिम यह है कि यह संवेदनशील एआई यह निर्धारित कर सकता है कि मनुष्य आसपास रहने लायक नहीं हैं। हम कीड़े की तरह कुचले जा सकते हैं। या एआई का गुलाम बन जाओ। ऐसा एआई द्वारा खुले तौर पर ऐसा करने के चयन के कारण हो सकता है, या एआई अंततः हमारी अपनी प्रलय की मशीन बन सकती है जो हमारी अपनी अयोग्यता से हमें नष्ट कर देती है। एआई भावना या विलक्षणता के उन परेशान करने वाले परिणामों पर मेरी कवरेज के लिए, देखें यहाँ लिंक.

एक महत्वपूर्ण नैतिक एआई चिंता यह है कि एआई के डेवलपर्स और जो एआई को क्षेत्र में रखते हैं, वे कई बार मनुष्यों को यह सोचकर धोखा दे रहे हैं कि एआई संवेदनशील है। जिस तरह से एआई खुद को प्रदर्शित करता है, जैसे कि रोबोटिक फॉर्मूलेशन या इसकी संवादात्मक अन्तरक्रियाशीलता द्वारा, लोगों को यह मानने के लिए प्रेरित कर सकता है कि एआई संवेदनशील है। यह बदले में आपको संभावित रूप से ख़राब प्राइमरोज़ पथ की ओर ले जाता है।

यदि आप यह सोचने के मानसिक जाल में फंस जाते हैं कि एआई प्रणाली संवेदनशील है, तो आप संभवतः उन चीजों को करने के लिए उस पर भरोसा करेंगे जो संवेदनशील प्राणी करेंगे। लेकिन आज के किसी भी एआई में अभी तक मानव जैसी गुणवत्ता का कोई सामान्य ज्ञान नहीं है। वर्तमान में हम जिस एआई का अनुभव कर रहे हैं वह मानव जैसी क्षमताओं के मामले में बेहद नाजुक और सतही है। यह विश्वास करके कि एआई प्रणाली संवेदनशील है, आप स्वयं को कुछ अरुचिकर और खतरनाक संकट में डाल सकते हैं।

वह अनोखी घाटी से कैसे जुड़ता है?

यहाँ सौदा है।

याद करें कि अनोखी घाटी हमें बताती है कि जैसे-जैसे एआई प्रणाली या रोबोट मानव-समान फॉर्मूलेशन के करीब और करीब आते जाएंगे, मानव आत्मीयता धीरे-धीरे बढ़ती जाएगी। ऐसे मोड़ पर जब एआई प्रणाली काफी करीब होने के करीब है, फिर भी, अभी भी, पूरी तरह से वहां नहीं है, हमें एक भयानक एहसास होता है कि कुछ गड़बड़ है। तब तक, हम जानते थे कि AI मानव नहीं था। अब हम निश्चित नहीं हैं. हमारी मानवीय आत्मीयता कम हो जाती है। केवल एक बार जब एआई या रोबोट मानव-जैसी क्षमताओं के बारे में पूरी तरह से आश्वस्त हो जाता है, तो हम डिवाइस के प्रति अपनी आत्मीयता को पुनः प्राप्त कर लेते हैं।

एआई डेवलपर्स जो संभवतः इस बात पर ध्यान देंगे जानबूझ कर अपने एआई को अलौकिक घाटी से दूर रखने का प्रयास करें, जिसका लक्ष्य अलौकिक खाई में गिरने से ठीक पहले एआई की विशेषताओं के संदर्भ में रुकना है (याद रखें, मासाहिरो मोरी ने भी इसी पर जोर दिया था)। डेवलपर्स स्पष्ट रूप से यह सुनिश्चित करके ऐसा करेंगे कि प्रचुर मात्रा में बताए गए सुराग अभी भी मौजूद हैं ताकि यह स्पष्ट हो सके कि एआई कम संवेदनशील एआई है और यह मानव या समान रूप से नहीं है।

एआई नैतिकतावादी आम तौर पर उस हार्दिक प्रयास का स्वागत करेंगे।

तर्क सीधा है. जो लोग इतने जानकार हैं और एआई डेवलपर्स को अपना रहे हैं, वे यह सुनिश्चित करने की कोशिश कर रहे हैं कि एआई प्रणाली लोगों को गलत तरीके से एआई के लिए मानव जैसी सुविधाओं का श्रेय देने के लिए गुमराह न करे। यह निश्चित रूप से अच्छी खबर है. अलौकिक घाटी में गोता लगाने से रोकने के लिए डेवलपर्स जानबूझकर एआई तैयार करेंगे। मनुष्य को आसानी से एहसास हो जाएगा कि एआई संवेदनशील नहीं है।

एआई डेवलपर्स को इस तरह का दृष्टिकोण अपनाने के लिए प्रेरित करना आसान नहीं है। दरअसल, यह उनकी सामान्य प्रवृत्ति और ड्राइविंग महत्वाकांक्षाओं के प्रति प्रतिकूल हो सकता है।

कई दावे किए जाते हैं कि एआई डेवलपर्स और तकनीकी विशेषज्ञ, सामान्य तौर पर, लक्ष्यों में व्यस्त रहते हैं। वे एक लक्ष्य देखते हैं और अक्सर आँख मूँद कर बड़े उत्साह के साथ उसका पीछा करते हैं। रुकने और गुलाबों को सूंघने का समय नहीं है। दौड़ के लिए, हम चलते हैं। एआई क्षेत्र में, मानक लक्ष्य एक आदर्श एआई होगा जो मनुष्यों से अप्रभेद्य है क्योंकि एआई बुद्धिमानी से समता में बराबर हो सकता है। लेकिन हम अभी तक वहां नहीं हैं. इस प्रकार, अलौकिक घाटी एक द्वितीयक लक्ष्य प्रदान करती है, अन्यथा हानिकारक अलौकिक घाटी से पहले उतरना, और एक ऐसा लक्ष्य बन जाता है जो फिर भी स्वीकार्य है। निश्चित रूप से, यह सोने की बेशकीमती अंगूठी नहीं है, लेकिन विचार यह है कि यह "माध्यमिक" पुरस्कार ठीक है, बहुत-बहुत धन्यवाद, और आप इस पर गर्व कर सकते हैं।

हमने विनाशकारी लक्ष्य-प्राप्ति की सर्वोच्च महत्वाकांक्षा को बदल दिया है और इसे सही काम करने के लिए तार्किक-लगने वाले तर्कसंगत आधार में उपयोग किया है, जैसा कि यह था।

हुर्रे!

एआई नैतिकता के लिए जीत हासिल करें।

लेकिन एक सेकंड के लिए रुकें, स्पॉइलर अलर्ट, कुछ और भी है जिस पर हमें समान रूप से विचार करने की आवश्यकता है।

अब जब उन समझदार एआई डेवलपर्स को अलौकिक घाटी के बारे में पता चल गया है, तो वे जानबूझकर खाई में छलांग लगाने के लिए अपनी बुद्धि और तकनीकी कौशल का उपयोग कर सकते हैं और फिर भी मन में धोखे की भावना के साथ ऐसा कर सकते हैं। एआई को पूरी तरह से मानव जैसा बनाएं और दिखाएं, भले ही डेवलपर्स को यह पता हो कि यह सच नहीं है।

कुत्सित सोच इसी तरह चलती है. अपने एआई सिस्टम को ख़राब न होने दें और लोगों को भयावहता की उस मायावी धारा से रूबरू न होने दें। उन पहलुओं को उजागर करें जो कोई संकेत या संकेत दे सकते हैं कि एआई मानवीय क्षमता का नहीं है। गुप्त रूप से यह महसूस करते हुए और अक्षम्य रूप से यह जानते हुए भी ऐसा करें कि एआई मानवीय क्षमता का नहीं है और यह सब उस सच्चाई को उन लोगों से छिपाने के बारे में है जो एआई के साथ बातचीत करते हैं या उस पर निर्भर हैं।

कैसी शैतानी योजना है.

विडंबना यह है कि अलौकिक घाटी एआई डेवलपर्स के लिए एक प्रकार की चेतावनी हो सकती है कि यदि वे वास्तव में लोगों को बेवकूफ बनाना चाहते हैं, तो उन्हें रसातल से बचने के लिए पर्याप्त चतुर होना चाहिए। वे संपूर्ण एआई प्राप्त करके ऐसा नहीं कर रहे हैं, बल्कि एआई को मानव की तरह भ्रामक दिखाने के लिए धुआं और दर्पण खड़ा कर रहे हैं। यदि एआई डेवलपर्स को इस बात का एहसास नहीं होता कि यह अनोखी घाटी अस्तित्व में है, तो वे आम तौर पर इसमें गिर गए होते। यह मानव जाति के लिए अच्छा है क्योंकि आज की एआई की गुणवत्ता पर अधिक भरोसा न करने के मामले में मनुष्य एआई के प्रति अपनी आत्मीयता खो देंगे।

अफसोस की बात है, यह जानकर कि जाल मौजूद है, एआई डेवलपर्स जो इसके चारों ओर छिपना चाहते हैं, वे ऐसा करने के लिए खतरनाक तरीके ढूंढने जा रहे हैं।

एथिकल एआई के सिद्धांतों पर प्रहार करें।

क्या आप देखते हैं कि यह अलौकिक घाटी के बारे में एआई नैतिकतावादियों के लिए प्रेम-घृणा का रिश्ता कैसे बनाता है?

धिक्कार है अगर तुम करते हो, रफ़ू अगर तुम नहीं करते।

मुझे एहसास है कि यह अलौकिक घाटी का कुछ हद तक गहन परीक्षण रहा है और आप कुछ दैनिक उदाहरणों के लिए उत्सुक हो सकते हैं। उदाहरणों का एक विशेष और निश्चित रूप से लोकप्रिय सेट है जो मेरे दिल के करीब है। आप देखते हैं, नैतिक और कानूनी प्रभावों सहित एआई पर एक विशेषज्ञ के रूप में मेरी क्षमता में, मुझसे अक्सर यथार्थवादी उदाहरणों की पहचान करने के लिए कहा जाता है जो एआई नैतिकता दुविधाओं को प्रदर्शित करते हैं ताकि विषय की कुछ हद तक सैद्धांतिक प्रकृति को अधिक आसानी से समझा जा सके। सबसे विचारोत्तेजक क्षेत्रों में से एक जो इस नैतिक एआई दुविधा को स्पष्ट रूप से प्रस्तुत करता है वह है एआई-आधारित सच्ची सेल्फ-ड्राइविंग कारों का आगमन। यह विषय पर व्यापक चर्चा के लिए एक उपयोगी उपयोग के मामले या उदाहरण के रूप में काम करेगा।

यहाँ एक उल्लेखनीय प्रश्न है जो विचार करने योग्य है: क्या एआई-आधारित सच्ची सेल्फ-ड्राइविंग कारों के आगमन से अलौकिक घाटी के बारे में कुछ पता चलता है, और यदि हां, तो यह हमें क्या करने के लिए सूचित करता है?

मुझे प्रश्न को अनपैक करने के लिए एक क्षण का समय दें।

सबसे पहले, ध्यान दें कि एक सच्ची सेल्फ-ड्राइविंग कार में कोई मानव चालक शामिल नहीं है। ध्यान रखें कि असली सेल्फ-ड्राइविंग कारें AI ड्राइविंग सिस्टम से चलती हैं। पहिए पर मानव चालक की आवश्यकता नहीं है, न ही मानव के लिए वाहन चलाने का प्रावधान है। स्वायत्त वाहनों (एवी) और विशेष रूप से सेल्फ-ड्राइविंग कारों के मेरे व्यापक और चल रहे कवरेज के लिए, देखें यहाँ लिंक.

मैं और स्पष्ट करना चाहता हूं कि जब मैं सच्ची सेल्फ-ड्राइविंग कारों का उल्लेख करता हूं तो इसका क्या मतलब होता है।

आत्म ड्राइविंग कारों के स्तर को समझना

स्पष्टीकरण के रूप में, सच्ची आत्म-ड्राइविंग कार वे हैं जो एआई पूरी तरह से अपने दम पर कार चलाती है और ड्राइविंग कार्य के दौरान कोई मानव सहायता नहीं है।

इन चालक रहित वाहनों को स्तर 4 और स्तर 5 माना जाता है (मेरी व्याख्या देखें) इस लिंक यहाँ), जबकि एक कार जिसमें ड्राइविंग प्रयास को सह-साझा करने के लिए मानव चालक की आवश्यकता होती है, आमतौर पर स्तर 2 या स्तर 3 पर विचार किया जाता है। ड्राइविंग कार्य को सह-साझा करने वाली कारों को अर्ध-स्वायत्त होने के रूप में वर्णित किया जाता है, और आमतौर पर इसमें कई प्रकार के होते हैं स्वचालित ऐड-ऑन जिन्हें ADAS (उन्नत ड्राइवर-सहायता प्रणाली) कहा जाता है।

लेवल 5 पर अभी तक एक सच्ची सेल्फ-ड्राइविंग कार नहीं है, जिसे हम अभी तक नहीं जानते हैं कि क्या यह प्राप्त करना संभव होगा, और न ही वहां पहुंचने में कितना समय लगेगा।

इस बीच, लेवल 4 के प्रयास धीरे-धीरे बहुत ही संकीर्ण और चयनात्मक सार्वजनिक सड़क मार्ग के परीक्षणों से गुजरते हुए कुछ कर्षण प्राप्त करने की कोशिश कर रहे हैं, हालांकि इस बात पर विवाद है कि क्या इस परीक्षण को प्रति अनुमति दी जानी चाहिए (हम सभी जीवन-या-मृत्यु गिनी सूअर एक प्रयोग में हैं हमारे राजमार्गों और मार्गों पर हो रही है, कुछ दावेदार, मेरे कवरेज को देखते हैं इस लिंक यहाँ).

चूंकि अर्ध-स्वायत्त कारों के लिए एक मानव चालक की आवश्यकता होती है, इसलिए उन प्रकार की कारों को अपनाना पारंपरिक वाहनों को चलाने की तुलना में अलग नहीं होगा, इसलिए इस विषय पर उनके बारे में कवर करने के लिए प्रति से ज्यादा कुछ नया नहीं है (हालांकि, जैसा कि आप देखेंगे एक पल में, अगले अंक आम तौर पर लागू होते हैं)।

अर्ध-स्वायत्त कारों के लिए, यह महत्वपूर्ण है कि जनता को परेशान करने वाले पहलू के बारे में पूर्वाभास करने की आवश्यकता है, जो हाल ही में उत्पन्न हुई है, अर्थात् उन मानव चालकों के बावजूद जो खुद को स्तर 2 या स्तर 3 कार के सोते हुए वीडियो पोस्ट करते रहते हैं , हम सभी को यह मानने में गुमराह होने से बचने की आवश्यकता है कि चालक अर्ध-स्वायत्त कार चलाते समय ड्राइविंग कार्य से अपना ध्यान हटा सकता है।

आप वाहन के ड्राइविंग क्रियाओं के लिए जिम्मेदार पक्ष हैं, भले ही स्वचालन को स्तर 2 या स्तर 3 में कितना उछाला जाए।

सेल्फ-ड्राइविंग कारें और अलौकिक घाटी

लेवल 4 और लेवल 5 के लिए सच सेल्फ-ड्राइविंग वाहन, ड्राइविंग कार्य में शामिल मानव चालक नहीं होंगे।

सभी रहने वाले यात्री होंगे।

एआई ड्राइविंग कर रहा है।

तुरंत चर्चा करने का एक पहलू इस तथ्य पर जोर देता है कि आज के एआई ड्राइविंग सिस्टम में शामिल एआई संवेदनशील नहीं है। दूसरे शब्दों में, AI पूरी तरह से कंप्यूटर-आधारित प्रोग्रामिंग और एल्गोरिदम का एक सामूहिक है, और सबसे अधिक आश्वस्त रूप से उसी तरीके से तर्क करने में सक्षम नहीं है जो मनुष्य कर सकते हैं।

एआई के संवेदनशील नहीं होने के बारे में यह अतिरिक्त जोर क्यों दिया जा रहा है?

क्योंकि मैं यह रेखांकित करना चाहता हूं कि जब एआई ड्राइविंग सिस्टम की भूमिका पर चर्चा हो रही है, तो मैं एआई को मानवीय गुणों का वर्णन नहीं कर रहा हूं। कृपया ध्यान रखें कि इन दिनों एंथ्रोपोमोर्फिफाई एआई के लिए चल रही और खतरनाक प्रवृत्ति है। संक्षेप में, लोग आज के एआई के लिए मानव जैसी भावना प्रदान कर रहे हैं, इसके बावजूद कि इस तरह का एआई अभी तक मौजूद नहीं है।

उस स्पष्टीकरण के साथ, आप कल्पना कर सकते हैं कि एआई ड्राइविंग सिस्टम ड्राइविंग के पहलुओं के बारे में मूल रूप से किसी तरह "जान" नहीं पाएगा। ड्राइविंग और इसके लिए जरूरी सभी चीजों को सेल्फ-ड्राइविंग कार के हार्डवेयर और सॉफ्टवेयर के हिस्से के रूप में प्रोग्राम करना होगा।

आइए इस विषय पर खेलने के लिए आने वाले पहलुओं के बारे में जानें।

सबसे पहले, यह महसूस करना महत्वपूर्ण है कि सभी AI सेल्फ-ड्राइविंग कारें समान नहीं होती हैं। प्रत्येक ऑटोमेकर और सेल्फ-ड्राइविंग टेक फर्म सेल्फ-ड्राइविंग कारों को तैयार करने के लिए अपना दृष्टिकोण अपना रही है। जैसे, एआई ड्राइविंग सिस्टम क्या करेगा या नहीं, इस बारे में व्यापक बयान देना मुश्किल है।

इसके अलावा, जब भी यह कहा जाता है कि एआई ड्राइविंग सिस्टम कुछ खास काम नहीं करता है, तो बाद में, यह डेवलपर्स द्वारा आगे निकल सकता है जो वास्तव में कंप्यूटर को उसी काम करने के लिए प्रोग्राम करता है। कदम दर कदम, एआई ड्राइविंग सिस्टम में धीरे-धीरे सुधार और विस्तार किया जा रहा है। एक मौजूदा सीमा आज भविष्य के पुनरावृत्ति या सिस्टम के संस्करण में मौजूद नहीं हो सकती है।

मुझे विश्वास है कि जो मैं संबंधित करने जा रहा हूं उसे रेखांकित करने के लिए पर्याप्त चेतावनियां प्रदान करता है।

हम अब सेल्फ-ड्राइविंग कारों और अलौकिक घाटी से जुड़े नैतिक एआई प्रश्नों पर गहराई से विचार करने के लिए तैयार हैं।

इस मामले से संबंधित चार पहलू हैं जिन्हें यहां शामिल किया जाएगा:

1. सेल्फ-ड्राइविंग कारों का समग्र स्वरूप

2. यह सवाल कि सेल्फ-ड्राइविंग कारें "कहां दिख रही हैं"

3. सेल्फ-ड्राइविंग कारों की एआई ड्राइविंग क्रियाएं

4. रोबोट जो सेल्फ-ड्राइविंग कार प्राप्त करने के साधन के रूप में चलते हैं

अतिरिक्त पहलुओं को भी व्यावहारिक रूप से शामिल किया गया है, लेकिन जगह की कमी के लिए, ये चार विषय एआई-आधारित सेल्फ-ड्राइविंग कारों से संबंधित अनोखी घाटी के असर को उजागर करने के लिए पर्याप्त होंगे।

1. सेल्फ-ड्राइविंग कारों का समग्र स्वरूप

मैं शर्त लगा रहा हूं कि आपने सेल्फ-ड्राइविंग कारों के आज के परीक्षण के चित्र या वीडियो देखे होंगे। वैसे, आपने देखा होगा कि अधिकांश वाहन पारंपरिक दिखने वाली कारें हैं जो अतिरिक्त विशेष उपकरणों से सुसज्जित हैं। उदाहरण के लिए, एक छत पर रैक हो सकता है जिसमें कई इलेक्ट्रॉनिक सेंसर हों। सेंसर में कभी-कभी वीडियो कैमरा, रडार इकाइयाँ, LIDAR डिवाइस, अल्ट्रासोनिक सेंसर और इसी तरह के अन्य उपकरण शामिल होते हैं।

भविष्यवादी डिज़ाइनों से पता चलता है कि हम पारंपरिक दिखने वाली कार से हटकर अधिक आकर्षक दिखने वाली स्वायत्त वाहन बनने के लिए आंतरिक और बाहरी दोनों तरफ कारों को फिर से डिज़ाइन कर सकते हैं। अभी, सामान्य सोच यह है कि पारंपरिक कारों का उपयोग करना आसान है और साथ ही अपरंपरागत दिखने वाली कारों के साथ छेड़छाड़ करके प्रयास को बढ़ाने की कोशिश में ऊर्जा खर्च नहीं करना है (इस सामान्य दृष्टिकोण के कुछ अपवाद हैं, मेरी कवरेज देखें यहाँ लिंक).

अभी सार यह है कि यदि आप सड़क पर गाड़ी चला रहे हैं और पास में एक सेल्फ-ड्राइविंग कार आती है, तो आप स्वचालित वाहन पर लगे सेंसरों को देखकर लगभग हमेशा तुरंत समझ सकते हैं कि यह शायद एक सेल्फ-ड्राइविंग कार है। यह एक त्वरित दृश्य उपहार है. बेशक, आप निश्चित रूप से नहीं जानते कि यह स्वयं-ड्राइविंग है क्योंकि इस समय ड्राइविंग नियंत्रण आमतौर पर अभी भी बरकरार हैं और एक मानव बैकअप ड्राइवर पहिया पर हो सकता है।

एक तरह से सोचने पर, आप सुझाव दे सकते हैं कि यह विशेष रूप से उपयोगी है कि स्व-चालित कारें शारीरिक रूप से अलग दिखती हैं और आस-पास की मानव-चालित कारों में मानव चालकों और आस-पास के पैदल चलने वालों द्वारा भी आसानी से देखी जा सकती हैं। यह अहसास कि एक सेल्फ-ड्राइविंग कार पास में घूम रही है, आपके लिए सतर्क रहने के लिए एक उपयोगी सुराग हो सकता है, जो आपको सावधान रहने और सावधान रहने के लिए प्रेरित कर सकता है कि एआई वाहन चला रहा है या हो सकता है।

मान लीजिए कि स्व-चालित कारें पारंपरिक मानव-चालित कार के समान दिखती हैं। यह कम से कम दो तरीकों से यथार्थवादी रूप से संभव है। सबसे पहले, सेंसर संभावित रूप से छिपे हो सकते हैं या ऐसे आकार के हो सकते हैं जो आकस्मिक दृश्य निरीक्षण के लिए इतने स्पष्ट न हों। दूसरा, यह हो सकता है कि पारंपरिक मानव-चालित कारों सहित सभी कारों को धीरे-धीरे समान सेंसर से सुसज्जित किया जाए, भले ही वाहन फिर भी मुख्य रूप से मानव-चालित कार ही बनी रहे। मेरी आगे की कवरेज यहां देखें इस लिंक यहाँ.

यदि आप इस बात पर ध्यान से विचार करते हैं कि क्या स्व-चालित कारें दिखने में पारंपरिक मानव-चालित कारों के समान हो सकती हैं या होनी चाहिए, तो आप इस सोच में आ सकते हैं कि इस स्टू में एक अलौकिक घाटी छिपी हो सकती है।

आप देखते हैं, जो कारें स्पष्ट रूप से सेल्फ-ड्राइविंग कारों की तरह दिखती हैं, उन्हें ऐसे मोड़ पर देखा जा सकता है जो अलौकिक घाटी से कुछ ही दूर है। मूलतः, आप "जानते हैं" कि यह एक रोबोट या रोबोटिक प्रकार की प्रणाली है। यह एक ऐसा निर्णय है जिस पर आप लगभग तुरंत ही विचार कर सकते हैं।

जब सेल्फ-ड्राइविंग कारें मानव-चालित कारों की तरह ही दिखती हैं, तो शायद इससे पता चलता है कि स्वायत्त वाहनों ने रोबोट जैसी दिखने वाली अनोखी घाटी को पार कर लिया है। क्या उन दो शारीरिक दिखावे के बीच कोई बीच का रास्ता है जो हमें अलौकिक घाटी में ले जाता है?

शायद आप एक सेल्फ-ड्राइविंग कार को सड़क पर आते हुए देखें और ऐसा लगे कि यह शायद एक सेल्फ-ड्राइविंग कार है, दूसरी ओर, उपस्थिति न तो पूरी तरह से स्वायत्त दिखती है और न ही पूरी तरह से मानव-चालित दिखती है। आप यह तर्क दे सकते हैं कि सेल्फ-ड्राइविंग कार अब दिखने में भयानक या परेशान करने वाली स्थिति में है।

सेल्फ-ड्राइविंग कार जाहिर तौर पर अलौकिक घाटी में समा गई है।

ऐसा कहा जा रहा है कि, हर कोई उस वर्गीकरण से सहमत नहीं होगा। कुछ लोग दावा करेंगे कि भौतिक रूप का अलौकिक घाटी से कोई लेना-देना नहीं है। बेशक कुछ लोग यह भी दावा करते हैं कि वास्तविक रूप से अलौकिक घाटी के नाम से जानी जाने वाली कोई चीज़ नहीं है।

जैसा कि पहले उल्लेख किया गया है, इस पर अपना निर्णय लेने के लिए आपका स्वागत है।

2. सवाल यह है कि सेल्फ-ड्राइविंग कारें कहां दिख रही हैं

सेल्फ-ड्राइविंग कारों के बारे में कई लोगों की चिंता यह है कि आमतौर पर उनमें ड्राइवर की सीट पर कोई मानव ड्राइवर नहीं होता है और इसलिए यह पता लगाना मुश्किल होता है कि कार चलाते समय "ड्राइवर" कहाँ देख रहा है।

आप आमतौर पर मानव चालकों की ओर यह जानने के लिए नज़र डालते हैं कि वे किधर देख रहे हैं। उदाहरण के लिए, हो सकता है कि आप क्रॉसवॉक पर पैदल यात्री हों और एक कार क्रॉसिंग की ओर आ रही हो। आप ड्राइवर की सीट पर बैठे व्यक्ति को ध्यान से देखें और यह समझने की कोशिश करें कि उनका सिर कहाँ मुड़ा हुआ है और उनकी आँखें कहाँ देख रही हैं। यदि आप मानते हैं कि मानव चालक ने आपको देखा है, तो आपको सड़क पार करने में अधिक सहजता हो सकती है। इसके विपरीत, यदि मानव चालक ने आपको नहीं देखा है, तो आप पार करने के बारे में चिंतित हैं।

कुछ शहरों में इन पहलुओं पर एक प्रकार की चूहे-बिल्ली की चाल चल रही है। किसी दिए गए शहर में एक विशेष सांस्कृतिक मानदंड यह हो सकता है कि यदि आप ड्राइवर के साथ आँख मिलाते हैं, तो ड्राइवर "जीतता है" और उन्हें ड्राइविंग की स्थिति की वैधता की परवाह किए बिना, आगे बढ़ने का स्पष्ट अधिकार है। अन्य शहर पूरी तरह से विपरीत हो सकते हैं, अर्थात् सांस्कृतिक मानदंड यह है कि जब आँख से संपर्क किया जाता है तो पैदल यात्री "जीतता है" और मानव चालक को पैदल यात्री के कार्यों को स्थगित करना चाहिए।

ऐसा प्रतीत होता है कि हमारे शहरों और समुदायों के बीच कारों के अपेक्षाकृत लंबे समय से मौजूद रहने के कारण हमने इस प्रथा को अपनाया है। सेल्फ-ड्राइविंग कारों के आगमन के साथ समस्या यह है कि ड्राइवर की सीट पर कोई मानव चालक नहीं होता है और इस प्रकार कोई भी पैदल यात्री या आस-पास का मानव चालक होता है जो आमतौर पर ड्राइविंग इरादे के सांस्कृतिक संकेतक के रूप में कार चालकों के सिर और आंखों का उपयोग करता है। बदकिस्मत।

वाहन निर्माता और सेल्फ-ड्राइविंग कार डेवलपर इस उभरते मुद्दे के बारे में गहराई से जागरूक हैं। एक प्रस्तावित समाधान में स्व-चालित कार, स्वायत्त वाहन की हेडलाइट्स झपकाना या संभवतः हॉर्न बजाना शामिल है। एक और धारणा यह है कि सेल्फ-ड्राइविंग कार में लाउडस्पीकर का एक प्रकार हो सकता है और यह आस-पास के लोगों को बता सकता है कि एआई ड्राइविंग सिस्टम के "इरादे" क्या हैं। उन विचारों में से प्रत्येक में महत्वपूर्ण कमियां हैं।

फिर भी एक अलग प्रस्ताव में कुछ ऐसा करना शामिल है जिसे आप पहले हास्यास्पद मान सकते हैं। प्रस्ताव में स्वायत्त वाहन के बाहरी हिस्से पर नेत्रगोलक जैसे आभूषण लगाने का प्रस्ताव है। ये गोले काफी हद तक मानव आंखों की तरह दिखेंगे, जो आगे और पीछे घूमने में सक्षम होंगे, जिससे आपको तत्काल संकेत मिलेगा जो बताता है कि एआई ने "आपको देखा है" (आप इसकी व्याख्या अपनी विशेष दिशा में देखने वाली आंखों से करेंगे)। मैंने इस दृष्टिकोण का विश्लेषण किया है यहाँ लिंक.

एक सेल्फ-ड्राइविंग कार को सड़क पर आते हुए और हुड या छत पर लगे इन बड़े आकार के अजीब नेत्रगोलक वाले आभूषणों को देखकर आपकी क्या प्रतिक्रिया होगी?

मुझे लगता है कि आप सोच सकते हैं कि यह भयानक है, शायद डरावना भी।

कुछ लोगों का मानना ​​है कि यह भय इस अलौकिक घाटी में सजी-धजी सेल्फ-ड्राइविंग कार के कारण उत्पन्न होता है। अन्य लोग जोरदार तर्क देंगे कि इसका अलौकिक घाटी से कोई लेना-देना नहीं है। ऐसे पंडितों में से, कुछ लोग कहेंगे कि एक ऐसी भयावहता है जो अलौकिक घाटी में फंसे बिना भी भयावहता हो सकती है (यानी, अलौकिक घाटी हमेशा भय पैदा करती है, लेकिन सभी भय केवल अलौकिक घाटी के माध्यम से उत्पन्न नहीं होते हैं)। दूसरा कोण यह है कि संभवतया आभूषणों को इस तरह डिजाइन किया जा सकता है कि वे कम नजर आएं और अधिक रोबोटिक दिखें, या कि हम सभी अनिवार्य रूप से इन आभूषणों की उपस्थिति को स्वीकार करेंगे और प्रारंभिक चौंकाने वाली प्रतिक्रिया कम हो जाएगी।

3. सेल्फ-ड्राइविंग कारों की एआई ड्राइविंग गतिविधियाँ

सेल्फ-ड्राइविंग कारों के आज के कई परीक्षणों से पता चला है कि मौजूदा एआई ड्राइविंग सिस्टम को धीमे और कुछ हद तक सख्ती से कानूनी तरीकों से चलाने के लिए प्रोग्राम किया जाता है। एआई ड्राइविंग सिस्टम आमतौर पर सेल्फ-ड्राइविंग कार को स्टॉप संकेतों पर पूर्ण विराम देता है। जब ट्रैफिक सिग्नल तुरंत लाल होने वाला हो तो एआई ड्राइविंग सिस्टम चौराहों पर साहसपूर्वक दौड़ने की हिम्मत नहीं करता। ये स्वच्छंद ड्राइविंग प्रथाएं मानव चालकों का प्रांत हैं।

बोलने के तरीके में, आप इसे चलाने की शैली से लगभग अनुमान लगा सकते हैं कि एक सेल्फ-ड्राइविंग कार एक सेल्फ-ड्राइविंग कार है। भले ही स्वायत्त वाहन देखने में एक पारंपरिक मानव-चालित कार प्रतीत हो, आप ड्राइविंग गतिविधियों का निरीक्षण कर सकते हैं और शायद तार्किक रूप से यह निष्कर्ष निकाल सकते हैं कि यह संभवतः एआई प्रणाली द्वारा संचालित है।

कुछ लोगों का मानना ​​है कि हमें एआई ड्राइविंग सिस्टम को मानव चालकों की हरकतों के समान बनाने की आवश्यकता होगी ताकि वे ड्राइविंग के मानक दृष्टिकोण में प्रभावी ढंग से घुलमिल सकें। मेरा मानना ​​है कि आप इसे आग से आग से लड़ने के रूप में समझ सकते हैं।

क्या ऐसा करने का कोई मतलब है?

ध्यान रखें कि मुखर संशयवादी और आलोचक इस विचार से घृणा करते हैं। वे ज़ोर देकर तर्क देंगे कि हम चाहते हैं कि एआई ड्राइविंग सिस्टम ठीक से और सावधानी से चले। संभावित रूप से लाखों सेल्फ-ड्राइविंग कारों को सड़कों पर जोड़ना, जिन्हें गलत मानव चालकों की तरह प्रोग्राम किया गया है, एक बहुत बड़ा दुःस्वप्न प्रतीत होगा। मैंने इस विवादास्पद प्रस्ताव पर चर्चा की है यहाँ लिंक.

आइए अलौकिक घाटी का लाभ उठाकर दुविधा का समाधान करें।

जब एआई ड्राइविंग सिस्टम अपने ड्राइविंग कार्यों द्वारा सख्ती से कानूनी है, तो यह शायद एक स्पष्ट संकेत है कि यह एक रोबोटिक सिस्टम होने की संभावना है (मानव ड्राइवरों के बावजूद जो ऐसा करते हैं, हालांकि आज की दुनिया में वे बहुत कम लगते हैं)। यदि एआई ड्राइविंग सिस्टम को मानव चालकों की तरह ही विचित्र रूप से चलाना है, तो क्या यह अलौकिक घाटी में छलांग लगाएगा या अलौकिक घाटी में गिर जाएगा?

उस पर एक बार विचार करो.

4. रोबोट जो सेल्फ-ड्राइविंग कार प्राप्त करने के साधन के रूप में चलते हैं

कवरेज के लिए यह अंतिम आइटम इन चारों में सबसे चौंकाने वाला है।

आप इस बात से पूरी तरह अनजान होंगे कि कुछ एआई डेवलपर ऐसे रोबोट बनाने की कोशिश कर रहे हैं जो कार चलाएंगे। रोबोट कई मायनों में इंसान जैसा दिखता है, उसके पैर रोबोटिक हैं और हाथ रोबोटिक हैं। जब आप चाहते हैं कि कोई पारंपरिक मानव-चालित कार स्व-चालित कार बने, तो आप बस इस विशेष एआई ड्राइविंग रोबोट को अपनी कार की ड्राइवर सीट पर रख दें। इस धारणा का मेरा विश्लेषण यहां देखें यहाँ लिंक.

हम रोबोट चलाना क्यों चाहेंगे?

ऐसे रोबोट की खूबी यह है कि आज की सभी मानव-चालित कारें, लगभग रातों-रात, एक प्रकार से स्व-चालित कारें बन सकती हैं। आप बस एक ड्राइविंग रोबोट खरीद लेते हैं, किराये पर ले लेते हैं या किसी तरह अपने लिए खरीद लेते हैं। ड्राइविंग यात्रा पर जाते समय आप रोबोट को अपने ड्राइवर की सीट पर रखते हैं। रोबोट आपको आपके गंतव्य तक ले जाता है। यदि आप मानव ड्राइविंग पर स्विच करना चाहते हैं, तो आप रोबोट को वाहन से हटा दें, हो सकता है कि इसे बाद में उपयोग के लिए ट्रंक में रख दें।

आज संयुक्त राज्य अमेरिका में लगभग 250 मिलियन पारंपरिक कारें हैं। कुछ लोगों का मानना ​​है कि सेल्फ-ड्राइविंग कारों के अस्तित्व में आने के बाद ये अंततः कबाड़ हो जाएंगी। उन पारंपरिक कारों को कबाड़ करने के बजाय, शायद हम उन्हें स्वचालित कारों में बदलने का प्रयास कर सकते हैं, हालांकि यह संभवतः काफी महंगा विचार है। प्रतीत होता है कि अधिक विवेकपूर्ण दृष्टिकोण ड्राइविंग रोबोट उपलब्ध कराना होगा।

यदि आपने अपने पड़ोस की सड़क पर एक पारंपरिक दिखने वाली कार को आते देखा और उसके पहिए पर एक रोबोट था, तो आपकी प्रतिक्रिया क्या होगी?

संभवतः उदासी.

एक स्वीकार्य रूप से तर्कपूर्ण दावा यह है कि यह सन्नाटा रोबोट द्वारा पारंपरिक कार चलाकर प्रसिद्ध या कुख्यात अलौकिक घाटी में गिराए जाने के कारण है।

निष्कर्ष

नैतिक एआई दृष्टिकोण से, अलौकिक घाटी एक दिलचस्प पहेली प्रस्तुत करती है।

एआई में कुछ ऐसे हैं जो पूरी तरह से अलौकिक घाटी में विश्वास करते हैं और कुछ ऐसे हैं जो नहीं करते हैं। लेकिन, चाहे आप अलौकिक घाटी में विश्वास करें या न करें, फिर भी विषय अपने आप में उलझा हुआ है। आप अपना सिर छिपाकर यह दिखावा नहीं कर सकते कि निर्माण का अस्तित्व ही नहीं है। एक विचार के रूप में निर्माण जीवित है और कुछ समानता में वायरल रूप से शक्तिशाली है। इससे नफरत करें या इसे प्यार करें, घृणित या शायद अतिरंजित विषय कायम रहता है।

एआई कोण की नैतिकता से अलौकिक घाटी की खूबियों पर मेरे पहले प्रवचन के अनुसार, इसमें प्यार और नफरत का द्वंद्वपूर्ण रिश्ता है। क्या नैतिक एआई क्षेत्र में रहने वालों को अलौकिक घाटी को अपनाना चाहिए, या संक्षेप में अलौकिक घाटी को अस्वीकार करना चाहिए, या सत्यता के बारे में कुछ हद तक तटस्थ रहना चाहिए और इसके बजाय उस प्रभाव पर ध्यान केंद्रित करना चाहिए जो इसके बारे में चल रही भिन्न मान्यताओं के कारण उत्पन्न होता है।

यह चुनौती प्रख्यात अर्थशास्त्री एडम स्मिथ के सामने आती है, जैसा कि उन्होंने एक बार कहा था (संक्षेप में) कि संदेह के शहर से सड़क पर, आपको अस्पष्टता की घाटी से गुजरना होगा।