एआई एथिक्स एंड द क्वेस्ट फॉर सेल्फ-अवेयरनेस इन एआई

क्या आप स्वयं जागरूक हैं?

मैं शर्त लगाता हूं कि आप मानते हैं कि आप हैं।

माना जाता है कि बात यह है कि हम में से कुछ विशेष रूप से आत्म-जागरूक हैं। आत्म-जागरूकता की एक सीमा या डिग्री होती है और हम सभी इस बात में भिन्न होते हैं कि हम कितने सूक्ष्म आत्म-जागरूक हैं। आप सोच सकते हैं कि आप पूरी तरह से आत्म-जागरूक हैं और केवल मामूली ही हैं। आप शायद आत्म-जागरूक हो सकते हैं और महसूस कर सकते हैं कि यह आपकी मानसिक स्थिति है।

इस बीच, स्पेक्ट्रम के सबसे ऊपरी हिस्से में, आप विश्वास कर सकते हैं कि आप पूरी तरह से आत्म-जागरूक हैं और वास्तव में वे आने वाले आत्म-जागरूक हैं। तुम्हारे के लिए अच्छा है।

जिसके बारे में बोलते हुए, अत्यधिक आत्म-जागरूक होने से क्या लाभ होता है?

में प्रकाशित शोध के अनुसार हार्वर्ड बिजनेस रिव्यू (एचबीआर) ताशा यूरिच द्वारा, आप कथित तौर पर बेहतर निर्णय लेने में सक्षम हैं, आप अपने निर्णयों में अधिक आश्वस्त हैं, आप अपनी संचार क्षमताओं में मजबूत हैं, और समग्र रूप से अधिक प्रभावी हैं (प्रति लेख "स्व-जागरूकता वास्तव में क्या है (और कैसे) इसे विकसित करने के लिए)।" बोनस कारक यह है कि कठोर आत्म-जागरूकता वाले लोगों को धोखा देने, चोरी करने या झूठ बोलने के लिए कम इच्छुक कहा जाता है। उस अर्थ में, बदमाश या बदमाश होने के साथ-साथ टालने का एक दोहा है एक बेहतर इंसान बनने और अपने साथी मानव जाति को अलंकृत करने का प्रयास।

आत्म-जागरूकता के बारे में यह सारी बातें कुछ हद तक स्पष्ट प्रश्न को सामने लाती हैं, अर्थात्, आत्म-जागरूकता वाक्यांश वास्तव में क्या दर्शाता है। आप परिसर के बारे में विभिन्न परिभाषाओं और व्याख्याओं के टन आसानी से पा सकते हैं और क्या हम कहेंगे कि भावपूर्ण निर्माण आत्म-जागरूक होने के लिए आवश्यक है। कुछ लोग यह सुझाव देकर मामलों को सरल बनाते हैं कि आत्म-जागरूकता में स्वयं की निगरानी करना शामिल है, यह जानना कि आप क्या कर रहे हैं। आप अपने स्वयं के विचारों और कार्यों से अच्छी तरह वाकिफ हैं।

संभवतः, जब आत्म-जागरूक नहीं होता है, तो एक व्यक्ति को यह नहीं पता होगा कि वे क्या कर रहे हैं, न ही ऐसा क्यों कर रहे हैं, और यह भी नहीं जान पाएंगे कि अन्य लोगों को उनके बारे में क्या कहना है। मुझे यकीन है कि आप ऐसे लोगों से मिले हैं जो इस तरह के हैं।

कुछ लोग इस धरती पर चलते हुए प्रतीत होते हैं कि वे स्वयं क्या कर रहे हैं, और न ही उन्हें इस बात का आभास है कि दूसरे उनके बारे में क्या कह रहे हैं। मुझे लगता है कि आप यह तर्क दे सकते हैं कि वे नाजुक टूटने वाले बुटीक में सिर के नीचे चार्ज करने वाले बैल की तरह हैं। हम प्रथागत रूप से यह मानते हैं कि सांड नहीं जानता कि वह क्या कर रहा है और दूसरों के दृष्टिकोण से बेखबर रहता है जब तक कि वे अन्य लोग शारीरिक रूप से छल करने या अनजान प्राणी को पालने का प्रयास नहीं करते हैं।

ऐसा कहा जाता है कि आत्म-जागरूकता कुछ हद तक पुनरावर्ती हो सकती है।

मैं इस रिकर्सन को स्पष्ट करने के लिए एक उदाहरण स्केच करता हूं। आप अपने स्मार्टफोन पर एक बहुत ही आकर्षक कैट वीडियो देखने के बीच में हैं (हर कोई ऐसा करता है, ऐसा लगता है)। कुछ लोगों के पास उन प्यारी बिल्लियों की अद्भुत हृदयस्पर्शी हरकतों के अलावा और कोई स्पष्ट विचार नहीं होगा। इस बीच, आत्म-जागरूकता वाले किसी भी व्यक्ति को पता है कि वे एक बिल्ली का वीडियो देख रहे हैं। उन्हें यह भी पता हो सकता है कि उनके आस-पास के अन्य लोग यह देख रहे हैं कि वे एक बिल्ली का वीडियो देख रहे हैं।

ध्यान दें कि आप आत्म-जागरूक हो सकते हैं और फिर भी हम एक विशेष प्राथमिक गतिविधि कहेंगे। इस उदाहरण में प्राथमिक गतिविधि बिल्ली वीडियो देख रही है। दूसरे, और साथ ही, आप यह सोच सकते हैं कि आप वास्तव में एक बिल्ली का वीडियो देख रहे हैं। जब आप पूरी तरह से मनोरंजक बिल्ली वीडियो देख रहे होते हैं तो आप इस विचार को भी ले जा सकते हैं कि दूसरे आपको देख रहे हैं। आपको एक गतिविधि को रोकने की आवश्यकता नहीं है, जैसे कि बिल्ली का वीडियो देखना बंद करना, फिर अलग से यह सोचने के लिए कि आप एक बिल्ली वीडियो देख रहे हैं (या बस थे)। वे विचार एक दूसरे के समानांतर प्रतीत हो सकते हैं।

कभी-कभी, हमारी आत्म-जागरूकता हमें प्राथमिक मानसिक गतिविधि से बाहर निकाल सकती है या कम से कम बाधित कर सकती है। शायद, जब आप बिल्ली के वीडियो को देखने के बारे में सोचते हैं, तो आपका दिमाग आंशिक रूप से बाहर हो जाता है क्योंकि यह केवल वीडियो पर ही ध्यान केंद्रित करने के लिए बहुत अधिक है। आप उस हिस्से को फिर से देखने के लिए वीडियो को रिवाइंड करने का विकल्प चुनते हैं, जिसे आपने देखा था लेकिन यह कि आप पूरी तरह से समझने से मानसिक रूप से विचलित थे। आत्म-जागरूकता ने आपकी प्राथमिक मानसिक गतिविधि को अस्त-व्यस्त कर दिया।

ठीक है, अब हम पुनरावर्ती पहलुओं के उत्पन्न होने के लिए तैयार हैं।

क्या आप तैयार हैं?

आप एक बिल्ली का वीडियो देख रहे हैं। आपकी आत्म-जागरूकता आपको सूचित कर रही है कि आप एक बिल्ली का वीडियो देख रहे हैं और दूसरे लोग आपको देख रहे हैं जैसे आप वीडियो देख रहे हैं। यही यथास्थिति है।

आप अगली बार एक अतिरिक्त मानसिक छलांग लगाते हैं। आप अपनी आत्म-जागरूकता के बारे में सोचने लगते हैं। आप आत्म-जागरूक हैं कि आप अपनी आत्म-जागरूकता को जोड़ रहे हैं। यहां बताया गया है कि यह कैसे होता है: क्या मैं बिल्ली के वीडियो को देखने के बारे में सोचने के बारे में बहुत ज्यादा सोच रहा हूं, आप खुद से निराशा से पूछते हैं? यह आत्म-जागरूकता की एक और परत है। अन्य आत्म-जागरूकता के शीर्ष पर आत्म-जागरूकता रैंकिंग।

एक पुरानी कहावत है कि यह सभी तरह से कछुए हैं। आत्म-जागरूकता घटना के लिए, आप हो सकते हैं:

• खुद से वाकिफ नहीं
• स्वयं के प्रति जागरूक
• स्वयं के बारे में अपनी आत्म-जागरूकता के बारे में आत्म-जागरूकता
• अपने स्वयं के बारे में आत्म-जागरूक होने के बारे में आत्म-जागरूकता
• विज्ञापन इन्फिनिटम (यानी, और इसी तरह)

आपने शायद महसूस किया होगा कि मैं पहले सूक्ष्म रूप से इंगित कर रहा था कि आत्म-जागरूक होने की दो प्रमुख श्रेणियां प्रतीत होती हैं। एक विशेष सिद्धांत यह मानता है कि हमारे पास एक प्रकार की आंतरिक आत्म-जागरूकता है जो हमारे आंतरिक राज्यों पर केंद्रित है, और हमारे पास एक बाहरी आत्म-जागरूकता भी है जो हमारे आस-पास के लोगों के बारे में धारणाओं का अनुमान लगाने में सहायता करती है जो हमें देख रहे हैं।

एचबीआर लेख के अनुसार, यहां दो प्रकार की आत्म-जागरूकता के सिद्धांत का एक त्वरित चित्रण है: "पहला, जिसे हमने डब किया था आंतरिक आत्म-जागरूकता, यह दर्शाता है कि हम अपने स्वयं के मूल्यों, जुनून, आकांक्षाओं, अपने पर्यावरण के साथ फिट, प्रतिक्रियाओं (विचारों, भावनाओं, व्यवहारों, ताकत और कमजोरियों सहित) और दूसरों पर प्रभाव को कितनी स्पष्ट रूप से देखते हैं। और इस बीच दूसरा है: "दूसरी श्रेणी, बाहरी आत्म-जागरूकता, का अर्थ यह समझना है कि ऊपर सूचीबद्ध उन्हीं कारकों के संदर्भ में अन्य लोग हमें कैसे देखते हैं। हमारे शोध से पता चलता है कि जो लोग जानते हैं कि दूसरे उन्हें कैसे देखते हैं, वे सहानुभूति दिखाने और दूसरों के दृष्टिकोण को लेने में अधिक कुशल हैं। ”

एक आसान टू-बाय-टू मैट्रिक्स या फोर-स्क्वायर को यह कहते हुए प्राप्त किया जा सकता है कि आंतरिक और बाहरी दोनों आत्म-जागरूकता उच्च से निम्न तक होती है, और आप दो श्रेणियों को एक-दूसरे के विरुद्ध जोड़ सकते हैं। एचबीआर शोध इंगित करता है कि आपको इन चार आत्म-जागरूकता आदर्शों में से एक कहा जाता है:

• आत्मनिरीक्षणकर्ता: कम बाहरी आत्म-जागरूकता + उच्च आंतरिक आत्म-जागरूकता
• साधक: कम बाहरी आत्म-जागरूकता + निम्न आंतरिक आत्म-जागरूकता
• आनंददायक: उच्च बाहरी आत्म-जागरूकता + निम्न आंतरिक आत्म-जागरूकता
• जागरूक: उच्च बाहरी आत्म-जागरूकता + उच्च आंतरिक आत्म-जागरूकता

शिखर "जागरूक" मूलरूप होगा जिसमें बाहरी रूप से आत्म-जागरूक होने के शीर्ष पायदान पर और इसी तरह आंतरिक रूप से आत्म-जागरूक होने के शीर्ष पर होना शामिल है। स्पष्ट करने के लिए, आप अनिवार्य रूप से स्थायी रूप से इस प्रेतवाधित मुद्रा को प्राप्त नहीं करते हैं। आप आंतरिक और बाहरी आत्म-जागरूकता दोनों क्षेत्रों के बीच, उच्च और निम्न होने के बीच आगे और पीछे खिसक सकते हैं। यह दिन के समय, जिस स्थिति में आप खुद को पाते हैं, और कई अन्य मुख्य कारकों पर निर्भर हो सकता है।

अब जबकि हमने आत्म-जागरूकता के बारे में कुछ मूलभूत तत्वों को स्नेहपूर्वक कवर कर लिया है, हम इसे नैतिक व्यवहारों के विषय से जोड़ने का प्रयास कर सकते हैं।

आत्म-जागरूक होने के बारे में सामान्य दावा यह है कि जब आप आत्म-जागरूक होते हैं तो आपके ऊपर होने की अधिक संभावना होती है। इसका मतलब है, जैसा कि पहले ही संकेत दिया गया है, आप चोरी, धोखाधड़ी और झूठ बोलने जैसे प्रतिकूल नैतिक व्यवहारों के प्रति कम प्रवृत्त हैं। इस प्रवृत्ति का कारण यह है कि आपकी आत्म-जागरूकता की सक्रियता आपको यह एहसास दिलाएगी कि आपका अपना व्यवहार अस्वाभाविक या अनैतिक है। जब आप कीचड़ भरे अनैतिक जल में फंसते हैं, तो आप न केवल खुद को पकड़ लेते हैं, बल्कि आप खुद को वापस बाहर और सूखी भूमि (नैतिक क्षेत्र की पवित्रता) पर वापस ले जाने के लिए प्रवृत्त होते हैं, जैसा कि यह था।

आपकी आत्म-जागरूकता आपको आत्म-नियंत्रण का अभ्यास करने में सहायता करती है।

एक विपरीत संभवतः तब होगा जब आत्म-जागरूकता कम या कोई नहीं होगी, जो यह बताती है कि कोई व्यक्ति शायद अनैतिक व्यवहारों में उनके झुकाव से बेखबर है। आप यह तर्क दे सकते हैं कि ऐसे अनजान व्यक्ति को यह एहसास नहीं हो सकता है कि वे प्रतिकूल प्रदर्शन कर रहे हैं। ब्रेकएबल्स की दुकान में बैल के समान, जब तक कोई और अधिक स्पष्ट रूप से उनका ध्यान आकर्षित नहीं करता, तब तक वे स्वयं को विनियमित करने की संभावना नहीं रखते हैं।

वैसे, हर कोई इसमें नहीं खरीदता है। कुछ लोग तर्क देंगे कि आत्म-जागरूकता को नैतिक होने के रूप में अनैतिक होने के लिए आसानी से लागू किया जा सकता है। उदाहरण के लिए, एक कुकर्मी पूरी तरह से आत्म-जागरूक हो सकता है और इस बात से प्रसन्न होता है कि वे गलत काम कर रहे हैं। उनकी आत्म-जागरूकता उन्हें नापाक कदाचार के बड़े और बड़े कृत्यों की ओर और अधिक मजबूती से प्रेरित करती है।

इस पर सीधे आंख से मिलने की तुलना में अधिक बादल हैं। मान लीजिए कि कोई व्यक्ति पूरी तरह से आत्म-जागरूक है, लेकिन वे किसी दिए गए समाज या संस्कृति के नैतिक मूल्यों से अनजान हैं। इस तरह, उनके पास कोई नैतिक मार्गदर्शन नहीं है, इस तथ्य के बावजूद कि वे आत्म-जागरूक हैं। या, यदि आप चाहें, तो शायद वह व्यक्ति नैतिक उपदेशों के बारे में जानता है और विश्वास नहीं करता कि वे उन पर लागू होते हैं। वे खुद को अद्वितीय या पारंपरिक नैतिक सोच की सीमा से बाहर मानते हैं।

गोल-गोल घूमता रहता है।

आत्म-जागरूकता को दोधारी नैतिकता-उन्मुख तलवार के रूप में समझा जा सकता है, कुछ लोग इस पर जोर देंगे।

फिलहाल, आइए खुश चेहरे के संस्करण के साथ चलते हैं जिसमें आत्म-जागरूकता शामिल है और बड़े पैमाने पर हमें नैतिक व्यवहारों की ओर निर्देशित या प्रेरित करते हैं। बाकी सब समान होने के कारण, हम यह ढीठ धारणा बना लेंगे कि जितनी अधिक आत्म-जागरूकता होगी, आप उतने ही अधिक नैतिक रूप से झुकेंगे। यह निश्चित रूप से मनभावन और प्रेरणादायक लगता है।

आइए गियर शिफ्ट करें और आर्टिफिशियल इंटेलिजेंस (एआई) को तस्वीर में लाएं।

हम इस चर्चा में एक ऐसे मोड़ पर हैं जहां सभी कार्यवाही की उलझनों को एथिकल एआई के बढ़ते दायरे से जोड़ा जा सकता है, जिसे आमतौर पर एआई की नैतिकता के रूप में भी जाना जाता है। एआई नैतिकता के मेरे चल रहे और व्यापक कवरेज के लिए, देखें यहाँ लिंक और यहाँ लिंक, कुछ लोगों का नाम बताने के लिए।

एथिकल एआई की धारणा एआई के आगमन के लिए नैतिकता और नैतिक व्यवहार के क्षेत्र को आपस में जोड़ने पर जोर देती है। आपने निश्चित रूप से ऐसी सुर्खियाँ देखी हैं जिन्होंने एआई के बारे में खतरे की घंटी बजा दी है जो असमानताओं और विभिन्न पूर्वाग्रहों से भरा है। उदाहरण के लिए, ऐसी चिंताएं हैं कि एआई-आधारित चेहरे की पहचान प्रणाली कभी-कभी नस्लीय और लिंग भेदभाव प्रदर्शित कर सकती है, आम तौर पर अंतर्निहित मशीन लर्निंग (एमएल) और डीप लर्निंग (डीएल) सुविधाओं को कैसे प्रशिक्षित और फील्ड किया गया था (मेरा विश्लेषण देखें) के परिणामस्वरूप पर इस लिंक यहाँ).

कोशिश करने और रोकने के लिए या कम से कम पेल-मेल रश को कम करने के लिए एआई फॉर बैड, एआई सिस्टम से मिलकर जो या तो अनजाने में या कभी-कभी जानबूझकर बुरी तरह से कार्य करने के लिए आकार दिया जाता है, एआई के विकास और उपयोग के लिए नैतिकता के नियमों को लागू करने की हाल ही में तत्काल आवश्यकता है। एआई डेवलपर्स को नैतिक मार्गदर्शन प्रदान करना, साथ ही एआई का निर्माण या क्षेत्र करने वाली फर्मों और एआई अनुप्रयोगों पर निर्भर लोगों को नैतिक मार्गदर्शन प्रदान करना है। नैतिक एआई सिद्धांतों को तैयार और अपनाया जाने के एक उदाहरण के रूप में, मेरा कवरेज देखें यहाँ लिंक.

इन तीन अत्यंत महत्वपूर्ण प्रश्नों पर विचार करने के लिए एक चिंतनशील क्षण दें:

• क्या हम एआई डेवलपर्स को नैतिक एआई सिद्धांतों को अपनाने और उन दिशानिर्देशों को वास्तविक उपयोग में लाने के लिए प्राप्त कर सकते हैं?
• क्या हम ऐसी फर्में प्राप्त कर सकते हैं जो एआई को भी इसी तरह से तैयार करती हैं या फील्ड करती हैं?
• क्या हम एआई का उपयोग करने वालों को नैतिक एआई पहलुओं से परिचित करा सकते हैं?

मैं बिना किसी हिचकिचाहट के यह कहूंगा, यह एक लंबा आदेश है।

एआई को बनाने का रोमांच एआई की नैतिकता की ओर किसी भी तरह का ध्यान आकर्षित कर सकता है। खैर, न केवल रोमांच, बल्कि पैसा कमाना भी उस समीकरण का अभिन्न अंग है। आपको यह जानकर आश्चर्य हो सकता है कि एआई क्षेत्र में कुछ लोग यह कहने के लिए उपयुक्त हैं कि वे अपने एआई सिस्टम को दरवाजे से बाहर निकालने के बाद नैतिक एआई "सामान" से निपटने के लिए तैयार हो जाएंगे। जब तक आप इसे सही नहीं कर लेते (उम्मीद है कि यह सही हो जाए) यह तेजी से विफल होने और अक्सर असफल होने को सुनिश्चित करने का विशिष्ट तकनीकी मंत्र है।

बेशक, जो बड़े पैमाने पर नैतिक रूप से संदिग्ध एआई को जनता पर लाद रहे हैं, वे घोड़े को खलिहान से बाहर निकाल रहे हैं। उनका घोषित फैला हुआ विचार यह है कि एआई फॉर बैड दैनिक उपयोग में आने के बाद ठीक हो जाएगा, जो हानिकारक रूप से धीमा है क्योंकि घोड़ा पहले से ही बेवजह सरपट दौड़ रहा है। नुक्सान हो सकता है। इस बात की भी अधिक संभावना है कि एआई के उपयोग में होने पर कुछ भी तय या समायोजित नहीं किया जाएगा। अक्सर बहाना यह है कि उस समय एआई के साथ झुकाव पहले से ही अनैतिक एल्गोरिथम निर्णय लेने (एडीएम) के पूरी तरह से स्किड्स से बाहर होने के मामले में इसे और भी खराब कर सकता है।

उन लोगों के दिमाग में जो एआई का निर्माण कर रहे हैं, एआई का क्षेत्ररक्षण कर रहे हैं, और एआई का उपयोग कर रहे हैं, उनके दिमाग में एक चमकदार और मार्गदर्शक प्रकाश के रूप में नैतिक एआई होने की उपयोगिता और जीवन शक्ति प्राप्त करने के लिए क्या किया जा सकता है?

उत्तर: आत्म-जागरूकता।

हां, धारणा यह है कि यदि लोग इस बारे में अधिक आत्म-जागरूक थे कि वे एआई का उपयोग कैसे करते हैं या उसके साथ कैसे बातचीत करते हैं, तो यह नैतिक एआई को आदर्श बनाने के लिए उनकी प्रवृत्ति को बढ़ा सकता है। एआई डेवलपर्स और एआई सिस्टम से संबंधित कंपनियों के बारे में भी यही कहा जा सकता है। यदि वे जो कर रहे हैं, उसके बारे में अधिक आत्म-जागरूक थे, तो शायद वे एआई की नैतिकता को और अधिक स्वीकार कर रहे होंगे।

पहले से निर्धारित तर्क का एक हिस्सा यह है कि आत्म-जागरूक होने से नैतिक रूप से बेहतर व्यक्ति होने की प्रवृत्ति होती है और नैतिक रूप से घटिया व्यक्ति होने से भी बचा जाता है। यदि हम उस आधार को जारी रख सकते हैं, तो इसका तात्पर्य है कि एआई डेवलपर्स जो आत्म-जागरूकता की ओर अधिक झुकाव रखते हैं, उनका झुकाव नैतिक व्यवहारों की ओर होगा और इसलिए नैतिक रूप से ध्वनि एआई के उत्पादन की ओर झुकाव होगा।

क्या वह पुल आपके लिए बहुत दूर है?

कोई कहेगा कि परोक्षता कुछ ज्यादा है। आत्म-जागरूक होने, नैतिक रूप से सदाचारी होने और एआई के लिए नैतिक उपदेशों को लागू करने के बीच संबंधों की अत्यधिक श्रृंखला को निगलना मुश्किल है। एक प्रतिवाद यह है कि यह कोशिश करने के लिए चोट नहीं पहुंचा सकता।

संशयवादी कहेंगे कि एक एआई डेवलपर आत्म-जागरूक हो सकता है और संभवतः अधिक नैतिक रूप से दिमाग वाला हो सकता है, लेकिन वे जरूरी नहीं कि उस मानसिक शिविर को नैतिक एआई के तटों पर लागू करने की दिशा में छलांग लगाने जा रहे हैं। उस योग्यता का उत्तर यह है कि यदि हम नैतिक एआई मामलों को प्रचारित और लोकप्रिय कर सकते हैं, तो अन्यथा प्रतीत होता है कि कमजोर संबंध अधिक स्पष्ट, अपेक्षित और संभवतः एआई को क्राफ्ट करने के लिए काम करने का मानक तरीका बन जाएगा।

अब मैं इस गाथा में एक ट्विस्ट जोड़ने जा रहा हूँ। ट्विस्ट आपके सिर को घुमा सकता है। कृपया सुनिश्चित करें कि आप अच्छी तरह से बैठे हैं और जो मैं इंगित करने जा रहा हूं उसके लिए तैयार हैं।

कुछ लोगों का कहना है कि हमें सीधे एआई में ही एथिकल एआई का निर्माण करना चाहिए।

हो सकता है कि आप उस घोषणा से विचलित न हों। आइए इसे अनपैक करें।

एक प्रोग्रामर एआई सिस्टम बना सकता है और एआई को पूर्वाग्रहों और असमानताओं से बचाने की कोशिश करने की अपनी प्रोग्रामिंग आत्म-जागरूकता के साथ ऐसा कर सकता है। प्रोग्रामिंग में केवल जुताई करने के बजाय, डेवलपर अपने स्वयं के कंधे पर यह पूछने के लिए देख रहा है कि क्या वे जिस दृष्टिकोण से काम कर रहे हैं, उसका परिणाम एआई में प्रतिकूल तत्वों की अपेक्षित अनुपस्थिति में होगा।

बढ़िया, हमारे पास एक एआई डेवलपर है जो पर्याप्त रूप से आत्म-जागरूक प्रतीत होता है, नैतिक व्यवहारों को अपनाने की मांग की है, और नैतिक नियमों को शामिल करने के लिए प्रकाश देखा है क्योंकि वे अपने एआई सिस्टम को तैयार करते हैं।

एथिकल एआई के लिए जीत हासिल करें!

सब ठीक है और अच्छा है, हालांकि यहाँ कुछ ऐसा है जो बाद में स्पष्ट हो सकता है। एआई को फील्ड किया जाता है और दैनिक उपयोग में लाया जाता है। एआई के हिस्से में मक्खी पर "सीखने" में सक्षम होने के लिए एक घटक शामिल था। इसका मतलब है कि एआई नए डेटा और मूल प्रोग्रामिंग के अन्य पहलुओं के आधार पर खुद को समायोजित कर सकता है। एक तरफ जल्दी के रूप में, इसका मतलब यह नहीं है कि एआई संवेदनशील है। हमारे पास संवेदनशील एआई नहीं है। उन डोपी हेडलाइंस पर ध्यान न दें जो कहते हैं कि हम करते हैं। कोई नहीं कह सकता कि हमारे पास संवेदनशील एआई होगा, और न ही कोई पर्याप्त भविष्यवाणी कर सकता है कि यह कब होगा।

हमारी कहानी पर लौटते हुए, एआई को उद्देश्यपूर्ण ढंग से तैयार किया गया था ताकि चलते समय खुद को बेहतर बनाया जा सके। काफी आसान धारणा। प्रोग्रामर को लगातार सुधार करने के बजाय, वे एआई प्रोग्राम को स्वयं ऐसा करने की अनुमति देते हैं (वाह, क्या यह खुद को नौकरी से बाहर कर रहा है?)

उस समय के दौरान जब एआई इंच इंच खुद को समायोजित करता है, यह पता चलता है कि विभिन्न प्रकार की असमानताएं और पूर्वाग्रह एआई सिस्टम में अपने स्वयं के परिवर्तन के कृत्यों से रेंग रहे हैं। जबकि प्रोग्रामर ने मूल रूप से उन प्रमुख पहलुओं को बाहर रखा था, वे अब एआई को मक्खी पर समायोजित करने के कारण तैयार कर रहे हैं। अफसोस की बात है कि यह पर्दे के पीछे इतने सूक्ष्म तरीके से हो सकता है कि कोई भी समझदार नहीं है। जो पहले प्रारंभिक संपूर्ण परीक्षण के बाद एआई को हरी बत्ती दे सकते थे, अब वे आँख बंद करके इस बात से अनजान हैं कि एआई दुनिया के सड़े हुए रास्ते पर चला गया है। एआई फॉर बैड.

इस अवांछित उद्भव को रोकने या कम से कम पकड़ने का एक साधन एआई में एक प्रकार का नैतिक एआई डबल-चेकर बनाना होगा। एआई के भीतर एक घटक को एआई के व्यवहार को देखने और यह पता लगाने के लिए प्रोग्राम किया जाता है कि क्या अनैतिक एडीएम उभरने लगा है। यदि ऐसा है, तो घटक एआई डेवलपर्स को अलर्ट भेज सकता है या एआई सिस्टम चलाने वाली फर्म को ऐसा कर सकता है।

इस घटक का अधिक उन्नत संस्करण AI को सुधारने का प्रयास कर सकता है। यह समायोजन का एक समायोजन होगा, जो अनैतिक रूप से उत्पन्न होने वाले पहलुओं को उचित नैतिक मानकों में बदल देगा। आप कल्पना कर सकते हैं कि इस प्रकार की प्रोग्रामिंग मुश्किल है। एक मौका है कि यह भटक सकता है, संभवतः अनैतिक को गहरा अनैतिक में बदल सकता है। एक झूठी सकारात्मक घटक को कार्रवाई में ट्रिगर करने और शायद चीजों को तदनुसार गड़बड़ करने की संभावना भी है।

वैसे भी, यह डबल-चेकर कैसे काम करेगा, इस पर ध्यान दिए बिना, हम इसके बारे में एक दुस्साहसिक घोषणा करने जा रहे हैं। आप सुझाव दे सकते हैं कि कुछ सीमित तरीके से, AI को स्व-जागरूक कहा जाता है।

ओह, वे बहुतों के लिए शब्द लड़ रहे हैं।

लगभग सभी की प्रचलित मान्यता यह है कि आज का AI आत्म-जागरूक नहीं है। पूर्ण विराम, अवधि। जब तक हम संवेदनशील एआई तक नहीं पहुंच जाते, जो हमें नहीं पता कि क्या होगा या कब होगा, ऐसा कोई एआई नहीं है जो आत्म-जागरूक हो। कम से कम मानव-उन्मुख आत्म-जागरूकता के अर्थ में नहीं। यह सुझाव भी न दें कि ऐसा हो सकता है।

मैं निश्चित रूप से सहमत हूं कि हमें एआई के मानवरूपीकरण के बारे में सावधान रहने की जरूरत है। मैं उस चिंता के बारे में एक पल में और बताऊंगा।

इस बीच, यदि आप चर्चा के लिए चरणबद्ध "आत्म-जागरूक" का उपयोग ढीले-ढाले तरीके से करने के लिए तैयार हैं, तो मेरा मानना ​​​​है कि आप आसानी से देख सकते हैं कि एआई को स्वयं की समग्र धारणा का पालन करने के लिए क्यों कहा जा सकता है- जागरूकता। हमारे पास एआई का एक हिस्सा है जो बाकी एआई की निगरानी कर रहा है, बाकी एआई क्या कर रहा है, इस पर नजर रखता है। जब बाकी एआई ओवरबोर्ड जाने लगता है, तो निगरानी वाला हिस्सा इसका पता लगाने की कोशिश करता है। इसके अलावा, AI मॉनिटरिंग पार्ट या डबल-चेकर बाकी AI को वापस उचित लेन में ले जा सकता है।

क्या यह उन बिल्ली वीडियो को देखने और आत्म-जागरूकता रखने के कार्य की तरह नहीं लगता है कि आप ऐसा कर रहे थे?

इसके लिए एक परिचित अंगूठी है।

हम इसे और भी बढ़ा सकते हैं। एआई डबल-चेकर घटक न केवल बाकी एआई के व्यवहार का निरीक्षण करने के लिए प्रोग्राम किया गया है, बल्कि एआई का उपयोग करने वालों के व्यवहार को भी नोट करता है। एआई का उपयोग करते समय उपयोगकर्ता कैसे कर रहे हैं? मान लीजिए कि कुछ उपयोगकर्ता आक्रोश व्यक्त कर रहे हैं कि एआई उनके साथ भेदभाव कर रहा है। एआई डबल-चेकर इस पर लेने में सक्षम हो सकता है, इसे बाकी एआई के भटकने के बारे में एक और लाल झंडे के रूप में उपयोग कर सकता है।

यह आंतरिक आत्म-जागरूकता और बाहरी आत्म-जागरूकता वर्गीकरण लाता है।

एआई डबल-चेकर आंतरिक और बाहरी रूप से स्कैन कर रहा है ताकि यह पता लगाया जा सके कि बाकी एआई परेशान समुद्र में चला गया है या नहीं। पता लगाना एक झंडा उठाएगा या एक आत्म-सुधार अधिनियमित करने का कारण बनेगा।

आइए एक और कुछ हद तक मनमौजी विस्तार जोड़ें। हम एक और एआई डबल-चेकर बनाते हैं जो कोर एआई डबल-चेकर को दोबारा जांचने के लिए है। ऐसा क्यों? ठीक है, मान लीजिए कि AI डबल-चेकर लड़खड़ा रहा है या अपना काम करने में विफल हो रहा है। डबल-चेकर का AI डबल-चेकर इस खराबी का पता लगाने और उसके अनुसार आवश्यक कार्रवाई करने का प्रयास करेगा। आत्म-जागरूकता की पुनरावर्ती प्रकृति में आपका स्वागत है, कुछ लोग गर्व से घोषणा कर सकते हैं, जैसा कि एक कम्प्यूटेशनल एआई सिस्टम में प्रदर्शित किया गया है।

आप में से जो पहले से ही इस बारे में अपनी सीट के किनारे पर हैं, आखिरी टिप्पणी, अभी के लिए, हम यह सुझाव देने का प्रयास कर सकते हैं कि यदि आप एआई सिस्टम को "आत्म-जागरूक" बनाते हैं तो वे संभावित रूप से नैतिक व्यवहार की ओर अग्रसर होंगे। क्या वे ऐसा संवेदनशील आधार पर कर रहे हैं? निश्चित रूप से, नहीं। क्या वे इसे कम्प्यूटेशनल आधार पर कर रहे हैं? हां, हालांकि हमें स्पष्ट होना होगा कि यह मानव व्यवहार के समान क्षमता का नहीं है।

यदि आप असहज हैं कि आत्म-जागरूकता की धारणा को एक कम्प्यूटेशनल योजना में फिट करने के लिए गलत तरीके से विकृत किया जा रहा है, तो इस पर आपकी गलतफहमी अच्छी तरह से जानी जाती है। क्या हमें चल रहे एआई प्रयासों पर रोक लगानी चाहिए जो धारणा का लाभ उठाते हैं, यह एक और खुला प्रश्न है। आप दृढ़ता से तर्क दे सकते हैं कि कम से कम यह हमें एक बेहतर परिणाम की ओर अग्रसर करता है जो एआई करने की संभावना है। हालाँकि ऐसा होने पर हमें अपनी आँखें खुली रखनी चाहिए।

मान लीजिए हमें यह देखना होगा कि यह सब कैसे चलता है। पांच साल, दस साल और पचास साल में इस पर वापस आएं और देखें कि क्या इस विवादास्पद मामले पर आपकी सोच बदल गई है।

मुझे एहसास है कि यह विषय की कुछ हद तक जटिल परीक्षा रही है और आप कुछ दैनिक उदाहरणों के लिए उत्सुक हो सकते हैं। उदाहरणों का एक विशेष और निश्चित रूप से लोकप्रिय सेट है जो मेरे दिल के करीब है। आप देखते हैं, नैतिक और कानूनी प्रभावों सहित एआई पर एक विशेषज्ञ के रूप में मेरी क्षमता में, मुझसे अक्सर यथार्थवादी उदाहरणों की पहचान करने के लिए कहा जाता है जो एआई नैतिकता दुविधाओं को प्रदर्शित करते हैं ताकि विषय की कुछ हद तक सैद्धांतिक प्रकृति को अधिक आसानी से समझा जा सके। सबसे विचारोत्तेजक क्षेत्रों में से एक जो इस नैतिक एआई दुविधा को स्पष्ट रूप से प्रस्तुत करता है वह है एआई-आधारित सच्ची सेल्फ-ड्राइविंग कारों का आगमन। यह विषय पर व्यापक चर्चा के लिए एक उपयोगी उपयोग के मामले या उदाहरण के रूप में काम करेगा।

यहाँ एक उल्लेखनीय प्रश्न है जो विचार करने योग्य है: क्या एआई-आधारित सच्ची सेल्फ-ड्राइविंग कारों का आगमन एआई के बारे में "आत्म-जागरूकता" की समानता के बारे में कुछ भी बताता है और यदि हां, तो यह क्या प्रदर्शित करता है?

मुझे प्रश्न को अनपैक करने के लिए एक क्षण का समय दें।

सबसे पहले, ध्यान दें कि एक सच्ची सेल्फ-ड्राइविंग कार में कोई मानव चालक शामिल नहीं है। ध्यान रखें कि असली सेल्फ-ड्राइविंग कारें AI ड्राइविंग सिस्टम से चलती हैं। पहिए पर मानव चालक की आवश्यकता नहीं है, न ही मानव के लिए वाहन चलाने का प्रावधान है। स्वायत्त वाहनों (एवी) और विशेष रूप से सेल्फ-ड्राइविंग कारों के मेरे व्यापक और चल रहे कवरेज के लिए, देखें यहाँ लिंक.

मैं और स्पष्ट करना चाहता हूं कि जब मैं सच्ची सेल्फ-ड्राइविंग कारों का उल्लेख करता हूं तो इसका क्या मतलब होता है।

आत्म ड्राइविंग कारों के स्तर को समझना

स्पष्टीकरण के रूप में, सच्ची आत्म-ड्राइविंग कार वे हैं जो एआई पूरी तरह से अपने दम पर कार चलाती है और ड्राइविंग कार्य के दौरान कोई मानव सहायता नहीं है।

इन चालक रहित वाहनों को स्तर 4 और स्तर 5 माना जाता है (मेरी व्याख्या देखें) इस लिंक यहाँ), जबकि एक कार जिसमें ड्राइविंग प्रयास को सह-साझा करने के लिए मानव चालक की आवश्यकता होती है, आमतौर पर स्तर 2 या स्तर 3 पर विचार किया जाता है। ड्राइविंग कार्य को सह-साझा करने वाली कारों को अर्ध-स्वायत्त होने के रूप में वर्णित किया जाता है, और आमतौर पर इसमें कई प्रकार के होते हैं स्वचालित ऐड-ऑन जिन्हें ADAS (उन्नत ड्राइवर-सहायता प्रणाली) कहा जाता है।

लेवल 5 पर अभी तक एक सच्ची सेल्फ-ड्राइविंग कार नहीं है, जिसे हम अभी तक नहीं जानते हैं कि क्या यह प्राप्त करना संभव होगा, और न ही वहां पहुंचने में कितना समय लगेगा।

इस बीच, लेवल 4 के प्रयास धीरे-धीरे बहुत ही संकीर्ण और चयनात्मक सार्वजनिक सड़क मार्ग के परीक्षणों से गुजरते हुए कुछ कर्षण प्राप्त करने की कोशिश कर रहे हैं, हालांकि इस बात पर विवाद है कि क्या इस परीक्षण को प्रति अनुमति दी जानी चाहिए (हम सभी जीवन-या-मृत्यु गिनी सूअर एक प्रयोग में हैं हमारे राजमार्गों और मार्गों पर हो रही है, कुछ दावेदार, मेरे कवरेज को देखते हैं इस लिंक यहाँ).

चूंकि अर्ध-स्वायत्त कारों के लिए एक मानव चालक की आवश्यकता होती है, इसलिए उन प्रकार की कारों को अपनाना पारंपरिक वाहनों को चलाने की तुलना में अलग नहीं होगा, इसलिए इस विषय पर उनके बारे में कवर करने के लिए प्रति से ज्यादा कुछ नया नहीं है (हालांकि, जैसा कि आप देखेंगे एक पल में, अगले अंक आम तौर पर लागू होते हैं)।

अर्ध-स्वायत्त कारों के लिए, यह महत्वपूर्ण है कि जनता को परेशान करने वाले पहलू के बारे में पूर्वाभास करने की आवश्यकता है, जो हाल ही में उत्पन्न हुई है, अर्थात् उन मानव चालकों के बावजूद जो खुद को स्तर 2 या स्तर 3 कार के सोते हुए वीडियो पोस्ट करते रहते हैं , हम सभी को यह मानने में गुमराह होने से बचने की आवश्यकता है कि चालक अर्ध-स्वायत्त कार चलाते समय ड्राइविंग कार्य से अपना ध्यान हटा सकता है।

आप वाहन के ड्राइविंग क्रियाओं के लिए जिम्मेदार पक्ष हैं, भले ही स्वचालन को स्तर 2 या स्तर 3 में कितना उछाला जाए।

सेल्फ-ड्राइविंग कार और एआई तथाकथित सेल्फ-अवेयरनेस

लेवल 4 और लेवल 5 के लिए सच सेल्फ-ड्राइविंग वाहन, ड्राइविंग कार्य में शामिल मानव चालक नहीं होंगे।

सभी रहने वाले यात्री होंगे।

एआई ड्राइविंग कर रहा है।

तुरंत चर्चा करने का एक पहलू इस तथ्य पर जोर देता है कि आज के एआई ड्राइविंग सिस्टम में शामिल एआई संवेदनशील नहीं है। दूसरे शब्दों में, AI पूरी तरह से कंप्यूटर-आधारित प्रोग्रामिंग और एल्गोरिदम का एक सामूहिक है, और सबसे अधिक आश्वस्त रूप से उसी तरीके से तर्क करने में सक्षम नहीं है जो मनुष्य कर सकते हैं।

एआई के संवेदनशील नहीं होने के बारे में यह अतिरिक्त जोर क्यों दिया जा रहा है?

क्योंकि मैं यह रेखांकित करना चाहता हूं कि जब एआई ड्राइविंग सिस्टम की भूमिका पर चर्चा हो रही है, तो मैं एआई को मानवीय गुणों का वर्णन नहीं कर रहा हूं। कृपया ध्यान रखें कि इन दिनों एंथ्रोपोमोर्फिफाई एआई के लिए चल रही और खतरनाक प्रवृत्ति है। संक्षेप में, लोग आज के एआई के लिए मानव जैसी भावना प्रदान कर रहे हैं, इसके बावजूद कि इस तरह का एआई अभी तक मौजूद नहीं है।

उस स्पष्टीकरण के साथ, आप कल्पना कर सकते हैं कि एआई ड्राइविंग सिस्टम ड्राइविंग के पहलुओं के बारे में मूल रूप से किसी तरह "जान" नहीं पाएगा। ड्राइविंग और इसके लिए जरूरी सभी चीजों को सेल्फ-ड्राइविंग कार के हार्डवेयर और सॉफ्टवेयर के हिस्से के रूप में प्रोग्राम करना होगा।

आइए इस विषय पर खेलने के लिए आने वाले पहलुओं के बारे में जानें।

सबसे पहले, यह महसूस करना महत्वपूर्ण है कि सभी AI सेल्फ-ड्राइविंग कारें समान नहीं होती हैं। प्रत्येक ऑटोमेकर और सेल्फ-ड्राइविंग टेक फर्म सेल्फ-ड्राइविंग कारों को तैयार करने के लिए अपना दृष्टिकोण अपना रही है। जैसे, एआई ड्राइविंग सिस्टम क्या करेगा या नहीं, इस बारे में व्यापक बयान देना मुश्किल है।

इसके अलावा, जब भी यह कहा जाता है कि एआई ड्राइविंग सिस्टम कुछ खास काम नहीं करता है, तो बाद में, यह डेवलपर्स द्वारा आगे निकल सकता है जो वास्तव में कंप्यूटर को उसी काम करने के लिए प्रोग्राम करता है। कदम दर कदम, एआई ड्राइविंग सिस्टम में धीरे-धीरे सुधार और विस्तार किया जा रहा है। एक मौजूदा सीमा आज भविष्य के पुनरावृत्ति या सिस्टम के संस्करण में मौजूद नहीं हो सकती है।

मुझे विश्वास है कि जो मैं संबंधित करने जा रहा हूं उसे रेखांकित करने के लिए पर्याप्त चेतावनियां प्रदान करता है।

अब हम सेल्फ-ड्राइविंग कारों और नैतिक एआई प्रश्नों में एक गहरा गोता लगाने के लिए तैयार हैं, यदि आप चाहें तो एआई की भौहें बढ़ाने वाली धारणा में एक तरह की आत्म-जागरूकता है।

आइए एक सरल सरल उदाहरण का उपयोग करें। आपके आस-पड़ोस की सड़कों पर एआई-आधारित सेल्फ-ड्राइविंग कार चल रही है और लगता है कि सुरक्षित रूप से चला रही है। सबसे पहले, आपने हर बार विशेष ध्यान दिया था कि आप सेल्फ-ड्राइविंग कार की एक झलक पाने में कामयाब रहे। स्वायत्त वाहन इलेक्ट्रॉनिक सेंसर के रैक के साथ खड़ा था जिसमें वीडियो कैमरा, रडार इकाइयां, एलआईडीएआर डिवाइस और इसी तरह शामिल थे। आपके समुदाय के चारों ओर सेल्फ-ड्राइविंग कार मंडराने के कई हफ्तों के बाद, अब आप शायद ही इसे नोटिस करते हैं। जहां तक ​​आपका संबंध है, यह पहले से ही व्यस्त सार्वजनिक सड़कों पर बस एक और कार है।

ऐसा न हो कि आपको लगता है कि सेल्फ-ड्राइविंग कारों को देखने से परिचित होना असंभव या असंभव है, मैंने अक्सर इस बारे में लिखा है कि कैसे सेल्फ-ड्राइविंग कार ट्रायल के दायरे में आने वाले स्थान धीरे-धीरे स्प्रूस-अप वाहनों को देखने के आदी हो गए हैं, मेरा विश्लेषण देखें इस लिंक यहाँ. स्थानीय लोगों में से कई अंततः माउथ-गैपिंग रैप्ट गॉकिंग से स्थानांतरित हो गए और अब उन भटकती हुई सेल्फ-ड्राइविंग कारों को देखने के लिए ऊब की एक विस्तृत जम्हाई का उत्सर्जन कर रहे हैं।

संभवत: अभी मुख्य कारण यह है कि वे स्वायत्त वाहनों को नोटिस कर सकते हैं क्योंकि जलन और उत्तेजना कारक है। बाय-द-बुक एआई ड्राइविंग सिस्टम सुनिश्चित करते हैं कि कारें सभी गति सीमाओं और सड़क के नियमों का पालन कर रही हैं। अपनी पारंपरिक मानव-चालित कारों में व्यस्त मानव चालकों के लिए, आप कई बार चिड़चिड़े हो जाते हैं जब कड़ाई से कानून का पालन करने वाली एआई-आधारित सेल्फ-ड्राइविंग कारों के पीछे फंस जाते हैं।

यह कुछ ऐसा है जिसे हम सभी को सही या गलत तरीके से अभ्यस्त करने की आवश्यकता हो सकती है।

वापस हमारी कहानी पर। एक दिन, मान लीजिए कि आपके शहर या शहर में सेल्फ-ड्राइविंग कार स्टॉप साइन के पास पहुँचती है और धीमी गति से नहीं आती है। स्वर्ग, ऐसा लग रहा है कि एआई ड्राइविंग सिस्टम स्टॉप साइन के ठीक पहले सेल्फ-ड्राइविंग कार हल करने जा रहा है। कल्पना कीजिए कि अगर कोई पैदल यात्री या बाइक सवार कहीं पास में था और गार्ड से पकड़ा गया था कि सेल्फ-ड्राइविंग कार उचित रूप से रुकने वाली नहीं थी। शर्मनाक। खतरनाक!

और, अवैध।

आइए अब एआई ड्राइविंग सिस्टम में एआई घटक पर विचार करें जो आत्म-जागरूक डबल-चेकर की शैली के रूप में कार्य करता है।

एआई ड्राइविंग सिस्टम के अंदर क्या हो रहा है, इसके ब्योरे में खुदाई करने में हमें कुछ समय लगेगा। पता चलता है कि स्वायत्त वाहन पर लगे वीडियो कैमरों ने पता लगाया कि शायद एक स्टॉप साइन क्या है, हालांकि इस मामले में एक ऊंचा पेड़ स्टॉप साइन को बहुतायत से अस्पष्ट करता है। मशीन लर्निंग और डीप लर्निंग सिस्टम, जिसे मूल रूप से स्टॉप संकेतों पर प्रशिक्षित किया गया था, मुख्य रूप से पूर्ण स्टॉप संकेतों के पैटर्न पर तैयार किया गया था, जो आम तौर पर मुक्त था। वीडियो इमेजरी की कम्प्यूटेशनल रूप से जांच करने पर, एक कम संभावना दी गई थी कि उस विशेष स्थान पर एक स्टॉप साइन मौजूद था (एक अतिरिक्त जटिलता के रूप में, और आगे की व्याख्या के रूप में, यह एक नया पोस्ट किया गया स्टॉप साइन था जो पहले से तैयार डिजिटल मैप्स पर दिखाई नहीं देता था। एआई ड्राइविंग सिस्टम पर निर्भर था)।

कुल मिलाकर, एआई ड्राइविंग सिस्टम कम्प्यूटेशनल रूप से आगे बढ़ने के लिए दृढ़ संकल्पित था जैसे कि स्टॉप साइन या तो कोई नहीं था या संभवतः किसी अन्य प्रकार का संकेत था कि पर्चेंस स्टॉप साइन जैसा दिखता था (ऐसा हो सकता है और कुछ आवृत्ति के साथ होता है)।

लेकिन, शुक्र है कि एआई सेल्फ-अवेयर डबल-चेकर एआई ड्राइविंग सिस्टम की गतिविधियों की निगरानी कर रहा था। शेष एआई द्वारा डेटा और मूल्यांकन की कम्प्यूटेशनल रूप से समीक्षा करने पर, इस घटक ने कार्यवाही के सामान्य पाठ्यक्रम को ओवरराइड करने का विकल्प चुना और इसके बजाय एआई ड्राइविंग सिस्टम को एक उपयुक्त पड़ाव पर आने का आदेश दिया।

कोई भी घायल नहीं हुआ, और कोई अवैध कार्य नहीं हुआ।

आप कह सकते हैं कि एआई स्व-जागरूक डबल-चेकर ने कार्य किया जैसे कि यह एक एम्बेडेड कानूनी एजेंट था, यह सुनिश्चित करने की कोशिश कर रहा था कि एआई ड्राइविंग सिस्टम कानून का पालन करता है (इस मामले में, एक स्टॉप साइन)। बेशक, सुरक्षा भी महत्वपूर्ण थी।

वह उदाहरण उम्मीद से दिखाता है कि कल्पित एआई आत्म-जागरूक डबल-चेकर कैसे काम कर सकता है।

हम आगे संक्षेप में एक अधिक प्रमुख नैतिक एआई उदाहरण पर विचार कर सकते हैं जो यह दर्शाता है कि एआई स्व-जागरूक डबल-चेक कैसे नैतिकता एआई-उन्मुख एम्बेडेड कार्यक्षमता प्रदान कर सकता है।

सबसे पहले, पृष्ठभूमि के रूप में, एआई-आधारित सेल्फ-ड्राइविंग कारों के आगमन के बारे में व्यक्त की गई चिंताओं में से एक यह है कि अंत में उनका उपयोग कुछ अनजाने में भेदभावपूर्ण तरीके से किया जा सकता है। ऐसे। मान लीजिए कि उन सेल्फ-ड्राइविंग कारों को उनकी राजस्व क्षमता को बढ़ाने और बढ़ाने के लिए स्थापित किया गया है, जो निश्चित रूप से उन लोगों के लिए समझ में आता है जो राइड-शेयरिंग उपलब्ध सेल्फ-ड्राइविंग कारों के बेड़े का संचालन कर रहे हैं। बेड़े का मालिक एक लाभदायक संचालन करना चाहेगा।

यह हो सकता है कि किसी दिए गए शहर या शहर में, घूमने वाली सेल्फ-ड्राइविंग कारें धीरे-धीरे समुदाय के कुछ हिस्सों की सेवा करना शुरू कर दें, न कि अन्य क्षेत्रों में। वे ऐसा पैसा कमाने के लक्ष्य के लिए करते हैं, हो सकता है कि गरीब इलाकों में राजस्व पैदा करने वाले इलाके के धनी हिस्सों की तरह न हो। यह कुछ क्षेत्रों की सेवा करने और दूसरों की सेवा न करने की स्पष्ट आकांक्षा नहीं है। इसके बजाय, यह व्यवस्थित रूप से सेल्फ-ड्राइविंग कारों के एआई के रूप में उत्पन्न होता है जो कम्प्यूटेशनल रूप से "पता लगाता है" कि भौगोलिक रूप से उच्च-भुगतान वाले क्षेत्रों पर ध्यान केंद्रित करके अधिक पैसा बनाया जाना है। मैंने अपने कॉलम में इस सामाजिक नैतिक सरोकार पर चर्चा की है, जैसे कि at यहाँ लिंक.

मान लें कि हमने एआई ड्राइविंग सिस्टम में एआई सेल्फ-अवेयर डबल-चेकर जोड़ा है। थोड़ी देर के बाद, एआई घटक कम्प्यूटेशनल रूप से एक पैटर्न को नोटिस करता है जहां सेल्फ-ड्राइविंग कारें रोमिंग कर रही हैं। विशेष रूप से, कुछ क्षेत्रों में लेकिन दूसरों में नहीं। कुछ नैतिक एआई उपदेशों के साथ कोडित होने के आधार पर, एआई सेल्फ-अवेयर डबल-चेकर सेल्फ-ड्राइविंग कारों को शहर के अन्य हिस्सों में निर्देशित करना शुरू कर देता है जिन्हें अन्यथा उपेक्षित किया जा रहा था।

यह एआई की आत्म-जागरूक धारणा को दर्शाता है और ऐसा एथिकल एआई तत्व के संयोजन में करता है।

ऐसा ही एक और उदाहरण अंतर्दृष्टि प्रदान कर सकता है कि यह नैतिक एआई विचार काफी गंभीर और गंभीर जीवन-या-मृत्यु प्रभाव भी हो सकता है।

हाल ही में एक कार दुर्घटना के बारे में एक समाचार रिपोर्ट पर विचार करें। कथित तौर पर, एक मानव चालक एक व्यस्त चौराहे पर आ रहा था और सीधे आगे बढ़ने के लिए हरी बत्ती थी। एक अन्य चालक लाल बत्ती को पार करते हुए आया और चौराहे पर प्रवेश कर गया जब उन्हें ऐसा नहीं करना चाहिए था। हरी बत्ती के साथ चालक को आखिरी समय में एहसास हुआ कि यह दूसरी कार उसकी कार को बुरी तरह से टक्कर मारने वाली है।

इस संकटग्रस्त ड्राइवर के अनुसार, उसने सोच समझकर गणना की कि या तो वह दूसरी कार से टकराने वाला है, या वह इंटरलॉपर से बचने की कोशिश कर सकता है। घुमाव के साथ समस्या यह थी कि आस-पास के पैदल यात्री थे जो खतरे में पड़ सकते थे।

आप कौन सा चुनाव करेंगे?

आप हिट होने के लिए खुद को तैयार कर सकते हैं और उम्मीद कर सकते हैं कि नुकसान आपको अपंग या मार नहीं देगा। दूसरी ओर, आप मूल रूप से दूर जा सकते हैं, लेकिन गंभीर रूप से खतरे में पड़ सकते हैं और संभवतः आस-पास के पैदल चलने वालों को नुकसान पहुंचा सकते हैं या मार सकते हैं। यह एक कठिन समस्या है, जिसमें नैतिक निर्णय शामिल है, और पूरी तरह से नैतिक (और कानूनी) निहितार्थों में डूबा हुआ है।

एक सामान्य-उद्देश्य वाला नैतिक प्रश्न है जो इस तरह की दुविधा को कवर करता है, प्रसिद्ध या शायद कुख्यात रूप से ट्रॉली समस्या कहा जाता है, मेरा व्यापक कवरेज देखें इस लिंक यहाँ. पता चलता है कि यह एक नैतिक रूप से उत्तेजक विचार प्रयोग है जो 1900 के दशक की शुरुआत में वापस आता है। जैसे, यह विषय काफी समय से है और हाल ही में एआई और सेल्फ-ड्राइविंग कारों के आगमन के साथ आम तौर पर जुड़ा हुआ है।

मानव चालक को सेल्फ-ड्राइविंग कार में एम्बेडेड AI ड्राइविंग सिस्टम से बदलें।

कल्पना कीजिए कि एआई सेल्फ-ड्राइविंग कार एक चौराहे में प्रवेश कर रही है और स्वायत्त वाहन के सेंसर अचानक एक मानव-चालित कार का पता लगाते हैं जो खतरनाक रूप से सीधे लाल बत्ती के माध्यम से आ रही है और चालक रहित कार को निशाना बना रही है। मान लें कि सेल्फ-ड्राइविंग कार में वाहन के अंदर कुछ यात्री हैं।

आप एआई को क्या करना चाहते हैं?

क्या एआई ड्राइविंग सिस्टम आगे बढ़ने का विकल्प चुनता है और उसमें गिर जाता है (संभावित रूप से वाहन के अंदर यात्रियों को नुकसान पहुंचा सकता है या मार सकता है), या क्या आप चाहते हैं कि एआई ड्राइविंग सिस्टम एक मौका ले और दूर हो जाए, हालांकि वीरिंग कार्रवाई स्वायत्त वाहन लेती है खतरनाक रूप से आस-पास के पैदल चलने वालों की ओर और उन्हें नुकसान पहुंचा सकता है या मार सकता है।

सेल्फ-ड्राइविंग कारों के कई एआई निर्माता इन नैतिक एआई ब्लिस्टरिंग विधेय के लिए एक सिर में रेत का दृष्टिकोण अपना रहे हैं। कुल मिलाकर, एआई जैसा कि वर्तमान में प्रोग्राम किया गया है, बस आगे की जुताई करेगा और दूसरी कार से हिंसक रूप से टकरा जाएगा। एआई को किसी अन्य आक्रामक युद्धाभ्यास की तलाश के लिए प्रोग्राम नहीं किया गया था।

मैंने बार-बार भविष्यवाणी की है कि एआई सेल्फ-ड्राइविंग कार निर्माताओं का यह सी-नो-एविल हियर-नो-एविल रुख अंततः आएगा और उन्हें काटेगा (मेरा विश्लेषण यहां है यहाँ लिंक) आप ऐसी कार दुर्घटनाओं से जुड़े मुकदमों की उम्मीद कर सकते हैं जो यह पता लगाने की कोशिश करेंगे कि एआई को क्या करने के लिए प्रोग्राम किया गया था। क्या कंपनी या एआई डेवलपर्स या फ्लीट ऑपरेटर जिसने एआई को विकसित और फील्ड किया था, वह लापरवाह था या एआई ने जो किया या नहीं किया उसके लिए उत्तरदायी था? आप यह भी अनुमान लगा सकते हैं कि इस प्रकार के मामले सामने आने के बाद एक नैतिक एआई-जागरूकता सार्वजनिक-व्यापी आग्नेयास्त्र कांपने लगेगी।

इस एथिकल एआई दुविधा में हमारे प्रेतवाधित एआई आत्म-जागरूक डबल-चेकर है जो नैतिकता-उन्मुख है। शायद यह विशेष एआई घटक इस प्रकार की परिस्थितियों में संलग्न हो सकता है। यह हिस्सा बाकी एआई ड्राइविंग सिस्टम और सेल्फ-ड्राइविंग कार की स्थिति की निगरानी कर रहा है। जब इस तरह का एक विकट क्षण आता है, तो AI घटक ट्रॉली प्रॉब्लम सॉल्वर के रूप में कार्य करता है और यह बताता है कि AI ड्राइविंग सिस्टम को क्या करना चाहिए।

कोड करना आसान बात नहीं है, मैं आपको विश्वास दिलाता हूं।

निष्कर्ष

मैं आपके साथ इस विषय पर अभी के लिए अंतिम विचार साझा करूंगा।

आपको यह दिलचस्प लगने की संभावना है।

क्या आप इसके बारे में जानते हैं दर्पण परीक्षण?

आत्म-जागरूकता के अध्ययन में यह काफी प्रसिद्ध है। मामले के अन्य नाम मिरर सेल्फ-रिकग्निशन टेस्ट, रेड स्पॉट टेस्ट, रूज टेस्ट और संबंधित वाक्यांश हैं। जानवरों की आत्म-जागरूकता का आकलन करने के लिए तकनीक और दृष्टिकोण को शुरू में 1970 के दशक की शुरुआत में तैयार किया गया था। जिन जानवरों ने कथित तौर पर सफलतापूर्वक परीक्षण पास कर लिया है उनमें वानर, कुछ प्रकार के हाथी, डॉल्फ़िन, मैगपाई और कुछ अन्य शामिल हैं। जिन जानवरों का परीक्षण किया गया और कथित तौर पर परीक्षण पास नहीं किया उनमें विशाल पांडा, समुद्री शेर आदि शामिल हैं।

यहाँ सौदा है।

जब कोई जानवर खुद को आईने में देखता है, तो क्या जानवर को पता चलता है कि दिखाया गया चित्र खुद का है, या जानवर को लगता है कि यह कोई और जानवर है?

संभवतः, जानवर अपनी ही प्रजाति को पहचानता है, अपनी तरह की अन्य प्रजातियों को देखकर, और इसलिए यह सोच सकता है कि दर्पण में दिखाया गया जानवर एक चचेरा भाई या शायद एक जुझारू प्रतियोगी है (विशेषकर यदि जानवर दर्पण की छवि पर झपकी लेता है, जिसमें ऐसा लगता है कि बारी उन पर वापस झपकी ले रही है)। शायद आपने अपने घर की बिल्ली या प्यारे पालतू कुत्ते को ऐसा करते देखा होगा जब वह पहली बार खुद को घर के शीशे में देखता है।

किसी भी मामले में, हम मान लेंगे कि एक जंगली जानवर ने खुद को पहले कभी नहीं देखा है। खैर, यह जरूरी नहीं कि सच हो, क्योंकि शायद जानवर ने पानी के शांत कुंड में या चमकदार चट्टान के निर्माण के माध्यम से अपनी एक झलक पकड़ी थी। लेकिन उन्हें कम संभावना माना जाता है।

ठीक है, हम किसी तरह यह आकलन करना चाहते हैं कि क्या कोई जानवर यह पता लगाने में सक्षम है कि यह वास्तव में वह जानवर है जिसे आईने में दिखाया गया है। लगता है कि सरल कार्य पर विचार करें। मनुष्य कम उम्र में ही पता लगा लेते हैं कि उनका अस्तित्व है और उनका अस्तित्व स्वयं को आईने में देखकर प्रदर्शित होता है। वे स्वयं के प्रति जागरूक हो जाते हैं। सिद्धांत रूप में, आपको यह एहसास नहीं हो सकता है कि आप स्वयं हैं, जब तक कि आप स्वयं को आईने में नहीं देखते।

हो सकता है कि जानवर उसी तरह से संज्ञानात्मक रूप से आत्म-जागरूक न हो सकें। यह हो सकता है कि कोई जानवर खुद को आईने में देख ले और हमेशा विश्वास करे कि यह कोई और जानवर है। वह खुद को कितनी ही बार देख ले, फिर भी यही सोचेगा कि यह अपने से अलग जानवर है।

इसका ट्रिक पार्ट प्ले आता है। हम जानवर पर एक निशान बनाते हैं। यह निशान तभी देखा जा सकता है जब जानवर खुद को आईने में देखे। यदि जानवर मुड़ सकता है या मुड़ सकता है और अपने आप पर (सीधे) निशान देख सकता है, तो यह प्रयोग को बर्बाद कर देता है। इसके अलावा, जानवर महसूस नहीं कर सकता, सूंघ नहीं सकता, या किसी अन्य तरीके से निशान का पता नहीं लगा सकता है। एक बार फिर, अगर उन्होंने ऐसा किया तो यह प्रयोग को बर्बाद कर देगा। जानवर यह नहीं जान सकता कि हम उस पर निशान लगाते हैं, क्योंकि इससे जानवर को पता चल जाएगा कि कुछ तो है।

हम चीजों को इस तरह से कम करना चाहते हैं कि निशान खोजने योग्य एकमात्र संभावित कारण खुद को आईने में देखना होगा।

आह, परीक्षण अब तैयार है। जानवर को एक दर्पण के सामने रखा जाता है या उसके पास भटकता है। यदि जानवर बाद में निशान को छूने या खोदने की कोशिश करता है, तो हम यथोचित रूप से यह निष्कर्ष निकालेंगे कि ऐसा होने का एकमात्र तरीका यह होगा कि अगर जानवर को पता चले कि निशान खुद पर है। बहुत कम पशु प्रजातियां इस परीक्षण को सफलतापूर्वक पास कर पाई हैं।

इस टेस्ट को लेकर तरह-तरह की आलोचना हो रही है. यदि कोई मानव परीक्षक पास में है, तो वे निशान को देखकर चीजें दे सकते हैं, जिससे जानवर ब्रश कर सकता है या इसके लिए महसूस कर सकता है। एक और संभावना यह है कि जानवर अभी भी मानता है कि एक और जानवर को आईने में दिखाया गया है, लेकिन यह उसी प्रकार का है, और इस तरह जानवर को आश्चर्य होता है कि क्या उसके पास भी दूसरे जानवर पर एक निशान है।

यह निरंतर जारी रहता है।

मुझे यकीन है कि आपको यह जानकर खुशी हुई और अब आप समझेंगे कि किसी जानवर पर एक बिंदी या कुछ अजीब निशान क्यों होता है जो अन्यथा ऐसा निशान नहीं होता। कौन जानता है, हो सकता है कि उसने हाल ही में एक दर्पण परीक्षण प्रयोग समाप्त किया हो। एक उदार भागीदार होने के लिए, सुरक्षित रूप से जानवर को बधाई दें।

इनमें से किसी का एआई-आधारित सेल्फ-ड्राइविंग कारों से क्या लेना-देना है?

आपको यह हिस्सा पसंद आएगा।

एक लंबे हाईवे पर सेल्फ-ड्राइविंग कार साथ-साथ जा रही है। AI ड्राइविंग सिस्टम अन्य ट्रैफ़िक का पता लगाने के लिए सेंसर का उपयोग कर रहा है। यह एक दो लेन का राजमार्ग है जिसमें एक लेन में उत्तर की ओर और दूसरी लेन में दक्षिण की ओर जाने वाला यातायात है। अवसर पर, कार और ट्रक एक-दूसरे को पार करने की कोशिश करेंगे, ऐसा करने के लिए विरोधी लेन में प्रवेश करके और फिर यात्रा के अपने उचित लेन में वापस आ जाएंगे।

आपने इसे देखा है, निस्संदेह आपने यह किया है।

मैं शर्त लगा सकता हूँ कि यह अगला पहलू आपके साथ भी हुआ होगा। सेल्फ-ड्राइविंग कार के आगे उन बड़े टैंकर ट्रकों में से एक है। यह चमकदार धातु से बना है। एक सीटी की तरह पॉलिश और साफ करें। ऐसे ट्रक के पीछे जाने पर, आप टैंकर के पिछले हिस्से के माध्यम से अपनी कार की दर्पण छवि देख सकते हैं। यदि आपने इसे देखा है, तो आप जानते हैं कि यह कितना मंत्रमुग्ध कर देने वाला हो सकता है। वहां आप हैं, आप और आपकी कार, टैंकर ट्रक के पिछले हिस्से के दर्पण जैसे प्रतिबिंब में परिलक्षित होते हैं।

पागल मोड़ के लिए बैठ जाओ।

टैंकर ट्रक के पीछे एक सेल्फ ड्राइविंग कार आती है। कैमरे एक कार की छवि का पता लगाते हैं जो दर्पण की तरह प्रतिबिंब में दिखाई देती है। वाह, एआई का आकलन है, क्या वह कार है? क्या यह सेल्फ ड्राइविंग कार में आ रहा है? जैसे-जैसे सेल्फ-ड्राइविंग कार टैंकर ट्रक के करीब और करीब आती जाती है, कार और करीब आती जा रही है।

ओह, एआई कम्प्यूटेशनल रूप से गणना कर सकता है कि यह एक खतरनाक स्थिति है और एआई को इस पागल दुष्ट वाहन से बचने की कार्रवाई करनी चाहिए। आप देखिए, AI ने खुद को आईने में नहीं पहचाना। यह मिरर टेस्ट में फेल हो गया।

क्या करें? शायद एआई सेल्फ-अवेयर डबल-चेकर मामले में कूद जाता है और बाकी एआई ड्राइविंग सिस्टम को आश्वस्त करता है कि यह केवल एक हानिरहित प्रतिबिंब है। खतरा टल गया। दुनिया बच जाती है। एआई मिरर टेस्ट सफल रहा!

एक स्पष्ट निष्कर्ष के साथ, हम यह भी सुझाव दे सकते हैं कि कभी-कभी एआई औसत भालू की तुलना में अधिक स्मार्ट या कम से कम आत्म-जागरूक होता है (हालांकि, भालू के श्रेय के लिए, वे आमतौर पर दर्पण परीक्षण में अच्छा करते हैं, कई बार पानी के कुंडों में उनके प्रतिबिंब के लिए उपयोग किया जाता है)।

सुधार, हो सकता है कि एआई विशाल पांडा और समुद्री शेरों की तुलना में अधिक आत्म-जागरूक हो, लेकिन जानवरों को यह न बताएं कि, उन्हें एआई सिस्टम को तोड़ने या मारने के लिए लुभाया जा सकता है। हम ऐसा नहीं चाहते, है ना?