एआई एथिक्स एआई एसिमेट्री के बिगड़ने के बारे में सावधान है क्योंकि इंसानों को स्टिक का छोटा अंत मिल रहा है

कभी-कभी आप छड़ी के गलत छोर पर होते हैं।

वह बोलचालवाद विषमता की धारणा पर लागू किया जा सकता है।

हाँ, मैं विषमता के बारे में बात करने जा रहा हूँ। जैसा कि आपने शायद इस उथल-पुथल भरी दुनिया में सामना किया होगा जिसमें हम रहते हैं, ऐसे मौके आते हैं जब आप अपने आप को किसी ऐसे मामले पर कम ज्ञान रखते हैं जो आपके लिए अपेक्षाकृत महत्वपूर्ण है। इसे औपचारिक रूप से के रूप में संदर्भित किया जाता है जानकारी विषमता.

कुंजी यह है कि आपके पास जितना आप चाहते थे उससे कम ज्ञान या जानकारी है, साथ ही आपके पास निश्चित रूप से मामले में शामिल अन्य पक्ष की तुलना में कम है। आप दूसरे पक्ष की तुलना में एक अलग नुकसान में हैं। वे कुछ ऐसा जानते हैं जो आप नहीं जानते। वे जो कुछ भी जानते हैं उसका लाभ उठा सकते हैं, विशेष रूप से जो आप नहीं जानते हैं, और आपके साथ किसी भी कठिन विचार-विमर्श या बातचीत में ऊपरी हाथ प्राप्त कर सकते हैं।

खैर, शहर में एक नया बच्चा आया है, जिसे के नाम से जाना जाता है एआई विषमता.

यह नवीनतम कैचफ्रेज़ आपके द्वारा एआई से लैस किसी व्यक्ति के खिलाफ जाने की संभावना को संदर्भित करता है, जबकि आप इतने सशस्त्र नहीं हैं।

उनके पास एआई है, जबकि आपको मिल गया है, ठीक है, बस आप। चीजें एकतरफा हैं। आप एक अनुमानित नुकसान में हैं। दूसरा पक्ष AI द्वारा संवर्धित होने के कारण आपके चारों ओर चक्कर लगा सकेगा। यह प्रसिद्ध कहावत के भीतर हो सकता है कि प्यार और युद्ध में सब जायज है (एक पुरानी कहावत है यूफ़्यूज़ जॉन लिली द्वारा, 1578), हालांकि एआई विषमता की गतिशीलता और खतरे नैतिक एआई मुद्दों को चुनौती देते हैं। एआई एथिक्स और एथिकल एआई के मेरे चल रहे और व्यापक कवरेज के लिए, देखें यहाँ लिंक और यहाँ लिंक, कुछ लोगों का नाम बताने के लिए।

इससे पहले कि हम एआई क्षेत्र और एआई विषमता के संबंध में इसकी प्रचुर जटिलताओं में कूदें, आइए पहले सादे पुरानी सूचना विषमता के रोजमर्रा के नियमित संस्करण का पता लगाएं। यह ब्लॉक पर लौकिक एआई नए बच्चे में प्रवेश करने के लिए मंच तैयार करेगा।

एक संक्षिप्त और उद्देश्यपूर्ण ज्ञानवर्धक कहानी आपकी भूख बढ़ा सकती है।

दूसरे दिन सड़क पर मेरे पास एक सपाट टायर था और एक उपयुक्त प्रतिस्थापन खोजने के लिए जल्दी से मांग कर रहा था जिसे तुरंत तुरंत स्थापित किया जा सके। अपने स्मार्टफोन का उपयोग करते हुए, मैंने अपने रन-फ्लैट टायर पर ड्राइव करने के लिए कितनी दूरी तय की और क्या कोई स्टोर खुला था, यह जानने के लिए मैंने आस-पास के टायर स्टोर पर ऑनलाइन देखा। इसके अलावा, मैंने उनकी ऑनलाइन ग्राहक समीक्षाओं का त्वरित मूल्यांकन किया और इस बारे में उपयोगी कुछ भी इकट्ठा करने की कोशिश की कि वे कितने समय से व्यवसाय में हैं और अन्य कारक जो उनकी योग्यता का प्रदर्शन कर सकते हैं।

टायर स्टोर में से एक को कॉल करने पर, क्लर्क ने मुझे टायर की लागत और इसके इंस्टालेशन के लिए एक आकर्षक उद्धरण दिया। टायर बिल्कुल वैसा नहीं था जैसा मेरे मन में था, लेकिन क्लर्क ने मुझे आश्वासन दिया कि वे उस क्षेत्र की एकमात्र दुकान होगी जो सीधे काम कर सकती है। क्लर्क के अनुसार, आस-पास के किसी भी टायर स्टोर में स्टॉक में ऐसा कोई टायर नहीं होगा और उन प्रतिस्पर्धियों को किसी अर्ध-दूर के गोदाम से उपयुक्त टायर प्राप्त करने में कम से कम एक दिन लगेगा।

मैं एक सूचना विषमता के बीच में था।

क्लर्क ने टायर स्टोर की स्थानीय स्थिति और विशेष रूप से उस प्रकार के टायर के बारे में और जानने का दावा किया जिसकी मुझे आवश्यकता थी। मैं उस क्षेत्र में था जहां से मैं केवल गुजर रहा था और उस विशेष भौगोलिक क्षेत्र में टायर की दुकानों के बारे में कोई प्रत्यक्ष जानकारी नहीं थी। मैं जो कुछ भी जानता था, उसके लिए क्लर्क हाजिर था और मुझे बिना रंग का सच बता रहा था।

लेकिन क्या क्लर्क ऐसा कर रहा था?

शायद हां, शायद नहीं।

यह हो सकता है कि क्लर्क ने मुझे जो कुछ बताया जा रहा था, उस पर ईमानदारी से विश्वास किया। क्लर्क के लिए, यह सच था। या शायद लिपिक कुछ हद तक सच की खिंचाई कर रहा था। यह संभव था कि जो कहा जा रहा था वह सच हो सकता था, हालांकि जिस तरह से इसे चित्रित किया जा रहा था, उससे यह पता चलता था कि यह पूर्ण और अकाट्य सत्य था। बेशक, यह पूरी तरह से गंजापन भी हो सकता था और क्लर्क मेरे व्यवसाय को बढ़ाने के लिए केवल टायर की दुकान के लिए शिलिंग कर रहा था। क्या एक रसदार कमीशन लाइन पर हो सकता था?

मैं यह कहने की हिम्मत करता हूं कि किसी को भी इस तरह की दलित स्थिति में रहना पसंद नहीं है।

सूचना विषमता कितनी मायने रखती है, इसमें स्थिति का दांव एक महत्वपूर्ण कारक है। यदि हाथ में प्रश्न जीवन-या-मृत्यु प्रकृति में से एक है, तो कुत्ते के घर में होना और दूसरे पक्ष पर निर्भर होना जो वे जानते हैं या जानने का दावा करते हैं, एक स्केची और अत्यधिक अवांछनीय मुद्रा है। जब दांव कम होता है , जैसे कि एक रेस्तरां में अपने खाने का ऑर्डर देना और सर्वर आपको बताता है कि मछली का व्यंजन स्वर्गीय है, लेकिन आपने पहले कभी वहां नहीं खाया है और आपको कम जानकारी है, आप बिना किसी चिंता के सूचना विषमता के इस मामूली के साथ जा सकते हैं (I मान लीजिए कि आप यह भी शर्त लगा रहे हैं कि सर्वर खट्टा सलाह देने का जोखिम नहीं उठाएगा और एक सभ्य टिप प्राप्त करने से चूक जाएगा)।

घिसे-पिटे टायर की कहानी (एक वाक्य!) पर लौटते हुए, मेरे पास यह पता लगाने का कोई तात्कालिक तरीका नहीं होता कि क्या क्लर्क मुझे विश्वसनीय और सूचनात्मक अंतर्दृष्टि दे रहा था। आप सोच रहे होंगे कि क्या हुआ। मैंने आस-पास के कई अन्य टायर स्टोरों को कॉल करने का निर्णय लिया।

क्या आप मेरे द्वारा खोजी गई चीज़ों के लिए तैयार हैं?

अन्य सभी टायर स्टोरों में स्टॉक में मेरा वांछित टायर था और वे कोशिश नहीं करने जा रहे थे और पलक झपकते ही मुझे एक अलग टायर लेने के लिए राजी कर लिया (जैसा कि पहले क्लर्क ने करने की कोशिश की थी)। वे भी उसी समय सीमा में काम करवा सकते थे, जैसा कि मैंने पहले टायर स्टोर को बुलाया था। लगभग उसी कीमत पर।

मेरी ओर से एक स्वागत योग्य राहत की सांस आई, मैं आपको विश्वास दिलाता हूं।

विडंबना यह है कि मर्फी के बुरे भाग्य के नियम में, मैंने जिस पहले स्थान से संपर्क किया, वह केवल वही था जो दोपहर के भोजन के लिए बाहर था, जैसा कि यह था। मुझे खुशी है कि मैंने अधिक जानकारी प्राप्त करने की कोशिश की। इसने सूचना विषमता अंतर को कम कर दिया। मैंने अपनी बंदूकों से चिपके रहने और पहले स्थान पर न आने के लिए खुद की सराहना की।

कहा जा रहा है कि, मुझे अतिरिक्त जानकारी प्राप्त करने में एक निश्चित प्रकार की लागत शामिल थी। मैंने लगभग चार कॉल किए जिन्हें पूरी तरह से करने में लगभग पंद्रह से बीस मिनट का समय लगा। इस मायने में, मुझे यह पता लगाने में लगभग डेढ़ घंटा लग गया कि मुझे अपनी कार कहाँ लेनी है। अगर मैं तुरंत अपनी कार को पहले स्थान पर ले जाता, तो उस समय तक मेरी कार पर नया टायर लगभग आ चुका होता। दूसरी ओर, मुझे लगभग निश्चित रूप से, बाद में, उस त्वरित निर्णय पर पछतावा हुआ होगा जो मैंने एक नृशंस सूचना विषमता बंधन में किया था।

कभी-कभी आपको अपने दाँत पीसना पड़ता है और भयानक सूचना विषमता आती है। आप बस यह आशा करते हैं कि आप जो भी निर्णय लेंगे, वह काफी अच्छा होगा। यह एक "सही" निर्णय नहीं हो सकता है और आपको बाद में किए गए चुनाव पर पछतावा हो सकता है। दूसरा पहलू यह है कि आप सूचना समीकरण के अपने पक्ष को मजबूत करने का प्रयास कर सकते हैं, हालांकि यह आवश्यक रूप से लागत-मुक्त नहीं है और कीमती समय को भी चबा सकता है, यह इस बात पर निर्भर करता है कि पोषित समय सार का है या नहीं।

अब जब आपको यह जानकर सुकून मिला है कि मेरी कार अपने बिल्कुल नए और सही टायर के साथ ठीक चल रही है, तो मैं एआई एसिमेट्री के उद्भव में बदलाव कर सकता हूं।

शोक की एक एआई कहानी पर विचार करें।

आप होम लोन लेना चाहते हैं। एक ऑनलाइन बंधक अनुरोध विश्लेषक है जो एक विशेष बैंक उपयोग कर रहा है। ऑनलाइन प्रणाली आज की उन्नत एआई क्षमताओं का उपयोग करती है। मानव ऋण देने वाले एजेंट से बात करने की आवश्यकता नहीं है। एआई यह सब करता है।

एआई सिस्टम आपको संकेतों की एक श्रृंखला के माध्यम से चलता है। आप कर्तव्यपूर्वक फॉर्म भरें और एआई सिस्टम का जवाब दें। यह एआई बहुत बातूनी है। जबकि आपने अतीत में पारंपरिक कंप्यूटर-आधारित फॉर्म सिस्टम का उपयोग किया होगा, यह एआई संस्करण मानव एजेंट के साथ बातचीत करने के समान है। बिल्कुल नहीं, लेकिन इतना पर्याप्त है कि आप लगभग यह विश्वास करना शुरू कर सकते हैं कि एक इंसान इस गतिविधि के दूसरी तरफ था।

इस एआई के साथ आपके अनुरोध पर "चर्चा" करने की पूरी कोशिश करने के बाद, अंत में, यह आपको सूचित करता है कि दुर्भाग्य से ऋण अनुरोध स्वीकृत नहीं है। यह आपकी बकरी को प्राप्त करता है कि एआई माफी की पेशकश करता है, जैसे कि एआई ऋण को मंजूरी देना चाहता था, लेकिन बैंक की देखरेख करने वाले वे मतलबी इंसान एआई को ऐसा नहीं करने देंगे। इस प्रकार के कथित एआई माफी कितने भ्रामक हैं, इस बारे में मेरे कवरेज के लिए, देखें यहाँ लिंक.

आप इस बात से अनजान हैं कि आपको क्यों ठुकरा दिया गया। एआई कोई स्पष्टीकरण नहीं देता है। शायद एआई ने गलती की या इसकी गणना में गड़बड़ी की। इससे भी बदतर, मान लीजिए कि एआई ने ऋण पर निर्णय लेते समय आपकी जाति या लिंग जैसे कुछ अत्यधिक संदिग्ध विचारों का इस्तेमाल किया। आप केवल इतना जानते हैं कि ऐसा लगता है कि आपने अपना समय बर्बाद कर दिया है और इस बीच एआई और बैंक को एक टन निजी डेटा भी सौंप दिया है। उनके AI ने आपको बेस्ट दिया है।

इसे AI विषमता के उदाहरण के रूप में लेबल किया जाएगा।

यह आप बैंक के खिलाफ थे। बैंक एआई से लैस था। आप समान रूप से सशस्त्र नहीं थे। आपके पास अपनी बुद्धि थी और आपके स्कूल ऑफ हार्ड नॉक ज्ञान, लेकिन आपकी पिछली जेब में कोई एआई नहीं था। एक मशीन के खिलाफ मन। अफसोस की बात है कि इस मामले में मशीन जीत गई।

आप क्या करना चाहते है?

सबसे पहले, हमें सामाजिक आधार पर यह महसूस करने की आवश्यकता है कि यह एआई विषमता बढ़ रही है और लगभग सर्वव्यापी हो रही है। मनुष्य उन सभी प्रणालियों में एआई का सामना कर रहे हैं जिनसे हम प्रतिदिन बातचीत करते हैं। कभी-कभी एआई ही एकमात्र ऐसा तत्व है जिसके साथ हम इंटरैक्ट करते हैं, जैसे कि इस उदाहरण में ऋण अनुरोध के बारे में। अन्य उदाहरणों में, एक मानव लूप में हो सकता है जो किसी दिए गए सेवा को करने में सहायता करने के लिए एआई पर निर्भर करता है। ऋण के लिए, यह हो सकता है कि बैंक आपको एआई के साथ बातचीत करने के बदले एक मानव एजेंट से बात करे, लेकिन जिसके लिए मानव एजेंट एआई तक पहुंचने के लिए कंप्यूटर सिस्टम का उपयोग कर रहा है जो ऋण अनुरोध प्रक्रिया के दौरान मानव एजेंट का मार्गदर्शन कर रहा है। (और, आपको लगभग हमेशा मानव एजेंट कार्य करने का आश्वासन दिया जाता है जैसे कि एआई "उन्हें करने के लिए" जो कुछ भी कहता है उसे सख्ती से करने के लिए उन्हें कैद किया जाता है)।

किसी भी तरह से, AI अभी भी मिश्रण में है।

दूसरा, हमें यह सुनिश्चित करने और प्रयास करने की आवश्यकता है कि एआई विषमता कम से कम एआई नैतिक आधार पर की जा रही है।

मुझे उस अजीबोगरीब टिप्पणी की व्याख्या करने की अनुमति दें। आप देखिए, अगर हमें कुछ हद तक आश्वस्त किया जा सकता है कि एआई नैतिक रूप से सही तरीके से काम कर रहा है, तो हमें उस विषमता के बारे में कुछ सांत्वना मिल सकती है जो खेल में है। कुछ हद तक समान लेकिन ढीले आधार पर, आप कह सकते हैं कि अगर पहले टायर स्टोर क्लर्क के साथ मेरी बातचीत में कुछ कठोर नैतिक दिशानिर्देश थे और लागू होते थे, तो शायद मुझे वह कहानी नहीं सुनाई जाती जो मुझे बताई गई थी, या कम से कम मुझे हो सकता है कि मुझे तुरंत यह पता लगाने की कोशिश न करनी पड़े कि क्या मुझे एक लंबी कहानी दी जा रही है।

मैं एक पल में एआई एथिक्स के बारे में और समझाऊंगा।

तीसरा, हमें एआई विषमता को कम करने के तरीके तलाशने चाहिए। यदि आपके पास एआई था जो आपकी तरफ था, तो आप अपने कोच या रक्षक बनने का प्रयास कर रहे थे, तो आप उस एआई का उपयोग दूसरे एआई के साथ कुछ काउंटरपंचिंग करने के लिए कर सकते हैं जिसके साथ आप आमने-सामने जा रहे हैं। जैसा कि वे कहते हैं, कभी-कभी आग से आग से लड़ने के लिए बहुत समझदारी होती है।

एआई विषमता में निहित जंगली और ऊनी विचारों के बारे में कुछ और मांस और आलू में जाने से पहले, आइए गहन आवश्यक विषयों पर कुछ अतिरिक्त बुनियादी बातों को स्थापित करें। हमें एआई एथिक्स और विशेष रूप से मशीन लर्निंग (एमएल) और डीप लर्निंग (डीएल) के आगमन में संक्षेप में गोता लगाने की जरूरत है।

आप अस्पष्ट रूप से जानते होंगे कि एआई क्षेत्र में और एआई के क्षेत्र के बाहर भी इन दिनों सबसे तेज आवाजों में से एक में नैतिक एआई के अधिक से अधिक समानता के लिए चिल्लाना शामिल है। आइए देखें कि एआई एथिक्स और एथिकल एआई को संदर्भित करने का क्या अर्थ है। उसके ऊपर, हम यह पता लगाएंगे कि जब मैं मशीन लर्निंग और डीप लर्निंग की बात करता हूं तो मेरा क्या मतलब होता है।

एआई एथिक्स का एक विशेष खंड या हिस्सा जिस पर मीडिया का बहुत अधिक ध्यान गया है, उसमें एआई शामिल है जो अवांछित पूर्वाग्रहों और असमानताओं को प्रदर्शित करता है। आप शायद जानते होंगे कि जब एआई का नवीनतम युग चल रहा था, जिसे अब कुछ लोग कहते हैं, उसके लिए उत्साह का एक बड़ा विस्फोट हुआ था एआई फॉर गुड. दुर्भाग्य से, उस भीषण उत्साह की ऊँची एड़ी के जूते पर, हमने देखना शुरू कर दिया एआई फॉर बैड. उदाहरण के लिए, विभिन्न एआई-आधारित चेहरे की पहचान प्रणालियों को नस्लीय पूर्वाग्रहों और लिंग पूर्वाग्रहों के रूप में प्रकट किया गया है, जिनकी मैंने चर्चा की है यहाँ लिंक.

के खिलाफ वापस लड़ने के प्रयास एआई फॉर बैड सक्रिय रूप से चल रहे हैं। मुखर के अलावा कानूनी गलत कामों पर लगाम लगाने के लिए, एआई नैतिकता को सही करने के लिए एआई एथिक्स को अपनाने की दिशा में भी एक महत्वपूर्ण धक्का है। धारणा यह है कि हमें एआई के विकास और क्षेत्ररक्षण के लिए प्रमुख नैतिक एआई सिद्धांतों को अपनाना और उनका समर्थन करना चाहिए ताकि यह कम हो सके। एआई फॉर बैड और साथ ही साथ बेहतर को बढ़ावा देना और बढ़ावा देना एआई फॉर गुड.

संबंधित धारणा पर, मैं एआई संकट के समाधान के हिस्से के रूप में एआई का उपयोग करने की कोशिश करने का एक समर्थक हूं, उस तरह की सोच में आग से आग से लड़ रहा हूं। उदाहरण के लिए हम नैतिक एआई घटकों को एआई सिस्टम में एम्बेड कर सकते हैं जो निगरानी करेगा कि बाकी एआई कैसे काम कर रहा है और इस प्रकार संभावित रूप से किसी भी भेदभावपूर्ण प्रयासों को वास्तविक समय में पकड़ सकता है, मेरी चर्चा देखें यहाँ लिंक. हमारे पास एक अलग एआई सिस्टम भी हो सकता है जो एक प्रकार के एआई एथिक्स मॉनिटर के रूप में कार्य करता है। एआई सिस्टम एक ओवरसियर के रूप में कार्य करता है ताकि पता लगाया जा सके कि कोई अन्य एआई अनैतिक रसातल में जा रहा है (ऐसी क्षमताओं का मेरा विश्लेषण यहां देखें) यहाँ लिंक).

एक क्षण में, मैं आपके साथ AI एथिक्स में अंतर्निहित कुछ व्यापक सिद्धांत साझा करूँगा। इस प्रकार की बहुत सारी सूचियाँ इधर-उधर तैर रही हैं। आप कह सकते हैं कि सार्वभौमिक अपील और सहमति की अभी तक एक भी सूची नहीं है। यही दुर्भाग्यपूर्ण खबर है। अच्छी खबर यह है कि कम से कम एआई एथिक्स सूचियां आसानी से उपलब्ध हैं और वे काफी समान हैं। सभी ने बताया, इससे पता चलता है कि एक तरह के तर्कपूर्ण अभिसरण के द्वारा हम एआई एथिक्स में सामान्य समानता की ओर अपना रास्ता खोज रहे हैं।

सबसे पहले, आइए संक्षेप में कुछ समग्र नैतिक एआई उपदेशों को कवर करें जो यह स्पष्ट करते हैं कि एआई को क्राफ्ट करने, क्षेत्ररक्षण करने या उपयोग करने वाले किसी भी व्यक्ति के लिए एक महत्वपूर्ण विचार क्या होना चाहिए।

उदाहरण के लिए, जैसा कि वेटिकन ने में कहा है रोम कॉल फॉर एआई एथिक्स और जैसा कि मैंने गहराई से कवर किया है यहाँ लिंक, ये उनके पहचाने गए छह प्राथमिक AI नैतिकता सिद्धांत हैं:

• पारदर्शिता: सिद्धांत रूप में, AI सिस्टम को समझाने योग्य होना चाहिए
• समावेशन: सभी मनुष्यों की आवश्यकताओं को ध्यान में रखा जाना चाहिए ताकि हर कोई लाभान्वित हो सके, और सभी व्यक्तियों को स्वयं को व्यक्त करने और विकसित करने के लिए सर्वोत्तम संभव परिस्थितियों की पेशकश की जा सके।
• ज़िम्मेदारी: जो लोग एआई के उपयोग को डिजाइन और तैनात करते हैं, उन्हें जिम्मेदारी और पारदर्शिता के साथ आगे बढ़ना चाहिए
• निष्पक्षता: पूर्वाग्रह के अनुसार निर्माण या कार्य न करें, इस प्रकार निष्पक्षता और मानवीय गरिमा की रक्षा करें
• विश्वसनीयता: AI सिस्टम मज़बूती से काम करने में सक्षम होना चाहिए
• सुरक्षा और गोपनीयता: AI सिस्टम को सुरक्षित रूप से काम करना चाहिए और उपयोगकर्ताओं की गोपनीयता का सम्मान करना चाहिए।

जैसा कि अमेरिकी रक्षा विभाग (DoD) ने अपने में कहा है आर्टिफिशियल इंटेलिजेंस के उपयोग के लिए नैतिक सिद्धांत और जैसा कि मैंने गहराई से कवर किया है यहाँ लिंक, ये उनके छह प्राथमिक AI नैतिकता सिद्धांत हैं:

• उत्तरदायी: DoD कर्मी एआई क्षमताओं के विकास, परिनियोजन और उपयोग के लिए जिम्मेदार रहते हुए उचित स्तर के निर्णय और देखभाल का प्रयोग करेंगे।
• न्यायसंगत: विभाग एआई क्षमताओं में अनपेक्षित पूर्वाग्रह को कम करने के लिए जानबूझकर कदम उठाएगा।
• पता लगाने योग्य: विभाग की एआई क्षमताओं को विकसित और तैनात किया जाएगा ताकि संबंधित कर्मियों के पास पारदर्शी और ऑडिट करने योग्य कार्यप्रणाली, डेटा स्रोत और डिजाइन प्रक्रिया और प्रलेखन सहित एआई क्षमताओं पर लागू प्रौद्योगिकी, विकास प्रक्रियाओं और परिचालन विधियों की उचित समझ हो।
• विश्वसनीय: विभाग की एआई क्षमताओं में स्पष्ट, अच्छी तरह से परिभाषित उपयोग होंगे, और ऐसी क्षमताओं की सुरक्षा, सुरक्षा और प्रभावशीलता उनके पूरे जीवन चक्र में परिभाषित उपयोगों के भीतर परीक्षण और आश्वासन के अधीन होगी।
• शासन योग्य: विभाग अपने इच्छित कार्यों को पूरा करने के लिए एआई क्षमताओं को डिजाइन और इंजीनियर करेगा, जबकि अनपेक्षित परिणामों का पता लगाने और उनसे बचने की क्षमता रखता है, और अनपेक्षित व्यवहार प्रदर्शित करने वाले तैनात सिस्टम को निष्क्रिय या निष्क्रिय करने की क्षमता रखता है।

मैंने एआई नैतिकता सिद्धांतों के विभिन्न सामूहिक विश्लेषणों पर भी चर्चा की है, जिसमें शोधकर्ताओं द्वारा तैयार किए गए एक सेट को शामिल किया गया है, जिसने "एआई एथिक्स दिशानिर्देशों का वैश्विक परिदृश्य" नामक एक पेपर में कई राष्ट्रीय और अंतर्राष्ट्रीय एआई नैतिकता सिद्धांतों के सार की जांच और संघनित किया है। में प्रकृति), और यह कि मेरा कवरेज यहां पर पड़ताल करता है यहाँ लिंक, जिसने इस कीस्टोन सूची का नेतृत्व किया:

• ट्रांसपेरेंसी
• न्याय और निष्पक्षता
• गैर-नुकसान
• उत्तरदायित्व
• निजता
• उपकार
• स्वतंत्रता और स्वायत्तता
• ट्रस्ट
• स्थिरता
• गौरव
• एकजुटता

जैसा कि आप सीधे अनुमान लगा सकते हैं, इन सिद्धांतों के तहत विशिष्टताओं को निर्धारित करने की कोशिश करना बेहद कठिन हो सकता है। इससे भी अधिक, उन व्यापक सिद्धांतों को पूरी तरह से मूर्त और विस्तृत रूप से उपयोग करने के प्रयास में एआई सिस्टम को क्राफ्ट करते समय उपयोग करने का प्रयास भी दरार करने के लिए एक कठिन अखरोट है। एआई एथिक्स के नियम क्या हैं और उन्हें आम तौर पर कैसे देखा जाना चाहिए, इसके बारे में कुछ हाथ मिलाना आसान है, जबकि एआई कोडिंग में यह एक अधिक जटिल स्थिति है जो सड़क से मिलने वाली सत्यनिष्ठ रबर है।

एआई एथिक्स सिद्धांतों का उपयोग एआई डेवलपर्स द्वारा किया जाना चाहिए, साथ ही एआई विकास प्रयासों का प्रबंधन करने वाले, और यहां तक ​​​​कि वे भी जो अंततः एआई सिस्टम पर क्षेत्र और रखरखाव करते हैं। विकास और उपयोग के पूरे एआई जीवन चक्र में सभी हितधारकों को नैतिक एआई के स्थापित मानदंडों के पालन के दायरे में माना जाता है। यह एक महत्वपूर्ण हाइलाइट है क्योंकि सामान्य धारणा यह है कि "केवल कोडर्स" या एआई प्रोग्राम करने वाले एआई एथिक्स धारणाओं का पालन करने के अधीन हैं। जैसा कि पहले कहा गया है, एआई को विकसित करने और क्षेत्र में लाने के लिए एक गाँव की आवश्यकता होती है, और जिसके लिए पूरे गाँव को एआई एथिक्स के नियमों से वाकिफ और उसका पालन करना पड़ता है।

आइए यह भी सुनिश्चित करें कि हम आज के AI की प्रकृति के बारे में एक ही पृष्ठ पर हैं।

आज कोई ऐसा AI नहीं है जो संवेदनशील हो। हमारे पास यह नहीं है। हम नहीं जानते कि संवेदनशील एआई संभव होगा या नहीं। कोई भी उपयुक्त रूप से भविष्यवाणी नहीं कर सकता है कि क्या हम संवेदनशील एआई प्राप्त करेंगे, और न ही संवेदनशील एआई किसी तरह चमत्कारिक रूप से स्वचालित रूप से कम्प्यूटेशनल संज्ञानात्मक सुपरनोवा के रूप में उत्पन्न होगा (आमतौर पर विलक्षणता के रूप में संदर्भित, मेरा कवरेज देखें यहाँ लिंक).

जिस प्रकार के एआई पर मैं ध्यान केंद्रित कर रहा हूं वह गैर-संवेदी एआई है जो आज हमारे पास है। अगर हम बेतहाशा अटकलें लगाना चाहते हैं संवेदनशील एआई, यह चर्चा मौलिक रूप से अलग दिशा में जा सकती है। माना जाता है कि एक संवेदनशील एआई मानव गुणवत्ता का होगा। आपको यह विचार करना होगा कि संवेदनशील एआई मानव के संज्ञानात्मक समकक्ष है। इसके अलावा, चूंकि कुछ अनुमान लगाते हैं कि हमारे पास सुपर-इंटेलिजेंट एआई हो सकता है, यह कल्पना की जा सकती है कि ऐसा एआई इंसानों की तुलना में अधिक स्मार्ट हो सकता है (एक संभावना के रूप में सुपर-इंटेलिजेंट एआई की मेरी खोज के लिए, देखें यहाँ कवरेज).

आइए चीजों को और नीचे रखें और आज के कम्प्यूटेशनल गैर-संवेदी एआई पर विचार करें।

महसूस करें कि आज का AI किसी भी तरह से मानव सोच के समान "सोचने" में सक्षम नहीं है। जब आप एलेक्सा या सिरी के साथ बातचीत करते हैं, तो बातचीत की क्षमता मानवीय क्षमताओं के समान लग सकती है, लेकिन वास्तविकता यह है कि यह कम्प्यूटेशनल है और इसमें मानवीय ज्ञान का अभाव है। एआई के नवीनतम युग ने मशीन लर्निंग (एमएल) और डीप लर्निंग (डीएल) का व्यापक उपयोग किया है, जो कम्प्यूटेशनल पैटर्न मिलान का लाभ उठाते हैं। इसने एआई सिस्टम को जन्म दिया है जिसमें मानव जैसी प्रवृत्तियों का आभास होता है। इस बीच, आज कोई ऐसा AI नहीं है जिसमें सामान्य ज्ञान की समानता हो और न ही मजबूत मानवीय सोच का कोई संज्ञानात्मक आश्चर्य हो।

एमएल/डीएल कम्प्यूटेशनल पैटर्न मिलान का एक रूप है। सामान्य तरीका यह है कि आप निर्णय लेने के कार्य के बारे में डेटा इकट्ठा करते हैं। आप डेटा को ML/DL कंप्यूटर मॉडल में फीड करते हैं। वे मॉडल गणितीय पैटर्न खोजने की कोशिश करते हैं। ऐसे पैटर्न खोजने के बाद, यदि ऐसा पाया जाता है, तो AI सिस्टम नए डेटा का सामना करते समय उन पैटर्न का उपयोग करेगा। नए डेटा की प्रस्तुति पर, वर्तमान निर्णय को प्रस्तुत करने के लिए "पुराने" या ऐतिहासिक डेटा पर आधारित पैटर्न लागू होते हैं।

मुझे लगता है कि आप अनुमान लगा सकते हैं कि यह कहाँ जा रहा है। यदि मानव जो निर्णयों पर प्रतिरूप बनाते रहे हैं, वे अवांछित पूर्वाग्रहों को शामिल कर रहे हैं, तो संभावना है कि डेटा इसे सूक्ष्म लेकिन महत्वपूर्ण तरीकों से दर्शाता है। मशीन लर्निंग या डीप लर्निंग कम्प्यूटेशनल पैटर्न मिलान केवल गणितीय रूप से डेटा की नकल करने की कोशिश करेगा। एआई-क्राफ्टेड मॉडलिंग के सामान्य ज्ञान या अन्य संवेदनशील पहलुओं की कोई समानता नहीं है।

इसके अलावा, एआई डेवलपर्स को एहसास नहीं हो सकता है कि क्या हो रहा है। एमएल/डीएल में रहस्यमय गणित अब छिपे हुए पूर्वाग्रहों को दूर करना मुश्किल बना सकता है। आप सही उम्मीद करेंगे और उम्मीद करेंगे कि एआई डेवलपर्स संभावित दफन पूर्वाग्रहों के लिए परीक्षण करेंगे, हालांकि यह जितना प्रतीत हो सकता है उससे कहीं अधिक कठिन है। एक ठोस मौका मौजूद है कि अपेक्षाकृत व्यापक परीक्षण के साथ भी एमएल/डीएल के पैटर्न मिलान मॉडल के भीतर अभी भी पूर्वाग्रह अंतर्निहित होंगे।

आप कुछ हद तक प्रसिद्ध या कुख्यात कहावत का उपयोग कर सकते हैं कचरा-कचरा-बाहर। बात यह है कि, यह पूर्वाग्रहों के समान है-इसमें एआई के भीतर डूबे हुए पूर्वाग्रहों के रूप में कपटी रूप से संक्रमित हो जाते हैं। एआई का एल्गोरिथम निर्णय लेने (एडीएम) स्वयंसिद्ध रूप से असमानताओं से भरा हो जाता है।

अच्छा नही।

आइए एआई एसिमेट्री पर अपना ध्यान केंद्रित करें।

मेरी उपरोक्त तीन पहचानी गई सिफारिशों के बारे में एक त्वरित पुनर्कथन यह है:

1) जागरूक बनें कि AI विषमता मौजूद है और बढ़ रही है

2) यह सुनिश्चित करने का प्रयास करें कि एआई विषमता एआई नैतिकता से बंधी है

3) एआई से लैस होकर एआई एसिमेट्री से लड़ने की कोशिश करें

हम आग से आग से लड़ने के बाद के बिंदु पर करीब से नज़र डालेंगे।

कल्पना कीजिए कि जब आप ऋण प्राप्त करना चाहते थे, तो आपके पास एआई था जो आपके प्रयास के पक्ष में काम कर रहा था। यह आपके स्मार्टफोन पर एआई-आधारित ऐप हो सकता है जिसे ऋण प्राप्त करने के लिए तैयार किया गया था। यह किसी एक बैंक का ऐप नहीं है बल्कि आपकी ओर से कार्य करने के लिए स्वतंत्र रूप से तैयार किया गया है। मैंने एआई-आधारित अभिभावक देवदूत बॉट्स पर अपनी पुस्तक में इस प्रकार के ऐप्स का विस्तृत विवरण दिया है, देखें यहाँ लिंक.

ऋण के लिए आवेदन करने पर, आप इस ऐप का संदर्भ ले सकते हैं क्योंकि आप अन्य एआई द्वारा आवेदन प्रक्रिया के माध्यम से आगे बढ़ते हैं। ये दोनों AI सिस्टम एक दूसरे से अलग और पूरी तरह से अलग हैं। आपके स्मार्टफ़ोन के AI को अन्य AI द्वारा उपयोग की जा रही सभी तरकीबों को जानने के लिए "प्रशिक्षित" किया गया है। जैसे, आप बैंक के एआई में जो उत्तर दर्ज करेंगे, वह इस आधार पर होगा कि आपका एआई आपको क्या सलाह दे रहा है।

एक अन्य प्रकार में आपका एआई दूसरे एआई द्वारा पूछे गए प्रश्नों का उत्तर देता है। जहाँ तक अन्य AI पता लगा सकता है, यह आप ही हैं जो उत्तर दर्ज कर रहे हैं। आप इसके बजाय केवल देख रहे होंगे क्योंकि दो जूझ रहे एआई सिस्टम के बीच बातचीत होती है। यह आपको यह देखने की अनुमति देता है कि आपका AI क्या प्रदान कर रहा है। इसके अलावा, आप संभावित रूप से अपने AI को इस आधार पर समायोजित कर सकते हैं कि आप अपनी ओर से जो AI कर रहे हैं, उससे आप संतुष्ट हैं या नहीं।

मैंने भविष्यवाणी की है कि हम सभी धीरे-धीरे एआई से लैस होने जा रहे हैं जो इन एआई विषम परिस्थितियों में हमारी तरफ होगा।

आइए विचार करें कि यह कैसे काम करेगा।

एआई विषमता की स्थिति पर ये आधारशिला प्रभाव हैं जिन्हें मैंने निर्धारित किया था:

• AI विषमता को अपने पक्ष में समतल करना (आपको ऊपर की ओर लाते हुए, समान स्तरों तक पहुँचने की आशा करते हुए)
• अपने पक्ष में एआई विषमता को बढ़ावा देना (पहले से ही बराबर होने पर आपको एक लाभ के लिए उठाना)
• अपने असाधारण पक्ष के लिए एआई विषमता को बढ़ाना (पहले से ही लाभ में होने पर व्यापक लाभ प्राप्त करना)
• आपके पक्ष में एआई विषमता की अनजाने में कटौती (जब आपके पास पहले से मौजूद लाभ था और एआई ने अनजाने में आपको नीचे खींच लिया था)

इन पेचीदा संभावनाओं में गहरी डुबकी लगाने का समय।

आपके पक्ष में एआई विषमता को समतल करना

एआई विषमता को समतल करना सबसे स्पष्ट और सबसे अधिक चर्चा वाला विचार है, अर्थात् आप अपने आप को एआई के साथ हाथ में लेने की कोशिश करेंगे और मामले में दूसरे पक्ष द्वारा उपयोग किए जा रहे एआई के साथ पैर की अंगुली तक जाने की कोशिश करेंगे। AI विषमता सेटिंग आपके साथ एक निश्चित नुकसान पर शुरू हुई। आपके कोने में कोई AI नहीं था। आप चीजों के निचले हिस्से में थे। दूसरे पक्ष के पास एआई था और वे ऊंची जमीन पर थे।

इस प्रकार, आपने बुद्धिमानी से अपने आप को AI से लैस किया, जिसका उद्देश्य आपको और अन्य AI को समान शर्तों पर रखना होगा।

ध्यान में रखने वाली एक महत्वपूर्ण और शायद आश्चर्यजनक बारीकियां यह है कि यह हमेशा ऐसा नहीं होगा कि नियोजित किए जा रहे एआई सिस्टम एक-दूसरे के खिलाफ समान रूप से संतुलित होंगे। आप अपने आप को एआई से लैस कर सकते हैं, क्या हम एआई की तुलना में कम शक्तिशाली कहेंगे जो दूसरा पक्ष उपयोग कर रहा है। इस मामले में, आपने अपनी नकारात्मक स्थिति बढ़ा दी है, शुक्र है, हालांकि अब आप पूरी तरह से दूसरे पक्ष और उसके एआई के बराबर नहीं हैं।

इसलिए मैं इसे एआई विषमता को समतल करने के रूप में संदर्भित करता हूं। आप अंतर को कम करने में सक्षम हो सकते हैं, हालांकि अंतराल को पूरी तरह से बंद नहीं कर सकते। अंतिम लक्ष्य आपके पक्ष में एआई का उपयोग करना होगा जो आपको पूरी तरह से समान मुद्रा में लाएगा। बात यह है कि यह संभव हो भी सकता है और नहीं भी। दूसरे पक्ष के पास वास्तव में कुछ महंगे एआई हो सकते हैं और आप एआई के मॉम-एंड-पॉप मितव्ययी मार्ट संस्करण के साथ प्रतिस्पर्धा करने की कोशिश कर रहे हैं।

सभी AI एक जैसे नहीं होते हैं।

अपने पक्ष में एआई विषमता को बढ़ावा देना

यह परिस्थिति आज कुछ ज्यादा चर्चा में नहीं है, आंशिक रूप से क्योंकि यह अभी दुर्लभ है। किसी दिन, यह सामान्य होगा। धारणा यह है कि मान लीजिए कि आप एआई के बिना हैं और फिर भी एआई वाले पक्ष के बराबर जमीन पर हैं।

आपके लिए अच्छा हैं।

मनुष्यों के पास उनके बारे में अपनी बुद्धि है।

लेकिन हो सकता है कि आप दूसरी तरफ से एक फायदा हासिल करना चाहें। एआई के साथ खुद को लैस करना आपको ऊंचे मुकाम पर ले जाता है। अब आपके हाथ में आपकी बुद्धि और आपका भरोसेमंद AI है। आपने एक लाभ प्राप्त किया है जो संभवतः दूसरे पक्ष के AI पर प्रबल होगा।

आपके असाधारण पक्ष के लिए एआई विषमता को बढ़ावा देना

अपनी ओर से एआई विषमता को बढ़ावा देने के पहलू के समान तर्क का उपयोग करते हुए, मान लीजिए कि आप पहले से ही दूसरे पक्ष की क्षमताओं से ऊपर हैं जो एआई का उपयोग कर रहा है। एर्गो, आप एक समान मुद्रा में शुरू नहीं कर रहे हैं। आप सौभाग्य से पहले से ही शीर्ष पर हैं।

आप वैसे भी और भी अधिक लाभ प्राप्त करना चाह सकते हैं। इसलिए, आप अपने आप को एआई के साथ बांटते हैं। यह आपके सिर और कंधों को दूसरी तरफ से ऊपर ले जाता है।

आपके पक्ष में एआई विषमता के अनजाने में कटौती

मुझे संदेह है कि आप इस संभावना के बारे में सुनना चाहते हैं। कृपया महसूस करें कि एआई से निपटना सभी गुलाब और आइसक्रीम केक नहीं हैं।

यह हो सकता है कि जब आप अपने आप को एआई से लैस करते हैं, तो आप वास्तव में खुद को कम आंकते हैं। यदि आप पहले से ही दूसरे पक्ष के AI से कम थे, तो अब आप एक गहरे छेद में हैं। यदि आप समान शर्तों पर थे, तो अब आप नुकसान में हैं। यदि आप दूसरी तरफ से ऊपर थे, तो अब आप इसके बराबर या नीचे हैं।

ऐसा कैसे हो सकता है?

आप यह सोचकर चौंक जाएंगे कि आप जिस एआई को अपना रहे हैं वह आपको भटका देगा। यह आसानी से हो सकता है। सिर्फ इसलिए कि आपके कोने में AI है इसका मतलब यह नहीं है कि यह उपयोगी है। आप एआई का उपयोग कर रहे होंगे और यह सलाह प्रदान करता है कि आपको जरूरी नहीं लगता कि यह उपयुक्त है, लेकिन आप वैसे भी इसके साथ जाने का फैसला करते हैं। उस समय आपका तर्क यह था कि चूंकि आप एआई प्राप्त करने के लिए मुसीबत में गए थे, इसलिए आप इस पर निर्भर भी हो सकते हैं।

आप जिस AI का उपयोग कर रहे हैं वह ख़राब हो सकता है। या यह खराब तरीके से तैयार किया जा सकता है। ऐसे कई कारण हैं जिनकी वजह से एआई आपको अस्थिर सलाह दे सकता है। एआई जो कुछ भी करने के लिए कहता है उसे आँख बंद करके स्वीकार करने वाले खुद को चोट की दुनिया में पाते हैं। मैंने अपने कॉलम में ऐसी स्थितियों को शामिल किया है, जैसे कि यहाँ लिंक.

लब्बोलुआब यह है कि इस बात की कोई गारंटी नहीं है कि सिर्फ इसलिए कि आप एआई के साथ खुद को बांधे रखते हैं, आप एआई एसिमेट्री गेम जीतने जा रहे हैं।

आप एक स्तर के खेल के मैदान पर पहुंच सकते हैं। आपको कोई फायदा हो सकता है। और, अफसोस की बात है कि आपको सतर्क रहने की जरूरत है क्योंकि हो सकता है कि एआई से लैस होने पर आप नीचे के स्तर तक डूब जाएं।

कुछ हद तक, यही कारण है कि एआई एथिक्स और एथिकल एआई इतना महत्वपूर्ण विषय है। एआई नैतिकता के नियम हमें सतर्क रहने के लिए प्रेरित करते हैं। एआई प्रौद्योगिकीविद कभी-कभी प्रौद्योगिकी के साथ व्यस्त हो सकते हैं, विशेष रूप से उच्च तकनीक का अनुकूलन। जरूरी नहीं कि वे बड़े सामाजिक प्रभावों पर विचार कर रहे हों। एआई एथिक्स मानसिकता रखने और एआई विकास और क्षेत्ररक्षण के लिए एकीकृत रूप से ऐसा करना उपयुक्त एआई के उत्पादन के लिए महत्वपूर्ण है।

एआई एथिक्स को नियोजित करने के अलावा, एक संबंधित प्रश्न है कि क्या हमारे पास एआई के विभिन्न उपयोगों को नियंत्रित करने के लिए कानून होना चाहिए। नए कानूनों को संघीय, राज्य और स्थानीय स्तरों पर बांधा जा रहा है जो इस बात से संबंधित हैं कि एआई को कैसे तैयार किया जाना चाहिए। ऐसे कानूनों का मसौदा तैयार करने और उन्हें अधिनियमित करने का प्रयास धीरे-धीरे किया जाता है। एआई एथिक्स बहुत कम से कम एक सुविचारित स्टॉपगैप के रूप में कार्य करता है, और लगभग निश्चित रूप से कुछ हद तक सीधे उन नए कानूनों में शामिल किया जाएगा।

ध्यान रखें कि कुछ लोग दृढ़ता से तर्क देते हैं कि हमें एआई को कवर करने वाले नए कानूनों की आवश्यकता नहीं है और हमारे मौजूदा कानून पर्याप्त हैं। वास्तव में, उन्होंने चेतावनी दी है कि यदि हम इनमें से कुछ एआई कानूनों को लागू करते हैं, तो हम एआई में प्रगति पर रोक लगाकर सोने के हंस को मार देंगे जो कि अत्यधिक सामाजिक लाभ प्रदान करते हैं। उदाहरण के लिए मेरा कवरेज देखें यहाँ लिंक और यहाँ लिंक.

इस महत्वपूर्ण चर्चा के इस मोड़ पर, मैं शर्त लगा सकता हूँ कि आप कुछ उदाहरणात्मक उदाहरणों के इच्छुक हैं जो इस विषय को प्रदर्शित कर सकते हैं। उदाहरणों का एक विशेष और निश्चित रूप से लोकप्रिय सेट है जो मेरे दिल के करीब है। आप देखते हैं, एआई पर एक विशेषज्ञ के रूप में मेरी क्षमता में, जिसमें नैतिक और कानूनी प्रभाव शामिल हैं, मुझे अक्सर ऐसे यथार्थवादी उदाहरणों की पहचान करने के लिए कहा जाता है जो एआई एथिक्स दुविधाओं को प्रदर्शित करते हैं ताकि विषय की कुछ हद तक सैद्धांतिक प्रकृति को और अधिक आसानी से समझा जा सके। एआई-आधारित सच्ची सेल्फ-ड्राइविंग कारों का आगमन सबसे अधिक विकसित क्षेत्रों में से एक है जो इस नैतिक एआई विवाद को स्पष्ट रूप से प्रस्तुत करता है। यह विषय पर पर्याप्त चर्चा के लिए एक उपयोगी उपयोग के मामले या उदाहरण के रूप में काम करेगा।

यहाँ एक उल्लेखनीय प्रश्न है जो विचार करने योग्य है: क्या एआई-आधारित ट्रू सेल्फ-ड्राइविंग कारों के आगमन से एआई एसिमेट्री के बारे में कुछ पता चलता है, और यदि हां, तो यह क्या प्रदर्शित करता है?

मुझे प्रश्न को अनपैक करने के लिए एक क्षण का समय दें।

सबसे पहले, ध्यान दें कि एक सच्ची सेल्फ-ड्राइविंग कार में कोई मानव चालक शामिल नहीं है। ध्यान रखें कि असली सेल्फ-ड्राइविंग कारें AI ड्राइविंग सिस्टम से चलती हैं। पहिए पर मानव चालक की आवश्यकता नहीं है, न ही मानव के लिए वाहन चलाने का प्रावधान है। स्वायत्त वाहनों (एवी) और विशेष रूप से सेल्फ-ड्राइविंग कारों के मेरे व्यापक और चल रहे कवरेज के लिए, देखें यहाँ लिंक.

मैं और स्पष्ट करना चाहता हूं कि जब मैं सच्ची सेल्फ-ड्राइविंग कारों का उल्लेख करता हूं तो इसका क्या मतलब होता है।

आत्म ड्राइविंग कारों के स्तर को समझना

स्पष्टीकरण के रूप में, सच्ची आत्म-ड्राइविंग कार वे हैं जहां एआई पूरी तरह से अपने दम पर कार चलाता है और ड्राइविंग कार्य के दौरान कोई मानव सहायता नहीं है।

इन चालक रहित वाहनों को स्तर 4 और स्तर 5 माना जाता है (मेरी व्याख्या देखें) इस लिंक यहाँ), जबकि एक कार जिसमें ड्राइविंग प्रयास को सह-साझा करने के लिए मानव चालक की आवश्यकता होती है, आमतौर पर स्तर 2 या स्तर 3 पर विचार किया जाता है। ड्राइविंग कार्य को सह-साझा करने वाली कारों को अर्ध-स्वायत्त होने के रूप में वर्णित किया जाता है, और आमतौर पर इसमें कई प्रकार के होते हैं स्वचालित ऐड-ऑन जिन्हें ADAS (उन्नत ड्राइवर-सहायता प्रणाली) कहा जाता है।

लेवल 5 पर अभी तक एक सच्ची सेल्फ-ड्राइविंग कार नहीं है, और हम अभी तक यह भी नहीं जानते हैं कि क्या यह हासिल करना संभव होगा, और न ही वहां पहुंचने में कितना समय लगेगा।

इस बीच, लेवल 4 के प्रयास धीरे-धीरे बहुत ही संकीर्ण और चयनात्मक सार्वजनिक सड़क मार्ग के परीक्षणों से गुजरते हुए कुछ कर्षण प्राप्त करने की कोशिश कर रहे हैं, हालांकि इस बात पर विवाद है कि क्या इस परीक्षण को प्रति अनुमति दी जानी चाहिए (हम सभी जीवन-या-मृत्यु गिनी सूअर एक प्रयोग में हैं हमारे राजमार्गों और मार्गों पर हो रही है, कुछ दावेदार, मेरे कवरेज को देखते हैं इस लिंक यहाँ).

चूंकि अर्ध-स्वायत्त कारों के लिए एक मानव चालक की आवश्यकता होती है, इसलिए उन प्रकार की कारों को अपनाना पारंपरिक वाहनों को चलाने की तुलना में अलग नहीं होगा, इसलिए इस विषय पर उनके बारे में कवर करने के लिए प्रति से ज्यादा कुछ नया नहीं है (हालांकि, जैसा कि आप देखेंगे एक पल में, अगले अंक आम तौर पर लागू होते हैं)।

अर्ध-स्वायत्त कारों के लिए, यह महत्वपूर्ण है कि जनता को परेशान करने वाले पहलू के बारे में पूर्वाभास करने की आवश्यकता है, जो हाल ही में उत्पन्न हुई है, अर्थात् उन मानव चालकों के बावजूद जो खुद को स्तर 2 या स्तर 3 कार के सोते हुए वीडियो पोस्ट करते रहते हैं , हम सभी को यह मानने में गुमराह होने से बचने की आवश्यकता है कि चालक अर्ध-स्वायत्त कार चलाते समय ड्राइविंग कार्य से अपना ध्यान हटा सकता है।

आप वाहन के ड्राइविंग क्रियाओं के लिए जिम्मेदार पक्ष हैं, भले ही स्वचालन को स्तर 2 या स्तर 3 में कितना उछाला जाए।

सेल्फ ड्राइविंग कार और एआई एसिमेट्री

लेवल 4 और लेवल 5 के लिए सच सेल्फ-ड्राइविंग वाहन, ड्राइविंग कार्य में शामिल मानव चालक नहीं होंगे।

सभी रहने वाले यात्री होंगे।

एआई ड्राइविंग कर रहा है।

तुरंत चर्चा करने का एक पहलू इस तथ्य पर जोर देता है कि आज के एआई ड्राइविंग सिस्टम में शामिल एआई संवेदनशील नहीं है। दूसरे शब्दों में, AI पूरी तरह से कंप्यूटर-आधारित प्रोग्रामिंग और एल्गोरिदम का एक सामूहिक है, और सबसे अधिक आश्वस्त रूप से उसी तरीके से तर्क करने में सक्षम नहीं है जो मनुष्य कर सकते हैं।

एआई के संवेदनशील नहीं होने के बारे में यह अतिरिक्त जोर क्यों दिया जा रहा है?

क्योंकि मैं यह रेखांकित करना चाहता हूं कि जब एआई ड्राइविंग सिस्टम की भूमिका पर चर्चा हो रही है, तो मैं एआई को मानवीय गुणों का वर्णन नहीं कर रहा हूं। कृपया ध्यान रखें कि इन दिनों एंथ्रोपोमोर्फिफाई एआई के लिए चल रही और खतरनाक प्रवृत्ति है। संक्षेप में, लोग आज के एआई के लिए मानव जैसी भावना प्रदान कर रहे हैं, इसके बावजूद कि इस तरह का एआई अभी तक मौजूद नहीं है।

उस स्पष्टीकरण के साथ, आप कल्पना कर सकते हैं कि एआई ड्राइविंग सिस्टम ड्राइविंग के पहलुओं के बारे में मूल रूप से किसी तरह "जान" नहीं पाएगा। ड्राइविंग और इसके लिए जरूरी सभी चीजों को सेल्फ-ड्राइविंग कार के हार्डवेयर और सॉफ्टवेयर के हिस्से के रूप में प्रोग्राम करना होगा।

आइए इस विषय पर खेलने के लिए आने वाले पहलुओं के बारे में जानें।

सबसे पहले, यह महसूस करना महत्वपूर्ण है कि सभी AI सेल्फ-ड्राइविंग कारें समान नहीं होती हैं। प्रत्येक ऑटोमेकर और सेल्फ-ड्राइविंग टेक फर्म सेल्फ-ड्राइविंग कारों को तैयार करने के लिए अपना दृष्टिकोण अपना रही है। जैसे, एआई ड्राइविंग सिस्टम क्या करेगा या नहीं, इस बारे में व्यापक बयान देना मुश्किल है।

इसके अलावा, जब भी यह कहा जाता है कि एआई ड्राइविंग सिस्टम कुछ खास काम नहीं करता है, तो बाद में, यह डेवलपर्स द्वारा आगे निकल सकता है जो वास्तव में कंप्यूटर को उसी काम करने के लिए प्रोग्राम करता है। कदम दर कदम, एआई ड्राइविंग सिस्टम में धीरे-धीरे सुधार और विस्तार किया जा रहा है। एक मौजूदा सीमा आज भविष्य के पुनरावृत्ति या सिस्टम के संस्करण में मौजूद नहीं हो सकती है।

मुझे उम्मीद है कि जो मैं संबंधित करने जा रहा हूं उसे रेखांकित करने के लिए पर्याप्त चेतावनी प्रदान करता है।

आइए एक ऐसे परिदृश्य की रूपरेखा तैयार करें जो AI विषमता को प्रदर्शित करता है।

यात्रियों को लेने के लिए सेल्फ-ड्राइविंग कार कहाँ घूम रही होंगी, इस पर विचार करें। यह एक बहुतायत से सहज विषय की तरह लगता है।

सबसे पहले, मान लें कि AI सेल्फ-ड्राइविंग कारें पूरे शहर में घूम रही होंगी। कोई भी जो सेल्फ-ड्राइविंग कार में सवारी का अनुरोध करना चाहता है, उसके पास अनिवार्य रूप से एक समान अवसर है। धीरे-धीरे, AI मुख्य रूप से सेल्फ-ड्राइविंग कारों को शहर के सिर्फ एक हिस्से में घूमना शुरू कर देता है। यह खंड अधिक पैसा बनाने वाला है और एआई को कोशिश करने के लिए प्रोग्राम किया गया है और अधिकतम बड़े पैमाने पर समुदाय में उपयोग के हिस्से के रूप में राजस्व (यह मानसिकता अंतर्निहित अनुकूलन को रेखांकित करता है, अर्थात् केवल एक विशेष मीट्रिक पर ध्यान केंद्रित करना और प्रक्रिया में अन्य महत्वपूर्ण कारकों की उपेक्षा करना)।

शहर के गरीब हिस्सों में समुदाय के सदस्यों को सेल्फ-ड्राइविंग कार से सवारी मिल पाने की संभावना कम है। ऐसा इसलिए है क्योंकि स्व-चालित कारें दूर थीं और शहर के उच्च राजस्व वाले हिस्से में घूम रही थीं। जब कोई अनुरोध शहर के दूर-दराज के हिस्से से आता है, तो नजदीकी स्थान से किसी अन्य अनुरोध को उच्च प्राथमिकता मिलेगी। आखिरकार, शहर के समृद्ध हिस्से के अलावा किसी अन्य स्थान पर सेल्फ-ड्राइविंग कार प्राप्त करना लगभग असंभव है, उन लोगों के लिए यह बेहद निराशाजनक है जो अब संसाधन-विहीन क्षेत्रों में रहते हैं।

सभी के लिए गतिशीलता का वह सपना पूरा हो गया है जिसे सेल्फ-ड्राइविंग कारें जीवन में लाना चाहती हैं।

आप दावा कर सकते हैं कि एआई पूरी तरह से सांख्यिकीय और कम्प्यूटेशनल पूर्वाग्रह के रूप में उतरा है, जो प्रॉक्सी भेदभाव के रूप में है (जिसे अक्सर अप्रत्यक्ष भेदभाव भी कहा जाता है)। महसूस करें कि एआई को उन गरीब इलाकों से बचने के लिए प्रोग्राम नहीं किया गया था। आइए इस उदाहरण में इसके बारे में स्पष्ट करें। नहीं, यह केवल राजस्व को अनुकूलित करने के लिए तैयार किया गया था, एक स्वीकार्य लक्ष्य, लेकिन यह एआई डेवलपर्स के बिना अन्य संभावित प्रभावों पर विचार किए बिना किया गया था। बदले में उस अनुकूलन ने अनजाने में और अनिवार्य रूप से एक अवांछनीय परिणाम दिया।

अगर उन्होंने अपनी अनुकूलन मानसिकता के हिस्से के रूप में एआई एथिक्स के विचारों को शामिल किया होता, तो उन्हें पहले से ही एहसास हो जाता कि जब तक उन्होंने एआई को अकेले एक मीट्रिक पर इस तरह के ओवरसाइज़िंग से निपटने के लिए तैयार नहीं किया, तब तक वे इस तरह के बुरे परिणामों को टाल सकते थे। इस प्रकार के मुद्दों पर अधिक जानकारी के लिए कि स्वायत्त वाहनों और सेल्फ-ड्राइविंग कारों को व्यापक रूप से अपनाने की संभावना है, मेरा कवरेज देखें इस लिंक यहाँ, हार्वर्ड के नेतृत्व वाले एक अध्ययन का वर्णन करते हुए, जिसे मैंने इन विषयों पर सह-लेखक बनाया था।

किसी भी मामले में, मान लें कि घोड़ा पहले से ही खलिहान से बाहर है और स्थिति तत्काल समाधान के लिए उत्तरदायी नहीं है।

जो लोग उन सेल्फ-ड्राइविंग कारों का उपयोग करना चाहते हैं, वे क्या कर सकते हैं?

सबसे स्पष्ट दृष्टिकोण समुदाय के नेताओं के साथ ऑटोमेकर या सेल्फ-ड्राइविंग टेक फर्म को इस बात पर पुनर्विचार करने के लिए काम करना होगा कि उन्होंने एआई कैसे स्थापित किया है। शायद उस शहर या कस्बे में उन सेल्फ-ड्राइविंग कारों की तैनाती के लिए जो भी लाइसेंस या परमिट दिए गए हैं, उन पर दबाव डालें। ये सकारात्मक बदलाव लाने के संभावित व्यवहार्य साधन हैं, हालांकि उन प्रयासों के फलने में कुछ समय लग सकता है।

एक और कोण यह होगा कि आप अपने आप को एआई से लैस करें।

कल्पना करें कि किसी ने चतुराई से एआई-आधारित ऐप तैयार किया है जो आपके स्मार्टफोन पर काम करता है और ऑटोमेकर या फ्लीट ऑपरेटर के एआई से संबंधित है जो सवारी के लिए अनुरोध कर रहा है। यह हो सकता है कि आप जिस एआई का उपयोग कर रहे हैं वह अन्य एआई के प्रमुख तत्वों का शोषण करता है जैसे कि आपके द्वारा सेल्फ-ड्राइविंग कार के अनुरोध को उच्च प्राथमिकता दी जाती है। ध्यान दें कि मैं यह सुझाव नहीं दे रहा हूं कि कुछ भी अवैध हो रहा है, बल्कि इसके बजाय आपके पक्ष में एआई को खोजे गए "सुविधाओं" या यहां तक ​​​​कि अन्य एआई में खामियों के आधार पर विकसित किया गया है।

निष्कर्ष

एआई से लैस होकर सेल्फ-ड्राइविंग कारों के बेड़े संचालक के एआई के खिलाफ बहादुरी से लड़ने की कहानी अतिरिक्त एआई एथिक्स विवादों और विचारों को सामने लाती है।

उदाहरण के लिए:

• यदि एक व्यक्ति किसी अन्य प्रणाली के एआई पर लाभ देने के लिए एआई का उपयोग कर सकता है, तो एआई नैतिकता की सीमाओं को पार करने के मामले में यह कितनी दूर जा सकता है (मैं सेल्फ-ड्राइविंग कारों को मेरे और मेरे दोस्तों के पास आने के लिए मनाता हूं, अन्य सभी के बहिष्करण के लिए)?
• इसके अलावा, क्या एआई एथिक्स के विचार की कोई समानता है कि अगर कोई अन्य एआई के साथ लड़ाई करने के लिए एआई के बारे में जानता है या उसके पास है, तो क्या उन शेष लोगों को जिनके पास एआई संतुलन नहीं है, उन्हें एआई के प्रति सचेत किया जाना चाहिए और खुद को बांटने में सक्षम होना चाहिए। तदनुसार भी?

अंत में, यह सब हमें एक ऐसे भविष्य की ओर ले जा रहा है जो भयानक लगता है, जिसमें एआई हथियारों की दौड़ शामिल है। किसके पास एआई होगा कि उन्हें इधर-उधर जाने और जीवित रहने की आवश्यकता है और किसके पास नहीं होगा? क्या हमेशा एक और एआई होगा जो साथ आता है और एक काउंटरबैलेंसिंग एआई की आवश्यकता को जगाता है?

सम्मानित वैज्ञानिक कार्ल सागन ने विशेष रूप से प्रलयकारी हथियारों की दौड़ के बारे में यह ऋषि ज्ञान प्रदान किया: "परमाणु हथियारों की दौड़ दो शपथ ग्रहण करने वाले दुश्मनों की तरह है जो गैसोलीन में गहरी कमर खड़े हैं, एक तीन मैचों के साथ, दूसरा पांच के साथ।"

जब कभी बढ़ती एआई हथियारों की दौड़ की बात आती है तो हमें अपने पैरों को सूखा रखने और अपने सिर को साफ रखने का निर्णायक लक्ष्य रखना चाहिए।