नवीनतम चौंकाने वाली एआई नैतिकता चिंता यह है कि एआई राजनीतिक पूर्वाग्रहों को शामिल कर सकता है, जिसमें एआई-आधारित सेल्फ-ड्राइविंग कारों के सहज मामले में भी शामिल है।

आइए राजनीति पर बात करें.

ठीक है, मुझे एहसास है कि आप इन दिनों उपलब्ध मीडिया के सभी स्रोतों में राजनीति पर निरंतर ध्यान केंद्रित करने से परेशान हैं। लाल राज्य बनाम नीला राज्य। उदारवादी बनाम रूढ़िवादी. डेमोक्रेट बनाम रिपब्लिकेशन। राजनीतिक षडयंत्रों के बारे में बकबक अत्यधिक अंतहीन है।

आपने तर्कसंगत रूप से यह मान लिया होगा कि कुछ ऐसे विषय हैं जिनके लिए राजनीति विशेष रूप से तस्वीर में शामिल नहीं होती है। संक्षेप में, शायद विषयों के दो अलग-अलग वर्ग हैं, अर्थात् ऐसे विषय जो राजनीतिक रूप से जुड़े हुए हैं, इससे कोई फर्क नहीं पड़ता, और अन्य अधिक सामान्य विषय जो राजनीतिक दायरे से बाहर हो जाएंगे या बच जाएंगे।

ऐसा प्रतीत होता है कि कुछ आकर्षक फ्लैशप्वाइंट विषय होंगे जो हमेशा के लिए राजनीति और राजनीतिक गुस्से में फंस जाएंगे, जैसे कि लंबी सूची जिसमें राष्ट्रीय स्वास्थ्य देखभाल पहलू, चुनावी पहलू, बंदूक नियंत्रण, आप्रवासन शामिल हैं। और जैसे। आपको बस उनमें से किसी भी विषय का उल्लेख करना है और अगली बात यह होती है कि आप राजनीतिक आग में डूब जाते हैं। बल्कि गरमागरम बहस की काफी हद तक गारंटी है।

सिक्के के दूसरी तरफ, शायद कुछ ऐसे विषय हैं जो इतनी तीव्र राजनीतिक प्रतिक्रिया का कारण नहीं बनते। मैं आपके सामने एक ऐसा विषय रखना चाहता हूं, जिससे आपकी प्रारंभिक प्रतिक्रिया प्राप्त हो सके।

तैयार?

कारें।

हां, कारों, ऑटोमोबाइल, मोटर वाहनों का रोजमर्रा का विषय, या जिस तरह से आप इसे वाक्यांश देना चाहें, क्या यह राजनीतिक आक्रोश पैदा करता है या राजनीतिक रूप से आरोपित अपमान या मौखिक झगड़े को बढ़ावा देता है?

सतही तौर पर ऐसा प्रतीत नहीं हो सकता है कि कारों के बारे में राजनीतिक चिंताएं बढ़ी हुई हैं। वे बस दैनिक परिवहन का एक रूप हैं। आप अपनी कार में बैठते हैं, और आप काम करने के लिए ड्राइव करते हैं। आप अपनी कार का उपयोग काम-काज करने और किराने का सामान लेने जाने के लिए करते हैं। यदि आप छुट्टियों के लिए कुछ समय निकाल सकते हैं, तो आप खुले जंगलों की ओर जाने के लिए या शायद कुछ क़ीमती राष्ट्रीय स्मारकों को देखने के लिए अपनी कार का उपयोग करें।

कारें अराजनीतिक प्रतीत होंगी।

क्षमा करें, लेकिन ऐसा बिल्कुल नहीं है।

मामला यह बनाया जा सकता है कि कारों को किसी भी अन्य तथाकथित फ्लैशप्वाइंट विषयों की तरह घनिष्ठ रूप से घेर लिया गया है और राजनीति में डुबो दिया गया है। शायद सामान्य मीडिया कार-उन्मुख राजनीति को उतना कवर नहीं करता जितना अन्य अधिक आकर्षक विषयों के लिए किया जा सकता है, लेकिन फिर भी, राजनीतिक अंतर्धाराएं अभी भी अस्तित्व में हैं।

एक स्पष्ट राजनीतिक आयाम यह है कि हमारी कारों में क्या होना चाहिए।

मैं कारों की बनावट या मशीनीकरण की बात कर रहा हूँ। उदाहरण के लिए, इस बात पर एक तीखी राजनीतिक बहस चल रही है कि क्या कारों को आईसीई (आंतरिक दहन इंजन) का उपयोग करना चाहिए या ईवी (इलेक्ट्रिकल वाहन) पर स्विच करना चाहिए। यह महत्वपूर्ण चर्चा का एक क्षेत्र है जो पर्यावरण संबंधी मुद्दों और जलवायु परिवर्तन पहलुओं जैसे कई अन्य राजनीतिक रूप से आरोपित विषयों से जुड़ा है।

एक कम-ज्ञात और फिर भी संबंधित मामला कारों के आकार और विभिन्न पहलुओं में उनके समग्र पदचिह्न से संबंधित है। क्या हमारे पास बड़े आकार की कारें होनी चाहिए या केवल छोटे आकार की कारें होनी चाहिए? क्या हमें कार के उपयोग को हतोत्साहित करने के लिए कारें तैयार करनी चाहिए, जिसका लक्ष्य लोगों को बड़े पैमाने पर परिवहन और सार्वजनिक परिवहन का उपयोग करने के लिए प्रेरित करना है? और इसी तरह।

यहां कुछ ऐसा है जिसके बारे में आपने संभवतः नहीं सोचा होगा।

कुछ अध्ययनों ने जांच की है कि क्या स्वामित्व वाली कार का प्रकार कार मालिक के राजनीतिक झुकाव पर आधारित है। संभवतः, आप खरीदी गई कार के प्रकार के अनुसार डेमोक्रेट घोषित किए गए किसी व्यक्ति के बीच एक सांख्यिकीय सहसंबंध ढूंढने में सक्षम हो सकते हैं, और इसी तरह रिपब्लिकन होने और स्वामित्व वाली कार के प्रकार के बीच एक सांख्यिकीय सहसंबंध ढूंढने में सक्षम हो सकते हैं। मैं यहां उन अध्ययनों में गहराई से नहीं जाऊंगा, हालांकि मैं यह उल्लेख करना चाहूंगा कि आपको ऐसे अध्ययनों और उनके परिणामों की व्याख्या सावधानी से करनी चाहिए और इसमें शामिल सांख्यिकीय वैधता के बारे में संदेह की एक बड़ी खुराक होनी चाहिए।

आंकड़ों के इस्तेमाल की बात करें तो राजनीतिक विशेषताओं और कारों का एक और दिलचस्प पहलू है। ऐसे शोध प्रयास हैं जो विभिन्न को जोड़ते प्रतीत होते हैं ड्राइविंग व्यवहार लोगों से लेकर उन ड्राइवरों की राजनीतिक पार्टी से संबद्धता तक।

अक्सर पूछे जाने वाले प्रश्नों में शामिल हैं:

· क्या कार दुर्घटनाओं या टक्करों का शिकार होने वाले ड्राइवरों के डेमोक्रेट या रिपब्लिकन होने की संभावना अधिक है या कम?

· क्या नशे में धुत्त ड्राइवरों के उदारवादी या रूढ़िवादी होने की अधिक संभावना है?

· जब रोड रेज की पागलपन भरी घटनाएं घटती हैं, जिससे ड्राइवर पागल हो जाते हैं और एक-दूसरे पर हमला करते हैं, तो क्या वे उग्र पागल उदारवादी या रूढ़िवादी होंगे?

· किसे अधिक ट्रैफ़िक टिकट मिलते हैं और संभवतः अधिक जोखिम भरी गाड़ी चलाते हैं, डेमोक्रेट या रिपब्लिकन?

· वगैरह।

फिर, मैं यहां उन शोध प्रयासों में नहीं जा रहा हूं। और, एक बार फिर, कृपया सुनिश्चित करें कि जब आप ऐसे अध्ययन पढ़ें या उनके परिणामों के बारे में ज्वलंत सुर्खियाँ देखें तो सतर्क रहें। मैं बस इतना ही कहूंगा कि आंकड़ों के बारे में पुरानी पंक्ति आज भी प्रचुर मात्रा में सच है, जैसे कि झूठ, घृणित झूठ और आंकड़े हैं (मैंने अधिक सभ्य दर्शकों के लिए नमकीन ज्ञान के उस हिस्से को साफ कर दिया)।

इसलिए ऐसा प्रतीत होता है कि हमारे पास इस बात के पर्याप्त सबूत हैं कि कारों का विषय खेदजनक रूप से राजनीतिक अर्थों से जुड़ा हुआ है।

तब मैं एक अलग विषय चुनूंगा, ऐसा विषय जो शायद वास्तव में पूरी तरह से अराजनीतिक होगा।

इस बार तैयार हैं?

आर्टिफिशियल इंटेलिजेंस (एआई)।

निश्चित रूप से, कोई यह उम्मीद करेगा कि एआई को अराजनीतिक होना चाहिए, खासकर जब एआई सिस्टम की आंतरिक क्षमताओं की बात आती है। आपको निश्चित रूप से संदेह हो सकता है कि इसमें राजनीति है आसपास के चाहे एआई का उपयोग किया जाना चाहिए या नहीं किया जाना चाहिए, लेकिन आपको प्रतीत होता है कि एआई प्रणाली की आंतरिकता किसी भी राजनीतिक किण्वन से परे होगी।

इससे पहले कि हम उस प्रचलित धारणा पर करीब से नज़र डालें, एआई के कुछ अन्य पहलुओं पर विचार करना शिक्षाप्रद हो सकता है, जिसने हाल ही में कई लोगों को एआई सिस्टम का उत्पादन करने और सहज रूप से स्वीकार करने की निरर्थक इच्छा पर पुनर्विचार करने के लिए प्रेरित किया है।

आप देखिए, की ओर हड़बड़ी में एआई फॉर गुड पिछले कई वर्षों के उत्साह के बीच, यह एहसास बढ़ रहा है कि सभी एआई आवश्यक रूप से अच्छे नहीं होंगे। हमने देखा है कि इसके लिए भी काफी अवसर हैं एआई फॉर बैड उठाना। यह एआई विकसित करने वालों के उद्देश्यपूर्ण इरादे से हो सकता है और यह एआई डेवलपर्स और एआई सिस्टम को बढ़ावा देने वालों द्वारा उचित निरीक्षण की पूरी तरह से गैर-जिम्मेदाराना कमी के कारण भी हो सकता है।

मैंने अपने कॉलम कवरेज में इनमें से कई एआई एथिक्स मुद्दों को शामिल किया है, जैसे कि यहां लिंक और यहां लिंक.

का सूचक मानें एआई फॉर बैड चेहरे की पहचान का मामला.

कई लोगों ने सोचा कि चेहरे की पहचान एआई प्रौद्योगिकियों में सबसे शानदार साबित होगी (और, कई मायनों में, यह वास्तव में एक तरह की तकनीक है) एआई फॉर गुड). गुप्त पिन कोड और बैंकिंग कार्ड का उपयोग करने के बजाय पहचान के लिए अपना चेहरा स्कैन करके एटीएम पर बैंकिंग करना बहुत आसान होगा। अपने ऑनलाइन किराना खाते को दर्शाने के साधन के रूप में केवल अपने चेहरे का उपयोग करके किराने की दुकान में जाना और खरीदारी करना इतना सुविधाजनक होगा कि आपके द्वारा चुनी गई किसी भी वस्तु के लिए शुल्क लिया जा सकता है।

तुम्हें ड्रिल पता है।

अगली बात जो आप जानते हैं, समाज ने यह जानना शुरू कर दिया कि चेहरे की पहचान सभी मीठी-स्वाद वाली कैंडी और मीठी-महक वाले गुलाबों से नहीं होती है। एआई-आधारित चेहरे की पहचान करने वाले कुछ एल्गोरिदम ने लोगों को उनकी जाति के आधार पर पहचानने में सक्षम होने का घटिया काम किया। लिंग और अन्य कारकों से संबंधित अंतर्निहित पूर्वाग्रहों सहित कई अन्य चिंताजनक और बेहद अपमानजनक मुद्दे सामने आए। चेहरे की पहचान को रेखांकित करने वाले एआई एथिक्स विषयों पर मेरे कवरेज के लिए, यहां लिंक देखें।

कुल मिलाकर मुद्दा यह है कि इस बात की ठोस संभावना है कि कोई भी एआई फॉर गुड इसमें संबंधित सामान भी ले जाना शामिल है एआई फॉर बैड. कुछ अवसर ऐसे होते हैं एआई फॉर बैड पूरी तरह से बुरा है, और इसमें कुछ राहत देने वाले गुण मौजूद हैं जो यह सुझाव देते हैं कि इसका थोड़ा सा हिस्सा है एआई फॉर गुड अंदर। हालाँकि, कुल मिलाकर, आमतौर पर एक एआई सिस्टम में दोनों की झलक होती है एआई फॉर गुड और एआई फॉर बैड. पहले को हम प्रोत्साहित करना चाहेंगे, दूसरे को हम रोकना, कम करना, कम करना चाहेंगे, और जब बाकी सब विफल हो जाए तो जितनी जल्दी हो सके पकड़ें और ख़त्म करें।

आप सोच रहे होंगे, हां, यह सब समझ में आता है और हमें किसी भी प्रकार के नस्लीय पूर्वाग्रहों, लिंग पूर्वाग्रहों और किसी भी प्रकार की असमानताओं के लिए एआई की सावधानीपूर्वक जांच करनी चाहिए। यह उचित कार्रवाई होगी और एआई की बुराइयों से बचने और फलदायी रूप से अच्छाइयां हासिल करने में समाज की सहायता करेगी।

मानो या न मानो, एक और कारक है जिसे एआई में लिपटी आश्चर्यजनक चीजों की सूची में जोड़ा जा सकता है जिसके बारे में कई लोगों को पता नहीं था कि एआई मोटली स्टू में था।

राजनीतिक झुकाव.

हाल के अध्ययनों से पता चलता है कि एआई सिस्टम ढेर सारी राजनीतिक प्रवृत्तियों, राय, प्राथमिकताओं और अन्य ऐसे राजनीतिक-आधारित गुणों और समावेशन को शामिल कर सकता है (जैसा कि यह था, हालांकि मानवरूपी रूप से नहीं)। यह बदले में एआई के काम करने के तरीके पर प्रभाव डाल सकता है, जैसे कि एआई की प्रोग्रामिंग के आधार पर एआई क्या "निर्णय" लेता है।

यदि आप ऋण के लिए ऑनलाइन आवेदन करते हैं और एआई-आधारित एल्गोरिथम निर्णय लेने वाली प्रणाली का उपयोग किया जा रहा है, तो आपको अक्सर पता नहीं होता है कि एआई प्रोग्रामिंग में क्या शामिल है। ऋण के लिए अस्वीकृत होने पर, आप यह सुनिश्चित नहीं कर सकते कि एआई ने ऋण का विकल्प चुनने में आपकी जाति, लिंग या ऐसे अन्य कारकों का उपयोग करने से परहेज किया है।

न ही आप आश्वस्त हो सकते हैं कि एआई ने अपने राजनीतिक पूर्वाग्रहों के कारण आपके ऋण अनुरोध को नहीं दबाया।

जब मैं इसे इतने सख्त शब्दों में कहता हूं, तो यह मानकर इस धारणा को बढ़ा-चढ़ा कर मत बताइए कि एआई संवेदनशील है। जैसा कि मैं थोड़ी देर में आगे बताऊंगा, आज हमारे पास संवेदनशील एआई नहीं है। पूर्णविराम, अवधि. इससे कोई फर्क नहीं पड़ता कि आप क्या बेतुकी सुर्खियाँ देखते हैं, कृपया जान लें कि आज संवेदनशील एआई होने के करीब कुछ भी नहीं है। हम यह भी नहीं जानते कि एआई के साथ संवेदना तक पहुंचना संभव है या नहीं। यह कब होगा, या कभी होगा भी या नहीं, इसका भी कोई संकेत नहीं है।

मुद्दे पर वापस आते हैं।

अब जब मैं इस बात पर पहुंच गया हूं कि एआई में राजनीतिक पूर्वाग्रह शामिल हो सकते हैं, तो हम इस पर करीब से नजर डाल सकते हैं कि यह कैसे होता है और राजनीतिक झुकाव किस तरह से प्रकट हो सकता है।

एक तरफ, अगर यह धारणा कि एआई राजनीतिक पूर्वाग्रहों को समाहित कर सकता है, आपको कुछ भयावह निराशा या सदमे का कारण बनता है, तो इसे एआई के बेदाग पर्दे को भेदने का एक और उदाहरण दें। ऐसा लगता है कि समाज ने अब तक एआई की ब्रांडिंग छवि को भव्य मासूमियत और तटस्थता और संतुलन की प्राचीन आभा को शामिल करने के रूप में स्वीकार कर लिया है।

हो सकता है कि हमने इसे अन्य प्रकार की मशीनों से लिया हो। ऐसा प्रतीत होता है कि टोस्टरों में नस्ल, लिंग आदि के आधार पर अंतर्निहित पूर्वाग्रह नहीं हैं। इसी तरह हम किसी टोस्टर से राजनीतिक विचारधारा वाले होने की उम्मीद नहीं करेंगे, जैसा कि वह था। टोस्टर एक टोस्टर है. इसे मात्र एक मशीन के रूप में समझा जाता है।

जब एआई की बात आती है तो टोस्टर परिप्रेक्ष्य में पानी नहीं टिकने का कारण यह है कि एआई प्रणाली को संज्ञानात्मक जैसी क्षमताओं को आगे बढ़ाने की कोशिश के लिए प्रोग्राम किया गया है। इस प्रकार, यह मशीन को पूर्वाग्रहों को मूर्त रूप देने आदि जैसे संज्ञानात्मक मुद्दों की उलझन में धकेल देता है। मैं आपको विश्वास दिलाता हूं, हम जल्द ही पता लगा लेंगे कि एआई-आधारित टोस्टर पूर्वाग्रहों और समस्याग्रस्त चिंताओं से भरे हुए हैं।

एआई को राजनीतिक रूप से कैसे प्रभावित किया जा सकता है, इसे समझने का एक आसान तरीका एआई-आधारित सच्ची सेल्फ-ड्राइविंग कारों के आगमन में एआई के उपयोग पर नजर डालना होगा। हम एक पत्थर से दो निशाने लगा सकते हैं और एआई के सामान्य और व्यापक विषय की जांच कर सकते हैं जिसमें राजनीतिक अवतार शामिल है, और यह स्व-चालित कारों में कैसे उत्पन्न हो सकता है, इसके अनुकरणीय संदर्भ में ऐसा कर सकते हैं।

हालाँकि मैं यह स्पष्ट करना चाहता हूँ कि एआई राजनीतिक टीकाकरण एक स्टैंडअलोन विषय है जिसे उसका उचित अधिकार दिया जाना चाहिए। सेल्फ-ड्राइविंग कारों के एआई को एआई के राजनीतिक आयामों के साथ गलती से न जोड़ें। सभी एआई में राजनीतिक रूप से अंतर्निहित संभावनाएं होंगी, और गहराई और डिग्री इस बात पर निर्भर करेगी कि एआई को कैसे तैयार और फील्ड किया जाता है।

फिर यहाँ एक उल्लेखनीय प्रश्न है जो विचार करने योग्य है: एआई आंतरिक रूप से राजनीतिक झुकाव को कैसे प्रभावित करेगा, और क्या यह एआई के प्रतीत होने वाले अराजनीतिक दायरे में भी हो सकता है जिसका उपयोग उभरती हुई एआई-आधारित सेल्फ-ड्राइविंग कारों के लिए किया जाता है?

मुझे प्रश्न खोलने के लिए कुछ समय दीजिए क्योंकि यह सेल्फ-ड्राइविंग कारों से संबंधित है।

सबसे पहले, ध्यान दें कि एक सच्ची सेल्फ-ड्राइविंग कार में कोई मानव चालक शामिल नहीं है। ध्यान रखें कि असली सेल्फ-ड्राइविंग कारें AI ड्राइविंग सिस्टम से चलती हैं। पहिए पर मानव चालक की आवश्यकता नहीं है, न ही मानव के लिए वाहन चलाने का प्रावधान है। ऑटोनॉमस व्हीकल्स (एवी) और विशेष रूप से सेल्फ-ड्राइविंग कारों के मेरे व्यापक और चल रहे कवरेज के लिए, यहां लिंक देखें।

मैं और स्पष्ट करना चाहता हूं कि जब मैं सच्ची सेल्फ-ड्राइविंग कारों का उल्लेख करता हूं तो इसका क्या मतलब होता है।

आत्म ड्राइविंग कारों के स्तर को समझना

स्पष्टीकरण के रूप में, सच्ची आत्म-ड्राइविंग कार वे हैं जो एआई पूरी तरह से अपने दम पर कार चलाती है और ड्राइविंग कार्य के दौरान कोई मानव सहायता नहीं है।

इन ड्राइवर रहित वाहनों को लेवल 4 और लेवल 5 माना जाता है (इस लिंक पर मेरा स्पष्टीकरण यहां देखें), जबकि एक कार जिसे ड्राइविंग प्रयास में सह-चालक के लिए एक मानव ड्राइवर की आवश्यकता होती है, आमतौर पर लेवल 2 या लेवल 3 पर विचार किया जाता है। शेयरिंग कार्य को अर्ध-स्वायत्त होने के रूप में वर्णित किया गया है, और आमतौर पर इसमें विभिन्न प्रकार के स्वचालित ऐड-ऑन होते हैं जिन्हें ADAS (एडवांस्ड ड्राइवर-असिस्टेंस सिस्टम्स) कहा जाता है।

लेवल 5 पर अभी तक एक सच्ची सेल्फ-ड्राइविंग कार नहीं है, जिसे हम अभी तक नहीं जानते हैं कि क्या यह प्राप्त करना संभव होगा, और न ही वहां पहुंचने में कितना समय लगेगा।

इस बीच, स्तर 4 के प्रयास धीरे-धीरे बहुत ही संकीर्ण और चयनात्मक सार्वजनिक सड़क मार्ग के परीक्षणों से गुजरते हुए कुछ कर्षण प्राप्त करने की कोशिश कर रहे हैं, हालांकि इस बात पर विवाद है कि क्या इस परीक्षण को प्रति अनुमति दी जानी चाहिए (हम सभी जीवन-या-मृत्यु गिनी सूअर एक प्रयोग में हैं हमारे राजमार्गों और मार्गों पर हो रही है, कुछ दावेदार, इस लिंक पर मेरी कवरेज देखें)।

चूंकि अर्ध-स्वायत्त कारों के लिए एक मानव चालक की आवश्यकता होती है, इसलिए उन प्रकार की कारों को अपनाना पारंपरिक वाहनों को चलाने की तुलना में अलग नहीं होगा, इसलिए इस विषय पर उनके बारे में कवर करने के लिए प्रति से ज्यादा कुछ नया नहीं है (हालांकि, जैसा कि आप देखेंगे एक पल में, अगले अंक आम तौर पर लागू होते हैं)।

अर्ध-स्वायत्त कारों के लिए, यह महत्वपूर्ण है कि जनता को परेशान करने वाले पहलू के बारे में पूर्वाभास करने की आवश्यकता है, जो हाल ही में उत्पन्न हुई है, अर्थात् उन मानव चालकों के बावजूद जो खुद को स्तर 2 या स्तर 3 कार के सोते हुए वीडियो पोस्ट करते रहते हैं , हम सभी को यह मानने में गुमराह होने से बचने की आवश्यकता है कि चालक अर्ध-स्वायत्त कार चलाते समय ड्राइविंग कार्य से अपना ध्यान हटा सकता है।

आप वाहन के ड्राइविंग क्रियाओं के लिए जिम्मेदार पक्ष हैं, भले ही स्वचालन को स्तर 2 या स्तर 3 में कितना उछाला जाए।

सेल्फ-ड्राइविंग कारें और एआई-एम्बेडेड राजनीतिक झुकाव

लेवल 4 और लेवल 5 के लिए सच सेल्फ-ड्राइविंग वाहन, ड्राइविंग कार्य में शामिल मानव चालक नहीं होंगे।

सभी रहने वाले यात्री होंगे।

एआई ड्राइविंग कर रहा है।

तुरंत चर्चा करने का एक पहलू इस तथ्य पर जोर देता है कि आज के एआई ड्राइविंग सिस्टम में शामिल एआई संवेदनशील नहीं है। दूसरे शब्दों में, AI पूरी तरह से कंप्यूटर-आधारित प्रोग्रामिंग और एल्गोरिदम का एक सामूहिक है, और सबसे अधिक आश्वस्त रूप से उसी तरीके से तर्क करने में सक्षम नहीं है जो मनुष्य कर सकते हैं।

एआई के संवेदनशील नहीं होने के बारे में यह अतिरिक्त जोर क्यों दिया जा रहा है?

क्योंकि मैं यह रेखांकित करना चाहता हूं कि जब एआई ड्राइविंग सिस्टम की भूमिका पर चर्चा हो रही है, तो मैं एआई को मानवीय गुणों का वर्णन नहीं कर रहा हूं। कृपया ध्यान रखें कि इन दिनों एंथ्रोपोमोर्फिफाई एआई के लिए चल रही और खतरनाक प्रवृत्ति है। संक्षेप में, लोग आज के एआई के लिए मानव जैसी भावना प्रदान कर रहे हैं, इसके बावजूद कि इस तरह का एआई अभी तक मौजूद नहीं है।

उस स्पष्टीकरण के साथ, आप कल्पना कर सकते हैं कि एआई ड्राइविंग सिस्टम ड्राइविंग के पहलुओं के बारे में मूल रूप से किसी तरह "जान" नहीं पाएगा। ड्राइविंग और इसके लिए जरूरी सभी चीजों को सेल्फ-ड्राइविंग कार के हार्डवेयर और सॉफ्टवेयर के हिस्से के रूप में प्रोग्राम करना होगा।

आइए इस विषय पर खेलने के लिए आने वाले पहलुओं के बारे में जानें।

सबसे पहले, यह महसूस करना महत्वपूर्ण है कि सभी AI सेल्फ-ड्राइविंग कारें समान नहीं होती हैं। प्रत्येक ऑटोमेकर और सेल्फ-ड्राइविंग टेक फर्म सेल्फ-ड्राइविंग कारों को तैयार करने के लिए अपना दृष्टिकोण अपना रही है। जैसे, एआई ड्राइविंग सिस्टम क्या करेगा या नहीं, इस बारे में व्यापक बयान देना मुश्किल है।

इसके अलावा, जब भी यह कहा जाता है कि एआई ड्राइविंग सिस्टम कुछ खास काम नहीं करता है, तो बाद में, यह डेवलपर्स द्वारा आगे निकल सकता है जो वास्तव में कंप्यूटर को उसी काम करने के लिए प्रोग्राम करता है। कदम दर कदम, एआई ड्राइविंग सिस्टम में धीरे-धीरे सुधार और विस्तार किया जा रहा है। एक मौजूदा सीमा आज भविष्य के पुनरावृत्ति या सिस्टम के संस्करण में मौजूद नहीं हो सकती है।

मुझे विश्वास है कि जो मैं संबंधित करने जा रहा हूं उसे रेखांकित करने के लिए पर्याप्त चेतावनियां प्रदान करता है।

अब हम एआई राजनीति-अंतर्निहित दुविधा में गहराई से उतरने के लिए तैयार हैं।

सेल्फ-ड्राइविंग कार के पहलुओं को संक्षेप में अलग रखें और आइए पहले एआई विषय का पता लगाएं कि यह राजनीतिक झुकाव को कैसे शामिल करता है। एआई के लिए राजनीतिक रूप से उभरने का सबसे आसान तरीका एआई सॉफ्टवेयर तैयार करने वाले एआई डेवलपर्स के कार्य हैं। मनुष्य के रूप में, वे अपने व्यक्तिगत राजनीतिक झुकाव को उस कार्य में शामिल कर सकते हैं जिसके लिए वे सॉफ़्टवेयर प्रोग्राम करते हैं।

जब एआई सिस्टम ने पहली बार विभिन्न नस्ल और लिंग पूर्वाग्रहों को प्रदर्शित करना शुरू किया, तो भारी आक्रोश हुआ कि यह उन एआई डेवलपर्स के परिणामस्वरूप हुआ होगा जिन्होंने उन सिस्टम को तैयार किया था। आरोप थे कि यह एआई डेवलपर्स का एक उद्देश्यपूर्ण कार्य था। हालांकि दूसरों ने सुझाव दिया कि एआई डेवलपर्स में विविधता की कमी थी और इसलिए उन्होंने लापरवाही से या बिना सोचे-समझे अपने मौजूदा पूर्वाग्रहों को अपने एआई प्रोग्रामिंग प्रयासों में ले जाने की अनुमति दी।

कई एआई टीमों के लिए, इसने उन्हें अपने साथी डेवलपर्स के बीच विविधता सुनिश्चित करने के बारे में अधिक जागरूक होने के लिए प्रेरित किया, जिसमें उनके प्रोग्रामिंग समूहों में नए सदस्यों को शामिल करना भी शामिल था। इसके अलावा, एआई डेवलपर्स के लिए विविधता जागरूकता बढ़ाने के लिए विशेष शिक्षाप्रद शैक्षिक पाठ्यक्रम बनाए गए। यहां तक ​​कि एआई विकास पद्धतियां भी हैं जो एआई परियोजनाओं को उनके सिस्टम में टीकाकरण पूर्वाग्रहों और असमानताओं पर नजर रखने के लिए स्पष्ट रूप से मार्गदर्शन करने के लिए विविधता पहलुओं को शामिल करती हैं।

हालाँकि अभी तक लगभग किसी को भी एआई के लिए राजनीतिक रूप से अंतर्निहित प्रकार के पूर्वाग्रह के बारे में पता नहीं है, लेकिन संभावना यह है कि यह अंततः प्रमुखता से उठेगा और इसके परिणामस्वरूप एक मुखर हंगामा होगा। एक बार फिर एआई डेवलपर्स की कड़ी जांच होगी। शायद कुछ लोग जानबूझकर अपने राजनीतिक झुकाव को बढ़ावा दे रहे हैं, जबकि अन्य लोग बिना इस एहसास के ऐसा कर सकते हैं कि वे ऐसा कर रहे हैं।

मैं यह कहने का साहस करता हूं कि यह मानने का ध्यान कि एआई डेवलपर्स एआई में पूर्वाग्रहों को पेश करने का एकमात्र स्रोत थे, इस समग्रता से चूक गए कि एआई पूर्वाग्रह कहां से उत्पन्न हो रहे थे। एक क्रमिक जागरूकता यह रही है कि मशीन लर्निंग (एमएल) और डीप लर्निंग (डीएल) का उपयोग एआई आंतरिक पूर्वाग्रह पहलुओं में भी एक उल्लेखनीय योगदानकर्ता बन गया है।

मशीन लर्निंग और डीप लर्निंग कम्प्यूटेशनल पैटर्न मिलान तकनीक और प्रौद्योगिकियां हैं।

आप उस डेटा को इकट्ठा करते हैं जिसे आप एमएल/डीएल में फीड करना चाहते हैं, जो कम्प्यूटेशनल रूप से प्रदान किए गए डेटासेट में गणितीय पैटर्न ढूंढना चाहता है। उन गणना किए गए पैटर्न के आधार पर, एमएल/डीएल का उपयोग किया जाएगा, जैसे कि चेहरे की पहचान करने में सक्षम होना। चेहरे की पहचान के लिए, हम लोगों की तस्वीरों का एक समूह फ़ीड कर सकते हैं, और एमएल/डीएल उन उल्लेखनीय विशेषताओं की गणना करेगा जो चेहरों को पहचानने योग्य बनाती हैं, जैसे कि नाक का आकार और आकार, मुंह और होंठों का आकार और आकार। , माथे का आकार और आकार, इत्यादि।

यह कम्प्यूटेशनल दृष्टिकोण किसी भी प्रकार के पूर्वाग्रह प्रभाव से परे प्रतीत होगा। यह सब सिर्फ गणना है.

अहा, लेकिन याद रखें कि हम "प्रशिक्षण" या कम्प्यूटेशनल पैटर्न मिलान के हिस्से के रूप में एमएल/डीएल में चित्र (या जो भी) फीड कर रहे हैं। चेहरे की पहचान के लिए, यदि हम मुख्य रूप से एक विशेष जाति के लोगों को दिखाने वाली तस्वीरें फ़ीड करते हैं, तो संभावना यह है कि कम्प्यूटेशनल पैटर्न मिलान उन चेहरे के पहलुओं की ओर बढ़ेगा। बाद में, मान लीजिए कि हमने इस चेहरे की पहचान प्रणाली को व्यापक उपयोग में डाल दिया, जो लोग इसका इस्तेमाल करते थे और एक अलग जाति के थे, उन्हें गणितीय रूप से "पहचान" मिलने की संभावना कम हो सकती है क्योंकि एमएल/डीएल पैटर्न उस दौड़ के आसपास आकार लेते हैं जो मुख्य रूप से प्रशिक्षण में पाया गया था। तय करना।

तो, आप स्पष्ट रूप से देख सकते हैं कि एमएल/डीएल का अन्यथा "निष्पक्ष" गणितीय दृष्टिकोण कैसे विकृत हो सकता है (अन्य तरीके भी हैं, लेकिन मैं यहां केवल इस बड़े तरीके का उल्लेख कर रहा हूं)। क्या एआई डेवलपर्स ने जानबूझकर ऐसा डेटासेट बनाया जो नस्लीय रूप से असंतुलित था? मैं सुझाव दूंगा कि यह शायद ही कोई जानबूझकर किया गया कार्य है, हालांकि इस बात का अहसास न होना कि उन्होंने ऐसा किया है, अभी भी पर्याप्त बहाना नहीं है।

आजकल, एमएल/डीएल का उपयोग करने वालों को इस बारे में अधिक विचारशील बनाने की कोशिश की जा रही है कि वे प्रशिक्षण के लिए किस डेटा का उपयोग करते हैं और इससे क्या परिणाम मिलते हैं। दुर्भाग्य से, हर कोई एमएल/डीएल बैंडवैगन पर कूद गया है और इनमें से कई नए लोग या फ्लाई-बाय-नाइट्स जिन्होंने एमएल/डीएल का कार्यभार संभाला है, वे पूर्वाग्रहों के बारे में जागरूकता के बिना ऐसा कर रहे हैं। संभवतः ऐसे बुरे अभिनेता भी हैं जो जानबूझकर ऐसा कर सकते हैं, हालाँकि आशा करते हैं कि उनकी संख्या बहुत कम है।

मुझे विश्वास है कि उपरोक्त ने आपको आज के एआई में पूर्वाग्रहों को शामिल करने वाले एआई नैतिकता पहलुओं पर गति प्रदान की है।

आगे बढ़ें और राजनीतिक-अंतर्निहित झुकावों के विशिष्ट संकेतों के साथ पूर्वाग्रहों की सामान्य धारणा को प्रतिस्थापित करते हुए, पूरे शेबंग को दोहराएं। मैंने पहले ही उल्लेख किया है कि एआई डेवलपर्स स्वयं खुले तौर पर या अनजाने में अपने राजनीतिक झुकाव को प्रोग्राम किए गए एआई में ले जा सकते हैं। दूसरा पहलू जो मैंने उठाया वह यह है कि मशीन लर्निंग और डीप लर्निंग के उपयोग के लिए प्रशिक्षण डेटा का चयन करने की संभावना है जो जानबूझकर या गलती से ऐसे पैटर्न को पार कर सकता है जो एक विशेष राजनीतिक आयाम में फिट होते हैं।

ठीक है, मैं इस कॉलम पर थोड़ा लंबा चल रहा हूं (उफ़, टीएलडीआर, कुछ लोग कठोरता से कहेंगे), इसलिए मैं संक्षेप में एक उदाहरण देने का लक्ष्य रखूंगा कि कैसे एआई-आधारित सेल्फ-ड्राइविंग कार के लिए एआई इनमें शामिल हो सकता है राजनीतिक झुकाव वाले वर्महोल के प्रकार (मेरे कई कॉलम पोस्टिंग में ऐसे मामलों के व्यापक कवरेज के लिए, यहां लिंक देखें)।

एआई सेल्फ-ड्राइविंग कारों के बारे में एक प्रसिद्ध और अक्सर चर्चा में आने वाला संभावित इक्विटी मुद्दा रोबो-टैक्सी के उपयोग से संबंधित है और इस नई गतिशीलता-ए-सेवा विकल्प तक किसकी पहुंच होगी। चिंता यह है कि केवल अमीर लोग ही रोबो-टैक्सी का उपयोग कर पाएंगे, और इस प्रकार निम्न-आय वर्ग के लोग ड्राइवर रहित कारों के उभरते युग से बाहर रह जाएंगे (इस बारे में एक विस्तृत रिपोर्ट यहां लिंक पर देखें) ).

उस उलझन से एक और मोड़ सामने आता है।

कल्पना करें कि स्व-चालित कारें एक शहर में घूम रही हैं और सवारी के अनुरोध का इंतजार कर रही हैं। एक अनुरोध आता है और पास की एक रोबो-टैक्सी सेल्फ-ड्राइविंग कार सवार को लेने के लिए आती है। सवार इंगित करता है कि वे कहाँ जाना चाहते हैं, और एआई ड्राइविंग सिस्टम वहां पहुंचने के लिए एक रास्ता तैयार करता है। इसके बाद एआई ड्राइविंग सिस्टम स्वायत्त वाहन को वांछित गंतव्य तक ले जाने के लिए आगे बढ़ता है।

वह सब ठीक लगता है.

यहां एक गंभीर घबराहट व्यक्त की गई है।

मान लीजिए कि एआई ड्राइविंग सिस्टम एक ऐसा रास्ता तैयार करने का विकल्प चुनता है जो अधिक दलित इलाकों से बचता है। आप मान सकते हैं कि नेविगेशनल प्लॉटिंग केवल इष्टतम पथ पर आधारित होगी, जैसे कि कम से कम दूरी, या शायद सबसे कम समय। शायद हाँ शायद नहीं।

अन्य कारकों में सेल्फ-ड्राइविंग कार के अपराधग्रस्त स्थानों से गुजरने की संभावना हो सकती है। ऐसा हो सकता है कि स्वायत्त वाहन और यात्रियों के लिए ख़तरे पर विचार किया जा रहा हो कि कौन सा रास्ता अपनाया जाए.

इस बात पर संदेह है कि सेल्फ-ड्राइविंग कारें लगभग हमेशा अधिक गरीब या दलित समुदायों से अपरिहार्य रूप से बचेंगी। सेल्फ-ड्राइविंग कारों में सवार लोगों को कभी भी इस बात का एहसास नहीं होगा कि उनके शहरों या कस्बों में ऐसी जगहें मौजूद हैं। यह संभवतः उन्हें ऐसे समुदायों की ज़रूरतों से अनभिज्ञ बना देगा। इसके अलावा, उन क्षेत्रों में रहने वालों को सेल्फ-ड्राइविंग कार का उपयोग करने का अवसर शायद ही कभी मिल सके, भले ही वह सस्ती ही क्यों न हो। उनके बीच में कोई रोबो-टैक्सी नहीं घूम रही होगी, गणना के अनुसार उन्होंने खुद को उन क्षेत्रों से बाहर रखा होगा।

क्या यह पूर्वाग्रह डेवलपर्स द्वारा एआई की जानबूझकर की गई प्रोग्रामिंग के कारण आएगा?

हो सकता है, हालाँकि जरूरी नहीं कि ऐसा हो।

शायद यह पूर्वाग्रह मशीन लर्निंग और डीप लर्निंग के उपयोग से उत्पन्न होता है?

ज़रूर, यह एक सुविचारित संभावना है।

एआई ड्राइविंग सिस्टम एमएल/डीएल पर आधारित हो सकता है जो पथ को मैप करते समय कहां आगे बढ़ना है इसके बारे में प्रशिक्षण के लिए डेटा का उपयोग करता है। यदि उस डेटा को कुछ क्षेत्रों से बचते हुए आकार दिया गया था, तो एमएल/डीएल संभवतः ऐसे पैटर्न का पता लगाएगा और इसके साथ आगे बढ़ेगा। समय के साथ, यह मानते हुए कि सेल्फ-ड्राइविंग कारों के आने से इस तरह का डेटा और अधिक जमा हो जाएगा, बाद में अपडेट और रखरखाव के लिए उपयोग किया जाने वाला डेटा उन्हीं मनगढ़ंत पैटर्न को और मजबूत करेगा।

आप कह सकते हैं कि पैटर्न जटिल हो जाते हैं क्योंकि पिछले पैटर्न का उपयोग बार-बार जगह में सेट हो जाता है, एक प्रकार का स्नोबॉल या हमेशा सर्पिल प्रभाव।

बोलने के तरीके से, आप यह समझ सकते हैं कि गाड़ी कहाँ चलानी है, यह प्रतीत होने वाला पूर्वाग्रह इस बात का उदाहरण है कि संभावित एआई राजनीतिक-एम्बेडेड प्रवृत्ति कैसे उत्पन्न हो सकती है। एक परिप्रेक्ष्य यह होगा कि एआई को इस पूर्वाग्रह में निर्बाध रूप से जारी रहने दिया जाए। दूसरा यह होगा कि एआई को जानबूझकर उन क्षेत्रों में ले जाने के लिए संशोधित किया जाए जो दायरे से बाहर पैटर्न-मिलान वाले थे, जिसे एक बार फिर आप दावा कर सकते हैं कि एआई में शायद राजनीतिक रूप से झुकाव वाला रुख शामिल किया जा रहा है।

सभी ने बताया, एआई या तो प्रदर्श एक राजनीतिक झुकाव की प्रवृत्ति या कम से कम ऐसा करने के रूप में माना जाता है, भले ही इसमें चीजों की राजनीति के बारे में कोई समानता हो (जो कि भावना के अनुसार नहीं है)।

निष्कर्ष

इस प्रकार के बहुत सारे उदाहरण हैं जो उठाए जा सकते हैं।

मैं सेल्फ-ड्राइविंग कार के संदर्भ में रहूंगा और आपको एक और त्वरित उदाहरण दूंगा। मान लीजिए कि एक सवार एआई सेल्फ-ड्राइविंग कार रोबो-टैक्सी द्वारा लिफ्ट का अनुरोध करता है और शहर के कोर्टहाउस में होने वाली एक राजनीतिक रैली में जाने के लिए ऐसा करता है। एआई ड्राइविंग सिस्टम राइडर को वहां ले जाने से मना कर देता है।

क्यों?

कल्पना कीजिए कि गंतव्य बिंदु के रूप में राजनीतिक रैलियों के बारे में एकत्र किए गए पूर्व डेटा ने संकेत दिया था कि स्व-चालित कारें ट्रैफिक जाम में फंस रही थीं। मान लें कि इसका मतलब यह है कि यातायात में लंबे समय तक प्रतीक्षा करने और उस प्रतीक्षा समय के लिए कम दर वसूलने के कारण, सेल्फ-ड्राइविंग कारें सवारों से पैसा कमाने में कम सक्षम थीं। एमएल/डीएल का उपयोग करने जैसा एआई एल्गोरिदम कम्प्यूटेशनल रूप से यह निर्धारित कर सकता है कि राजनीतिक रैलियों में जाना पैसा कमाने का एक कठिन विकल्प है। इसलिए, जब किसी राजनीतिक रैली में जाने के लिए रोबो-टैक्सी के लिए अनुरोध आता है, तो अनुरोध अस्वीकार कर दिया जाता है।

मुझे लगता है कि आप देख सकते हैं कि इसे राजनीति से प्रेरित विकल्प के रूप में कैसे देखा जा सकता है। हालाँकि, एआई बोलने के किसी भी तरीके में सीधे तौर पर किसी भी तरह के राजनीतिक मकसद का इस्तेमाल नहीं कर रहा है, लेकिन किसी भी मामले में, ऐसा लगता है कि वह एक राजनीतिक विकल्प चुन रहा है।

आप शर्त लगा सकते हैं कि हम जल्द ही एआई के राजनीतिक झुकाव के बारे में राजनीतिक प्रतिक्रिया का सामना करने जा रहे हैं। मेरे शब्दों को अंकित कर लो!

शब्दों के बारे में बात करते हुए, प्रसिद्ध यूनानी कवि और नाटककार, अरस्तूफेन्स ने दावा किया कि हर पत्थर के नीचे एक राजनेता छिपा होता है। आज की दुनिया में, प्रत्येक एआई प्रणाली के भीतर, एक गुप्त राजनीतिक-अंतर्निहित झुकाव की एक निर्विवाद संभावना है, चाहे आप इसके बारे में जानते हों या नहीं।

बेहतर होगा कि उन पत्थरों को पलटना शुरू कर दें।