एआई नैतिकता नवीनतम चीन द्वारा तैयार एआई पार्टी-वफादारी दिमाग-पढ़ने वाले चेहरे की पहचान सत्यापन से परेशान है जो दमनकारी स्वायत्त प्रणालियों का पूर्वाभास दे सकती है

क्या आप वफादार हैं?

सैद्धांतिक रूप से, आपके प्रत्यक्ष कार्यों की जांच करना और यह पता लगाना संभव हो सकता है कि क्या आपके कार्यों से वफादारी प्रदर्शित होती है।

हालाँकि, मान लीजिए कि इसके बजाय आपके दिमाग को पढ़ने का प्रयास किया गया था और इस बीच आपकी वफादारी का निर्धारण करने के लिए आपके चेहरे को स्कैन किया गया था। यह अत्यंत घुसपैठिया है; आप आसानी से निंदा कर सकते हैं। ऐसा लगता है कि यह उन पागल विज्ञान-फाई फिल्मों में से एक है जो भविष्य के डायस्टोपियन समाज की कल्पना करती है।

शुक्र है, आप चुपचाप अपने आप से फुसफुसाते हैं, आज हमारे पास ऐसा कुछ नहीं है।

वाह, अपने घोड़े पकड़ो।

समाचारों की सुर्खियाँ हाल ही में इस बात पर जोर दे रही हैं कि 1 जुलाई, 2022 को चीन में ऑनलाइन पोस्ट किए गए एक शोध पत्र में एक अध्ययन को दर्शाया गया है जिसमें कथित तौर पर यह गणना करने के लिए लोगों के मस्तिष्क की तरंगों और उनके चेहरे के भावों का आकलन शामिल था कि क्या वे चीनी कम्युनिस्ट पार्टी (सीसीपी) के प्रति वफादार थे। . तो, आप जाइए, भविष्य और भी करीब आ रहा है, कम से कम उस डायस्टोपियन समाज को प्राप्त करने के संदर्भ में जिसके बारे में हम डरते हैं कि किसी दिन यह उत्पन्न हो सकता है।

शोध पत्र तुरंत ही उसके ऑनलाइन पोस्ट किए गए लिंक से गायब हो गया।

संभवतः, इंटरनेट पर तेजी से फैल रही तिरस्कार की भावना अखबार को हटाने के लिए पर्याप्त थी। या, हो सकता है कि शोधकर्ता केवल कुछ शब्दों में बदलाव और अन्य सहज सुधार करना चाहते हों, उनका लक्ष्य एक बार फिर से पोस्ट करना हो, जब उन्हें यह सुनिश्चित करने का अधिक गहन मौका मिले कि i को बिंदीदार बनाया गया है और सभी t को पार किया गया है। हमें यह देखने के लिए अपनी आँखें खुली रखनी होंगी कि क्या कागज को दूसरा जीवन मिलता है।

मैं आगे बढ़ने जा रहा हूं और शोध अध्ययन के बारे में हम जो जानते हैं उसमें गहराई से उतरूंगा और इस बारे में बिंदुओं को जोड़ने का प्रयास करूंगा कि इस तरह के एआई-संबंधित कार्य हम सभी के लिए कैसे महत्व रखते हैं, इसे देखने के दायरे से कहीं आगे जाकर। जैसा कि एक विशेष देश तक ही सीमित है। इस समाचारयोग्य आइटम पर अन्य हालिया रिपोर्टिंग की तुलना में मेरा कवरेज थोड़ा अधिक व्यापक होगा, इसलिए कृपया मेरा साथ दें।

मेरा अतिरिक्त जोर इस बात पर भी होगा कि एआई नैतिकता के कई महत्वपूर्ण पाठ हैं जिन्हें हम कथित पेपर से प्राप्त कर सकते हैं। एआई एथिक्स और एथिकल एआई के मेरे चल रहे और व्यापक कवरेज के लिए, देखें यहाँ लिंक और यहाँ लिंक, कुछ लोगों का नाम बताने के लिए।

शोध अध्ययन के बारे में अब तक जो बताया गया है वह यहां दिया गया है।

जाहिर तौर पर, कुछ "स्वयंसेवकों" को सीसीपी की धारणाओं के संबंध में एक प्रयोग में भाग लेने के लिए भर्ती किया गया था। क्या वे इच्छुक स्वयंसेवक थे या अधिक प्रेरित या शायद निर्देशित स्वयंसेवक थे, यह अज्ञात है। हम चर्चा के लिए मान लेंगे कि वे अध्ययन में एक विषय बनने के लिए सहमत थे।

मैं इसे केवल चालाक न बनने के लिए उठाता हूँ। जब भी कोई प्रयोग मानव विषयों को शामिल करके किया जाता है, तो शोध प्रयास में ऐसे विषयों की भर्ती और विसर्जन के संबंध में आम तौर पर स्वीकृत प्रथाओं की बहुतायत होती है। यह आंशिक रूप से पिछले अध्ययनों पर आधारित है जो अक्सर लोगों को किसी प्रयोग में शामिल होने के लिए बरगलाते थे या मजबूर करते थे, जिससे कभी-कभी उन प्रतिभागियों के लिए प्रतिकूल मनोवैज्ञानिक परिणाम या यहां तक ​​कि शारीरिक नुकसान भी होता था। वैज्ञानिक समुदाय ने उन प्रकार के कपटी अध्ययनों पर अंकुश लगाने के लिए जोरदार प्रयास किया है और आवश्यकता है कि मानव-संबंधी अध्ययनों में शामिल करने के इच्छुक लोगों को सभी प्रकार के खुलासे और चेतावनियाँ प्रदान की जाएँ।

स्पष्ट करने के लिए, हर कोई ऐसे विवेकपूर्ण और कर्तव्यनिष्ठ दिशानिर्देशों का पालन नहीं करता है।

आगे बढ़ते हुए, कथित तौर पर 43 विषय थे, और कहा गया था कि वे चीन की कम्युनिस्ट पार्टी के सदस्य थे। ध्यान रखें कि किसी प्रयोग के लिए विषयों का चयन प्रयोग के लिए काफी महत्वपूर्ण है और प्रयोग के परिणामों के बारे में किसी भी निष्कर्ष पर पहुंचने की कोशिश करते समय इसे भी ध्यान में रखा जाना चाहिए।

मान लीजिए मैं एक प्रयोग करना चाहता हूं कि लोग प्रशंसित स्टार वार्स श्रृंखला को कैसे देखते हैं। यदि मैं उन विषयों का पहले से चयन कर लूं जो स्टार वार्स से सख्त नफरत करते हैं (ऐसे लोग कैसे अस्तित्व में हो सकते हैं?), और मैं उन्हें स्टार वार्स वीडियो क्लिप दिखाता हूं, तो संभावना यह है कि वे शायद यह कहने जा रहे हैं कि वे अभी भी स्टार वार्स को नापसंद करते हैं। इस छद्म वैज्ञानिक प्रयोग के आधार पर, शायद मैं चुपचाप दावा करता हूं कि लोग - सामान्य तौर पर - वास्तव में स्टार वार्स से नफरत करते हैं, जो कि मेरी "सावधानीपूर्वक" तैयार की गई शोध सेटिंग में "सिद्ध" (विंक-विंक) था।

आप नहीं जानते होंगे कि मैंने उन विषयों का पूर्व-चयन करके रूलेट व्हील में हेराफेरी की थी, जिनके बारे में मुझे आशा थी कि वे मेरे गुप्त रूप से वांछित परिणाम देंगे। बेशक, अगर मैंने जानबूझकर ऐसे लोगों को भर्ती किया होता जो स्टार वार्स को पसंद करते थे और उत्साही प्रशंसक थे, तो संभावना है कि वे उन स्टार वार्स क्लिप को देखने के बारे में उत्साहित होने की रिपोर्ट करेंगे। फिर, कोई भी निष्कर्ष इस बारे में पहुंचेगा कि आम तौर पर लोग स्टार वार्स पर कैसे प्रतिक्रिया करते हैं, प्रयास के लिए चुने गए विषयों के पूर्व-चयनित सेट द्वारा नियंत्रित किया जाएगा।

सीसीपी-केंद्रित अध्ययन में प्रतीत होता है कि विषयों को कियोस्क जैसे वीडियो डिस्प्ले के सामने बैठाया गया और सीसीपी की नीतियों और उपलब्धियों के बारे में विभिन्न लेख पढ़े गए। यह संभवतः "प्रायोगिक उपचार" माना जाता है जिससे विषयों को अवगत कराया जा रहा है। किसी प्रयोग की योजना बनाते समय, आप आमतौर पर एक प्रयोगात्मक कारक या पहलू के साथ आते हैं जिसे आप देखना चाहते हैं कि क्या इसका प्रतिभागियों पर प्रभाव पड़ता है।

स्पष्ट रूप से शोध का प्रश्न यह था कि क्या इन सामग्रियों की समीक्षा करने का कार्य सीसीपी के उनके बाद के प्रभावों के बढ़ने, घटने या तटस्थ होने के संदर्भ में विषयों पर कोई प्रभाव डालेगा।

एक क्लासिक अशक्त परिकल्पना में, आप यह बताने के लिए ऐसे अध्ययन की व्यवस्था कर सकते हैं कि उपभोग की गई सामग्रियों का विषयों द्वारा व्यक्त किए गए बाद के छापों पर कोई प्रभाव नहीं पड़ता है। एक बार जब आप सीसीपी के बारे में उनके दृष्टिकोण की पहले और बाद की तुलना कर लेंगे, तो आप सांख्यिकीय रूप से यह देखने की कोशिश करेंगे कि क्या उनके इंप्रेशन में बदलाव का सांख्यिकीय रूप से महत्वपूर्ण पता चला था।

ऐसा हो सकता है कि पहले और बाद में सांख्यिकीय रूप से भिन्न न हों, इसलिए आप यथोचित रूप से अस्थायी रूप से यह निष्कर्ष निकाल सकते हैं कि इस विशेष अध्ययन के लिए प्रदर्शित सामग्री (प्रायोगिक उपचार) से उनके प्रभावों में कोई अंतर नहीं आया। दूसरी ओर, यदि कोई सांख्यिकीय रूप से मान्य अंतर था, तो आप यह देखना चाहेंगे कि क्या बाद वाला पहले से अधिक था, जिससे आपको यह सुझाव देने की अनुमति मिलती है कि सामग्रियों ने उनके इंप्रेशन को बढ़ावा दिया (और, सिक्के के दूसरी तरफ, यदि बाद वाला पहले से कम था, इसका मतलब यह हो सकता है कि सामग्रियों ने अपने इंप्रेशन कम या कम कर दिए हैं)।

ऐसे बहुत से कष्टकारी ढीले पहलू हैं जिनसे इस तरह के अध्ययन में निपटने की आवश्यकता होगी।

उदाहरण के लिए, हम आम तौर पर एक तथाकथित नियंत्रण समूह चाहते हैं जिसकी तुलना हम उन लोगों से कर सकें जो प्रायोगिक उपचार प्राप्त करते हैं। उसकी वजह यहाँ है। मान लीजिए कि सामग्री पढ़ने के लिए कियोस्क के सामने बैठने का कार्य ही छापों में बदलाव का असली आधार था। ऐसा हो सकता है कि उपभोग की गई सामग्रियों की प्रकृति प्रभाव प्रभाव के लिए लगभग महत्वहीन हो। केवल बैठने और कुछ भी पढ़ने से, जैसे बिल्लियों के बारे में नवीनतम कहानियाँ जो अजीब चीजें करती हैं, अकेले ही काम चल सकता है। इसलिए हम कुछ विषयों को अपने नियंत्रण समूह में रखने की व्यवस्था कर सकते हैं जो सीसीपी नीतियों और उपलब्धि सामग्रियों के अलावा पढ़ने के लिए कुछ अन्य सामग्री के संपर्क में हैं।

हम नहीं जानते कि क्या इस उदाहरण में ऐसा किया गया था (ऐसा लगता है कि अभी तक किसी ने भी इस पहलू का उल्लेख नहीं किया है)।

मुझे एहसास है कि आप अब तक अध्ययन के मीडिया विस्फोटक हिस्से के बारे में परेशान हो रहे हैं। हम उस हिस्से में तेजी से आगे बढ़ेंगे।

हम यह कैसे पता लगा सकते हैं कि इस प्रयोग में शामिल विषयों ने प्रदर्शित सामग्री को पढ़ने के परिणामस्वरूप प्रतिक्रिया दी या उनके प्रभाव में बदलाव आया?

एक पारंपरिक साधन उनसे पूछना होगा।

आपने शायद पहले ही एक प्रश्नावली तैयार कर ली होगी जिसमें उनसे सीसीपी के बारे में उनकी धारणा पूछी जाएगी। फिर, प्रायोगिक उपचार के प्रदर्शन के बाद, जैसा कि प्रदर्शित की जा रही सामग्रियों को पढ़ने में होता है, हम एक और प्रश्नावली का प्रबंधन कर सकते हैं। पहले और बाद के आधार पर विषयों द्वारा दिए गए उत्तरों की तुलना की जा सकती है। यदि हम एक नियंत्रण समूह का भी उपयोग कर रहे थे, तो हम मान लेंगे कि नियंत्रण समूह के उत्तर पहले से बाद में महत्वपूर्ण रूप से नहीं बदलेंगे (इस विश्वास के तहत कि बिल्लियों के खिलवाड़ के बारे में कहानियों को देखने से उनके सीसीपी इंप्रेशन पर असर नहीं पड़ना चाहिए)।

विषयों से उनके प्रभाव पूछने का यह कार्य आवश्यक रूप से उतना सीधा नहीं है जितना यह प्रतीत हो सकता है।

मान लीजिए कि प्रयोग में विषयों को एक समझ या समग्र बहाव मिलता है कि आप चाहते हैं कि वे एक विशेष तरीके से प्रयोगात्मक उपचार का जवाब दें। उस स्थिति में, वे प्रायोगिक प्रशासन के बाद के भाग में जानबूझकर अपनी प्रतिक्रियाओं को बढ़ा-चढ़ाकर बता सकते हैं। आपने निश्चित रूप से ऐसा होते देखा है। यदि मैं बाजार में आने वाले किसी नए सोडा का स्वाद परीक्षण कर रहा हूं, तो मैं ऐसा व्यवहार कर सकता हूं जैसे मैंने सोडा का बहुत स्वाद लिया हो, ऐसा इस उम्मीद में कर रहा हूं कि शायद सोडा निर्माता के विज्ञापन में मुझे दिखाया जाएगा और मुझे पंद्रह मिनट की प्रसिद्धि मिलेगी जिसके वह हकदार हैं। .

सार यह है कि केवल लोगों से उनकी राय पूछना परिवर्तनों का आकलन करने का एक निश्चित साधन नहीं है। यह एक दृष्टिकोण है. अन्य दृष्टिकोण भी अपनाए जा सकते हैं और अक्सर अपनाए भी जाते हैं।

इस विशेष अध्ययन ने विषयों की प्रतिक्रियाओं को मापने का विकल्प कैसे चुना?

जाहिर है, कम से कम दो तरीकों का इस्तेमाल किया गया। एक विधि में चेहरे का स्कैन करना और विषयों की प्रतिक्रियाओं का आकलन करने के लिए एआई-आधारित चेहरे की पहचान सॉफ्टवेयर का उपयोग करना शामिल था। दूसरी विधि कथित तौर पर ब्रेनवेव स्कैनिंग का कुछ रूप था। यह अभी तक रिपोर्ट नहीं किया गया है कि किस प्रकार के ब्रेनवेव स्कैनिंग उपकरणों का उपयोग किया गया था, न ही किस प्रकार के एआई-आधारित ब्रेनवेव विश्लेषण सॉफ्टवेयर को नियोजित किया गया था।

विभिन्न रिपोर्टिंग ने संकेत दिया है कि अध्ययन ने प्रयोग की प्रकृति के बारे में यह कहा है: "एक तरफ, यह निर्णय ले सकता है कि पार्टी के सदस्यों ने विचार और राजनीतिक शिक्षा को कैसे स्वीकार किया है।" और अध्ययन में कथित तौर पर इसका भी उल्लेख किया गया है: "दूसरी ओर, यह विचार और राजनीतिक शिक्षा के लिए वास्तविक डेटा प्रदान करेगा ताकि इसे बेहतर और समृद्ध किया जा सके।" शोध अध्ययन को चीन के हेफ़ेई कॉम्प्रिहेंसिव नेशनल साइंस सेंटर के तत्वावधान में किए जाने का श्रेय दिया गया।

मीडिया रिपोर्टों से पता चलता है कि अध्ययन में इस दावे की ओर इशारा किया गया है कि चेहरे की पहचान स्कैन और ब्रेनवेव स्कैन यह पता लगाने में सहायता करने में सक्षम थे कि सीसीपी के बारे में प्रभाव को बढ़ावा मिला था।

मैं आपके लिए यह नोट करना चाहूंगा कि उपयोग की गई प्रणालियों की सीधे समीक्षा करने और शोध पत्र की बारीकी से जांच करने में सक्षम होने के बिना, हम यह नहीं जानते हैं कि उन एआई-आधारित प्रणालियों का वास्तव में उपयोग कैसे किया गया था।

ऐसा हो सकता है कि विषय प्रायोगिक उपचार पर प्रतिक्रिया करने के बजाय प्रायोगिक सेटिंग पर प्रतिक्रिया कर रहे हों। अध्ययन में भाग लेने वाला कोई भी व्यक्ति, शुरुआत से ही चिंतित हो सकता है। इससे ब्रेनवेव स्कैन या चेहरे के पैटर्न का विश्लेषण करने का कोई भी प्रयास बाधित हो सकता है। यह भी संभावना है कि उन्होंने शोधकर्ताओं को खुश करने के लिए प्रेरित महसूस किया, सामग्री देखने के बाद मनगढ़ंत सकारात्मक विचार रखने का विकल्प चुना और यह सैद्धांतिक रूप से ब्रेनवेव स्कैन और चेहरे के स्कैन में प्रतिबिंबित हो सकता है (हो सकता है, हालांकि कृपया जान लें कि एक महान है इस तरह के विवादों की वैधता पर भावपूर्ण विवाद का निपटारा, जैसा कि मैं क्षणिक रूप से स्पष्ट करूंगा), परिणामों को विकृत करने और यह दिखाने की उम्मीद में कि उनका सकारात्मक प्रभाव पड़ा।

ट्विटर की प्रतिक्रिया में काफी हद तक निंदा की गई कि एआई-सशक्त ब्रेनवेव स्कैन और चेहरे की पहचान का उपयोग करने की धारणा ही अपने आप में एक भयावह और अपमानजनक कार्य है। केवल मानव राक्षस ही इस प्रकार के उपकरणों का उपयोग करेंगे, ऐसा हमें उनमें से कुछ ट्वीट्स द्वारा बताया गया है।

मुझे आपसे बैठने और खुद को किसी ऐसी चीज़ के लिए तैयार करने के लिए कहना चाहिए जो एक अशिष्ट और चौंकाने वाला आश्चर्य हो सकता है।

दुनिया भर में ऐसे कई शोधकर्ता हैं जो अपने शोध अध्ययनों में उसी प्रकार की प्रौद्योगिकियों का उपयोग करते हैं। यह निश्चित रूप से पहली बार नहीं है कि किसी शोध प्रयास में मानव विषयों पर ब्रेनवेव स्कैन क्षमता का उपयोग किया गया था। यह निश्चित रूप से पहली बार नहीं था कि प्रायोगिक उद्देश्यों के लिए मानव विषयों पर चेहरे की पहचान का उपयोग किया गया था। यहां तक ​​कि एक सरसरी ऑनलाइन खोज भी आपको उन सभी देशों और प्रयोगशालाओं में बहुत सारे प्रयोगात्मक अध्ययन दिखाएगी जिन्होंने इस प्रकार के उपकरणों का उपयोग किया है।

अब, जैसा कि कहा जा रहा है, सीसीपी के प्रति वफादारी का आकलन करने के लिए उनका उपयोग करना कोई ऐसी चीज़ नहीं है जिस पर आपको अधिक ध्यान दिया जाएगा। जब ऐसे एआई का उपयोग सरकारी नियंत्रण के लिए किया जाता है, तो एक लाल रेखा पार हो जाती है, जैसा कि वे कहते हैं।

यह स्पष्ट रूप से पूरे किट और कैबूडल का सबसे ठंडा हिस्सा है।

कई लोगों द्वारा व्यक्त की गई चिंता यह है कि यदि सरकारें मौजूदा शासन के प्रति वफादारी सुनिश्चित करने के लिए ब्रेनवेव स्कैनिंग तकनीक और चेहरे की पहचान का उपयोग करने का विकल्प चुनती हैं, तो हम खुद को चोट की एक डायस्टोपियन दुनिया में पाएंगे। जब आप किसी सार्वजनिक सड़क पर चल रहे हों, तो हो सकता है कि लैंपपोस्ट पर लगा कोई उपकरण गुप्त रूप से आपकी वफादारी का निर्धारण कर रहा हो।

कोई यह मान सकता है कि यदि आपका चेहरा यह नहीं दर्शाता है कि आप पर्याप्त रूप से वफादार हैं, या यदि ब्रेनवेव स्कैन भी ऐसा ही बताता है, तो सरकारी ठग अचानक आ सकते हैं और आपको पकड़ सकते हैं। बेचैन करने वाला. घोर. अनुमति नहीं दी जानी चाहिए.

यही इस बात का मूल है कि इस समाचार पर आक्रोश और आक्रोश फैलाने वाली हेडलाइन क्यों उभरी है।

इसकी कल्पना करें। हम संभवतः कंप्यूटर-आधारित सिस्टम तैयार करने जा रहे हैं और फिर उन्हें उपयोग में लाएंगे जो एआई में नवीनतम का उपयोग करके यह तय करेंगे कि हम वफादार हैं या नहीं। यदि आपने आसपास बैठने और वही काम करने के लिए लोगों को नियुक्त करने की कोशिश की, तो आपको बहुत से लोगों की आवश्यकता होगी और आपके पास उन्हें हर किसी पर नज़र रखने के लिए तैनात करने की कोशिश करने में एक लॉजिस्टिक समस्या होगी। एआई-आधारित प्रणाली के मामले में, आपको बस लैंपपोस्टों, इमारतों के किनारों आदि पर इलेक्ट्रॉनिक उपकरणों को स्थापित करना होगा। वफादारी के लिए स्कैनिंग 24×7, हर समय, सभी सुसज्जित स्थानों पर हो सकती है। इसके बाद इसे एक विशाल डेटाबेस में डाला जा सकता है।

हम मनुष्य बन जाते हैं जो सब कुछ देखने वाले, सब पर नज़र रखने वाले, सामाजिक दमनकारी पारिस्थितिकी तंत्र के एक समूह मात्र हैं। देखने वाली आंख का मतलब सिर्फ यह देखना नहीं है कि हम क्या करते हैं। यह इस बात की भी व्याख्या कर रहा है कि हमारे चेहरे सरकार के प्रति हमारी वफादारी के बारे में क्या कहने का दावा करते हैं। इसी तरह हमारे दिमागों की भी इसी तरह के भयानक कारण के लिए जांच की जानी है।

ओह!

एक द्वितीयक चिंता भी इसी से उत्पन्न होती है, हालाँकि शायद बिग ब्रदर के निहितार्थों की तुलना में उतनी कांटेदार नहीं है जैसा कि पहले ही दर्शाया जा चुका है।

इन दो महत्वपूर्ण प्रश्नों पर विचार करें:

• क्या हम विश्वसनीय रूप से दावा कर सकते हैं कि ब्रेनवेव स्कैन आपकी वफादारी की पुष्टि कर सकता है?
• क्या हम विश्वसनीय रूप से दावा कर सकते हैं कि चेहरे की पहचान स्कैन आपकी वफादारी को प्रमाणित कर सकता है?

वहीं रुकिए, हो सकता है कि आप ज़ोर-ज़ोर से चिल्ला रहे हों।

मुझे एहसास है और मैं स्वीकार करता हूं कि आप विश्वसनीयता पहलुओं के बारे में उतनी परवाह नहीं कर सकते हैं। यह विश्वसनीय रूप से किया जा सकता है या नहीं, यह इस तथ्य से कम महत्वपूर्ण है कि यह किया ही जा रहा है। किसी को भी इस तरह की जांच के दायरे में नहीं आना चाहिए।' इस बारे में भूल जाइए कि क्या तकनीक इस कार्य के लिए उपयुक्त रूप से काम करती है। हमें शुरुआत में ही कार्य नहीं करना चाहिए।

किसी भी मामले में, अभी उत्तर एक जोरदार 'नहीं' है, अर्थात् मौजूदा एआई सिस्टम जो "ब्रेनवेव स्कैन" और चेहरे की पहचान जैसा कुछ भी करते हैं, वह छलांग लगाने में पर्याप्त रूप से सक्षम नहीं हैं।

आपने शायद हाल ही में देखा होगा कि कुछ चेहरे की पहचान करने वाले निर्माताओं ने अपने चेहरे की पहचान प्रणालियों को कैसे उपयोग में लाया जा रहा है, इस मामले में कुछ पीछे हट गए हैं। आगामी कॉलम पोस्टिंग में, मैं उदाहरण के लिए माइक्रोसॉफ्ट द्वारा हाल ही में किए गए प्रयासों पर चर्चा करूंगा, जो प्रौद्योगिकी जो करने में सक्षम है या जिसका उपयोग किया जाना चाहिए, उससे कहीं अधिक उद्देश्यों के लिए माइक्रोसॉफ्ट द्वारा प्रदान किए गए चेहरे की पहचान टूल का उपयोग करने वालों की प्रवृत्ति को रोकने की कोशिश करना है। . चेहरे की पहचान के बारे में पहले से ही अच्छी तरह से प्रचारित किए गए एआई एथिक्स क्वालिफिकेशन पर मेरी पिछली नज़र आपको रुचिकर लग सकती है, देखें यहाँ लिंक. मैंने ब्रेनवेव स्कैन के क्षेत्र पर भी चर्चा की है, मेरी चर्चा यहां देखें यहाँ लिंक.

संक्षेप में, अभी तक ऐसा कोई विश्वसनीय या समझदार साधन नहीं है जो यह सुझाव दे कि ब्रेनवेव स्कैन या चेहरे की पहचान स्कैन किसी की वफादारी को दर्शा सकता है। यहां तक ​​कि संभवतः बुनियादी पहलुओं जैसे कि क्या आप विश्वसनीय रूप से उन स्कैन को सहसंबंधित कर सकते हैं कि क्या कोई खुश बनाम दुखी है, अभी भी गर्म बहस चल रही है। वफ़ादारी जैसी अनाकार और परिवर्तनशील चीज़ की ओर बढ़ने की कोशिश करना बहुत दूर की बात है।

मैं यह भी जोड़ सकता हूं कि कुछ लोग दृढ़ता से विश्वास करते हैं कि हम अंततः वहां पहुंचेंगे। इसीलिए मैंने ध्यान से यह नोट करने की कोशिश की है कि हम अभी तक वहां नहीं हैं, बजाय यह कहने के कि हम वहां कभी नहीं पहुंचेंगे। कदापि कोई बड़ा शब्द नहीं है. यदि आप टॉस करने जा रहे हैं तो आपको पूरी तरह से आश्वस्त होना होगा कि ऐसा होगा कभी नहीँ व्यवहार्य रहें (यह ध्यान में रखते हुए कि "कभी नहीं" अब से दशकों, अब से सदियों और अब से हजारों या लाखों वर्षों को शामिल करता है)।

कुछ लोगों ने इस चीनी प्रयोगशाला अनुसंधान अध्ययन के बारे में समाचार पर प्रतिक्रिया व्यक्त की है कि यह इस बात का संकेतक है कि दुनिया कितने खतरनाक तरीके से एआई के अनुचित और खतरनाक उपयोग की ओर बढ़ रही है। मैं आपके साथ क्षण भर के लिए एआई एथिक्स क्या है इसकी एक झलक साझा करूंगा। इससे आपको अधिक स्पष्ट रूप से यह देखने में मदद मिलेगी कि यह विशेष अध्ययन एथिकल एआई के लगभग सभी आम तौर पर स्वीकृत सिद्धांतों का उल्लंघन क्यों करता है।

मानो या न मानो, कुछ लोगों ने सुझाव दिया है कि शायद हम इस विशेष अध्ययन के संबंध में एक बड़ा सवाल बना रहे हैं।

क्या हम?

प्रतिवाद यह है कि एक तिल का पहाड़ जल्द ही एक पहाड़ बन सकता है। स्नोबॉल की लौकिक धारणा में, जो बर्फीली पहाड़ी से लुढ़कते समय बड़ा और बड़ा हो जाता है, हमें स्नोबॉल को आगे बढ़ने से रोकने की जरूरत है। यदि हम इस प्रकार के अध्ययनों को सहन करते हैं, तो हम उस स्नोबॉल को अपनी यात्रा शुरू करने दे रहे हैं। बोलकर और ऐसे अध्ययनों का आह्वान करके, शायद हम स्नोबॉल को रोक सकते हैं।

एक बात निश्चित है, जब एआई पहलुओं की बात आती है तो हम पेंडोरा बॉक्स खोलने की कगार पर हैं, और सवाल यह है कि क्या हम बॉक्स को खुलने से रोक सकते हैं या कम से कम जो कुछ भी सामने आता है उससे विवेकपूर्ण तरीके से निपटने के लिए कुछ साधन ढूंढ सकते हैं। एक बार बॉक्स ने अपनी शैतानी सामग्री को बाहर निकाल दिया।

अगर और कुछ नहीं, तो उम्मीद है कि इस तरह के मीडिया तूफान इस बारे में व्यापक चर्चा को बढ़ावा देंगे कि हम एआई से संबंधित बुराईयों को कैसे रोकेंगे और एआई-स्पार्क वाले कई अस्तित्व संबंधी खतरों को कैसे रोकेंगे। हमें एआई नैतिकता और नैतिक एआई विचारों के बारे में अपनी सामाजिक जागरूकता बढ़ाने की जरूरत है।

इस प्रकार के एआई सिस्टम के अंतर्निहित जंगली और ऊनी विचारों के बारे में कुछ और जानकारी प्राप्त करने से पहले, आइए अत्यधिक आवश्यक विषयों पर कुछ अतिरिक्त बुनियादी सिद्धांत स्थापित करें। हमें एआई एथिक्स और विशेष रूप से मशीन लर्निंग (एमएल) और डीप लर्निंग (डीएल) के आगमन पर संक्षेप में विचार करने की आवश्यकता है।

आप अस्पष्ट रूप से जानते होंगे कि एआई क्षेत्र में और एआई के क्षेत्र के बाहर भी इन दिनों सबसे तेज आवाजों में से एक में नैतिक एआई के अधिक से अधिक समानता के लिए चिल्लाना शामिल है। आइए देखें कि एआई एथिक्स और एथिकल एआई को संदर्भित करने का क्या अर्थ है। उसके ऊपर, हम यह पता लगाएंगे कि जब मैं मशीन लर्निंग और डीप लर्निंग की बात करता हूं तो मेरा क्या मतलब होता है।

एआई एथिक्स का एक विशेष खंड या हिस्सा जिस पर मीडिया का बहुत अधिक ध्यान गया है, उसमें एआई शामिल है जो अवांछित पूर्वाग्रहों और असमानताओं को प्रदर्शित करता है। आप शायद जानते होंगे कि जब एआई का नवीनतम युग चल रहा था, जिसे अब कुछ लोग कहते हैं, उसके लिए उत्साह का एक बड़ा विस्फोट हुआ था एआई फॉर गुड. दुर्भाग्य से, उस भीषण उत्साह की ऊँची एड़ी के जूते पर, हमने देखना शुरू कर दिया एआई फॉर बैड. उदाहरण के लिए, विभिन्न एआई-आधारित चेहरे की पहचान प्रणालियों को नस्लीय पूर्वाग्रहों और लिंग पूर्वाग्रहों के रूप में प्रकट किया गया है, जिनकी मैंने चर्चा की है यहाँ लिंक.

के खिलाफ वापस लड़ने के प्रयास एआई फॉर बैड सक्रिय रूप से चल रहे हैं। मुखर के अलावा कानूनी गलत कामों पर लगाम लगाने के लिए, एआई नैतिकता को सही करने के लिए एआई एथिक्स को अपनाने की दिशा में भी एक महत्वपूर्ण धक्का है। धारणा यह है कि हमें एआई के विकास और क्षेत्ररक्षण के लिए प्रमुख नैतिक एआई सिद्धांतों को अपनाना और उनका समर्थन करना चाहिए ताकि यह कम हो सके। एआई फॉर बैड और साथ ही साथ बेहतर को बढ़ावा देना और बढ़ावा देना एआई फॉर गुड.

संबंधित धारणा पर, मैं एआई संकट के समाधान के हिस्से के रूप में एआई का उपयोग करने की कोशिश करने का एक समर्थक हूं, उस तरह की सोच में आग से आग से लड़ रहा हूं। उदाहरण के लिए हम नैतिक एआई घटकों को एआई सिस्टम में एम्बेड कर सकते हैं जो निगरानी करेगा कि बाकी एआई कैसे काम कर रहा है और इस प्रकार संभावित रूप से किसी भी भेदभावपूर्ण प्रयासों को वास्तविक समय में पकड़ सकता है, मेरी चर्चा देखें यहाँ लिंक. हमारे पास एक अलग एआई सिस्टम भी हो सकता है जो एक प्रकार के एआई एथिक्स मॉनिटर के रूप में कार्य करता है। एआई सिस्टम एक ओवरसियर के रूप में कार्य करता है ताकि पता लगाया जा सके कि कोई अन्य एआई अनैतिक रसातल में जा रहा है (ऐसी क्षमताओं का मेरा विश्लेषण यहां देखें) यहाँ लिंक).

एक क्षण में, मैं आपके साथ AI एथिक्स में अंतर्निहित कुछ व्यापक सिद्धांत साझा करूँगा। इस प्रकार की बहुत सारी सूचियाँ इधर-उधर तैर रही हैं। आप कह सकते हैं कि सार्वभौमिक अपील और सहमति की अभी तक एक भी सूची नहीं है। यही दुर्भाग्यपूर्ण खबर है। अच्छी खबर यह है कि कम से कम एआई एथिक्स सूचियां आसानी से उपलब्ध हैं और वे काफी समान हैं। सभी ने बताया, इससे पता चलता है कि एक तरह के तर्कपूर्ण अभिसरण के द्वारा हम एआई एथिक्स में सामान्य समानता की ओर अपना रास्ता खोज रहे हैं।

सबसे पहले, आइए संक्षेप में कुछ समग्र नैतिक एआई उपदेशों को कवर करें जो यह स्पष्ट करते हैं कि एआई को क्राफ्ट करने, क्षेत्ररक्षण करने या उपयोग करने वाले किसी भी व्यक्ति के लिए एक महत्वपूर्ण विचार क्या होना चाहिए।

उदाहरण के लिए, जैसा कि वेटिकन ने में कहा है रोम कॉल फॉर एआई एथिक्स और जैसा कि मैंने गहराई से कवर किया है यहाँ लिंक, ये उनके पहचाने गए छह प्राथमिक AI नैतिकता सिद्धांत हैं:

• पारदर्शिता: सिद्धांत रूप में, AI सिस्टम को समझाने योग्य होना चाहिए
• समावेशन: सभी मनुष्यों की आवश्यकताओं को ध्यान में रखा जाना चाहिए ताकि हर कोई लाभान्वित हो सके, और सभी व्यक्तियों को स्वयं को व्यक्त करने और विकसित करने के लिए सर्वोत्तम संभव परिस्थितियों की पेशकश की जा सके।
• ज़िम्मेदारी: जो लोग एआई के उपयोग को डिजाइन और तैनात करते हैं, उन्हें जिम्मेदारी और पारदर्शिता के साथ आगे बढ़ना चाहिए
• निष्पक्षता: पूर्वाग्रह के अनुसार निर्माण या कार्य न करें, इस प्रकार निष्पक्षता और मानवीय गरिमा की रक्षा करें
• विश्वसनीयता: AI सिस्टम मज़बूती से काम करने में सक्षम होना चाहिए
• सुरक्षा और गोपनीयता: AI सिस्टम को सुरक्षित रूप से काम करना चाहिए और उपयोगकर्ताओं की गोपनीयता का सम्मान करना चाहिए।

जैसा कि अमेरिकी रक्षा विभाग (DoD) ने अपने में कहा है आर्टिफिशियल इंटेलिजेंस के उपयोग के लिए नैतिक सिद्धांत और जैसा कि मैंने गहराई से कवर किया है यहाँ लिंक, ये उनके छह प्राथमिक AI नैतिकता सिद्धांत हैं:

• उत्तरदायी: DoD कर्मी एआई क्षमताओं के विकास, परिनियोजन और उपयोग के लिए जिम्मेदार रहते हुए उचित स्तर के निर्णय और देखभाल का प्रयोग करेंगे।
• न्यायसंगत: विभाग एआई क्षमताओं में अनपेक्षित पूर्वाग्रह को कम करने के लिए जानबूझकर कदम उठाएगा।
• पता लगाने योग्य: विभाग की एआई क्षमताओं को विकसित और तैनात किया जाएगा ताकि संबंधित कर्मियों के पास पारदर्शी और ऑडिट करने योग्य कार्यप्रणाली, डेटा स्रोत और डिजाइन प्रक्रिया और प्रलेखन सहित एआई क्षमताओं पर लागू प्रौद्योगिकी, विकास प्रक्रियाओं और परिचालन विधियों की उचित समझ हो।
• विश्वसनीय: विभाग की एआई क्षमताओं में स्पष्ट, अच्छी तरह से परिभाषित उपयोग होंगे, और ऐसी क्षमताओं की सुरक्षा, सुरक्षा और प्रभावशीलता उनके पूरे जीवन चक्र में परिभाषित उपयोगों के भीतर परीक्षण और आश्वासन के अधीन होगी।
• शासन योग्य: विभाग अपने इच्छित कार्यों को पूरा करने के लिए एआई क्षमताओं को डिजाइन और इंजीनियर करेगा, जबकि अनपेक्षित परिणामों का पता लगाने और उनसे बचने की क्षमता रखता है, और अनपेक्षित व्यवहार प्रदर्शित करने वाले तैनात सिस्टम को निष्क्रिय या निष्क्रिय करने की क्षमता रखता है।

मैंने एआई नैतिकता सिद्धांतों के विभिन्न सामूहिक विश्लेषणों पर भी चर्चा की है, जिसमें शोधकर्ताओं द्वारा तैयार किए गए एक सेट को शामिल किया गया है, जिसने "एआई एथिक्स दिशानिर्देशों का वैश्विक परिदृश्य" नामक एक पेपर में कई राष्ट्रीय और अंतर्राष्ट्रीय एआई नैतिकता सिद्धांतों के सार की जांच और संघनित किया है। में प्रकृति), और यह कि मेरा कवरेज यहां पर पड़ताल करता है यहाँ लिंक, जिसने इस कीस्टोन सूची का नेतृत्व किया:

• ट्रांसपेरेंसी
• न्याय और निष्पक्षता
• गैर-नुकसान
• उत्तरदायित्व
• निजता
• उपकार
• स्वतंत्रता और स्वायत्तता
• ट्रस्ट
• स्थिरता
• गौरव
• एकजुटता

जैसा कि आप सीधे अनुमान लगा सकते हैं, इन सिद्धांतों के तहत विशिष्टताओं को निर्धारित करने की कोशिश करना बेहद कठिन हो सकता है। इससे भी अधिक, उन व्यापक सिद्धांतों को पूरी तरह से मूर्त और विस्तृत रूप से उपयोग करने के प्रयास में एआई सिस्टम को क्राफ्ट करते समय उपयोग करने का प्रयास भी दरार करने के लिए एक कठिन अखरोट है। एआई एथिक्स के नियम क्या हैं और उन्हें आम तौर पर कैसे देखा जाना चाहिए, इसके बारे में कुछ हाथ मिलाना आसान है, जबकि एआई कोडिंग में यह एक अधिक जटिल स्थिति है जो सड़क से मिलने वाली सत्यनिष्ठ रबर है।

एआई एथिक्स सिद्धांतों का उपयोग एआई डेवलपर्स द्वारा किया जाना चाहिए, साथ ही एआई विकास प्रयासों का प्रबंधन करने वाले, और यहां तक ​​​​कि वे भी जो अंततः एआई सिस्टम पर क्षेत्र और रखरखाव करते हैं। विकास और उपयोग के पूरे एआई जीवन चक्र में सभी हितधारकों को नैतिक एआई के स्थापित मानदंडों के पालन के दायरे में माना जाता है। यह एक महत्वपूर्ण हाइलाइट है क्योंकि सामान्य धारणा यह है कि "केवल कोडर्स" या एआई प्रोग्राम करने वाले एआई एथिक्स धारणाओं का पालन करने के अधीन हैं। जैसा कि पहले कहा गया है, एआई को विकसित करने और क्षेत्र में लाने के लिए एक गाँव की आवश्यकता होती है, और जिसके लिए पूरे गाँव को एआई एथिक्स के नियमों से वाकिफ और उसका पालन करना पड़ता है।

आइए यह भी सुनिश्चित करें कि हम आज के AI की प्रकृति के बारे में एक ही पृष्ठ पर हैं।

आज कोई ऐसा AI नहीं है जो संवेदनशील हो। हमारे पास यह नहीं है। हम नहीं जानते कि संवेदनशील एआई संभव होगा या नहीं। कोई भी उपयुक्त रूप से भविष्यवाणी नहीं कर सकता है कि क्या हम संवेदनशील एआई प्राप्त करेंगे, और न ही संवेदनशील एआई किसी तरह चमत्कारिक रूप से स्वचालित रूप से कम्प्यूटेशनल संज्ञानात्मक सुपरनोवा के रूप में उत्पन्न होगा (आमतौर पर विलक्षणता के रूप में संदर्भित, मेरा कवरेज देखें यहाँ लिंक).

जिस प्रकार के एआई पर मैं ध्यान केंद्रित कर रहा हूं वह गैर-संवेदी एआई है जो आज हमारे पास है। अगर हम बेतहाशा अटकलें लगाना चाहते हैं संवेदनशील एआई, यह चर्चा मौलिक रूप से अलग दिशा में जा सकती है। माना जाता है कि एक संवेदनशील एआई मानव गुणवत्ता का होगा। आपको यह विचार करना होगा कि संवेदनशील एआई मानव के संज्ञानात्मक समकक्ष है। इसके अलावा, चूंकि कुछ अनुमान लगाते हैं कि हमारे पास सुपर-इंटेलिजेंट एआई हो सकता है, यह कल्पना की जा सकती है कि ऐसा एआई इंसानों की तुलना में अधिक स्मार्ट हो सकता है (एक संभावना के रूप में सुपर-इंटेलिजेंट एआई की मेरी खोज के लिए, देखें यहाँ कवरेज).

आइए चीजों को और नीचे रखें और आज के कम्प्यूटेशनल गैर-संवेदी एआई पर विचार करें।

महसूस करें कि आज का AI किसी भी तरह से मानव सोच के समान "सोचने" में सक्षम नहीं है। जब आप एलेक्सा या सिरी के साथ बातचीत करते हैं, तो बातचीत की क्षमता मानवीय क्षमताओं के समान लग सकती है, लेकिन वास्तविकता यह है कि यह कम्प्यूटेशनल है और इसमें मानवीय ज्ञान का अभाव है। एआई के नवीनतम युग ने मशीन लर्निंग (एमएल) और डीप लर्निंग (डीएल) का व्यापक उपयोग किया है, जो कम्प्यूटेशनल पैटर्न मिलान का लाभ उठाते हैं। इसने एआई सिस्टम को जन्म दिया है जिसमें मानव जैसी प्रवृत्तियों का आभास होता है। इस बीच, आज कोई ऐसा AI नहीं है जिसमें सामान्य ज्ञान की समानता हो और न ही मजबूत मानवीय सोच का कोई संज्ञानात्मक आश्चर्य हो।

एमएल/डीएल कम्प्यूटेशनल पैटर्न मिलान का एक रूप है। सामान्य तरीका यह है कि आप निर्णय लेने के कार्य के बारे में डेटा इकट्ठा करते हैं। आप डेटा को ML/DL कंप्यूटर मॉडल में फीड करते हैं। वे मॉडल गणितीय पैटर्न खोजने की कोशिश करते हैं। ऐसे पैटर्न खोजने के बाद, यदि ऐसा पाया जाता है, तो AI सिस्टम नए डेटा का सामना करते समय उन पैटर्न का उपयोग करेगा। नए डेटा की प्रस्तुति पर, वर्तमान निर्णय को प्रस्तुत करने के लिए "पुराने" या ऐतिहासिक डेटा पर आधारित पैटर्न लागू होते हैं।

मुझे लगता है कि आप अनुमान लगा सकते हैं कि यह कहाँ जा रहा है। यदि मानव जो निर्णयों पर प्रतिरूप बनाते रहे हैं, वे अवांछित पूर्वाग्रहों को शामिल कर रहे हैं, तो संभावना है कि डेटा इसे सूक्ष्म लेकिन महत्वपूर्ण तरीकों से दर्शाता है। मशीन लर्निंग या डीप लर्निंग कम्प्यूटेशनल पैटर्न मिलान केवल गणितीय रूप से डेटा की नकल करने की कोशिश करेगा। एआई-क्राफ्टेड मॉडलिंग के सामान्य ज्ञान या अन्य संवेदनशील पहलुओं की कोई समानता नहीं है।

इसके अलावा, एआई डेवलपर्स को एहसास नहीं हो सकता है कि क्या हो रहा है। एमएल/डीएल में रहस्यमय गणित अब छिपे हुए पूर्वाग्रहों को दूर करना मुश्किल बना सकता है। आप सही उम्मीद करेंगे और उम्मीद करेंगे कि एआई डेवलपर्स संभावित दफन पूर्वाग्रहों के लिए परीक्षण करेंगे, हालांकि यह जितना प्रतीत हो सकता है उससे कहीं अधिक कठिन है। एक ठोस मौका मौजूद है कि अपेक्षाकृत व्यापक परीक्षण के साथ भी एमएल/डीएल के पैटर्न मिलान मॉडल के भीतर अभी भी पूर्वाग्रह अंतर्निहित होंगे।

आप कुछ हद तक प्रसिद्ध या कुख्यात कहावत का उपयोग कर सकते हैं कचरा-कचरा-बाहर। बात यह है कि, यह पूर्वाग्रहों के समान है-इसमें एआई के भीतर डूबे हुए पूर्वाग्रहों के रूप में कपटी रूप से संक्रमित हो जाते हैं। एआई का एल्गोरिथम निर्णय लेने (एडीएम) स्वयंसिद्ध रूप से असमानताओं से भरा हो जाता है।

अच्छा नही।

आइए एआई सिस्टम पर अपना ध्यान केंद्रित करें जिसका उपयोग अनुचित या संभवतः गलत कार्यों के लिए किया जाता है और यह सीसीपी वफादारी पर हाल ही में पोस्ट किए गए अध्ययन से कैसे संबंधित है।

दो प्राथमिक विचार मन में आते हैं:

1) यह एआई उदाहरण एआई के उपयोग को विचलित करने वाले एक बड़े चल रहे पैटर्न का हिस्सा है और इसलिए यह अशुभ और आंखें खोलने वाला है कि क्या हो रहा है

2) बिल्ली को इस तरह से बाहर निकाला जा सकता है कि अगर इस तरह की एआई को एक देश में अपनाया जाता है तो इसे आसानी से दूसरे देशों में भी फैलाया जा सकता है

एआई के चालू पैटर्न का हिस्सा होने के इस उदाहरण के बारे में पहले बिंदु से शुरुआत करें।

इस एक विशेष अध्ययन से विशेष रूप से परेशान होने का एक महत्वपूर्ण आधार यह है कि यह कुछ लोगों द्वारा एआई का उपयोग करने का लक्ष्य रखने वाले एक बड़े पैटर्न का हिस्सा है। यदि यह अब तक आयोजित किया गया एकमात्र ऐसा अध्ययन होता, तो हम इससे थोड़ा उत्तेजित हो सकते थे। फिर भी, संभवतः यह उतनी तीव्रता से प्रतिध्वनित नहीं होगा जितना हम अब देख रहे हैं।

यह शायद किसी ऐसी चीज़ की ओर एक इंच का टपकना है जो हाथ से निकलने वाली है।

जैसा कि समाचारों में बताया गया है, चीन सीसीपी के प्रति प्रभावशाली वफादारी पर जोर देने के लिए प्रसिद्ध है। इसके अलावा, यह सुनिश्चित करने के लिए कि लोगों को सरकारी सिद्धांत में प्रेरित किया जाए, विभिन्न साधन स्थापित किए गए हैं या स्थापित किए जा रहे हैं। एआई एल्गोरिदम तैयार करने की मांग करने वाले पूर्व अध्ययनों के उदाहरण उद्धृत किए गए हैं जो पार्टी के सदस्यों की विचार स्थितियों को माप सकते हैं (चीन समर्थित देखें) स्टडी टाइम्स 2019 में इन प्रयासों का उल्लेख किया गया है)।

आपको याद होगा कि 2018 में, उपराष्ट्रपति माइक पेंस ने हडसन इंस्टीट्यूट में एक भाषण दिया था और इस बात पर जोर दिया था कि "चीन के शासकों का लक्ष्य मानव जीवन के लगभग हर पहलू को नियंत्रित करने पर आधारित एक ऑरवेलियन प्रणाली को लागू करना है" (यह सीसीपी कार्यान्वयन का एक संदर्भ था) एक सामाजिक क्रेडिट स्कोरिंग प्रणाली, प्रमुख विवाद का विषय)। आप आसानी से कह सकते हैं कि यह हालिया सीसीपी अध्ययन उस दिशा में एक और कदम है।

हम नहीं जानते कि आखिरी तिनका कब ऊंट की कमर तोड़ देगा, ऐसे में ये एकमुश्त अध्ययन व्यापक एआई-आधारित निगरानी प्रणालियों में बदल जाएंगे।

दूसरा बिंदु जो ध्यान देने योग्य है वह यह है कि हम यह नहीं मान सकते कि इस प्रकार का AI केवल चीन तक ही सीमित रहेगा। संक्षेप में, हालांकि चीन में इस प्रकार के एआई का उपयोग बड़े पैमाने पर हो सकता है, जो अपने आप में परेशान करने वाला है, अन्य देश भी ऐसा ही कर सकते हैं।

एक बार जब यह कहा जाएगा कि इसके लिए एआई प्राइम टाइम के लिए तैयार है, तो अन्य देशों को यह निर्णय लेने में अधिक समय नहीं लगेगा कि वे भी इसे लागू करना चाहते हैं। बिल्ली थैले से बाहर आ जाएगी. कुछ देश संभवत: इस एआई का उपयोग पूरी तरह से दमनकारी तरीकों से करेंगे और ऐसा करने के बारे में कोई दिखावा करने की कोशिश नहीं करेंगे। अन्य देश लाभकारी उद्देश्यों के लिए इस प्रकार के एआई का उपयोग करना चाह सकते हैं, जिसमें से अंततः एक नकारात्मक पहलू है जो लगभग अपरिहार्य होगा।

दरअसल, यह सुझाव देना कि इस प्रकार की एआई को शायद केवल तभी अपनाया जाएगा जब इसे प्राइम टाइम के लिए तैयार देखा जाएगा, थोड़ा गलत नाम है। इससे रत्ती भर फर्क नहीं पड़ेगा कि एआई इस तरीके से आश्वस्त रूप से काम कर सकता है या नहीं। एआई को एक कवर स्टोरी के रूप में इस्तेमाल किया जा सकता है, मेरा स्पष्टीकरण यहां देखें यहाँ लिंक. इसके बावजूद कि एआई वास्तव में क्या हासिल करने में सक्षम है, धारणा यह है कि एआई जनसंख्या की निगरानी और आकलन की योजनाओं को सामने लाने और अधिकारियों के प्रति पूर्ण वफादारी सुनिश्चित करने का एक आसान बहाना हो सकता है।

इस महत्वपूर्ण चर्चा के इस मोड़ पर, मैं शर्त लगा सकता हूँ कि आप कुछ उदाहरणात्मक उदाहरणों के इच्छुक हैं जो इस विषय को प्रदर्शित कर सकते हैं। उदाहरणों का एक विशेष और निश्चित रूप से लोकप्रिय सेट है जो मेरे दिल के करीब है। आप देखते हैं, एआई पर एक विशेषज्ञ के रूप में मेरी क्षमता में, जिसमें नैतिक और कानूनी प्रभाव शामिल हैं, मुझे अक्सर ऐसे यथार्थवादी उदाहरणों की पहचान करने के लिए कहा जाता है जो एआई एथिक्स दुविधाओं को प्रदर्शित करते हैं ताकि विषय की कुछ हद तक सैद्धांतिक प्रकृति को और अधिक आसानी से समझा जा सके। एआई-आधारित सच्ची सेल्फ-ड्राइविंग कारों का आगमन सबसे अधिक विकसित क्षेत्रों में से एक है जो इस नैतिक एआई विवाद को स्पष्ट रूप से प्रस्तुत करता है। यह विषय पर पर्याप्त चर्चा के लिए एक उपयोगी उपयोग के मामले या उदाहरण के रूप में काम करेगा।

यहाँ एक उल्लेखनीय प्रश्न है जो विचार करने योग्य है: क्या एआई-आधारित सच्ची सेल्फ-ड्राइविंग कारों के आगमन से एआई के दुरुपयोग के बारे में कुछ पता चलता है, और यदि हां, तो यह क्या दर्शाता है?

मुझे प्रश्न को अनपैक करने के लिए एक क्षण का समय दें।

सबसे पहले, ध्यान दें कि एक सच्ची सेल्फ-ड्राइविंग कार में कोई मानव चालक शामिल नहीं है। ध्यान रखें कि असली सेल्फ-ड्राइविंग कारें AI ड्राइविंग सिस्टम से चलती हैं। पहिए पर मानव चालक की आवश्यकता नहीं है, न ही मानव के लिए वाहन चलाने का प्रावधान है। स्वायत्त वाहनों (एवी) और विशेष रूप से सेल्फ-ड्राइविंग कारों के मेरे व्यापक और चल रहे कवरेज के लिए, देखें यहाँ लिंक.

मैं और स्पष्ट करना चाहता हूं कि जब मैं सच्ची सेल्फ-ड्राइविंग कारों का उल्लेख करता हूं तो इसका क्या मतलब होता है।

आत्म ड्राइविंग कारों के स्तर को समझना

स्पष्टीकरण के रूप में, सच्ची आत्म-ड्राइविंग कार वे हैं जहां एआई पूरी तरह से अपने दम पर कार चलाता है और ड्राइविंग कार्य के दौरान कोई मानव सहायता नहीं है।

इन चालक रहित वाहनों को स्तर 4 और स्तर 5 माना जाता है (मेरी व्याख्या देखें) इस लिंक यहाँ), जबकि एक कार जिसमें ड्राइविंग प्रयास को सह-साझा करने के लिए मानव चालक की आवश्यकता होती है, आमतौर पर स्तर 2 या स्तर 3 पर विचार किया जाता है। ड्राइविंग कार्य को सह-साझा करने वाली कारों को अर्ध-स्वायत्त होने के रूप में वर्णित किया जाता है, और आमतौर पर इसमें कई प्रकार के होते हैं स्वचालित ऐड-ऑन जिन्हें ADAS (उन्नत ड्राइवर-सहायता प्रणाली) कहा जाता है।

लेवल 5 पर अभी तक एक सच्ची सेल्फ-ड्राइविंग कार नहीं है, और हम अभी तक यह भी नहीं जानते हैं कि क्या यह हासिल करना संभव होगा, और न ही वहां पहुंचने में कितना समय लगेगा।

इस बीच, लेवल 4 के प्रयास धीरे-धीरे बहुत ही संकीर्ण और चयनात्मक सार्वजनिक सड़क मार्ग के परीक्षणों से गुजरते हुए कुछ कर्षण प्राप्त करने की कोशिश कर रहे हैं, हालांकि इस बात पर विवाद है कि क्या इस परीक्षण को प्रति अनुमति दी जानी चाहिए (हम सभी जीवन-या-मृत्यु गिनी सूअर एक प्रयोग में हैं हमारे राजमार्गों और मार्गों पर हो रही है, कुछ दावेदार, मेरे कवरेज को देखते हैं इस लिंक यहाँ).

चूंकि अर्ध-स्वायत्त कारों के लिए एक मानव चालक की आवश्यकता होती है, इसलिए उन प्रकार की कारों को अपनाना पारंपरिक वाहनों को चलाने की तुलना में अलग नहीं होगा, इसलिए इस विषय पर उनके बारे में कवर करने के लिए प्रति से ज्यादा कुछ नया नहीं है (हालांकि, जैसा कि आप देखेंगे एक पल में, अगले अंक आम तौर पर लागू होते हैं)।

अर्ध-स्वायत्त कारों के लिए, यह महत्वपूर्ण है कि जनता को परेशान करने वाले पहलू के बारे में पूर्वाभास करने की आवश्यकता है, जो हाल ही में उत्पन्न हुई है, अर्थात् उन मानव चालकों के बावजूद जो खुद को स्तर 2 या स्तर 3 कार के सोते हुए वीडियो पोस्ट करते रहते हैं , हम सभी को यह मानने में गुमराह होने से बचने की आवश्यकता है कि चालक अर्ध-स्वायत्त कार चलाते समय ड्राइविंग कार्य से अपना ध्यान हटा सकता है।

आप वाहन के ड्राइविंग क्रियाओं के लिए जिम्मेदार पक्ष हैं, भले ही स्वचालन को स्तर 2 या स्तर 3 में कितना उछाला जाए।

सेल्फ-ड्राइविंग कारें और एआई का दुरुपयोग

लेवल 4 और लेवल 5 के लिए सच सेल्फ-ड्राइविंग वाहन, ड्राइविंग कार्य में शामिल मानव चालक नहीं होंगे।

सभी रहने वाले यात्री होंगे।

एआई ड्राइविंग कर रहा है।

तुरंत चर्चा करने का एक पहलू इस तथ्य पर जोर देता है कि आज के एआई ड्राइविंग सिस्टम में शामिल एआई संवेदनशील नहीं है। दूसरे शब्दों में, AI पूरी तरह से कंप्यूटर-आधारित प्रोग्रामिंग और एल्गोरिदम का एक सामूहिक है, और सबसे अधिक आश्वस्त रूप से उसी तरीके से तर्क करने में सक्षम नहीं है जो मनुष्य कर सकते हैं।

एआई के संवेदनशील नहीं होने के बारे में यह अतिरिक्त जोर क्यों दिया जा रहा है?

क्योंकि मैं यह रेखांकित करना चाहता हूं कि जब एआई ड्राइविंग सिस्टम की भूमिका पर चर्चा हो रही है, तो मैं एआई को मानवीय गुणों का वर्णन नहीं कर रहा हूं। कृपया ध्यान रखें कि इन दिनों एंथ्रोपोमोर्फिफाई एआई के लिए चल रही और खतरनाक प्रवृत्ति है। संक्षेप में, लोग आज के एआई के लिए मानव जैसी भावना प्रदान कर रहे हैं, इसके बावजूद कि इस तरह का एआई अभी तक मौजूद नहीं है।

उस स्पष्टीकरण के साथ, आप कल्पना कर सकते हैं कि एआई ड्राइविंग सिस्टम ड्राइविंग के पहलुओं के बारे में मूल रूप से किसी तरह "जान" नहीं पाएगा। ड्राइविंग और इसके लिए जरूरी सभी चीजों को सेल्फ-ड्राइविंग कार के हार्डवेयर और सॉफ्टवेयर के हिस्से के रूप में प्रोग्राम करना होगा।

आइए इस विषय पर खेलने के लिए आने वाले पहलुओं के बारे में जानें।

सबसे पहले, यह महसूस करना महत्वपूर्ण है कि सभी AI सेल्फ-ड्राइविंग कारें समान नहीं होती हैं। प्रत्येक ऑटोमेकर और सेल्फ-ड्राइविंग टेक फर्म सेल्फ-ड्राइविंग कारों को तैयार करने के लिए अपना दृष्टिकोण अपना रही है। जैसे, एआई ड्राइविंग सिस्टम क्या करेगा या नहीं, इस बारे में व्यापक बयान देना मुश्किल है।

इसके अलावा, जब भी यह कहा जाता है कि एआई ड्राइविंग सिस्टम कुछ खास काम नहीं करता है, तो बाद में, यह डेवलपर्स द्वारा आगे निकल सकता है जो वास्तव में कंप्यूटर को उसी काम करने के लिए प्रोग्राम करता है। कदम दर कदम, एआई ड्राइविंग सिस्टम में धीरे-धीरे सुधार और विस्तार किया जा रहा है। एक मौजूदा सीमा आज भविष्य के पुनरावृत्ति या सिस्टम के संस्करण में मौजूद नहीं हो सकती है।

मुझे उम्मीद है कि जो मैं संबंधित करने जा रहा हूं उसे रेखांकित करने के लिए पर्याप्त चेतावनी प्रदान करता है।

आइए एक सेल्फ-ड्राइविंग कार परिदृश्य की रूपरेखा तैयार करें जो एआई का योजनाबद्ध या गलत तरीकों से लाभ उठा सकती है।

मैं आपके साथ एआई-आधारित सेल्फ-ड्राइविंग कार के कुछ प्रभाव साझा करने जा रहा हूं, जो आपको चौंका सकते हैं और परेशान कर सकते हैं। ये ऐसे पहलू हैं जिन पर वर्तमान में लगभग कोई भी चर्चा नहीं कर रहा है। मैंने बार-बार इस मामले को उठाया है, हालांकि खुले तौर पर स्वीकार करता हूं कि जब तक हम सेल्फ-ड्राइविंग कारों को प्रचलित रूप से नहीं अपनाते हैं, तब तक हमें इस बात पर ज्यादा ध्यान नहीं मिलेगा कि समाज आज जो महज अमूर्त धारणाओं के रूप में दिखता है, उसके बारे में चिंतित या परेशान है। .

क्या आप तैयार हैं?

हम कुछ शिलान्यास के साथ शुरुआत करेंगे।

एआई-आधारित सेल्फ-ड्राइविंग कारें वीडियो कैमरों से लैस होंगी, यह समझदारी की बात है। यह सेल्फ-ड्राइविंग कार को ड्राइविंग दृश्य की वीडियो इमेजरी प्राप्त करने की अनुमति देता है। बदले में, एआई ड्राइविंग सिस्टम जो सेल्फ-ड्राइविंग कार में कंप्यूटरों पर चल रहा है, का उद्देश्य एकत्र किए गए वीडियो की कम्प्यूटेशनल जांच करना और यह पता लगाना है कि सड़क कहां है, पास की कारें कहां हैं, पैदल यात्री कहां हैं, इत्यादि। मुझे एहसास हुआ कि मैं सेल्फ-ड्राइविंग कारों के 101 बुनियादी सिद्धांतों का पाठ कर रहा हूं।

स्वायत्त वाहन के बाहरी हिस्से पर वीडियो कैमरे लगे हैं और वे बाहर की ओर इशारा कर रहे हैं। इसके अलावा, कुल मिलाकर, आप उम्मीद कर सकते हैं कि वाहन पर या उसके अंदर सेल्फ-ड्राइविंग कार के अंदरूनी हिस्से में वीडियो कैमरे होंगे। ऐसा किस लिए? आसान-आसान, क्योंकि स्वायत्त वाहन के अंदर चल रही गतिविधियों को वीडियो कैप्चर करने के लिए कई महत्वपूर्ण उपयोग होंगे।

जब आप सेल्फ-ड्राइविंग कार में सफर के लिए जाते हैं, तो आपको ड्राइवर बनने की जरूरत नहीं है। तब आप सेल्फ-ड्राइविंग कार के अंदर रहकर क्या करेंगे?

एक चीज़ जो आप कर सकते हैं वह है घर या कार्यालय में दूसरों के साथ बातचीत करना। आप काम पर जा रहे हैं, यानी सेल्फ-ड्राइविंग कार से एक घंटे की ड्राइविंग का समय लें, और आप पहले से ही ज़ूम-जैसे ऑनलाइन रीयल-टाइम इंटरैक्टिव सत्र करके अपने काम के दिन की शुरुआत कर सकते हैं। सेल्फ-ड्राइविंग कार में अंदर की ओर लगे कैमरों के कारण वे आपको देख सकते हैं। आप उन्हें शायद सेल्फ-ड्राइविंग कार के अंदर एक एलईडी स्क्रीन पर देख सकते हैं। अपने दिन के अंत में, घर वापस जाते समय, आप अपने बच्चों के साथ इसी तरह की इंटरैक्टिव वीडियो चर्चा कर सकते हैं क्योंकि वे शाम के लिए अपना होमवर्क करना शुरू कर रहे हैं।

दूसरा उपयोग कक्षाएं लेने के लिए होगा। अब आपको ड्राइविंग में अपना समय बर्बाद करने की ज़रूरत नहीं है, आप सेल्फ-ड्राइविंग कार के अंदर उस बेकार समय को अपने कौशल को बढ़ाने या प्रमाणन या डिग्री प्राप्त करने में बदल सकते हैं। अंदर की ओर इशारा करने वाले कैमरों के माध्यम से, आपका प्रशिक्षक आपको देख सकता है और चर्चा कर सकता है कि आपका प्रशिक्षण कैसा चल रहा है।

एक अन्य उपयोग यह सुनिश्चित करने का प्रयास करना होगा कि सेल्फ-ड्राइविंग कारों में सवार अनियंत्रित न हों। मानव-चालित कार में, ड्राइवर एक वयस्क व्यक्ति होता है जो आम तौर पर सवारों को भित्तिचित्रों के साथ इंटीरियर को चिह्नित करने जैसी अजीब चीजें करने से रोकता है। AI-आधारित सेल्फ-ड्राइविंग कारों का क्या होगा? कुछ लोगों को चिंता है कि सवारियाँ वाहनों के अंदरूनी हिस्से को फाड़ने का विकल्प चुनेंगी। इसे रोकने की कोशिश करने के लिए, राइडशेयरिंग फर्म जो सेल्फ-ड्राइविंग कारों को तैनात कर रही है, संभवतः स्वायत्त वाहन के अंदर लोग क्या कर रहे हैं, इसकी निगरानी के लिए इनवर्ड-फेसिंग वीडियो कैमरों का उपयोग करेगी।

मैं मानता हूं कि आप आश्वस्त हैं कि हमारे पास ऐसे वीडियो कैमरे होंगे जो सेल्फ-ड्राइविंग कारों के इंटीरियर की ओर इशारा करेंगे, इसके अलावा ऐसे कैमरे भी होंगे जो ड्राइविंग दृश्य को समझने के लिए बाहर की ओर इशारा करेंगे।

अब आप उसके लिए तैयार हैं जिसे मैंने घूमती हुई आँख कहा है, मेरा विश्लेषण देखें यहाँ लिंक.

सबसे पहले, उन वीडियो कैमरों पर विचार करें जो बाहर की ओर इशारा कर रहे हैं।

सेल्फ-ड्राइविंग कार जहां भी जाएगी, कैमरे जो कुछ भी देखेंगे, संभवतः उसका वीडियो रिकॉर्ड करने में सक्षम होगी। एक सेल्फ-ड्राइविंग कार जो किसी को उनके घर से लिफ्ट देती है और उन्हें किराने की दुकान तक ले जाती है, पड़ोस से होकर गुजरेगी और वीडियो न केवल सड़क मार्ग बल्कि आंखों की रोशनी में होने वाली हर चीज को भी रिकॉर्ड करेगा। एक पिता और पुत्र अपने सामने वाले आँगन में खेल रहे हैं। एक परिवार अपने सामने बरामदे पर बैठा है। यह निरंतर जारी रहता है।

अभी, हमारे पास सार्वजनिक सड़कों पर इतनी कम स्वचालित कारें हैं कि दैनिक गतिविधियों के वीडियो कैप्चर करने की क्षमता अपेक्षाकृत दुर्लभ और सारहीन है।

कल्पना करें कि हम अंततः सुरक्षित और व्यापक सेल्फ-ड्राइविंग कारें प्राप्त कर लें। उनमें से हजारों. शायद लाखों. आज अमेरिका में हमारे पास लगभग 250 मिलियन मानव-चालित कारें हैं। आख़िरकार, उन्हें स्व-चालित कारों द्वारा प्रतिस्थापित कर दिया जाएगा या बस अब उनका उपयोग नहीं किया जाएगा, और हमारे सड़कों पर मुख्य रूप से स्व-ड्राइविंग कारें होंगी। वे सेल्फ-ड्राइविंग कारें AI द्वारा संचालित की जा रही हैं और अनिवार्य रूप से 24×7 घूम सकती हैं। कोई विश्राम अवकाश नहीं, कोई बाथरूम अवकाश नहीं।

इन सेल्फ-ड्राइविंग कारों से OTA (ओवर-द-एयर) इलेक्ट्रॉनिक नेटवर्किंग कनेक्शन के माध्यम से वीडियो डेटा अपलोड किया जा सकता है। सेल्फ-ड्राइविंग कारें वाहन में नवीनतम एआई सॉफ़्टवेयर अपडेट डाउनलोड करने के लिए ओटीए का उपयोग करेंगी। इसके अलावा, ओटीए का उपयोग सेल्फ-ड्राइविंग कार से क्लाउड-आधारित डेटाबेस में डेटा अपलोड करने के लिए किया जा सकता है।

सभी ने बताया, इस अपलोड किए गए डेटा को एक साथ जोड़ना संभव होगा। सिलाई के साथ, आप संभावित रूप से किसी भी ऐसे स्थान पर किसी भी दिन बाहर निकलने वाले किसी भी व्यक्ति के दैनिक आने और जाने को एक साथ जोड़ सकते हैं जो बड़े पैमाने पर सेल्फ-ड्राइविंग कारों का उपयोग कर रहा था।

यही वह घूमती हुई आँख है जिसके बारे में मैं चेतावनी देता रहा हूँ।

अब हम सीसीपी अध्ययन को इस प्रकार की क्षमता में समाहित कर सकते हैं। मान लीजिए कि किसी सरकार के पास इस एकत्रित वीडियो डेटा तक पहुंच है। फिर वे यह पता लगाने के लिए एआई-आधारित चेहरे की पहचान एल्गोरिदम का उपयोग कर सकते हैं कि आप अपने जीवन की दैनिक यात्राओं के दौरान दिन के किस समय कहां गए थे। इसके अलावा, वे संभवतः अपने "वफादारी" एआई-आधारित विश्लेषक का उपयोग यह देखने के लिए कर सकते हैं कि आपके चेहरे पर एक वफादार नज़र आ रही है या नहीं।

ज़रा कल्पना करें कि मंगलवार की दोपहर को आप एक स्थानीय भोजनालय में सैंडविच लेने के लिए जा रहे थे। सड़क पर सेल्फ-ड्राइविंग कारें गुजर रही थीं। जब आप कुछ खाने के लिए पांच मिनट की पैदल दूरी पर थे, तो सभी वीडियो ने आपको कैद कर लिया। डेटा को एक केंद्रीकृत डेटाबेस पर अपलोड किया गया था। सरकार ने डेटा पर अपना AI फेशियल रिकग्निशन प्रोग्राम चलाया।

एआई ने यह "निर्धारित" कर दिया कि आपके चेहरे पर एक विश्वासघाती भाव था।

शायद ये बेवफ़ाई नज़र एक पल के लिए ही थी. आप सड़क के एक कोने पर रोशनी बदलने का इंतज़ार कर रहे थे ताकि आप सड़क पार करके भोजनालय तक जा सकें। उस क्षण, आपको थोड़ी सी घृणा महसूस हुई कि आपको वॉक प्रतीक के लिए बहुत लंबे समय तक इंतजार करना पड़ा। क्या यह शायद सरकार के प्रति आपकी बेवफाई का संकेत था?

हां, एआई कम्प्यूटेशनल रूप से गणना की गई, आप उस समय प्रचुर मात्रा में बेवफा थे। जब आप उस रात घर पहुंचेंगे, तो सरकार ने आपकी गिरफ्तारी की व्यवस्था की है।

लेकिन रुकिए, और भी है।

याद रखें कि वीडियो कैमरे भी अंदर की ओर इशारा कर रहे हैं।

उसी मंगलवार को, जब आप सेल्फ-ड्राइविंग कार में काम करने जा रहे थे, तो वीडियो कैमरे आपके हर पल को कैद कर रहे थे। इसे एक केंद्रीकृत डेटाबेस पर अपलोड किया गया था। एआई सॉफ्टवेयर जो बेवफाई के लिए चेहरे के पैटर्न का विश्लेषण करता है, उसने कार्यालय की यात्रा के दौरान आपके चेहरे के भावों की एक कम्प्यूटेशनल पैटर्न जांच की।

एक बिंदु पर, आप लापरवाही से स्वायत्त वाहन के बाहर देख रहे थे और एक निर्माण श्रमिक को देखा जो आंशिक रूप से सड़क को अवरुद्ध कर रहा था और एआई ड्राइविंग सिस्टम के कारण स्व-ड्राइविंग कार की गति धीमी हो गई थी। एक सेकंड के लिए, आपके चेहरे पर इस निर्माण श्रमिक द्वारा यातायात को धीमा करने के लिए उपहास की झलक दिखाई दी।

एआई फेशियल पैटर्न विश्लेषण ने इसे सरकार के प्रति बेवफाई के संकेत के रूप में व्याख्यायित किया।

एक ही दिन में आप पर दो हमले।

आप पतली बर्फ पर रह रहे हैं.

बेशक, आपकी वफादारी निर्धारित करने में एआई "सही" है या "गलत" है, इस संदर्भ में यह लगभग अप्रासंगिक है। सार यह है कि इस उद्देश्य के लिए एआई को स्थापित किया गया है। जो मनुष्य एआई को तैनात कर रहे हैं उन्हें इस बात की परवाह हो भी सकती है और नहीं भी कि इस प्रकार के कार्य के लिए एआई का कोई उपयुक्त उपयोग है या नहीं। एआई तकनीकी वैधता की परवाह किए बिना सरकारी नियंत्रण की अनुमति देता है।

इसमें चेहरे की स्कैनिंग शामिल है।

यदि हमारे पास अंततः (कथित) ब्रेनवेव स्कैनिंग करने के लिए किसी प्रकार का पोर्टेबल लागत प्रभावी उपकरण है, तो इसे निश्चित रूप से सेल्फ-ड्राइविंग कारों में भी शामिल किया जा सकता है। वीडियो कैमरे अब एक निश्चित चीज़ हैं। इस क्षमता के ब्रेनवेव स्कैन डिवाइस होने की संभावना फिलहाल नहीं है, लेकिन स्पष्ट रूप से भविष्य के लिए इसकी कल्पना की जा रही है।

मेरी खोज के लिए कि कैसे एक सरकार स्व-चालित कारों पर नियंत्रण हासिल करके जनता पर कब्ज़ा करने की कोशिश कर सकती है, देखें यहाँ लिंक. ऐसी ही संभावना मौजूद है कि कोई दुर्भावनापूर्ण अभिनेता भी ऐसा ही करने का प्रयास कर सकता है, देखिए यहाँ लिंक. इनका उद्देश्य उन संबंधित विषयों पर कवरेज के संबंध में डराने वाली रणनीति नहीं है, बल्कि, साइबर सुरक्षा और अन्य सावधानियों के महत्व पर ध्यान देना है, एक समाज के रूप में हमें सर्वव्यापी सेल्फ-ड्राइविंग कारों की शुरुआत के संबंध में ध्यान रखना चाहिए और अन्य स्वायत्त वाहन।

निष्कर्ष

मैं निष्ठा सुनिश्चित करने के लिए उपयोग किए जा रहे एआई के बारे में एक अतिरिक्त पहलू को शीघ्रता से कवर करना चाहूंगा जो मुझे लगता है कि एक अलग विषय है, लेकिन कुछ ट्वीट्स और सोशल मीडिया इस पर विस्तार से चर्चा कर रहे हैं।

मैंने पहले उल्लेख किया था कि हमारे पास संवेदनशील एआई नहीं है और हम नहीं जानते कि हमारे पास कब होगा या नहीं। आइए इस विचार पर विचार करें कि हमारे पास संवेदनशील एआई होगा। उस स्थिति में, निम्नलिखित परिदृश्य पर विचार करें.

हम गैर-संवेदनशील एआई के माध्यम से एआई का व्यापक उपयोग करने का विकल्प चुनते हैं जो चेहरे के स्कैन, ब्रेनवेव स्कैन आदि का उपयोग करके कम्प्यूटेशनल रूप से पता लगाता है कि लोग अपनी सरकार के प्रति वफादार हैं या नहीं। यह पूरी तरह से सत्ता में बैठे मनुष्यों द्वारा संचालित और उपयोग किया जाता है। यह वह परेशान करने वाला परिदृश्य है जिसका मैंने कुछ क्षण पहले ही वर्णन किया था।

आगे बढ़ने का समय।

एआई संवेदनशील हो जाता है. हमने अब संभावित रूप से इस संवेदनशील एआई को मनुष्यों में वफादारी और बेवफाई की पहचान करने की व्यापक क्षमता सौंप दी है। एक दुष्ट एआई जो मनुष्यों को ख़त्म करने पर विचार कर रहा है, इस क्षमता का उपयोग यह निर्णय लेने के लिए कर सकता है कि वास्तव में मनुष्य विश्वासघाती होने जा रहे हैं और उन्हें पूरी तरह से नष्ट कर दिया जाना चाहिए। या हो सकता है कि केवल वे मनुष्य जो अपने चेहरे या अपने विचारों के माध्यम से बेवफाई का संकेत दिखाते हैं, उन्हें विशेष रूप से समाप्त कर दिया जाना चाहिए।

दूसरा पहलू यह है कि एआई इंसानों को गुलाम बनाना चाहता है, मेरी चर्चा यहां देखें यहाँ लिंक.

ऐसा प्रतीत होता है कि हमने उस खोज को पूरा करने के लिए एआई को एक आदर्श उपहार दिया है। हमने जो मौजूदा बुनियादी ढांचा तैयार किया है, वह एआई को हम इंसानों पर सावधानीपूर्वक नजर रखने की अनुमति देता है। ऐसा प्रतीत होता है कि जिन लोगों ने एआई अधिपतियों के बारे में बेईमान चेहरे का संकेत या विचार व्यक्त किया है, वे एआई के क्रोध को महसूस करने जा रहे हैं।

मुझे एहसास हुआ कि मैंने कहा था कि यह पूर्व की भावना को बढ़ा रहा है। मुझे यकीन नहीं है कि मामला यही है. मुझे ऐसा लगता है कि क्या हमारे पास एआई अधिपति हैं जो सीधे तौर पर हमारे भाग्य का फैसला करते हैं, बनाम मानव अधिपति जो संभवतः वफादारी निर्धारित करने के लिए एआई प्रणाली का उपयोग करते हैं, ठीक है, कोई भी प्रस्ताव विशेष रूप से वांछनीय नहीं लगता है।

अभी के लिए एक अंतिम टिप्पणी।

रोमन विद्वान और दार्शनिक मार्कस ट्यूलियस सिसरो ने कहा कि वफादारी से अधिक महान, अधिक सम्मानजनक कुछ भी नहीं है। हम शायद एआई को अपने से आगे निकलने दे रहे हैं और भयानक तरीकों से भर्ती करने और "वफादारी" सुनिश्चित करने का एक उपकरण बन गए हैं।

एआई एथिक्स को हमारी टू-डू सूची में शीर्ष पर रखने का एक सार्थक कारण।