टेस्ला और अन्य बड़ी टेक फर्मों में, यह मशीनें नहीं हैं, बल्कि उनके पीछे की धारणाएँ समस्याएँ पैदा करती हैं

नई प्रौद्योगिकियां हमेशा नर्वस नेल्लियां लाती हैं। 370 ईसा पूर्व में प्लेटो ने अपनी पुस्तक में विचार किया फीड्रस कि लेखन के प्रति बढ़ी हुई "प्रवृत्ति" पुरुषों को प्रेरित करेगी अपनी सारी संचित बुद्धि खो देते हैं. 1880 के दशक में, बिजली के बटन, सभी चीजों के कारण हम सभी को डर लगता था द्वारा हमारी रचनात्मकता खो देते हैं एक बटन को हमारे लिए एक कार्य करने देना। हमारी पीढ़ी में, इस बात का गहरा डर रहा है कि वीडियो गेम का कोई भी एक्सपोजर सड़ जाएगा बच्चों का दिमाग. ऐसे सिद्धांत अक्सर अंततः खुद को गलत साबित करते हैं। लेकिन कभी-कभी, हम जो उम्मीद कर सकते थे वह विज्ञान कथा के दायरे में रहेगा, वास्तविकता बन जाती है।

हमें पिछले कुछ महीनों में बेलगाम प्रौद्योगिकी अपनाने के खतरों के बारे में दो बहुत मजबूत अनुस्मारक मिले हैं। हमारे सबसे बुरे सपने सच हो गए, और जीवन अपूरणीय क्षति हुई:

• टेस्ला नेता एलोन मस्क द्वारा ट्विटर पर अपनी सेल्फ-ड्राइविंग कारों के बारे में बताने के कुछ ही घंटों के भीतर, सेल्फ-ड्राइव मोड में एक टेस्ला ने बे ब्रिज, 4-लेन, तेजी से चलने वाली सड़क के किनारे खींचने का फैसला किया। 8-कार दुर्घटना का कारण बना दो साल के बच्चे समेत 9 लोग घायल यह उन सैकड़ों दुर्घटनाओं में से एक है जो टेस्ला के सेल्फ-ड्राइविंग सिस्टम के कारण हुई हैं, जिसके कारण 19 के बाद से 2016 मौतें।
• रैंडल रीड अपनी मां के साथ विलम्बित थैंक्सगिविंग डिनर के लिए जा रहे थे जब पुलिस ने उन्हें रोका और एक सप्ताह के लिए जेल में डाल दिया। फेस-मैचिंग सॉफ्टवेयर ने उसे एक संदिग्ध के रूप में चिह्नित किया था लुइसियाना के एक लक्ज़री पर्स चोरी मामले में। एकमात्र समस्या? उन्होंने राज्य में कभी पैर नहीं रखा। लेकिन, 28 वर्षीय जॉर्जिया निवासी अफ्रीकी-अमेरिकी है और चेहरे की पहचान करने वाले सॉफ्टवेयर की काले चेहरों के बीच सटीक अंतर करने में असमर्थता के लिए व्यापक रूप से आलोचना की गई है।

"उन्होंने मुझे बताया कि मेरे पास जेफरसन पैरिश का वारंट था। मैंने कहा, 'जेफरसन पैरिश क्या है?'” रीड एपी को नोट किया। "मैं अपने जीवन में एक दिन भी लुइसियाना नहीं गया। तब उन्होंने मुझे बताया कि यह चोरी के लिए था। इसलिए न केवल मैं लुइसियाना नहीं गया, बल्कि मैं चोरी भी नहीं करता।

शायद एलोन मस्क के बचाव में नहीं, लेकिन स्पष्टीकरण के माध्यम से, उन्होंने अक्सर नोट किया है उनका परोपकारी लक्ष्य अंततः कारों को मनुष्यों से अधिक स्मार्ट बनाकर यातायात दुर्घटनाओं और मौतों की संख्या को कम करना है। और यह कि उन कारों को स्मार्ट बनाने के लिए उन्हें स्थानांतरित करने की आवश्यकता हो सकती है तेजी से (शाब्दिक रूप से) और वास्तविक सड़कों पर कुछ चीजें (भी, शाब्दिक रूप से) तोड़ें।

यह वह जगह है जहां कोई अपने लक्ष्यों के साथ संरेखित हो सकता है - सुरक्षित सड़कें - लेकिन उनके तरीकों - मानव प्रयोग पर विवाद करता है। हम मनुष्यों पर दवा का परीक्षण करने से चले गए- उनकी सहमति के बिना, के मामले में नाज़ी जर्मनी और Tuskegee "अध्ययन" - चूहों के लिए, जो सहमति नहीं दे सकते - सौंदर्य प्रसाधन जैसे उद्योगों के लिए जीवन, मानव, पशु या अन्यथा की लागत के बिना उत्पादों का परीक्षण कैसे करें। क्या रास्ते में लोगों को नुकसान पहुँचाए बिना तकनीक का परीक्षण किया जा सकता है? यह वह जगह है जहां हम - और सरकारी नियामक निकाय - इस बारे में चुनाव करते हैं कि हम अपने नागरिकों को किस तरह के प्रयोग करने के लिए तैयार हैं।

और फिर आर्टिफिशियल इंटेलिजेंस के मामले में, उचित चिंता व्यक्त की गई है कि तकनीकी टीमों के संदर्भ में जो आमतौर पर हमारे वैश्विक दुनिया की विविधता का अभाव है जहां 85% से अधिक लोग एशिया, अफ्रीका और लैटिन अमेरिका में रहते हैं, वहाँ है भारी नुकसान की संभावना है किया जा सकता है यदि प्रौद्योगिकियां अपने डिजाइनों में विविधता को शामिल करने में विफल। लोग टिमनिट गेब्रू को पसंद करते हैं ऐ में काला मशीनों के पीछे लोगों को जवाबदेह रखने की कोशिश करने का कठिन परिश्रम कर रहे हैं लेकिन किया है बहुत विपरीत परिस्थितियों का सामना करना पड़ा इस शोध को नियंत्रित करने वाली आर्थिक ताकतों को देखते हुए।

अगर हम सेल्फ-ड्राइविंग कारों को अस्वीकार करते हैं तो हमें घोड़ों और बग्गियों पर वापस जाने की जरूरत नहीं है। हम जो कर सकते हैं वह अगले दशक के लिए एक नए तकनीकी आदर्श वाक्य के लिए एक वकील है: "धीमी गति से आगे बढ़ें और कम तोड़ें।"

इसी तरह, हरमंत तेनजा ने में लिखा था हार्वर्ड बिजनेस रिव्यू, "न्यूनतम व्यवहार्य उत्पादों" को "न्यूनतम गुणी उत्पादों" द्वारा प्रतिस्थापित किया जाना चाहिए - नई पेशकशें जो हितधारकों पर प्रभाव के लिए परीक्षण करती हैं और संभावित नुकसान के खिलाफ गार्ड में निर्मित होती हैं। वह आठ प्रश्न प्रस्तुत करता है जो आज के तकनीकी उद्यमियों को अवश्य पूछने चाहिए, जिनमें शामिल हैं:

• आप अपने उत्पाद के साथ क्या प्रणालीगत, सामाजिक परिवर्तन करना चाहते हैं?
• आप अपने उत्पाद के गुणों को कैसे बनाए रखेंगे?
• जिम्मेदारी से डेटा और एआई का लाभ उठाने के लिए आपका ढांचा क्या है?
• आप अपने व्यवसाय के संदर्भ में विविधता को कैसे परिभाषित और बढ़ावा देते हैं?

उद्यमी अपने उत्पादों के लिए इन प्रश्नों पर विचार कर सकते हैं। और फिर उपभोक्ताओं के लिए, अपना चेहरा नवीनतम, सबसे बड़ी, अवतार उत्पन्न करने वाली सेवा की ओर मोड़ने से पहले, यह दो बार सोचना बुद्धिमानी हो सकती है कि यह आपको कैसे काट सकता है। हमें प्रौद्योगिकी को अनदेखा करने की आवश्यकता नहीं है - लेकिन शायद हम प्रौद्योगिकी के अधिक जागरूक उपभोक्ता बनना सीख सकते हैं।