एआई नैतिकता सावधानी से मूल्यांकन करती है कि क्या एआई पूर्वाग्रहों को पकड़ने और पकड़ने के लिए इनाम की पेशकश करना नैतिक रूप से दुष्ट पूरी तरह से स्वायत्त प्रणाली विवेकपूर्ण या व्यर्थ है

चाहता था: एआई पूर्वाग्रह शिकारी.

यह एक आधुनिक विज्ञापन हो सकता है जिसे आप सोशल मीडिया चैनलों पर पॉप अप होते और विभिन्न ऑनलाइन जॉब पोस्टिंग में दिखाई देना शुरू कर देंगे। यह अपेक्षाकृत नई अवधारणा या भूमिका है. यह अपने साथ विवाद लेकर आता है। कुछ उत्साही आस्तिक उत्साहपूर्वक तर्क देते हैं कि इसका बहुत अर्थ है और ऐसा हमेशा होता रहना चाहिए, जबकि अन्य लोग घबराहट के साथ कुछ गंभीर माथापच्ची कर रहे हैं और निश्चित नहीं हैं कि यह एक अच्छा विचार है।

भूमिका का सार एआई से किसी भी छिपे हुए पूर्वाग्रह या अंतर्निहित भेदभावपूर्ण प्रथाओं को दूर करना है। बचाव के लिए उत्सुक और पूरी तरह से पूर्ववर्ती एआई पूर्वाग्रह शिकारी आते हैं। वे संभवतः कंप्यूटर-प्रेमी इनाम शिकारी होंगे। इससे भी अधिक, उम्मीद है, एआई क्षमताओं की गहराई में डूबा हुआ।

बंदूक है, यात्रा करूंगा, और एआई-कुशल गहरी निशानेबाजी के माध्यम से उन अप्रिय और अप्रिय एआई पूर्वाग्रहों को उजागर करने में सक्षम हो सकता हूं।

जब एआई पूर्वाग्रहों की खोज की बात आती है तो इस तरह की रणनीति अपनाने की संवेदनशीलता के बारे में कई कांटेदार सवाल उठते हैं। जैसा कि मैं क्षणिक चर्चा करूंगा, कृपया जान लें कि एआई का आगमन अपने साथ एआई पूर्वाग्रहों का उद्भव भी लेकर आया है। एआई पूर्वाग्रहों की एक धार। एआई एथिक्स और एथिकल एआई के मेरे चल रहे और व्यापक कवरेज के लिए, देखें यहाँ लिंक और यहाँ लिंक, कुछ लोगों का नाम बताने के लिए।

हम कैसे पता लगाएं कि किसी विशेष एआई सिस्टम में पूर्वाग्रह हैं?

आप ऐसा करने के लिए AI डेवलपर्स को सौंप सकते हैं जिन्होंने AI तैयार किया है। बात यह है कि, वे पूर्वाग्रहों में इतने फंसे हो सकते हैं कि वे स्वयं अपने मनगढ़ंत एआई के भीतर पूर्वाग्रहों को नहीं पहचान सकते हैं। यह सब उन्हें अच्छा लगता है. या हो सकता है कि वे एआई के बारे में इतने उत्साहित हों और इसके बारे में आत्म-गौरव की भावना रखते हों कि पूर्वाग्रहों के लिए इसकी जांच करने के लिए आलोचनात्मक नज़र रखना मुश्किल होगा और वास्तव में निराशाजनक होगा। ऐसे कई अन्य कारण हो सकते हैं जो एआई डेवलपर्स को इस कार्य को करने से रोकते हैं, जिनमें एम्बेडेड पूर्वाग्रहों को समझने के लिए कौशल की कमी, ऐसा करने के लिए किसी प्रोजेक्ट में समय की कमी आदि शामिल हैं।

ठीक है, तो आगे बढ़ें और आपके लिए गंदा काम करने के लिए बाहरी सलाहकारों को नियुक्त करें। पता चला कि सलाहकार पक्षपात के लिए आपके एआई की खुशी-खुशी जांच करेंगे, और ऐसा करने के लिए आपसे एक अच्छा पैसा वसूलेंगे (बहुत सारे पैसे)। यह समझें कि आपको अपने एआई सिस्टम को गति देने के लिए भुगतान करना होगा। फिर आपको उन्हें इधर-उधर घूमाने की ज़रूरत है, जिसमें अनगिनत महँगे श्रमसाध्य घंटे लग सकते हैं। यदि आपके पास इसके लिए बजट है तो सलाहकारों का उपयोग करना एक विकल्प है।

उन घातक एआई पूर्वाग्रहों को कैसे खोजा जाए, इसके संभावित "अंतराल" में वीर और तेजतर्रार एआई पूर्वाग्रह वाले इनामी शिकारी आते हैं।

आप आमतौर पर उन्हें अग्रिम भुगतान नहीं करते हैं। वे अपने समय पर एआई पूर्वाग्रहों का पता लगाने की कोशिश करते हैं और ऐसा करते समय उन्हें अपना बिल स्वयं ही भरना पड़ता है। यदि वे सफलतापूर्वक पक्षपात का पता लगा लेते हैं तो ही उन्हें भुगतान मिलता है। मुझे लगता है कि आप आसानी से इस बात पर जोर दे सकते हैं कि उचित तरीके से सोचने पर, इनामी शिकारी की यही पारंपरिक परिभाषा है। सफल होने पर भुगतान पाएं. यदि आप सफल नहीं हैं तो भुगतान न लें। अवधि, कहानी का अंत.

इनाम कार्यक्रम कम से कम रोमनों के समय से अस्तित्व में हैं और इस प्रकार हम अनुमान लगा सकते हैं कि वे काम करते हैं, इन सभी वर्षों में एक अभ्यास के रूप में सफलतापूर्वक कायम रहे हैं।

यहां आपके लिए ऐतिहासिक सामान्य ज्ञान का एक आकर्षक अंश है। कथित तौर पर, पोम्पेई शहर में रोमन साम्राज्य के दौरान पोस्ट किए गए एक संदेश में घोषणा की गई थी कि एक छोटी सी दुकान से गायब हुए तांबे के बर्तन को खोजने के लिए इनामी शिकारियों की आवश्यकता थी। तांबे के बर्तन की बरामदगी का इनाम पैंसठ कांस्य सिक्कों का एक प्रभावशाली पुरस्कार था। यह कहते हुए खेद है कि हमें नहीं पता कि क्या किसी इनामी शिकारी को तांबे का बर्तन मिला और उसने कांस्य के सिक्कों पर दावा किया, लेकिन हम जानते हैं कि इनामी शिकार निश्चित रूप से उन प्राचीन काल से जारी है।

अधिक आधुनिक समय में, आप जानते होंगे कि 1980 के दशक में कंप्यूटर बग या ऑफ-द-शेल्फ सॉफ़्टवेयर पैकेजों में त्रुटियों को खोजने के लिए कुछ उल्लेखनीय इनाम की पेशकश की गई थी और फिर 1990 के दशक में नेटस्केप ने अपने वेब ब्राउज़र में बग ढूंढने के लिए स्पष्ट रूप से इनाम की पेशकश की थी। (ऐसा करने वाली वह उस समय की सबसे प्रमुख फर्मों में से एक बन गई)। Google और Facebook दोनों ने क्रमशः 2010 और 2013 में बग्स के लिए इनाम शिकार का विकल्प चुना था। कुछ साल बाद, 2016 में अमेरिकी रक्षा विभाग (डीओडी) भी "हैक द पेंटागन" इनाम के प्रयास में शामिल हो गया (ध्यान दें कि सार्वजनिक रूप से केंद्रित इनाम विभिन्न DoD-संबंधित वेबसाइटों में पाए जाने वाले बग के लिए था, न कि इसमें) रक्षा मिशन-महत्वपूर्ण सिस्टम)।

आइए बग बाउंटी विषय पर अधिक गहराई से विचार करें। मुझे एहसास है कि मैं इस चर्चा में मुख्य रूप से इनाम शिकार में एआई पूर्वाग्रहों के बारे में बात करना चाहता हूं, लेकिन बग बाउंटी क्षेत्र में कुछ काफी प्रासंगिक समानताएं हैं।

कुछ लोग स्पष्ट रूप से हैरान हैं कि कोई भी कंपनी अपने सिस्टम में बग (या, इस मामले में, एआई पूर्वाग्रह) खोजने के लिए इनाम देना चाहेगी।

सतह पर, यह एक "आप इसके लिए पूछ रहे हैं" प्रकार की रणनीति की तरह लगता है। यदि आप दुनिया को बताते हैं कि आप उन लोगों का स्वागत करते हैं जो आपके सॉफ़्टवेयर में छेद ढूंढने का प्रयास कर सकते हैं, तो यह चोरों को आगे बढ़ने और आपके घर में सेंध लगाने का प्रयास करने के लिए कहने के समान प्रतीत होता है। यहां तक ​​कि अगर आप पहले से ही मानते हैं कि आपके पास एक बहुत अच्छा बर्गलर अलार्म सिस्टम है और कोई भी आपके सुरक्षित घर में प्रवेश नहीं कर पाएगा, तो कल्पना करें कि आप चोरों से पूछ रहे हैं और वास्तव में उनसे विनती कर रहे हैं कि सभी आपके निवास स्थान पर आएं और देखें कि क्या वे ऐसा कर सकते हैं इसमें दरार डालो. ओह, मुसीबतें हम अपने लिए बुनते हैं।

इनाम शिकारियों से आपके एआई में पूर्वाग्रह खोजने के लिए कहने के बारे में भी यही कहा जा सकता है।

सबसे पहले, शायद इसका तात्पर्य यह है कि आप पहले से ही विश्वास करते हैं या यहां तक ​​​​कि पूरी तरह से जानते हैं कि आपके एआई में पूर्वाग्रह हैं। यह एक आश्चर्यजनक रूप से स्पष्ट निहित स्वीकृति है जिसे करने के लिए बहुत कम लोग इच्छुक होंगे और संभावित रूप से इसका उल्टा असर हो सकता है।

दूसरा, आप निश्चित रूप से नहीं जानते कि वे इनामी शिकारी क्या कर सकते हैं। वे पूरी दुनिया को यह बताने का विकल्प चुन सकते हैं कि उन्हें आपके एआई में पक्षपात मिला है। किसी का मानना ​​है कि इससे इनाम पाने से हाथ धोना पड़ सकता है, हालांकि कुछ लोग ध्यान आकर्षित करना पसंद कर सकते हैं या परामर्श कार्यक्रमों और अन्य राजस्व-सृजन संभावनाओं को प्राप्त करने के लिए अपनी स्थिति को मजबूत करने का लक्ष्य रख सकते हैं। यह शायद पूरी तरह से परोपकारी हो सकता है। यह एआई सक्रियता का एक रूप हो सकता है। मैं चलता रह सकता हूं.

तीसरा, पूरे मामले में एक गुप्त मोड़ आ सकता है। एआई पूर्वाग्रहों की खोज करने का दावा करने वाला एक इनामी शिकारी आपके एआई सिस्टम पर हमला करने के तरीके खोजने के लिए शैतानी कर सकता है। यह पूरी चीज़ अंततः एक गंभीर साइबर हमला करने का एक नाटक है। आपने शायद मान लिया होगा कि वे मदद करने की कोशिश कर रहे थे, जबकि उनके दिलों में गलत काम हैं। दुखद, लेकिन संभव है.

चौथा, हम इस मामले पर और भी अधिक चालाकी से उलझ सकते हैं। एक इनामी शिकारी को कुछ शर्मनाक और संभावित रूप से मुकदमा-प्रेरित एआई पूर्वाग्रह मिलते हैं। इनाम कुछ डॉलर की राशि है जिसे हम एक्स कहेंगे। इनाम का दावा करने के बजाय, इनाम शिकारी एक प्रकार का अजीब रैंसमवेयर उकसावे का काम करता है। यदि आप इनाम शिकारी को एक्स या शायद आसमान की सीमा से दस गुना अधिक राशि का भुगतान करते हैं, तो वे आपको एआई पूर्वाग्रहों के बारे में बताएंगे। उत्तर देने के लिए आपके पास रविवार की आधी रात तक का समय है। उस समय के बाद, एआई पूर्वाग्रह सभी के सामने उजागर हो जाएंगे। ओह, यह एक भयावह स्थिति है।

पांचवां, नवीनतम वे तथाकथित "हैक टू रिटर्न" साइबर बदमाश हैं जो ऑनलाइन आटे का एक गुच्छा चुराने के बाद, पश्चाताप करने और गलत तरीके से अर्जित की गई कुछ लूट को वापस करने का फैसला करते हैं। कंपनी को अपना पैसा आंशिक रूप से वापस मिल जाता है, फिर शेष चुराई गई राशि को चोरों को इनाम के रूप में देने पर विचार करने को तैयार होती है। ऐसा लगता है कि हर कोई इसमें "जीत" रहा है कि अधिकांश धन वापस दे दिया गया है और इस बीच साइबर बदमाशों का कानूनी रूप से पीछा नहीं किया जाता है, साथ ही उन्हें समुद्री डाकू का इनाम भी मिलता है। क्या यह विवेकपूर्ण है या कपटपूर्ण ढंग से ग़लत कार्यों को जारी रखना है?

मुझे एहसास है कि आप में से कुछ लोग कह रहे होंगे कि किसी को भी एआई जारी नहीं करना चाहिए जिसमें कोई पूर्वाग्रह हो। ऐसा प्रतीत होता है कि इससे इस पूरी दुविधा का समाधान हो जाएगा कि एआई पक्षपाती इनाम शिकारी का उपयोग किया जाए या नहीं। बस अपने आप को एक उदार स्थिति में मत डालो। सुनिश्चित करें कि आपके एआई डेवलपर सही काम करते हैं और अपने एआई सिस्टम में एआई पूर्वाग्रहों की अनुमति नहीं देते हैं। शायद दोबारा जांच करने के लिए सलाहकारों का उपयोग करें। संक्षेप में, उन एआई पूर्वाग्रह इनाम शिकारियों के बारे में कभी भी सोचने या उन्हें मेज पर आने के लिए कहने से बचने के लिए आपको जो भी करने की आवश्यकता है वह करें।

हां, यह पूरी तरह से समझदारी भरा प्रतीत होगा। समस्या यह है कि यह थोड़ा स्वप्निल भी है. कई एआई प्रणालियों की जटिलता इतनी अधिक है कि यह सुनिश्चित करने की कोशिश करना कि एआई पूर्वाग्रहों का एक औंस भी सामने न आए, ऐसा करना कठिन होगा। इसके अलावा, कुछ एआई सिस्टम को जानबूझकर समायोजित करने और "सीखने" के लिए तैयार किया जाता है। इसका मतलब यह है कि भविष्य में किसी समय आपके द्वारा तैयार की गई एआई, जिसके बारे में हम पहले दिखावा करते हैं कि वह पूरी तरह से साफ और बिना किसी पूर्वाग्रह के थी, पूर्वाग्रहों को मूर्त रूप देने की ओर अग्रसर हो सकती है (मेरा मतलब मानवरूपी तरीके से नहीं है, जैसा कि मैं आगे बताऊंगा जैसे कि हम इस विषय पर आगे बढ़ें)।

जो लोग सॉफ़्टवेयर बग के लिए इनाम की तलाश का समर्थन करते हैं, वे यह तर्क देते हैं कि इस तरह के इनाम की पेशकश करना उचित है। हम उनके तर्क पर विचार कर सकते हैं और देख सकते हैं कि क्या यह एआई पूर्वाग्रह क्षेत्र पर भी लागू होता है।

बग बाउंटी के समर्थक इस बात पर जोर देते हैं कि यह दिखावा करने की कोशिश करने के बजाय कि आपके सिस्टम में कोई छेद नहीं है, "नियंत्रित" तरीके से छेद खोजने के लिए प्रोत्साहित क्यों न करें? इसके विपरीत, इस तरह के उदार प्रयास के बिना, आप बस आशा और प्रार्थना कर सकते हैं कि संयोग से किसी को भी छेद नहीं मिलेगा, लेकिन अगर इसके बजाय आप इनाम की पेशकश कर रहे हैं और छेद ढूंढने वालों को बता रहे हैं कि उन्हें पुरस्कृत किया जाएगा, तो यह एक प्रस्ताव है फिर स्वयं छेद को किनारे करने का मौका और फिर बाद में किसी समय दूसरों को गुप्त रूप से इसे खोजने से रोकता है।

एआई पूर्वाग्रहों के उपयोग के मामले में भी यही कहा जा सकता है। यदि आप पर्याप्त इनाम की पेशकश करते हैं, तो उम्मीद है कि इनाम शिकारी एआई पूर्वाग्रहों की खोज को आपके ध्यान में लाएंगे। फिर आप अपेक्षाकृत शांत और नपे-तुले तरीके से एआई पूर्वाग्रहों से निपट सकते हैं। यह बाद में एक बहुत बड़ी और अधिक विकट समस्या का कारण बन सकता है, अर्थात् कोई अन्य व्यक्ति आपके एआई में एआई पूर्वाग्रह पाता है और इसके बारे में ऊंचे आसमान तक चिल्लाता है।

आम तौर पर, बग बाउंटी शिकार प्रयास को सक्षम करने की इच्छुक कंपनी एक भेद्यता प्रकटीकरण नीति (वीडीपी) लागू करेगी। वीडीपी इंगित करता है कि बग कैसे ढूंढे जाएंगे और फर्म को रिपोर्ट की जाएगी, साथ ही शिकारी को इनाम या इनाम कैसे प्रदान किया जाएगा। आम तौर पर, वीडीपी के लिए आवश्यक होगा कि शिकारी एक गैर-प्रकटीकरण समझौते (एनडीए) पर हस्ताक्षर करें, ताकि वे दूसरों को यह न बताएं कि उन्हें क्या मिला है।

इनामी शिकारियों के साथ एनडीए का उपयोग करने की धारणा पर कुछ विवाद है। हालाँकि इनाम की पेशकश करने वाली कंपनी के लिए शायद यह समझ में आता है कि वह पाए गए एक्सपोज़र को चुप रखना चाहती है, लेकिन यह भी कहा जाता है कि यह ऐसे बग के बारे में समग्र जागरूकता को दबा देता है। संभवतः, यदि सॉफ़्टवेयर बग के बारे में बात करने की अनुमति दी जाती है, तो यह संभावित रूप से अन्य कंपनियों के अन्य सिस्टम की सुरक्षा में सहायता करेगा जो तब उनके जोखिम को बढ़ा देगा। कुछ इनामी शिकारी एनडीए पर हस्ताक्षर नहीं करेंगे, आंशिक रूप से जनता की इच्छा के कारण और आंशिक रूप से अपनी पहचान छिपाकर रखने की कोशिश के कारण। यह भी ध्यान रखें कि एनडीए पहलू आम तौर पर तब तक सामने नहीं आता है जब तक कि शिकारी यह दावा न कर दे कि उन्हें बग मिल गया है, बजाय इसके कि इसकी पहले से आवश्यकता हो।

कुछ वीडीपी यह निर्धारित करते हैं कि एनडीए केवल एक सीमित समय अवधि के लिए है, जिससे फर्म को पहले स्पष्ट छेद का समाधान ढूंढने की अनुमति मिलती है और उसके बाद इसके बारे में व्यापक प्रकटीकरण की अनुमति मिलती है। एक बार छेद बंद हो जाने के बाद, कंपनी एनडीए को ढीला करने की अनुमति देती है ताकि बाकी दुनिया को बग के बारे में पता चल सके। कथित तौर पर इनाम में शिकार किए गए बगों के समाधान का सामान्य समय लगभग 15-20 दिन है जब कोई कंपनी इसे तुरंत प्लग करना चाहती है, जबकि अन्य मामलों में यह 60-80 दिनों तक बढ़ सकता है। इनाम शिकारी को भुगतान करने के मामले में, तथाकथित समय-समय पर, छेद को वास्तव में मौजूदा के रूप में सत्यापित किए जाने के बाद, इनाम भुगतान कथित तौर पर छोटे उदाहरणों के लिए लगभग 15-20 दिनों के भीतर और लगभग 50-60 दिनों के भीतर होता है। बड़े उदाहरणों के लिए दिन (ये लगातार उद्योग के संकेत बदल रहे हैं और केवल उदाहरण के रूप में उल्लिखित हैं)।

क्या एआई पक्षपाती इनाम शिकारियों को भी वीडीपी में भाग लेने और एनडीए से निपटने के लिए कहा जाना चाहिए?

आप उस प्रश्न का हाँ और ना दोनों पा सकते हैं। हां, कुछ कंपनियों को वह रास्ता अपनाना चाहिए। नहीं, हो सकता है कि आप आवश्यक रूप से उस मार्ग पर जाने का विकल्प न चुनें। कारकों में एआई का आकार और प्रकृति, इसमें शामिल किसी भी एआई पूर्वाग्रह जोखिम की संभावना, और कई अन्य नैतिक, कानूनी और व्यावसायिक विचार शामिल हैं।

मैं यह जोड़ सकता हूं कि आपके एआई पूर्वाग्रहों के लिए एक इनामी शिकार प्रयास स्थापित करना प्रारंभिक नज़र में आपके अनुमान से कहीं अधिक लंबा है।

हम इस प्रबल संभावना के साथ शुरुआत करेंगे कि आप एआई पूर्वाग्रह वाले इनामी शिकारियों से अभिभूत हो जाएंगे।

अभी, आपको ऐसे कई लोगों को ढूंढना मुश्किल होगा जिनके पास ऐसा कॉलिंग कार्ड होगा। आसपास बहुत से लोग नहीं हैं. इस संबंध में यह वाइल्ड वेस्ट के दिन हैं। लेकिन अगर इनाम के शिकार में एआई पूर्वाग्रहों की धारणा जोर पकड़ती है, खासकर जब इनाम प्रचुर मात्रा में और बड़े पैमाने पर पुरस्कृत होते हैं, तो आप शर्त लगा सकते हैं कि हर कोई स्विमिंग पूल में शिकार के पूर्वाग्रहों में गोता लगाएगा।

क्या आप चाहते हैं कि आपके एआई सिस्टम में एआई पूर्वाग्रहों को आगे बढ़ाने वाले सभी प्रकार के रिफ़्राफ़ हों? आपको कुछ ऐसे खरीदार मिलेंगे जो वास्तव में इस तरह की चीज़ों में विशेषज्ञ हैं। आपको ऐसे अन्य खरीदार मिलेंगे जो शौकिया हैं और गड़बड़ कर सकते हैं या भेड़िया चिल्ला सकते हैं। अगली बात जो आप जानते हैं, कोई भी जो "आर्टिफिशियल इंटेलिजेंस" लिख सकता है, वह आपके एआई सिस्टम की सोने की खान में उन कीमती एआई पूर्वाग्रहों वाले सोने के टुकड़ों को खोदने आएगा। सोने की दौड़ जारी है. यह आपके लिए अच्छा नहीं हो सकता है.

आपको इनाम शिकारी प्रस्तुतियों की जांच करने की आवश्यकता होगी। रिपोर्ट किए गए दावों में बहुत अधिक "शोर" होगा, इस अर्थ में कि दावा किए गए कई एआई पूर्वाग्रह मौजूद नहीं हैं, हालांकि इनाम शिकारी इस बात पर जोर देते हैं कि उन्हें कुछ मिला है। कल्पना करें कि आपकी अपनी एआई टीमों को इनाम के दावों की जांच करने, प्रत्येक की वैधता का पता लगाने और फिर संभावित रूप से इनाम शिकारी के साथ आगे-पीछे जाने में कितना श्रम लगेगा कि सोना खोजा गया था या नहीं।

कुछ लोग तर्क देंगे कि यह पूरा काम स्वयं करने का एक और कारण है। आपको अनिवार्य रूप से पता चल सकता है कि इनाम वाली चीज़ इसके लायक होने की तुलना में अधिक परेशानी वाली है।

यहां विचार करने के लिए एक और प्रश्न है। इनामी शिकारियों को कैसे पता चलेगा कि एआई पूर्वाग्रह कैसा दिखता है? संक्षेप में, जो खोजा जाना चाहिए उसकी कुछ झलक के बिना, किसी भी चमकदार चट्टान को कथित एआई सोने की खदान की खुदाई में एआई पूर्वाग्रह को प्रदर्शित करने का दावा किया जा सकता है।

पुराने पश्चिम के दिनों में, मान लीजिए कि आपने बिली द किड (एक प्रसिद्ध डाकू) को पकड़ने के लिए इनाम की पेशकश की थी। यदि आपने ऐसा किया है और बिली जैसा दिखता है उसकी तस्वीर शामिल नहीं की है, तो उन इनामी शिकारियों की संख्या की कल्पना करें जो किसी ऐसे व्यक्ति को शेरिफ कार्यालय में खींच सकते हैं जिसके बारे में उन्हें उम्मीद थी या उन्होंने सोचा था कि वह बिली द किड है। आप झूठे बिली के चक्कर में पड़ सकते हैं। यह बुरा है क्योंकि आपको संभवतः हर एक को देखना होगा, गहन प्रश्न पूछने होंगे और यह पता लगाने की कोशिश करनी होगी कि वह व्यक्ति वास्तव में बिली था या नहीं।

मुद्दा यह है कि एआई पूर्वाग्रहों को बढ़ावा देने के प्रयास को स्थापित करने के लिए आपको यह स्पष्ट करने का प्रयास करना बुद्धिमानी होगी कि आप एआई पूर्वाग्रहों को क्या मानते हैं। इसके लिए गोल्डीलॉक्स प्रकार के अंशांकन की आवश्यकता होती है। आप इतना सीमित नहीं होना चाहते कि इनामी शिकारी एआई पूर्वाग्रहों को केवल इसलिए नजरअंदाज कर दें क्योंकि वे आपकी निर्धारित परिभाषा में फिट नहीं बैठते हैं, और न ही आप चाहते हैं कि वे "यूरेका!" चिल्लाएं। एआई पूर्वाग्रह के हर टुकड़े पर जो वे संभवतः पाते हैं।

आपको एआई पूर्वाग्रहों से संबंधित सही गोल्डीलॉक्स संतुलन की आवश्यकता होगी और इस प्रकार अधिमानतः स्पष्ट दिशा-निर्देश प्रदान करने होंगे।

इस एआई पूर्वाग्रहों का बहुत सारा हिस्सा एआई-आधारित मशीन लर्निंग (एमएल) और डीप लर्निंग (डीएल) सिस्टम पर केंद्रित होने जा रहा है। यह समझ में आता है क्योंकि एमएल/डीएल के आगमन के बाद से व्यापकता बढ़ रही है, साथ ही इसमें अनुचित एआई पूर्वाग्रहों को शामिल करने की कुछ सबसे संभावित चुनौतियाँ भी हैं।

ये शोधकर्ता पहचानते हैं कि एआई पक्षपातपूर्ण इनाम शिकार प्रयास कितना महत्वपूर्ण हो सकता है, विशेष रूप से एमएल/डीएल संदर्भ में: “समय के साथ, सॉफ्टवेयर और सुरक्षा समुदायों ने सिस्टम डेवलपर्स और उनके आलोचकों के बीच समान गतिशीलता को बदलने के प्रयास में 'बग बाउंटी' विकसित की है। (या हैकर्स) अधिक इंटरैक्टिव और उत्पादक उद्देश्यों की ओर। आशा यह है कि जानबूझकर बाहरी पक्षों को अपने सिस्टम में सॉफ़्टवेयर या हार्डवेयर बग ढूंढने के लिए आमंत्रित करने और अक्सर ऐसा करने के लिए मौद्रिक प्रोत्साहन प्रदान करने से, एक स्वस्थ और अधिक तेजी से प्रतिक्रिया देने वाला पारिस्थितिकी तंत्र विकसित होगा। एमएल समुदाय के लिए पूर्वाग्रह या अन्य अवांछनीय व्यवहार वाले मॉडलों और प्रणालियों की समय पर खोज और मरम्मत के लिए एक समान 'पूर्वाग्रह इनाम' दृष्टिकोण पर विचार करना स्वाभाविक है। सॉफ़्टवेयर में बग खोजने के बजाय, बाहरी पक्षों को पूर्वाग्रह खोजने के लिए आमंत्रित किया जाता है - उदाहरण के लिए, (जनसांख्यिकीय या अन्य) इनपुट के उपसमूह जिस पर एक प्रशिक्षित मॉडल खराब प्रदर्शन करता है - और ऐसा करने के लिए उन्हें पुरस्कृत किया जाता है" (पेपर में "पूर्वाग्रह के लिए एक एल्गोरिदमिक ढांचा बाउंटीज़'' इरा ग्लोबस-हैरिस, माइकल किर्न्स और आरोन रोथ द्वारा)।

शोध पत्र में, लेखक एक सुझाए गए दृष्टिकोण की रूपरेखा प्रस्तुत करते हैं कि इनामी शिकारी किस प्रकार के एआई पूर्वाग्रहों की तलाश कर सकते हैं। इस बारे में भी एक संकेत है कि खोजे गए कथित एआई पूर्वाग्रहों से जुड़े इनाम शिकारी दावों का आकलन कैसे किया जाए। यहां मेरी पिछली टिप्पणियों के अनुसार, संभावना यह है कि आपको विशिष्ट दावे प्राप्त होंगे और एआई पूर्वाग्रह वाले गेहूं को भूसी से अलग करना होगा।

एआई पूर्वाग्रह शिकार के अंतर्निहित जंगली और ऊनी विचारों के बारे में कुछ और मांस और आलू में जाने से पहले, आइए गहराई से अभिन्न विषयों पर कुछ अतिरिक्त बुनियादी सिद्धांत स्थापित करें। हमें एआई एथिक्स और विशेष रूप से मशीन लर्निंग (एमएल) और डीप लर्निंग (डीएल) के आगमन पर संक्षेप में विचार करने की आवश्यकता है।

आप अस्पष्ट रूप से जानते होंगे कि एआई क्षेत्र में और एआई के क्षेत्र के बाहर भी इन दिनों सबसे तेज आवाजों में से एक में नैतिक एआई के अधिक से अधिक समानता के लिए चिल्लाना शामिल है। आइए देखें कि एआई एथिक्स और एथिकल एआई को संदर्भित करने का क्या अर्थ है। उसके ऊपर, हम यह पता लगाएंगे कि जब मैं मशीन लर्निंग और डीप लर्निंग की बात करता हूं तो मेरा क्या मतलब होता है।

एआई एथिक्स का एक विशेष खंड या हिस्सा जिस पर मीडिया का बहुत अधिक ध्यान गया है, उसमें एआई शामिल है जो अवांछित पूर्वाग्रहों और असमानताओं को प्रदर्शित करता है। आप शायद जानते होंगे कि जब एआई का नवीनतम युग चल रहा था, जिसे अब कुछ लोग कहते हैं, उसके लिए उत्साह का एक बड़ा विस्फोट हुआ था एआई फॉर गुड. दुर्भाग्य से, उस भीषण उत्साह की ऊँची एड़ी के जूते पर, हमने देखना शुरू कर दिया एआई फॉर बैड. उदाहरण के लिए, विभिन्न एआई-आधारित चेहरे की पहचान प्रणालियों को नस्लीय पूर्वाग्रहों और लिंग पूर्वाग्रहों के रूप में प्रकट किया गया है, जिनकी मैंने चर्चा की है यहाँ लिंक.

के खिलाफ वापस लड़ने के प्रयास एआई फॉर बैड सक्रिय रूप से चल रहे हैं। मुखर के अलावा कानूनी गलत कामों पर लगाम लगाने के लिए, एआई नैतिकता को सही करने के लिए एआई एथिक्स को अपनाने की दिशा में भी एक महत्वपूर्ण धक्का है। धारणा यह है कि हमें एआई के विकास और क्षेत्ररक्षण के लिए प्रमुख नैतिक एआई सिद्धांतों को अपनाना और उनका समर्थन करना चाहिए ताकि यह कम हो सके। एआई फॉर बैड और साथ ही साथ बेहतर को बढ़ावा देना और बढ़ावा देना एआई फॉर गुड.

संबंधित धारणा पर, मैं एआई संकट के समाधान के हिस्से के रूप में एआई का उपयोग करने की कोशिश करने का एक समर्थक हूं, उस तरह की सोच में आग से आग से लड़ रहा हूं। उदाहरण के लिए हम नैतिक एआई घटकों को एआई सिस्टम में एम्बेड कर सकते हैं जो निगरानी करेगा कि बाकी एआई कैसे काम कर रहा है और इस प्रकार संभावित रूप से किसी भी भेदभावपूर्ण प्रयासों को वास्तविक समय में पकड़ सकता है, मेरी चर्चा देखें यहाँ लिंक. हमारे पास एक अलग एआई सिस्टम भी हो सकता है जो एक प्रकार के एआई एथिक्स मॉनिटर के रूप में कार्य करता है। एआई सिस्टम एक ओवरसियर के रूप में कार्य करता है ताकि पता लगाया जा सके कि कोई अन्य एआई अनैतिक रसातल में जा रहा है (ऐसी क्षमताओं का मेरा विश्लेषण यहां देखें) यहाँ लिंक).

एक क्षण में, मैं आपके साथ AI एथिक्स में अंतर्निहित कुछ व्यापक सिद्धांत साझा करूँगा। इस प्रकार की बहुत सारी सूचियाँ इधर-उधर तैर रही हैं। आप कह सकते हैं कि सार्वभौमिक अपील और सहमति की अभी तक एक भी सूची नहीं है। यही दुर्भाग्यपूर्ण खबर है। अच्छी खबर यह है कि कम से कम एआई एथिक्स सूचियां आसानी से उपलब्ध हैं और वे काफी समान हैं। सभी ने बताया, इससे पता चलता है कि एक तरह के तर्कपूर्ण अभिसरण के द्वारा हम एआई एथिक्स में सामान्य समानता की ओर अपना रास्ता खोज रहे हैं।

सबसे पहले, आइए संक्षेप में कुछ समग्र नैतिक एआई उपदेशों को कवर करें जो यह स्पष्ट करते हैं कि एआई को क्राफ्ट करने, क्षेत्ररक्षण करने या उपयोग करने वाले किसी भी व्यक्ति के लिए एक महत्वपूर्ण विचार क्या होना चाहिए।

उदाहरण के लिए, जैसा कि वेटिकन ने में कहा है रोम कॉल फॉर एआई एथिक्स और जैसा कि मैंने गहराई से कवर किया है यहाँ लिंक, ये उनके पहचाने गए छह प्राथमिक AI नैतिकता सिद्धांत हैं:

• पारदर्शिता: सिद्धांत रूप में, AI सिस्टम को समझाने योग्य होना चाहिए
• समावेशन: सभी मनुष्यों की आवश्यकताओं को ध्यान में रखा जाना चाहिए ताकि हर कोई लाभान्वित हो सके, और सभी व्यक्तियों को स्वयं को व्यक्त करने और विकसित करने के लिए सर्वोत्तम संभव परिस्थितियों की पेशकश की जा सके।
• ज़िम्मेदारी: जो लोग एआई के उपयोग को डिजाइन और तैनात करते हैं, उन्हें जिम्मेदारी और पारदर्शिता के साथ आगे बढ़ना चाहिए
• निष्पक्षता: पूर्वाग्रह के अनुसार निर्माण या कार्य न करें, इस प्रकार निष्पक्षता और मानवीय गरिमा की रक्षा करें
• विश्वसनीयता: AI सिस्टम मज़बूती से काम करने में सक्षम होना चाहिए
• सुरक्षा और गोपनीयता: AI सिस्टम को सुरक्षित रूप से काम करना चाहिए और उपयोगकर्ताओं की गोपनीयता का सम्मान करना चाहिए।

जैसा कि अमेरिकी रक्षा विभाग (DoD) ने अपने में कहा है आर्टिफिशियल इंटेलिजेंस के उपयोग के लिए नैतिक सिद्धांत और जैसा कि मैंने गहराई से कवर किया है यहाँ लिंक, ये उनके छह प्राथमिक AI नैतिकता सिद्धांत हैं:

• उत्तरदायी: DoD कर्मी एआई क्षमताओं के विकास, परिनियोजन और उपयोग के लिए जिम्मेदार रहते हुए उचित स्तर के निर्णय और देखभाल का प्रयोग करेंगे।
• न्यायसंगत: विभाग एआई क्षमताओं में अनपेक्षित पूर्वाग्रह को कम करने के लिए जानबूझकर कदम उठाएगा।
• पता लगाने योग्य: विभाग की एआई क्षमताओं को विकसित और तैनात किया जाएगा ताकि संबंधित कर्मियों के पास पारदर्शी और ऑडिट करने योग्य कार्यप्रणाली, डेटा स्रोत और डिजाइन प्रक्रिया और प्रलेखन सहित एआई क्षमताओं पर लागू प्रौद्योगिकी, विकास प्रक्रियाओं और परिचालन विधियों की उचित समझ हो।
• विश्वसनीय: विभाग की एआई क्षमताओं में स्पष्ट, अच्छी तरह से परिभाषित उपयोग होंगे, और ऐसी क्षमताओं की सुरक्षा, सुरक्षा और प्रभावशीलता उनके पूरे जीवन चक्र में परिभाषित उपयोगों के भीतर परीक्षण और आश्वासन के अधीन होगी।
• शासन योग्य: विभाग अपने इच्छित कार्यों को पूरा करने के लिए एआई क्षमताओं को डिजाइन और इंजीनियर करेगा, जबकि अनपेक्षित परिणामों का पता लगाने और उनसे बचने की क्षमता रखता है, और अनपेक्षित व्यवहार प्रदर्शित करने वाले तैनात सिस्टम को निष्क्रिय या निष्क्रिय करने की क्षमता रखता है।

मैंने एआई नैतिकता सिद्धांतों के विभिन्न सामूहिक विश्लेषणों पर भी चर्चा की है, जिसमें शोधकर्ताओं द्वारा तैयार किए गए एक सेट को शामिल किया गया है, जिसने "एआई एथिक्स दिशानिर्देशों का वैश्विक परिदृश्य" नामक एक पेपर में कई राष्ट्रीय और अंतर्राष्ट्रीय एआई नैतिकता सिद्धांतों के सार की जांच और संघनित किया है। में प्रकृति), और यह कि मेरा कवरेज यहां पर पड़ताल करता है यहाँ लिंक, जिसने इस कीस्टोन सूची का नेतृत्व किया:

• ट्रांसपेरेंसी
• न्याय और निष्पक्षता
• गैर-नुकसान
• उत्तरदायित्व
• निजता
• उपकार
• स्वतंत्रता और स्वायत्तता
• ट्रस्ट
• स्थिरता
• गौरव
• एकजुटता

जैसा कि आप सीधे अनुमान लगा सकते हैं, इन सिद्धांतों के तहत विशिष्टताओं को निर्धारित करने की कोशिश करना बेहद कठिन हो सकता है। इससे भी अधिक, उन व्यापक सिद्धांतों को पूरी तरह से मूर्त और विस्तृत रूप से उपयोग करने के प्रयास में एआई सिस्टम को क्राफ्ट करते समय उपयोग करने का प्रयास भी दरार करने के लिए एक कठिन अखरोट है। एआई एथिक्स के नियम क्या हैं और उन्हें आम तौर पर कैसे देखा जाना चाहिए, इसके बारे में कुछ हाथ मिलाना आसान है, जबकि एआई कोडिंग में यह एक अधिक जटिल स्थिति है जो सड़क से मिलने वाली सत्यनिष्ठ रबर है।

एआई एथिक्स सिद्धांतों का उपयोग एआई डेवलपर्स द्वारा किया जाना चाहिए, साथ ही एआई विकास प्रयासों का प्रबंधन करने वाले, और यहां तक ​​​​कि वे भी जो अंततः एआई सिस्टम पर क्षेत्र और रखरखाव करते हैं। विकास और उपयोग के पूरे एआई जीवन चक्र में सभी हितधारकों को नैतिक एआई के स्थापित मानदंडों के पालन के दायरे में माना जाता है। यह एक महत्वपूर्ण हाइलाइट है क्योंकि सामान्य धारणा यह है कि "केवल कोडर्स" या एआई प्रोग्राम करने वाले एआई एथिक्स धारणाओं का पालन करने के अधीन हैं। जैसा कि पहले कहा गया है, एआई को विकसित करने और क्षेत्र में लाने के लिए एक गाँव की आवश्यकता होती है, और जिसके लिए पूरे गाँव को एआई एथिक्स के नियमों से वाकिफ और उसका पालन करना पड़ता है।

आइए यह भी सुनिश्चित करें कि हम आज के AI की प्रकृति के बारे में एक ही पृष्ठ पर हैं।

आज कोई ऐसा AI नहीं है जो संवेदनशील हो। हमारे पास यह नहीं है। हम नहीं जानते कि संवेदनशील एआई संभव होगा या नहीं। कोई भी उपयुक्त रूप से भविष्यवाणी नहीं कर सकता है कि क्या हम संवेदनशील एआई प्राप्त करेंगे, और न ही संवेदनशील एआई किसी तरह चमत्कारिक रूप से स्वचालित रूप से कम्प्यूटेशनल संज्ञानात्मक सुपरनोवा के रूप में उत्पन्न होगा (आमतौर पर विलक्षणता के रूप में संदर्भित, मेरा कवरेज देखें यहाँ लिंक).

जिस प्रकार के एआई पर मैं ध्यान केंद्रित कर रहा हूं वह गैर-संवेदी एआई है जो आज हमारे पास है। अगर हम बेतहाशा अटकलें लगाना चाहते हैं संवेदनशील एआई, यह चर्चा मौलिक रूप से अलग दिशा में जा सकती है। माना जाता है कि एक संवेदनशील एआई मानव गुणवत्ता का होगा। आपको यह विचार करना होगा कि संवेदनशील एआई मानव के संज्ञानात्मक समकक्ष है। इसके अलावा, चूंकि कुछ अनुमान लगाते हैं कि हमारे पास सुपर-इंटेलिजेंट एआई हो सकता है, यह कल्पना की जा सकती है कि ऐसा एआई इंसानों की तुलना में अधिक स्मार्ट हो सकता है (एक संभावना के रूप में सुपर-इंटेलिजेंट एआई की मेरी खोज के लिए, देखें यहाँ कवरेज).

आइए चीजों को और नीचे रखें और आज के कम्प्यूटेशनल गैर-संवेदी एआई पर विचार करें।

महसूस करें कि आज का AI किसी भी तरह से मानव सोच के समान "सोचने" में सक्षम नहीं है। जब आप एलेक्सा या सिरी के साथ बातचीत करते हैं, तो बातचीत की क्षमता मानवीय क्षमताओं के समान लग सकती है, लेकिन वास्तविकता यह है कि यह कम्प्यूटेशनल है और इसमें मानवीय ज्ञान का अभाव है। एआई के नवीनतम युग ने मशीन लर्निंग (एमएल) और डीप लर्निंग (डीएल) का व्यापक उपयोग किया है, जो कम्प्यूटेशनल पैटर्न मिलान का लाभ उठाते हैं। इसने एआई सिस्टम को जन्म दिया है जिसमें मानव जैसी प्रवृत्तियों का आभास होता है। इस बीच, आज कोई ऐसा AI नहीं है जिसमें सामान्य ज्ञान की समानता हो और न ही मजबूत मानवीय सोच का कोई संज्ञानात्मक आश्चर्य हो।

एमएल/डीएल कम्प्यूटेशनल पैटर्न मिलान का एक रूप है। सामान्य तरीका यह है कि आप निर्णय लेने के कार्य के बारे में डेटा इकट्ठा करते हैं। आप डेटा को ML/DL कंप्यूटर मॉडल में फीड करते हैं। वे मॉडल गणितीय पैटर्न खोजने की कोशिश करते हैं। ऐसे पैटर्न खोजने के बाद, यदि ऐसा पाया जाता है, तो AI सिस्टम नए डेटा का सामना करते समय उन पैटर्न का उपयोग करेगा। नए डेटा की प्रस्तुति पर, वर्तमान निर्णय को प्रस्तुत करने के लिए "पुराने" या ऐतिहासिक डेटा पर आधारित पैटर्न लागू होते हैं।

मुझे लगता है कि आप अनुमान लगा सकते हैं कि यह कहाँ जा रहा है। यदि मानव जो निर्णयों पर प्रतिरूप बनाते रहे हैं, वे अवांछित पूर्वाग्रहों को शामिल कर रहे हैं, तो संभावना है कि डेटा इसे सूक्ष्म लेकिन महत्वपूर्ण तरीकों से दर्शाता है। मशीन लर्निंग या डीप लर्निंग कम्प्यूटेशनल पैटर्न मिलान केवल गणितीय रूप से डेटा की नकल करने की कोशिश करेगा। एआई-क्राफ्टेड मॉडलिंग के सामान्य ज्ञान या अन्य संवेदनशील पहलुओं की कोई समानता नहीं है।

इसके अलावा, एआई डेवलपर्स को एहसास नहीं हो सकता है कि क्या हो रहा है। एमएल/डीएल में रहस्यमय गणित अब छिपे हुए पूर्वाग्रहों को दूर करना मुश्किल बना सकता है। आप सही उम्मीद करेंगे और उम्मीद करेंगे कि एआई डेवलपर्स संभावित दफन पूर्वाग्रहों के लिए परीक्षण करेंगे, हालांकि यह जितना प्रतीत हो सकता है उससे कहीं अधिक कठिन है। एक ठोस मौका मौजूद है कि अपेक्षाकृत व्यापक परीक्षण के साथ भी एमएल/डीएल के पैटर्न मिलान मॉडल के भीतर अभी भी पूर्वाग्रह अंतर्निहित होंगे।

आप कुछ हद तक प्रसिद्ध या कुख्यात कहावत का उपयोग कर सकते हैं कचरा-कचरा-बाहर। बात यह है कि, यह पूर्वाग्रहों के समान है-इसमें एआई के भीतर डूबे हुए पूर्वाग्रहों के रूप में कपटी रूप से संक्रमित हो जाते हैं। एआई का एल्गोरिथम निर्णय लेने (एडीएम) स्वयंसिद्ध रूप से असमानताओं से भरा हो जाता है।

अच्छा नही।

आइए अब एआई पूर्वाग्रह शिकार के विषय पर वापस आते हैं।

आपमें से जो लोग एआई पूर्वाग्रह इनाम शिकार प्रयास पर विचार कर रहे हैं, उनके लिए सर्वोत्तम तरीके से आगे बढ़ने के लिए मेरे अनुशंसित सात प्रमुख कदम यहां दिए गए हैं:

1) का आकलन. अपनी परिस्थितियों और अपने एआई सिस्टम के अनुसार एआई पूर्वाग्रह इनाम शिकार प्रयास की उपयुक्तता का आकलन करें

2) डिज़ाइन. एक उपयुक्त एआई पूर्वाग्रह इनाम शिकार दृष्टिकोण डिज़ाइन करें

3) को लागू करें. अपने एआई पूर्वाग्रह इनाम शिकार प्रयासों को लागू करें और प्रचारित करें

4) क्षेत्र. एआई पूर्वाग्रहों को इनाम के दावों के रूप में दर्ज करें और तदनुसार प्रक्रिया करें

5) फिक्स. इन खोजे गए एआई पूर्वाग्रह एक्सपोज़र के अनुरूप अपने एआई को ठीक करें या समायोजित करें

6) समायोजित करें. आवश्यकतानुसार एआई पूर्वाग्रह इनाम शिकार को समायोजित करें

7) जारी न. जब इसकी आवश्यकता न रह जाए तो एआई पूर्वाग्रह इनाम शिकार को बंद कर दें

उपरोक्त चरणों की मेरी श्रृंखला में, ध्यान दें कि मैंने उल्लेख किया है कि आप संभवतः यह सुनिश्चित करने के आधार पर अपने एआई को ठीक करना या समायोजित करना चाहेंगे कि दावा किया गया एआई पूर्वाग्रह वास्तव में आपके एआई सिस्टम के भीतर मौजूद है। यह काफी हद तक समझ में आता है. आप लगभग निश्चित रूप से किसी भी पाए गए एआई पूर्वाग्रह को किनारे करना चाहेंगे। यदि आप ऐसा नहीं करते हैं तो कानूनी (और नैतिक) परिणामों के बारे में सोचें। यह दावा करना एक बात है कि आप नहीं जानते थे कि एआई पूर्वाग्रह मौजूद है और इसलिए इसे अस्तित्व में रहने दिया, जबकि रिकॉर्ड में यह कहना बहुत ही अस्थिर है कि आपको एआई पूर्वाग्रह के बारे में अवगत कराया गया था और आपने इसके बारे में कुछ नहीं किया।

एआई सुधार या समायोजन की प्रकृति और डिग्री निश्चित रूप से इस बात पर निर्भर करेगी कि एआई पूर्वाग्रह कितने महत्वपूर्ण थे और मुद्दे कितने गहरे अंतर्निहित हैं। यदि आप भाग्यशाली हैं, तो शायद एआई में मामूली बदलाव से मामला सुधर जाएगा। दूसरी संभावना यह है कि आपको एआई का संपूर्ण पुनर्लेखन करने की आवश्यकता हो सकती है। एमएल/डीएल प्रकार के एआई के लिए, इसके लिए ड्राइंग बोर्ड पर वापस जाने और डेटा के एक बिल्कुल नए सेट और एक साफ-सुथरे एमएल/डीएल मॉडल के साथ नए सिरे से शुरुआत करने की आवश्यकता हो सकती है। मैंने अस्वाभाविक एआई के खिलाफ संभावित कानूनी उपाय के रूप में एआई डिसगोर्जमेंट या एआई विनाश के आगमन पर चर्चा की है, देखें यहाँ लिंक.

विचार करने योग्य एक प्रश्न यह है कि क्या आप चाहेंगे कि इनामी शिकारी संभवतः एआई पूर्वाग्रहों के अस्तित्व की पहचान करने के अलावा और भी कुछ करें। उदाहरण के लिए, आप यह संकेत देकर इनाम को मीठा कर सकते हैं कि प्रस्तावित सुधारों का भी स्वागत है। एक एआई पूर्वाग्रह पाया इनामी शिकारी द्वारा एक संकेतित इनाम या पुरस्कार का भुगतान किया जा सकता है। यदि इनाम शिकारी भी व्यवहार्यता प्रदान कर सकता है स्थिर एआई पूर्वाग्रह के कारण उन्हें अतिरिक्त पुरस्कार दिया जा सकता है।

कुछ लोगों का तर्क है कि यह बहुत दूर का पुल है। वे कहते हैं कि आपको एआई पूर्वाग्रह इनाम शिकारियों को विशेष रूप से एआई पूर्वाग्रहों को खोजने पर ध्यान केंद्रित रखना चाहिए। आप उन्हें समाधान सुझाने के लिए आमंत्रित करके अवांछित प्रतिकूल परिणामों का एक समूह बनाने जा रहे हैं। चीजों को सरल रखें. लक्ष्य एआई पूर्वाग्रहों की खोज पर अधिक से अधिक अतिरिक्त नजर रखना है ताकि आप तय कर सकें कि आगे क्या करना है। पानी को गंदा न करें.

एक कांटेदार पहलू जिस पर विचार करने की आवश्यकता है, वह वास्तव में एआई पूर्वाग्रहों की खोज करने वाले इनाम शिकारियों के लिए इनाम या पुरस्कार की मात्रा पर जोर देता है। आप चाहते हैं कि भुगतान प्रदर्शनात्मक हो। पर्याप्त उच्च इनाम के बिना, आपको कई इनाम शिकारी नहीं मिलेंगे या वे आपके एआई सिस्टम में एआई पूर्वाग्रहों की तलाश करने के लिए विशेष रूप से उत्सुक नहीं होंगे। इसके बजाय वे अन्य एआई पूर्वाग्रह इनाम प्रयासों पर ध्यान केंद्रित कर सकते हैं।

इसके अलावा, जैसा कि उल्लेख किया गया है, आप अपने एआई पूर्वाग्रह खोजों को सोने के अन्य रूपों में बदलने के लिए इनाम शिकारियों की इच्छा को दबाने की कोशिश करना चाहते हैं। यदि इनाम मामूली लगता है, तो यह इनामी शिकारियों को अन्य उच्च भुगतान की तलाश में परेशान कर सकता है। वे आपके प्रति रैंसमवेयर दृष्टिकोण अपना सकते हैं। वे घोषणा कर सकते हैं कि उनके पास एक रसदार एआई पूर्वाग्रह है जिसके बारे में एक प्रतियोगी जानना पसंद करेगा और यह कहकर कि एआई पूर्वाग्रह आपके एआई में मौजूद है, आपकी फर्म के खिलाफ उपयोग कर सकता है। इस प्रकार, वे खोजे गए एआई पूर्वाग्रह को सबसे अधिक बोली लगाने वाले को बेचते हैं। और इसी तरह।

कोई यह मानता है कि यदि आप इनाम को अत्यधिक उच्च सीमा पर निर्धारित करते हैं, तो आप संभावित परेशानी भी पूछ रहे हैं। यह सभी प्रकार के इनामी शिकारियों को आकर्षित कर सकता है। बदले में वे सोशल मीडिया पर धुंधले दावों की बाढ़ ला सकते हैं कि उन्हें बहुत सारे एआई पूर्वाग्रह मिले हैं, ऐसा वे अपने स्वयं के प्रचार के लिए कर रहे हैं और वास्तव में कोई एआई पूर्वाग्रह पैदा किए बिना। एक अर्थ में, आपका बढ़ा हुआ इनाम अनजाने में आपके एआई पर प्रकाश डालता है और चमकती प्रकाश किरण की ओर हानिकारक रूप से आकर्षित होने के लिए कई अनगढ़ पतंगों को उकसाता है।

एक अन्य विचार में आपके एआई तक पहुंच शामिल है।

एआई इनाम शिकार संभावना को सक्षम करने के लिए, इनाम शिकारियों को आपके एआई तक पर्याप्त पहुंच प्राप्त करनी होगी। यदि वे पूरी तरह से बंद हैं तो उन्हें एआई पूर्वाग्रहों को ढूंढने में ज्यादा भाग्य नहीं मिलेगा। लेकिन आप अपनी साइबर सुरक्षा सुरक्षा नहीं छोड़ना चाहेंगे क्योंकि ऐसा करने से आपका AI सिस्टम पूरी तरह से खतरे में पड़ सकता है।

आप इनाम शिकारियों से विभिन्न कानूनी रूप से बाध्यकारी घोषणाओं पर हस्ताक्षर कराने का प्रयास कर सकते हैं और फिर उन्हें आवश्यक पहुंच प्रदान कर सकते हैं। कुछ इनामी शिकारियों को इस प्रकार का दृष्टिकोण पसंद नहीं आएगा। उनका दृष्टिकोण यह है कि वे केवल वही करेंगे जो कोई भी सार्वजनिक रूप से उपलब्ध और खुला मार्ग अनुमति देगा। वे मानो स्वतंत्र मनमौजी हैं, और उन्हें काठी में बंधना पसंद नहीं है। डराने-धमकाने वाले कानूनी दस्तावेज़ों पर उनके हस्ताक्षर करवाने से उनमें से बहुत से लोग आपके एआई में एआई पूर्वाग्रहों की खोज करने से बचेंगे। या हो सकता है कि वे आपकी कानूनी चुनौती से नाराज़ हो जाएं और निर्णय लें कि वे देखेंगे कि वे सार्वजनिक माध्यमों से क्या पा सकते हैं, ऐसा शायद आपको यह दिखाने की तीव्र इच्छा के साथ कर रहे हैं कि आप वास्तव में कितने असुरक्षित हैं।

मेरे पास एक और कोण है जो आपका सिर घुमा सकता है।

एक एआई प्रेमी इनाम शिकारी एक एआई सिस्टम तैयार करने का निर्णय ले सकता है जो आपके एआई की जांच कर सकता है और संभवतः आपके एआई में एआई पूर्वाग्रहों का पता लगा सकता है। यह वह उपकरण निर्माता है जो स्वयं शारीरिक श्रम करने के बजाय कार्य करने के लिए एक उपकरण बनाने का विकल्प चुनता है। आपके एआई की परिश्रमपूर्वक जांच करने के बजाय, एआई-कुशल इनाम शिकारी अपना समय एक एआई उपकरण बनाने में बिताते हैं जो वही काम करता है। फिर वे आपके AI पर AI टूल का उपयोग करते हैं। ख़ूबसूरती यह भी है कि वे संभवतया किसी अन्य पर एआई उपकरण का पुन: उपयोग कर सकते हैं जो उनके संबंधित एआई पर भी इनाम का अवसर प्रदान कर रहा है।

मुझे पता है आप शायद क्या सोच रहे हैं. यदि पूर्वाग्रहों के लिए एआई की जांच करने के लिए एआई उपकरण तैयार किया जा सकता है, तो एआई पूर्वाग्रहों के लिए जांच की जा रही एआई के निर्माता को या तो ऐसा एआई उपकरण तैयार करना चाहिए या अपने स्वयं के उपयोग के लिए एक खरीदना चाहिए। सिद्धांत रूप में, शुरुआत में उन्हें पूरे बाउंटी हंटर कार्निवल से जूझने की ज़रूरत नहीं है। उनके एआई पूर्वाग्रहों का पता लगाने के लिए बस एआई का उपयोग करें।

हां, यह कुछ ऐसा है जिसकी आप उम्मीद कर सकते हैं कि यह धीरे-धीरे उभरेगा। इस बीच, इन प्रयासों का मुख्य आधार संभावित रूप से इनामी शिकार करने वाले एआई डेवलपर्स शामिल होंगे। वे अपने प्रयासों में सहायता के लिए विभिन्न उपकरणों का उपयोग कर सकते हैं, लेकिन निकट भविष्य में, वे बिना सोचे-समझे एआई टूल को स्वचालित रूप से सेट करने और इस तरह झपकी लेने की संभावना नहीं रखते हैं कि उपकरण एआई पूर्वाग्रह की संपूर्ण खोज कर ले।

हम अभी तक वहाँ नहीं हैं।

इस महत्वपूर्ण चर्चा के इस मोड़ पर, मैं शर्त लगा सकता हूँ कि आप कुछ उदाहरणात्मक उदाहरणों के इच्छुक हैं जो इस विषय को प्रदर्शित कर सकते हैं। उदाहरणों का एक विशेष और निश्चित रूप से लोकप्रिय सेट है जो मेरे दिल के करीब है। आप देखते हैं, एआई पर एक विशेषज्ञ के रूप में मेरी क्षमता में, जिसमें नैतिक और कानूनी प्रभाव शामिल हैं, मुझे अक्सर ऐसे यथार्थवादी उदाहरणों की पहचान करने के लिए कहा जाता है जो एआई एथिक्स दुविधाओं को प्रदर्शित करते हैं ताकि विषय की कुछ हद तक सैद्धांतिक प्रकृति को और अधिक आसानी से समझा जा सके। एआई-आधारित सच्ची सेल्फ-ड्राइविंग कारों का आगमन सबसे अधिक विकसित क्षेत्रों में से एक है जो इस नैतिक एआई विवाद को स्पष्ट रूप से प्रस्तुत करता है। यह विषय पर पर्याप्त चर्चा के लिए एक उपयोगी उपयोग के मामले या उदाहरण के रूप में काम करेगा।

यहाँ एक उल्लेखनीय प्रश्न है जो विचार करने योग्य है: क्या एआई-आधारित सच्ची सेल्फ-ड्राइविंग कारों का आगमन एआई पूर्वाग्रह इनाम शिकार के उपयोग के बारे में कुछ भी उजागर करता है, और यदि हां, तो यह क्या प्रदर्शित करता है?

मुझे प्रश्न को अनपैक करने के लिए एक क्षण का समय दें।

सबसे पहले, ध्यान दें कि एक सच्ची सेल्फ-ड्राइविंग कार में कोई मानव चालक शामिल नहीं है। ध्यान रखें कि असली सेल्फ-ड्राइविंग कारें AI ड्राइविंग सिस्टम से चलती हैं। पहिए पर मानव चालक की आवश्यकता नहीं है, न ही मानव के लिए वाहन चलाने का प्रावधान है। स्वायत्त वाहनों (एवी) और विशेष रूप से सेल्फ-ड्राइविंग कारों के मेरे व्यापक और चल रहे कवरेज के लिए, देखें यहाँ लिंक.

मैं और स्पष्ट करना चाहता हूं कि जब मैं सच्ची सेल्फ-ड्राइविंग कारों का उल्लेख करता हूं तो इसका क्या मतलब होता है।

आत्म ड्राइविंग कारों के स्तर को समझना

स्पष्टीकरण के रूप में, सच्ची आत्म-ड्राइविंग कार वे हैं जहां एआई पूरी तरह से अपने दम पर कार चलाता है और ड्राइविंग कार्य के दौरान कोई मानव सहायता नहीं है।

इन चालक रहित वाहनों को स्तर 4 और स्तर 5 माना जाता है (मेरी व्याख्या देखें) इस लिंक यहाँ), जबकि एक कार जिसमें ड्राइविंग प्रयास को सह-साझा करने के लिए मानव चालक की आवश्यकता होती है, आमतौर पर स्तर 2 या स्तर 3 पर विचार किया जाता है। ड्राइविंग कार्य को सह-साझा करने वाली कारों को अर्ध-स्वायत्त होने के रूप में वर्णित किया जाता है, और आमतौर पर इसमें कई प्रकार के होते हैं स्वचालित ऐड-ऑन जिन्हें एडीए कहा जाता हैADA
एस (उन्नत चालक-सहायता प्रणाली)।

लेवल 5 पर अभी तक एक सच्ची सेल्फ-ड्राइविंग कार नहीं है, और हम अभी तक यह भी नहीं जानते हैं कि क्या यह हासिल करना संभव होगा, और न ही वहां पहुंचने में कितना समय लगेगा।

इस बीच, लेवल 4 के प्रयास धीरे-धीरे बहुत ही संकीर्ण और चयनात्मक सार्वजनिक सड़क मार्ग के परीक्षणों से गुजरते हुए कुछ कर्षण प्राप्त करने की कोशिश कर रहे हैं, हालांकि इस बात पर विवाद है कि क्या इस परीक्षण को प्रति अनुमति दी जानी चाहिए (हम सभी जीवन-या-मृत्यु गिनी सूअर एक प्रयोग में हैं हमारे राजमार्गों और मार्गों पर हो रही है, कुछ दावेदार, मेरे कवरेज को देखते हैं इस लिंक यहाँ).

चूंकि अर्ध-स्वायत्त कारों के लिए एक मानव चालक की आवश्यकता होती है, इसलिए उन प्रकार की कारों को अपनाना पारंपरिक वाहनों को चलाने की तुलना में अलग नहीं होगा, इसलिए इस विषय पर उनके बारे में कवर करने के लिए प्रति से ज्यादा कुछ नया नहीं है (हालांकि, जैसा कि आप देखेंगे एक पल में, अगले अंक आम तौर पर लागू होते हैं)।

अर्ध-स्वायत्त कारों के लिए, यह महत्वपूर्ण है कि जनता को परेशान करने वाले पहलू के बारे में पूर्वाभास करने की आवश्यकता है, जो हाल ही में उत्पन्न हुई है, अर्थात् उन मानव चालकों के बावजूद जो खुद को स्तर 2 या स्तर 3 कार के सोते हुए वीडियो पोस्ट करते रहते हैं , हम सभी को यह मानने में गुमराह होने से बचने की आवश्यकता है कि चालक अर्ध-स्वायत्त कार चलाते समय ड्राइविंग कार्य से अपना ध्यान हटा सकता है।

आप वाहन के ड्राइविंग क्रियाओं के लिए जिम्मेदार पक्ष हैं, भले ही स्वचालन को स्तर 2 या स्तर 3 में कितना उछाला जाए।

सेल्फ-ड्राइविंग कारें और एआई पूर्वाग्रह इनाम शिकार

लेवल 4 और लेवल 5 के लिए सच सेल्फ-ड्राइविंग वाहन, ड्राइविंग कार्य में शामिल मानव चालक नहीं होंगे।

सभी रहने वाले यात्री होंगे।

एआई ड्राइविंग कर रहा है।

तुरंत चर्चा करने का एक पहलू इस तथ्य पर जोर देता है कि आज के एआई ड्राइविंग सिस्टम में शामिल एआई संवेदनशील नहीं है। दूसरे शब्दों में, AI पूरी तरह से कंप्यूटर-आधारित प्रोग्रामिंग और एल्गोरिदम का एक सामूहिक है, और सबसे अधिक आश्वस्त रूप से उसी तरीके से तर्क करने में सक्षम नहीं है जो मनुष्य कर सकते हैं।

एआई के संवेदनशील नहीं होने के बारे में यह अतिरिक्त जोर क्यों दिया जा रहा है?

क्योंकि मैं यह रेखांकित करना चाहता हूं कि जब एआई ड्राइविंग सिस्टम की भूमिका पर चर्चा हो रही है, तो मैं एआई को मानवीय गुणों का वर्णन नहीं कर रहा हूं। कृपया ध्यान रखें कि इन दिनों एंथ्रोपोमोर्फिफाई एआई के लिए चल रही और खतरनाक प्रवृत्ति है। संक्षेप में, लोग आज के एआई के लिए मानव जैसी भावना प्रदान कर रहे हैं, इसके बावजूद कि इस तरह का एआई अभी तक मौजूद नहीं है।

उस स्पष्टीकरण के साथ, आप कल्पना कर सकते हैं कि एआई ड्राइविंग सिस्टम ड्राइविंग के पहलुओं के बारे में मूल रूप से किसी तरह "जान" नहीं पाएगा। ड्राइविंग और इसके लिए जरूरी सभी चीजों को सेल्फ-ड्राइविंग कार के हार्डवेयर और सॉफ्टवेयर के हिस्से के रूप में प्रोग्राम करना होगा।

आइए इस विषय पर खेलने के लिए आने वाले पहलुओं के बारे में जानें।

सबसे पहले, यह महसूस करना महत्वपूर्ण है कि सभी AI सेल्फ-ड्राइविंग कारें समान नहीं होती हैं। प्रत्येक ऑटोमेकर और सेल्फ-ड्राइविंग टेक फर्म सेल्फ-ड्राइविंग कारों को तैयार करने के लिए अपना दृष्टिकोण अपना रही है। जैसे, एआई ड्राइविंग सिस्टम क्या करेगा या नहीं, इस बारे में व्यापक बयान देना मुश्किल है।

इसके अलावा, जब भी यह कहा जाता है कि एआई ड्राइविंग सिस्टम कुछ खास काम नहीं करता है, तो बाद में, यह डेवलपर्स द्वारा आगे निकल सकता है जो वास्तव में कंप्यूटर को उसी काम करने के लिए प्रोग्राम करता है। कदम दर कदम, एआई ड्राइविंग सिस्टम में धीरे-धीरे सुधार और विस्तार किया जा रहा है। एक मौजूदा सीमा आज भविष्य के पुनरावृत्ति या सिस्टम के संस्करण में मौजूद नहीं हो सकती है।

मुझे उम्मीद है कि जो मैं संबंधित करने जा रहा हूं उसे रेखांकित करने के लिए पर्याप्त चेतावनी प्रदान करता है।

अपने कॉलम में, मैंने पहले ही स्वायत्त वाहनों और सेल्फ-ड्राइविंग कारों के क्षेत्र में बग-उन्मुख इनाम शिकारी के उपयोग पर विस्तार से चर्चा की है। यह दृष्टिकोण वास्तव में इस क्षेत्र में घटित हुआ है। इस बारे में सामान्य बहस होती रहती है कि यह एक अच्छा विचार है या नहीं। प्रयास आम तौर पर सीमित प्रकृति के होते हैं, अक्सर अपेक्षाकृत शांत रखे जाते हैं।

इसी तरह की बहस तब शुरू हो सकती है जब ध्यान सिस्टम बग की तलाश के बजाय एआई पूर्वाग्रहों की तलाश पर केंद्रित हो जाता है। कुछ लोग सुझाव देते हैं कि यदि आप ऐसा करते हैं तो यह धिक्कार है, यदि आप उलझन में नहीं पड़ते तो धिक्कार है।

यहाँ पर क्यों।

सबसे पहले, स्पष्ट होने के लिए, ऐसे कई तरीके हैं जिनमें स्वायत्त वाहन और सेल्फ-ड्राइविंग कारें एआई पूर्वाग्रहों के अधीन होंगी, मेरी कवरेज देखें यहाँ लिंक और यहाँ लिंक, कुछ के नाम बताएं। ऑटोमेकर्स और सेल्फ-ड्राइविंग कार कंपनियों को अपने एआई सिस्टम में उन एआई पूर्वाग्रहों को दिखने से रोकने की कोशिश करना बुद्धिमानी होगी। ऐसी कंपनियों के खिलाफ कानूनी और नैतिक आग निस्संदेह तीव्र होगी।

क्या इस विशिष्ट संदर्भ में एआई पूर्वाग्रह इनाम शिकार प्रयास का उपयोग एक उपयुक्त दृष्टिकोण है?

एक उत्तर यह है कि हां, यह उपयोगी होगा और एआई सेल्फ-ड्राइविंग कार या इसी तरह के किसी भी एम्बेडेड एआई पूर्वाग्रहों को पकड़ने और पकड़ने के लिए नई आंखों के "मुफ़्त" सेट की बहुतायत प्रदान करेगा। सेल्फ-ड्राइविंग कारों का निर्माण करने वाले अधिकांश एआई डेवलपर्स एआई बनाने में व्यस्त हैं जो बिंदु ए से बिंदु बी तक कार को सुरक्षित रूप से चला सकते हैं। वे उस मूल क्षमता में व्यस्त हैं और उनके पास किसी भी एआई पूर्वाग्रह की ओर न तो समय है और न ही ध्यान है जो कहीं न कहीं हो सकता है। उनके ए.आई.

दूसरा जवाब यह है कि नहीं, किसी भी आधार पर स्वायत्त वाहनों और सेल्फ-ड्राइविंग कारों के लिए इनाम शिकार की अनुमति देने से, चाहे बग के लिए या एआई पूर्वाग्रहों के लिए, सख्ती से बचा जाना चाहिए। तर्क यह है कि ये वाहन और उनका एआई जीवन-या-मृत्यु क्षमता वाले हैं। किसी भी तरह से एआई के साथ खिलवाड़ करना एआई के लिए किसी तरह से विनाशकारी हो सकता है और एआई ड्राइविंग सिस्टम पर प्रभाव डाल सकता है।

उस अंतिम बिंदु का प्रतिवाद यह है कि इनामी शिकारी उस एआई को बदलने में असमर्थ हैं जिसकी वे जांच कर रहे हैं। इस प्रकार, उनके द्वारा एआई के साथ खिलवाड़ करने और इस संदर्भ में एआई को अचानक एक पागल एआई ड्राइविंग सिस्टम बनने का कोई खतरा नहीं है। इनामी शिकारियों को केवल-पढ़ने के लिए ही पहुंच प्राप्त है। उन्हें आगे जाने की अनुमति देना नितांत मूर्खतापूर्ण और एक बड़ी गलती होगी।

उस प्रतिवाद का प्रतिवाद यह है कि इनामी शिकारियों को आपके एआई की जांच करने की अनुमति देने और प्रोत्साहित करने से पूरा मामला मुश्किल हो जाता है। वे इनाम शिकारी किसी भी पाए गए बग या पूर्वाग्रह का फायदा उठाने के तरीकों का पता लगा सकते हैं। बदले में वे कारनामे कुटिल उद्देश्यों के लिए हो सकते हैं। बेहतर होगा कि आप अपने घर में "चोरों" को आमंत्रित न करें। एक बार जब उन्होंने जोड़ को खोल दिया, तो अंततः आप मुसीबत में पड़ जायेंगे।

उन लोगों के लिए जिनके पास जीवन-या-मृत्यु से कम परिमाण की एआई प्रणालियां हैं, उनके लिए यह धारणा है कि इनामी शिकार अभियान के परिणाम बहुत कम जोखिम भरे होते हैं। संभावित हो। दूसरी ओर, यदि किसी फर्म ने अपना पैसा एआई प्रणाली में डाला है जिसे इनामी शिकारी हड़पने में कामयाब हो जाते हैं, तो आप मान सकते हैं कि प्रतिष्ठित क्षति और अन्य संभावित क्षति अभी भी नुकसान पहुंचाएगी।

जब एआई पूर्वाग्रह इनाम शिकार की बात आती है तो कोई मुफ्त लंच नहीं है।

अभी के लिए एक त्वरित समापन टिप्पणी।

जब ओल्ड वेस्ट के दौरान कुख्यात डाकू जेसी जेम्स की तलाश की गई, तो एक "वांटेड" पोस्टर मुद्रित किया गया था जिसमें उसे पकड़ने के लिए $ 5,000 का इनाम देने की पेशकश की गई थी ("मृत या जीवित")। उस समय यह बहुत बड़ी धनराशि थी। उसके ही गिरोह के एक सदस्य ने जेसी को गोली मारकर हत्या करने और इनाम लेने का विकल्प चुना। मेरा मानना ​​है कि इससे पता चलता है कि इनाम कितना प्रभावी हो सकता है।

क्या एआई बायस बाउंटी हंटर्स का उपयोग अच्छी बात होगी, या यह बुरी बात होगी?

यदि आप एआई बायस बाउंटी हंटर प्रयास शुरू करने का विकल्प चुनते हैं, तो मेरा सुझाव है कि आप अपनी आँखें खुली रखें और हर समय अपने कंधे की ओर देखते रहें। यह आपके और आपके एआई के लिए विवेकपूर्ण है। आप कभी नहीं जानते कि क्या हो सकता है, जिसमें यह भी शामिल है कि एक षडयंत्रकारी इनाम शिकारी किसी तरह आपके एआई में गुप्त रूप से एआई पूर्वाग्रह डालता है और दुनिया को चिल्लाता है कि उन्हें आपके एआई में एक बेईमान एआई पूर्वाग्रह मिला है। शायद इनाम की तलाश में एक बेशर्म और बड़े प्रयास में ऐसा करना, साथ ही खुद को एक नायक घोषित करना जो अनिवार्य रूप से प्रशंसित जेसी जेम्स को मिला।

इसके बारे में सोचें, एक संवेदनशील एआई को संभवतः मृत या जीवित प्रावधान के चिंताजनक विचार को पसंद नहीं आएगा, कोई भी ऐसा अनुमान लगा सकता है।