एआई एथिक्स एंड द लूमिंग डिबेकल जब न्यूयॉर्क सिटी लॉ को एआई बायसेस के लिए ऑडिट की आवश्यकता होती है, गियर में किक करता है

कभी-कभी विस्तार पर ध्यान देने की गंभीर कमी से सबसे अच्छे इरादे शोकपूर्ण रूप से धराशायी हो जाते हैं।

इस ऋषि ज्ञान का एक प्रमुख उदाहरण खोज करने योग्य है।

विशेष रूप से, आइए आर्टिफिशियल इंटेलिजेंस (एआई) के संबंध में न्यूयॉर्क शहर में एक नए कानून पर करीब से नज़र डालें, जो 1 जनवरी, 2023 को प्रभावी होगा। आप आसानी से एक बड़ा दांव जीत सकते हैं कि सभी तरह के भ्रम, घबराहट और परेशानियां पैदा होंगी। एक बार कानून लागू होने के बाद। हालांकि समस्याएं डिजाइन द्वारा नहीं हैं, वे निश्चित रूप से एक खराब डिजाइन या कम से कम आवश्यक विवरणों की अपर्याप्त शर्त के परिणामस्वरूप उत्पन्न होंगी जिन्हें आसानी से तैयार और स्पष्ट रूप से कहा जाना चाहिए था।

मैं पिछले साल 11 दिसंबर, 2021 को न्यूयॉर्क के प्रतिष्ठित शहर में पारित एक स्थानीय कानून की बात कर रहा हूं, जो 2023 की शुरुआत में लागू होने वाला है। वर्तमान में हम उस भव्य जागरण से केवल कुछ महीने दूर हैं। इस नए कानून में हलचल मचने वाली है। मेरी इच्छा है कि मैं कह सकता हूं कि महत्वाकांक्षी कानून मूल रूप से वह करने जा रहा है जो उसे करना चाहिए था, अर्थात् रोजगार निर्णय लेने के क्षेत्र में संभावित एआई पूर्वाग्रहों से निपटना। काश, हालांकि इरादा प्रशंसनीय है, मैं आपको उन खामियों, चूकों और विशिष्टता की कमी के बारे में बताऊंगा जो इस कानून को कम कर देंगे और नियोक्ताओं को पागल कर देंगे क्योंकि वे अनपेक्षित लेकिन काफी प्रतिकूल नतीजों का सामना करना चाहते हैं।

आप कह सकते हैं कि आधी-अधूरी योजना के साथ आगे बढ़ने का यह क्लासिक मुद्दा है। ड्वाइट आइजनहावर के लिए जिम्मेदार एक श्रद्धेय कहावत यह थी कि योजना कुछ भी नहीं है जबकि योजना ही सब कुछ है। संक्षेप में, यह विशेष कानून इस बात का एक ज्वलंत उदाहरण प्रदान करने जा रहा है कि कैसे कानून निर्माता कभी-कभी सोचने में विफल हो जाते हैं पहले से आवश्यक विवरण ताकि कानून अपने प्रशंसनीय लक्ष्यों को पूरा करे और निश्चित रूप से उचित और विवेकपूर्ण तरीके से अपनाया जा सके।

एक पराजय का इंतजार है।

बहाने पहले से ही लगाए जा रहे हैं।

कुछ पंडितों ने कहा है कि आप कभी भी किसी कानून को पूरी तरह से निर्दिष्ट नहीं कर सकते हैं और यह जानने के लिए कि कानून के किन पहलुओं को बदलने की जरूरत है (एक सामान्य सत्यवाद जिसे इस उदाहरण में अनुपात से बाहर किया जा रहा है)। इसके अलावा, वे गर्मजोशी से तर्क देते हैं कि यह विशेष रूप से मामला है जब एआई-संबंधित कानूनों के उभरते हुए नएपन की बात आती है। हेक, वे प्रोत्साहित करते हैं, एआई हाई-टेक विजार्ड्री है जिसके बारे में हम सांसदों के रूप में ज्यादा नहीं जानते हैं, इस प्रकार, तर्क यह है कि कानूनी पन्नों में कुछ डालने से बेहतर है कि वहां कुछ भी न हो।

सतह पर, यह निश्चित रूप से प्रेरक लगता है। हालांकि गहरी खुदाई करें और आपको पता चलता है कि यह संभावित रूप से हूई है, जिसमें विशेष रूप से इस विशिष्ट कानून के मामले में भी शामिल है। यह कानून आसानी से और अधिक चतुराई से और विवेकपूर्ण ढंग से निर्धारित किया जा सकता है। हमें जादुई औषधि की आवश्यकता नहीं है। हमें तब तक इंतजार करने की जरूरत नहीं है जब तक कि तबाही न हो जाए। जिस समय कानून तैयार किया गया था, उस समय सही तरह के शब्द और विवरण स्थापित किए जा सकते थे।

आइए यह भी सुनिश्चित करें कि अनुचित, तैरता हुआ विचार कि गोद लेने के पहलुओं को पहले से विभाजित नहीं किया जा सकता है, दर्दनाक रूप से बेतुका है। यह कानूनी रूप से सबसे खाली प्रकार का हाथ से हाथ हिलाना कानूनी है। एआई पूर्वाग्रहों से निपटने और एआई ऑडिट करने के बारे में पहले से ही बहुत सारे ज्ञात विचार हैं जिन्हें इस कानून में आसानी से पकाया जा सकता था। ऐसा कानून स्थापित करने पर विचार करने वाले किसी अन्य क्षेत्राधिकार के लिए भी यही कहा जा सकता है। इस विश्वास के बहकावे में न आएं कि हमें केवल अंधाधुंध कानूनी डार्ट को जंगली हवाओं और पीड़ा में फेंकने का सहारा लेना चाहिए। एआई की उपयुक्त समझ के साथ संयुक्त कानूनी सोच की एक गुड़िया पहले से ही संभव है और केवल तिनके को समझने की कोई आवश्यकता नहीं है।

मैं जोड़ सकता हूं, इसे ठीक करने के लिए अभी भी समय है। घड़ी अभी भी टिक रही है। खतरे की घंटी बजने से पहले जागना संभव हो सकता है। आवश्यक सलाह प्राप्त की जा सकती है और ज्ञात की जा सकती है। समय कम है इसलिए इसे उचित प्राथमिकता दी जानी चाहिए।

किसी भी मामले में, कृपया सुनिश्चित करें कि आप यहां पर जोर दे रहे हैं।

मुझे स्पष्ट रूप से स्पष्ट करने की अनुमति दें कि एआई पूर्वाग्रहों से संबंधित इस तरह के कानून में योग्यता है। मैं समझाता हूँ कि क्षण भर में क्यों। मैं यह भी बताऊंगा कि इस नए कानून के साथ क्या समस्याएं हैं, जो कई लोग कहेंगे कि कानूनी किताबों पर पहली बार रखा गया है (अन्य विविधताएं मौजूद हैं, शायद इस तरह से बिल्कुल नहीं)।

वास्तव में, आप उम्मीद कर सकते हैं कि इसी तरह के कानून धीरे-धीरे पूरे देश में अस्तित्व में आएंगे। एक उल्लेखनीय चिंता यह है कि यदि न्यूयॉर्क शहर का यह प्रथम-प्रस्तावक प्रयास बुरी तरह विफल हो जाता है, तो इससे शेष देश ऐसे कानूनों को लागू करने से सावधान हो सकते हैं। यह सीखने के लिए सही सबक नहीं है। सही सबक यह है कि यदि आप ऐसा कानून लिखने जा रहे हैं, तो इसे समझदारी और उचित विचार के साथ करें।

पर्याप्त पुनरीक्षण के बिना किताबों पर फेंके गए कानून काफी परेशान करने वाले हो सकते हैं और सभी तरह की डाउनस्ट्रीम कठिनाइयां पैदा कर सकते हैं। उस अर्थ में, कृपया बच्चे को नहाने के पानी से बाहर न फेंकें (एक पुरानी कहावत, शायद सेवानिवृत्त होना चाहिए)। सार यह है कि इस तरह के कानून सही मायने में उत्पादक और सुरक्षात्मक हो सकते हैं जब उन्हें सही तरीके से बनाया जाए।

यह विशेष दुर्भाग्य से गेट के बाहर ऐसा नहीं करने जा रहा है।

कानून के प्रवर्तकों और प्रवर्तकों से सभी प्रकार के भयावह मार्गदर्शन आना स्वाभाविक है। हाथापाई के रूप में देखने के लिए जनवरी के अंत और 2023 के फरवरी में अपने कैलेंडर को चिह्नित करें। फिंगर-पॉइंटिंग बेहद तीव्र होने वाली है।

कोई भी अभी विशेष रूप से चिल्ला रहा है क्योंकि कानून अभी तक नियोक्ताओं के सिर पर नहीं उतरा है जो नए कानून से प्रभावित होंगे। कल्पना कीजिए कि यह एक प्रतीकात्मक रूप से बोलने वाला भूकंप है जो 2023 के शुरुआती हफ्तों में होने वाला है। कुछ भूकंप की तैयारी कर रहे हैं। बहुत से लोग यह भी नहीं जानते हैं कि भूकंप पहले से ही कैलेंडर पर आ गया है। यह सब कहा जा रहा है, एक बार भूकंप आने के बाद, बहुत से चकित और चौंकाने वाले व्यवसाय आश्चर्यचकित होंगे कि क्या हुआ और गड़बड़ी क्यों हुई।

इन सबका विशेष रूप से महत्वपूर्ण एआई एथिक्स निहितार्थ है और जब एआई को कानून बनाने की कोशिश करने की बात आती है तो सीखे गए पाठों (यहां तक ​​​​कि सभी पाठ होने से पहले) में एक आसान विंडो प्रदान करता है। एआई एथिक्स के मेरे चल रहे और व्यापक कवरेज के लिए, एआई गवर्नेंस के कानूनी पहलुओं के बीच एआई लॉ के साथ एथिकल एआई को यहां पाया जा सकता है यहाँ लिंक और यहाँ लिंक, बस कुछ ही नाम के लिए.

शोक की यह कानूनी कहानी आज के एआई और विशेष रूप से मशीन लर्निंग (एमएल) और डीप लर्निंग (डीएल) के उपयोग के बारे में उभरती चिंताओं से संबंधित है और इसका उपयोग कैसे किया जा रहा है। आप देखते हैं, एमएल/डीएल के ऐसे उपयोग हैं जिनमें एआई को बड़े पैमाने पर जनता द्वारा मानवकृत किया जाना शामिल है, यह मानना ​​​​या यह मानना ​​​​है कि एमएल/डीएल या तो संवेदनशील एआई या निकट है (यह नहीं है)। इसके अलावा, एमएल/डीएल में कम्प्यूटेशनल पैटर्न मिलान के पहलू शामिल हो सकते हैं जो अवांछनीय या एकमुश्त अनुचित हैं, या नैतिकता या कानूनी दृष्टिकोण से अवैध हैं।

पहले यह स्पष्ट करना उपयोगी हो सकता है कि एआई को समग्र रूप से संदर्भित करते समय मेरा क्या मतलब है और मशीन लर्निंग और डीप लर्निंग का संक्षिप्त अवलोकन भी प्रदान करता है। आर्टिफिशियल इंटेलिजेंस का अर्थ क्या है, इसे लेकर बहुत भ्रम है। मैं आपको एआई नैतिकता के उपदेशों से भी परिचित कराना चाहूंगा, जो इस प्रवचन के शेष भाग के लिए विशेष रूप से अभिन्न होंगे।

एआई के बारे में रिकॉर्ड बताते हुए

आइए सुनिश्चित करें कि आज के एआई की प्रकृति के बारे में हम एक ही पक्ष में हैं।

आज कोई भी ऐसा AI नहीं है जो संवेदनशील हो।

हमारे पास यह नहीं है।

हम नहीं जानते कि संवेदनशील एआई संभव होगा या नहीं। कोई भी उपयुक्त रूप से भविष्यवाणी नहीं कर सकता है कि क्या हम संवेदनशील एआई प्राप्त करेंगे, न ही संवेदनशील एआई किसी भी तरह से स्वचालित रूप से कम्प्यूटेशनल संज्ञानात्मक सुपरनोवा के रूप में उत्पन्न होगा (आमतौर पर एकवचन के रूप में जाना जाता है, मेरा कवरेज देखें यहाँ लिंक).

महसूस करें कि आज का AI किसी भी तरह से मानव सोच के समान "सोचने" में सक्षम नहीं है। जब आप एलेक्सा या सिरी के साथ बातचीत करते हैं, तो बातचीत की क्षमता मानवीय क्षमताओं के समान लग सकती है, लेकिन वास्तविकता यह है कि यह कम्प्यूटेशनल है और इसमें मानवीय ज्ञान का अभाव है। एआई के नवीनतम युग ने मशीन लर्निंग और डीप लर्निंग का व्यापक उपयोग किया है, जो कम्प्यूटेशनल पैटर्न मिलान का लाभ उठाते हैं। इसने एआई सिस्टम को जन्म दिया है जिसमें मानव जैसी प्रवृत्तियों का आभास होता है। इस बीच, आज कोई ऐसा AI नहीं है जिसमें सामान्य ज्ञान की समानता हो और न ही मजबूत मानवीय सोच का कोई संज्ञानात्मक आश्चर्य हो।

समस्या का एक हिस्सा कंप्यूटर और विशेष रूप से एआई को मानवकृत करने की हमारी प्रवृत्ति है। जब एक कंप्यूटर सिस्टम या एआई उन तरीकों से कार्य करता है जो हम मानव व्यवहार के साथ जोड़ते हैं, तो सिस्टम में मानवीय गुणों को शामिल करने की लगभग जबरदस्त इच्छा होती है। यह एक सामान्य मानसिक जाल है जो संवेदना तक पहुँचने की संभावना के बारे में सबसे अधिक संशयवादी को भी पकड़ सकता है।

कुछ हद तक, यही कारण है कि एआई एथिक्स और एथिकल एआई इतना महत्वपूर्ण विषय है।

एआई नैतिकता के नियम हमें सतर्क रहने के लिए प्रेरित करते हैं। एआई प्रौद्योगिकीविद कभी-कभी प्रौद्योगिकी, विशेष रूप से उच्च तकनीक के अनुकूलन में व्यस्त हो सकते हैं। वे जरूरी नहीं कि बड़े सामाजिक प्रभावों पर विचार कर रहे हों। एआई एथिक्स मानसिकता रखने और एआई विकास और क्षेत्ररक्षण के लिए एकीकृत रूप से ऐसा करना उचित एआई के उत्पादन के लिए महत्वपूर्ण है, जिसमें यह आकलन भी शामिल है कि फर्मों द्वारा एआई एथिक्स को कैसे अपनाया जाता है।

सामान्य रूप से एआई नैतिकता के नियमों को लागू करने के अलावा, एक समान प्रश्न है कि क्या हमारे पास एआई के विभिन्न उपयोगों को नियंत्रित करने के लिए कानून होना चाहिए। नए कानूनों को संघीय, राज्य और स्थानीय स्तरों पर बांधा जा रहा है जो इस बात से संबंधित हैं कि एआई को कैसे तैयार किया जाना चाहिए। ऐसे कानूनों का मसौदा तैयार करने और उन्हें अधिनियमित करने का प्रयास धीरे-धीरे किया जाता है। एआई एथिक्स बहुत कम से कम एक सुविचारित स्टॉपगैप के रूप में कार्य करता है, और लगभग निश्चित रूप से कुछ हद तक सीधे उन नए कानूनों में शामिल किया जाएगा।

ध्यान रखें कि कुछ लोग दृढ़ता से तर्क देते हैं कि हमें एआई को कवर करने वाले नए कानूनों की आवश्यकता नहीं है और हमारे मौजूदा कानून पर्याप्त हैं। उन्होंने चेतावनी दी है कि अगर हम इनमें से कुछ एआई कानूनों को लागू करते हैं, तो हम एआई में प्रगति पर रोक लगाकर सुनहरी हंस को मार देंगे जो कि अत्यधिक सामाजिक लाभ प्रदान करते हैं। उदाहरण के लिए मेरा कवरेज देखें यहाँ लिंक.

पिछले कॉलम में, मैंने एआई को विनियमित करने वाले कानूनों को तैयार करने और अधिनियमित करने के विभिन्न राष्ट्रीय और अंतर्राष्ट्रीय प्रयासों को कवर किया है, देखें यहाँ लिंक, उदाहरण के लिए। मैंने विभिन्न एआई नैतिकता सिद्धांतों और दिशानिर्देशों को भी कवर किया है जिन्हें विभिन्न देशों ने पहचाना और अपनाया है, उदाहरण के लिए संयुक्त राष्ट्र के प्रयास जैसे कि एआई एथिक्स का यूनेस्को सेट जिसे लगभग 200 देशों ने अपनाया है, देखें यहाँ लिंक.

यहां एआई सिस्टम के बारे में नैतिक एआई मानदंड या विशेषताओं की एक सहायक कीस्टोन सूची है जिसे मैंने पहले बारीकी से खोजा है:

• ट्रांसपेरेंसी
• न्याय और निष्पक्षता
• गैर-नुकसान
• उत्तरदायित्व
• निजता
• उपकार
• स्वतंत्रता और स्वायत्तता
• ट्रस्ट
• स्थिरता
• गौरव
• एकजुटता

उन एआई नैतिकता सिद्धांतों को एआई डेवलपर्स द्वारा ईमानदारी से उपयोग किया जाना चाहिए, साथ ही एआई विकास प्रयासों का प्रबंधन करने वाले, और यहां तक ​​​​कि वे जो अंततः एआई सिस्टम पर क्षेत्र और रखरखाव करते हैं। विकास और उपयोग के पूरे एआई जीवन चक्र में सभी हितधारकों को नैतिक एआई के स्थापित मानदंडों के पालन के दायरे में माना जाता है। यह एक महत्वपूर्ण हाइलाइट है क्योंकि सामान्य धारणा यह है कि "केवल कोडर्स" या एआई प्रोग्राम करने वाले एआई एथिक्स धारणाओं का पालन करने के अधीन हैं। जैसा कि यहां पहले जोर दिया गया है, एआई को विकसित करने और क्षेत्र में लाने के लिए एक गाँव की आवश्यकता होती है, और जिसके लिए पूरे गाँव को एआई एथिक्स के नियमों से वाकिफ और उसका पालन करना पड़ता है।

आइए चीजों को जमीन पर रखें और आज के कम्प्यूटेशनल गैर-संवेदी एआई पर ध्यान केंद्रित करें।

एमएल/डीएल कम्प्यूटेशनल पैटर्न मिलान का एक रूप है। सामान्य तरीका यह है कि आप निर्णय लेने के कार्य के बारे में डेटा इकट्ठा करते हैं। आप डेटा को ML/DL कंप्यूटर मॉडल में फीड करते हैं। वे मॉडल गणितीय पैटर्न खोजने की कोशिश करते हैं। ऐसे पैटर्न खोजने के बाद, यदि ऐसा पाया जाता है, तो AI सिस्टम नए डेटा का सामना करते समय उन पैटर्न का उपयोग करेगा। नए डेटा की प्रस्तुति पर, वर्तमान निर्णय को प्रस्तुत करने के लिए "पुराने" या ऐतिहासिक डेटा पर आधारित पैटर्न लागू होते हैं।

मुझे लगता है कि आप अनुमान लगा सकते हैं कि यह कहाँ जा रहा है। यदि मानव जो निर्णयों पर प्रतिरूप बनाते रहे हैं, वे अवांछित पूर्वाग्रहों को शामिल कर रहे हैं, तो संभावना है कि डेटा इसे सूक्ष्म लेकिन महत्वपूर्ण तरीकों से दर्शाता है। मशीन लर्निंग या डीप लर्निंग कम्प्यूटेशनल पैटर्न मिलान केवल गणितीय रूप से डेटा की नकल करने की कोशिश करेगा। एआई-क्राफ्टेड मॉडलिंग के सामान्य ज्ञान या अन्य संवेदनशील पहलुओं की कोई समानता नहीं है।

इसके अलावा, एआई डेवलपर्स को एहसास नहीं हो सकता है कि क्या हो रहा है। एमएल/डीएल में रहस्यमय गणित अब छिपे हुए पूर्वाग्रहों को दूर करना मुश्किल बना सकता है। आप सही उम्मीद करेंगे और उम्मीद करेंगे कि एआई डेवलपर्स संभावित दफन पूर्वाग्रहों के लिए परीक्षण करेंगे, हालांकि यह जितना प्रतीत हो सकता है उससे कहीं अधिक कठिन है। एक ठोस मौका मौजूद है कि अपेक्षाकृत व्यापक परीक्षण के साथ भी एमएल/डीएल के पैटर्न मिलान मॉडल के भीतर अभी भी पूर्वाग्रह अंतर्निहित होंगे।

आप कुछ हद तक प्रसिद्ध या कुख्यात कहावत का उपयोग कर सकते हैं कचरा-कचरा-बाहर। बात यह है कि, यह पूर्वाग्रहों के समान है-इसमें एआई के भीतर डूबे हुए पूर्वाग्रहों के रूप में कपटी रूप से संक्रमित हो जाते हैं। एआई का एल्गोरिथम निर्णय लेने (एडीएम) स्वयंसिद्ध रूप से असमानताओं से भरा हो जाता है।

अच्छा नही।

मेरा मानना ​​​​है कि अब मैंने चुपचाप छोड़ने के नियम के भीतर एआई की भूमिका पर पर्याप्त चर्चा करने के लिए मंच तैयार कर लिया है।

एआई जो रोजगार निर्णय लेने में उपयोग किया जाता है

न्यूयॉर्क शहर का कानून रोजगार निर्णय लेने के विषय पर केंद्रित है।

यदि आपने हाल ही में इस धरती पर लगभग कहीं भी आधुनिक नौकरी के लिए आवेदन करने का प्रयास किया है, तो संभवतः आपको रोजगार निर्णय लेने की प्रक्रिया में एआई-आधारित तत्व का सामना करना पड़ा है। बेशक, आप यह नहीं जानते होंगे कि यह वहाँ है क्योंकि यह पर्दे के पीछे छिपा हो सकता है और आपके पास यह समझने का कोई तैयार तरीका नहीं होगा कि एआई सिस्टम शामिल था।

इन एआई सिस्टम को संदर्भित करने के लिए इस्तेमाल किया जाने वाला एक सामान्य वाक्यांश यह है कि उन्हें माना जाता है स्वचालित रोजगार निर्णय उपकरण, एईडीटी के रूप में संक्षिप्त।

आइए देखें कि एनवाईसी कानून ने इन टूल या ऐप को कैसे परिभाषित किया है जो रोजगार संबंधी निर्णय लेने की आवश्यकता है:

• "स्वचालित रोजगार निर्णय उपकरण' शब्द का अर्थ मशीन लर्निंग, सांख्यिकीय मॉडलिंग, डेटा एनालिटिक्स, या कृत्रिम बुद्धिमत्ता से प्राप्त कोई भी कम्प्यूटेशनल प्रक्रिया है, जो स्कोर, वर्गीकरण या सिफारिश सहित सरलीकृत आउटपुट जारी करता है, जिसका उपयोग पर्याप्त रूप से सहायता करने के लिए किया जाता है या प्राकृतिक व्यक्तियों को प्रभावित करने वाले रोजगार निर्णय लेने के लिए विवेकाधीन निर्णय लेने की जगह। शब्द 'स्वचालित रोजगार निर्णय उपकरण' में ऐसा उपकरण शामिल नहीं है जो विवेकाधीन निर्णय लेने की प्रक्रियाओं को स्वचालित, समर्थन, पर्याप्त रूप से सहायता या प्रतिस्थापित नहीं करता है और जो प्राकृतिक व्यक्तियों को भौतिक रूप से प्रभावित नहीं करता है, जिसमें जंक ईमेल फ़िल्टर शामिल है, लेकिन इन्हीं तक सीमित नहीं है, फ़ायरवॉल, एंटीवायरस सॉफ़्टवेयर, कैलकुलेटर, स्प्रेडशीट, डेटाबेस, डेटा सेट, या डेटा का अन्य संकलन ”(NYC, Int 1894-2020, Subchapter 25, Section 20-870)।

मैं संक्षेप में इस शब्द की जाँच करूँगा क्योंकि यह कानून की संपूर्ण प्रकृति और दायरे के लिए महत्वपूर्ण है।

सबसे पहले, जैसा कि मैंने अपने लेखन में कई बार कहा है, एआई के बारे में कानून लिखते समय सबसे कठिन बाधाओं में से एक में एआई का अर्थ पर्याप्त रूप से परिभाषित करने का प्रयास करना शामिल है। कानूनी रूप से बुलेटप्रूफ मानक पर कोई एकमत नहीं है, जिस पर हर कोई उतरा है। सभी प्रकार की परिभाषाएँ मौजूद हैं। कुछ मददगार हैं, कुछ नहीं हैं। मेरे विश्लेषण देखें यहाँ लिंक.

आप यह सोचने के लिए ललचा सकते हैं कि यह विशेष रूप से मायने नहीं रखता कि हम AI को कैसे परिभाषित कर सकते हैं। क्षमा करें, लेकिन आप इसके बारे में गलत होंगे।

मुद्दा यह है कि यदि एआई परिभाषा किसी दिए गए कानून में अस्पष्ट रूप से निर्दिष्ट है, तो यह उन लोगों को अनुमति देता है जो एआई विकसित करने की कोशिश करते हैं और कानून के चारों ओर स्कर्ट करने का दावा करते हैं कि उनका सॉफ्टवेयर या सिस्टम एआई-संक्रमित नहीं है। वे बड़े साहस के साथ तर्क देंगे कि कानून उनके सॉफ़्टवेयर पर लागू नहीं होता है। इसी तरह, सॉफ़्टवेयर का उपयोग करने वाला कोई व्यक्ति यह भी दावा कर सकता है कि कानून उनसे संबंधित नहीं है क्योंकि वे जिस सॉफ़्टवेयर या सिस्टम का उपयोग कर रहे हैं वह कानून में बताई गई AI परिभाषा से बाहर है।

मनुष्य ऐसे ही धूर्त हैं।

जिस कानून का आप समर्थन नहीं करते हैं, उससे बचने के सबसे चतुर तरीकों में से एक यह है कि यह दावा करना कि कानून आप पर लागू नहीं होता है। इस मामले में, आप एईडीटी की परिभाषा को अलग-अलग करना चाहेंगे। आपका लक्ष्य, यह मानते हुए कि आप नहीं चाहते कि कानून आपकी पीठ पर हो, कानूनी रूप से तर्क देना होगा कि कानून में दी गई परिभाषा आपके रोजगार से संबंधित कंप्यूटर सिस्टम क्या है या क्या करती है।

परिभाषा में जानबूझकर बहिष्करण संबंधी शर्तों को शामिल करके इस तरह के एक कानून की मदद की जा सकती है और कभी-कभी इसे कम भी किया जा सकता है।

जैसा कि इस कानून में कहा गया है, एईडीटी की परिभाषा पर फिर से एक नज़र डालें। आपने उम्मीद से देखा है कि एक बहिष्करण खंड है जो कहता है कि "... इसमें ऐसा उपकरण शामिल नहीं है जो विवेकाधीन निर्णय लेने की प्रक्रियाओं को स्वचालित, समर्थन, पर्याप्त सहायता या प्रतिस्थापित नहीं करता है और जो प्राकृतिक व्यक्तियों को भौतिक रूप से प्रभावित नहीं करता है ..."।

एक ओर, ऐसे बहिष्करण को शामिल करने का आधार निश्चित रूप से सहायक है।

यह सुझाव दे रहा है (मेरे आम आदमी के विचार में) कि एईडीटी को एक विशिष्ट उद्देश्य प्रदान करना है और एक वास्तविक तरीके से उपयोग किया जाना है। यदि एईडीटी है तो क्या हम सरसरी या परिधीय कहेंगे, और यदि रोजगार का निर्णय अभी भी मानव हस्तनिर्मित है, तो शायद इस्तेमाल किए जा रहे सॉफ्टवेयर सिस्टम को एईडीटी के रूप में नहीं माना जाना चाहिए। साथ ही, यदि सॉफ़्टवेयर या सिस्टम प्राकृतिक व्यक्तियों (मनुष्यों) को "भौतिक रूप से" प्रभावित नहीं कर रहा है, तो आग में अपने पैरों को पकड़ना उचित नहीं लगता, जैसा कि यह था।

समझदारी से, आप नहीं चाहते कि कोई कानून अपने दायरे को बढ़ा-चढ़ाकर पेश करे और किचन सिंक सहित हर चीज को अपनी चपेट में ले ले। ऐसा करना उन लोगों के लिए अनिवार्य रूप से अनुचित और बोझिल है जिन्हें कानून में शामिल करने का इरादा नहीं था। वे एक दलदल में फंस सकते हैं जो उन सभी मछली पकड़ने वालों में से एक की तरह काम करता है। संभवतः, हमारे कानूनों को निर्दोषों को कानून के दायरे में घसीटने से बचने के लिए सावधान रहना चाहिए।

सब ठीक है और अच्छा है।

एक जानकार वकील यह महसूस करने के लिए बाध्य है कि एक बहिष्करण खंड एक प्रकार का कानूनी गेट-आउट-जेल कार्ड हो सकता है (एक तरफ के रूप में, यह विशेष कानून नागरिक दंड निर्धारित करता है, आपराधिक दंड नहीं, इसलिए मिल-बाहर के जेल टिप्पणी केवल लाक्षणिक है और स्वादिष्ट चुटीलेपन के लिए)। अगर किसी को यह तर्क देना था कि एक कंपनी रोजगार प्रसंस्करण में एईडीटी का उपयोग कर रही थी, तो उस दावे को दूर करने और दूर करने के पहले तरीकों में से एक यह तर्क देना होगा कि तथाकथित एईडीटी वास्तव में बहिष्करण क्षेत्र में था। आप यह दिखाने का प्रयास कर सकते हैं कि तथाकथित AEDT को स्वचालित रूप से रोजगार निर्णय, या यह नहीं है समर्थन रोजगार निर्णय, या यह नहीं है पर्याप्त रूप से सहायता or की जगह विवेकाधीन निर्णय लेने की प्रक्रिया।

फिर आप इस संदर्भ में "स्वचालित," "समर्थन," "काफी हद तक सहायता," या "प्रतिस्थापन" शब्दों की पहचान करने के कठिन रास्ते पर जा सकते हैं। यह काफी आसान कानूनी खरगोश छेद है। एक सम्मोहक मामला बनाया जा सकता है कि सॉफ्टवेयर या सिस्टम को एईडीटी होने का आरोप लगाया गया है जो बहिष्करण संकेतों का हिस्सा है। इसलिए, इस विशेष कानून के संबंध में कोई नुकसान नहीं, कोई बेईमानी नहीं।

जाहिर है, ऐसे मामलों के लिए लाइसेंस प्राप्त वकीलों से परामर्श किया जाना चाहिए (यहां कानूनी सलाह का कोई संकेत नहीं दिया गया है और यह पूरी तरह से एक आम आदमी का विचार है)।

यहां मेरा कहना यह है कि इस नए कानून में झंझट की गुंजाइश है। विग्गल रूम कुछ नियोक्ताओं को अनुमति देगा जो वास्तव में एईडीटी का उपयोग कर रहे हैं, शायद एईडीटी उपयोग के आसपास पाने के लिए एक बचाव का रास्ता खोजें। उस सिक्के का दूसरा पहलू यह है कि ऐसी फर्में हो सकती हैं जो वास्तव में एईडीटी का उपयोग नहीं कर रही हैं जो इस कानून के जाल में फंस जाएंगी। एक दावा किया जा सकता है कि वे जो कुछ भी उपयोग कर रहे थे वह वास्तव में एक एईडीटी था, और उन्हें यह दिखाने के लिए एक साधन खोजने की आवश्यकता होगी कि उनका सॉफ्टवेयर या सिस्टम एईडीटी के बाहर और बहिष्करण प्रावधान में गिर गया।

हम यह साहसिक भविष्यवाणी कर सकते हैं:

• निस्संदेह ऐसे नियोक्ता होंगे जो जानबूझकर एईडीटी का उपयोग कर रहे हैं जो संभावित रूप से अपनी कानूनी जिम्मेदारियों से बाहर निकलने का प्रयास करेंगे।
• अनिवार्य रूप से ऐसे नियोक्ता होंगे जो एईडीटी का उपयोग नहीं कर रहे हैं, वे दावों में फंस गए हैं कि वे एईडीटी का उपयोग कर रहे हैं, जिससे उन्हें यह दिखाने के लिए "अतिरिक्त" प्रयास करने के लिए मजबूर होना पड़ता है कि वे एईडीटी का उपयोग नहीं कर रहे हैं।

जब हम इस चर्चा में आगे बढ़ेंगे, तो मैं इन असंख्य क्रमपरिवर्तनों और संयोजनों के बारे में विस्तार से बताऊँगा। हमारे पास चलने के लिए बहुत अधिक जमीन है।

एईडीटी का उपयोग करना इस मुद्दे का हिस्सा नहीं है जो प्रदर्शनकारी चिंताओं को जन्म देता है, यह है कि एईडीटी अपने कार्यों को कैसे करता है जिससे कानूनी क्रोध बहता है। जड़ यह है कि यदि एईडीटी रोजगार निर्णय लेने से संबंधित पूर्वाग्रहों को भी पेश करता है, तो आप संभावित रूप से गर्म पानी (अच्छी तरह से) में हैं।

हम कैसे जान सकते हैं कि क्या एईडीटी वास्तव में एआई-लदी पूर्वाग्रहों को रोजगार निर्णय लेने के प्रयास में पेश करता है?

इस कानून के अनुसार उत्तर यह है कि एआई ऑडिट किया जाना है।

मैंने पहले और अक्सर एआई ऑडिट की प्रकृति को कवर किया है और वे क्या हैं, साथ ही मौजूदा डाउनसाइड्स और खराब परिभाषित पहलुओं को ध्यान में रखते हुए, जैसे कि यहाँ लिंक और यहाँ लिंक, कई अन्य समान पोस्टिंग के बीच। सीधे शब्दों में कहें तो धारणा यह है कि जैसे आप किसी फर्म का वित्तीय ऑडिट कर सकते हैं या कंप्यूटर सिस्टम से संबंधित तकनीकी ऑडिट कर सकते हैं, वैसे ही आप एआई सिस्टम पर ऑडिट कर सकते हैं। विशेष ऑडिटिंग तकनीकों, उपकरणों और विधियों का उपयोग करते हुए, आप जांच करते हैं और आकलन करते हैं कि एआई सिस्टम में क्या शामिल है, उदाहरण के लिए यह पता लगाने की कोशिश करना कि इसमें एक प्रकार या किसी अन्य के पूर्वाग्रह हैं या नहीं।

यह ध्यान का एक बढ़ता हुआ क्षेत्र है।

आप उम्मीद कर सकते हैं कि एआई ऑडिटिंग के लिए समर्पित ऑडिटिंग का यह सबफील्ड बढ़ता रहेगा। यह स्पष्ट रूप से स्पष्ट है कि जैसा कि हमारे पास अधिक से अधिक एआई सिस्टम बाजार में उपलब्ध होंगे, और बदले में, एआई ऑडिट के लिए अधिक से अधिक शोर होगा। नए कानून इसे जगाने में मदद करेंगे। उन कानूनों के बिना भी, एआई ऑडिट होने जा रहे हैं क्योंकि लोग और कंपनियां दावा करती हैं कि एआई द्वारा उनके साथ अन्याय किया गया है और वे एक ठोस दस्तावेज संकेत प्रदान करने की कोशिश करेंगे कि नुकसान मौजूद था और एआई का इस्तेमाल किया जा रहा था।

एआई ऑडिटर गर्म और उच्च मांग में होने जा रहे हैं।

यह एक रोमांचक काम हो सकता है। एक शायद रोमांचकारी तत्व नवीनतम और महानतम एआई में डूबे रहने पर जोर देता है। एआई आगे बढ़ता रहता है। ऐसा होने पर, एक चतुर एआई ऑडिटर को अपने पैर की उंगलियों पर बने रहना होगा। यदि आप एक ऐसे ऑडिटर हैं जो रोज़मर्रा के पारंपरिक ऑडिट करते-करते थक गए हैं, तो आंखें खोलने वाला हमेशा-नया AI ऑडिटिंग क्षेत्र वादा करता है (मैं यह ऑडिटर्स के कद को आंशिक रूप से ऊंचा करने के लिए कहता हूं क्योंकि वे अक्सर खाइयों में काम करने वाले अनहेल्ड हीरो होते हैं और उनके प्रयासों के लिए उपेक्षा की जाती है)।

एक तरफ के रूप में, मैं एक प्रमाणित कंप्यूटर सिस्टम ऑडिटर रहा हूं (ऐसा ही एक पदनाम सीआईएसए है) और एआई ऑडिट सहित कई वर्षों में आईटी (सूचना प्रौद्योगिकी) ऑडिट कई बार किया है। अधिकांश समय, आपको ऐसे प्रयासों के योग्य मान्यता नहीं मिलती है। आप शायद अनुमान लगा सकते हैं क्यों। मोटे तौर पर, लेखा परीक्षकों को ऐसी चीजें मिलती हैं जो गलत या टूटी हुई हैं। उस अर्थ में, वे काफी मददगार हो रहे हैं, हालांकि कुछ इसे बुरी खबर के रूप में मान सकते हैं, और बुरी खबर के दूत को आमतौर पर एक कुरसी पर नहीं रखा जाता है।

मुद्दे पर वापस आते हैं।

एनवाईसी कानून के संबंध में, एआई ऑडिटिंग और एआई पूर्वाग्रहों को उजागर करने की मांग के बारे में कानून यहां क्या कहता है:

• "पूर्वाग्रह लेखा परीक्षा' शब्द का अर्थ एक स्वतंत्र लेखा परीक्षक द्वारा निष्पक्ष मूल्यांकन है। इस तरह के पूर्वाग्रह ऑडिट में शीर्षक की धारा 1e-2000 की उपधारा (सी) के अनुसार नियोक्ताओं द्वारा रिपोर्ट किए जाने के लिए आवश्यक किसी भी घटक 8 श्रेणी के व्यक्तियों पर उपकरण के असमान प्रभाव का आकलन करने के लिए एक स्वचालित रोजगार निर्णय उपकरण के परीक्षण तक सीमित नहीं होना चाहिए। संघीय नियमों के कोड के शीर्षक 42 के भाग 1602.7 में निर्दिष्ट संयुक्त राज्य कोड के 29" (NYC, Int 1894-2020, Subchapter 25, Section 20-870)।

संक्षेप में, यहाँ हम इस कानून को खोलने के बारे में अभी तक हैं:

• कानून में स्वचालित रोजगार निर्णय उपकरण (AEDT) शामिल हैं
• एईडीटी क्या है, इसकी पहचान करने के लिए एक प्रकार की परिभाषा शामिल है
• एईडीटी की परिभाषा में बहिष्करण प्रावधानों का भी उल्लेख है
• सार यह है कि कानून एईडीटी में एआई पूर्वाग्रहों को उजागर करना चाहता है
• यह पता लगाने के लिए कि क्या एआई पूर्वाग्रह मौजूद हैं, एआई ऑडिट किया जाना है
• एआई ऑडिट संभवत: किसी भी एआई पूर्वाग्रह को ज्ञात करेगा

हम आगे कानून में थोड़ी और खुदाई कर सकते हैं।

यहाँ एक रोजगार निर्णय में क्या शामिल है:

• "रोजगार निर्णय' शब्द का अर्थ रोजगार के लिए उम्मीदवारों या शहर के भीतर पदोन्नति के लिए कर्मचारियों की स्क्रीनिंग करना है" (NYC, Int 1894-2020, Subchapter 25, Section 20-870)।

ध्यान दें कि "शहर" के बाध्यकारी पहलू से पता चलता है कि मामला केवल NYC के भीतर रोजगार से संबंधित परिस्थितियों से संबंधित है। साथ ही, यह ध्यान देने योग्य है कि परिभाषित के रूप में एक रोजगार निर्णय में उम्मीदवारों की स्क्रीनिंग शामिल है, जो कि एक रोजगार निर्णय के रूप में हम जो सोचते हैं उसका सामान्य अर्थ है, साथ ही इसमें पदोन्नति भी शामिल है।

यह इस अर्थ में एक दोहरी मार है कि फर्मों को यह महसूस करने की आवश्यकता होगी कि उन्हें अपने AEDT (यदि वे एक का उपयोग कर रहे हैं) के शीर्ष पर होने की आवश्यकता है, जिसका उपयोग प्रारंभिक रोजगार सेटिंग्स के लिए किया जा रहा है और फर्म के भीतर प्रचार करते समय भी। आप अनुमान लगा सकते हैं या मान सकते हैं कि कई फर्म इस रूब्रिक के भीतर भी प्रचार तत्व के बारे में पूरी तरह से संज्ञान नहीं ले पाएंगे। वे अनिवार्य रूप से उस अतिरिक्त निर्माण को अपने जोखिम पर अनदेखा कर देंगे।

मैं अगले कानून का एक अतिरिक्त मुख्य अंश प्रदान करने जा रहा हूं, जो इस कानून द्वारा गैर-कानूनी समझे जाने के सार को उजागर करने के लिए है:

• "स्वचालित रोजगार निर्णय उपकरण के लिए आवश्यकताएं। एक। शहर में, एक नियोक्ता या एक रोजगार एजेंसी के लिए किसी उम्मीदवार या कर्मचारी को रोजगार के निर्णय के लिए स्क्रीन करने के लिए स्वचालित रोजगार निर्णय उपकरण का उपयोग करना गैरकानूनी होगा जब तक कि: 1. ऐसा उपकरण एक पूर्वाग्रह ऑडिट का विषय रहा हो, जो इससे अधिक नहीं किया गया हो ऐसे उपकरण के उपयोग से एक वर्ष पहले; और 2. इस तरह के उपकरण के सबसे हाल के पूर्वाग्रह ऑडिट के परिणामों का सारांश और साथ ही उस उपकरण की वितरण तिथि, जिस पर ऐसा ऑडिट लागू होता है, के उपयोग से पहले नियोक्ता या रोजगार एजेंसी की वेबसाइट पर सार्वजनिक रूप से उपलब्ध कराया गया है। ऐसा टूल…” (एनवाईसी, इंट 1894-2020, सबचैप्टर 25, सेक्शन 20-871)। यदि आप कानूनी शब्दों में गहरी रुचि रखते हैं, तो अतिरिक्त उपखंड हैं जिन पर आप एक नज़र डालना चाहते हैं।

संशयवादियों और आलोचकों ने तर्क दिया है कि यह कुछ हद तक नीरस लगता है क्योंकि गैरकानूनी गतिविधि को बुलाया जा रहा है।

वे कहते हैं कि कानून केवल संकीर्ण और न्यूनतम रूप से ध्यान केंद्रित करता है का आयोजन एक एआई ऑडिट और प्रचार परिणाम, इसके बजाय कि क्या एआई ऑडिट ने एआई पूर्वाग्रहों की खोज की और क्या होगा यदि इस कानून के दायरे में आने वाले रोजगार निर्णय लेने में इसका कोई प्रभाव पड़ा हो। संक्षेप में, यह स्पष्ट रूप से गैरकानूनी है नहीं ऐसा AI ऑडिट करने का विकल्प चुनें (जब लागू हो, जैसा कि पहले चर्चा की गई है), साथ ही यह उदाहरण में भी गैरकानूनी है यदि आप AI ऑडिट करते हैं लेकिन करते हैं नहीं इसे प्रचारित करें।

इस सवाल पर कानून चुप है कि क्या एआई पूर्वाग्रहों का पता लगाया गया था और मौजूद था या नहीं। इसी तरह, इस बारे में चुप्पी कि क्या एआई पूर्वाग्रहों ने किसी प्रमुख रोजगार निर्णय लेने की गतिविधि से संबंधित किसी को प्रभावित किया है। कुंजी स्पष्ट रूप से स्पष्ट रूप से "केवल" एआई ऑडिट आयोजित करना और इसके बारे में बताना है।

क्या यह कानून काफी दूर नहीं जाता है?

प्रतिवाद का एक हिस्सा यह तर्क देने के लिए कि यह इस कानून में शामिल की सीमा या दायरे के अनुसार संतोषजनक है, यह है कि यदि एआई ऑडिट में एआई पूर्वाग्रह पाए जाते हैं, और यदि वे एआई पूर्वाग्रह विशेष रोजगार निर्णय लेने के उदाहरणों से बंधे हैं, तो व्यक्ति या इस तरह से क्षतिग्रस्त व्यक्ति नियोक्ता के तहत पीछा करने में सक्षम होंगे अन्य कानून। इस प्रकार, इस विशेष कानून में उस पहलू को शामिल करने की कोई आवश्यकता नहीं है।

कथित तौर पर, इस कानून का उद्देश्य ऐसे मामलों को प्रकाश में लाना है।

एक बार जब इन अप्रिय प्रथाओं पर दिन का प्रकाश डाला जाता है, तो अन्य सभी कानूनी रास्ते अपनाए जा सकते हैं यदि एआई पूर्वाग्रह मौजूद हैं और लोगों के लिए प्रभावशाली हैं। इस कानून के बिना, यह तर्क दिया जाता है कि एईडीटी का उपयोग करने वाले ऐसा कर रहे होंगे, जबकि संभवतः आपे से बाहर चल रहे होंगे और संभावित रूप से एआई पूर्वाग्रहों के टन होंगे, जिसके लिए रोजगार चाहने वालों या पदोन्नति चाहने वालों को पता नहीं होगा कि हो रहा है।

उन्हें सतह पर लाओ। उन्हें बताएं। हुड के नीचे जाओ। देखिए उस इंजन के अंदर क्या है। इस प्रसंग में यही मंत्र है। इस सरफेसिंग और टेलिंग में से अतिरिक्त कार्रवाई की जा सकती है।

यह बताने के परिणामस्वरूप कानूनी कार्रवाई की मांग करने के अलावा कि एआई ऑडिट ने शायद रिपोर्ट किया है कि एआई पूर्वाग्रह मौजूद थे, यह भी विश्वास है कि इन परिणामों को पोस्ट करने से प्रतिष्ठित नतीजे सामने आएंगे। जिन नियोक्ताओं को एईडीटी का उपयोग करने के रूप में दिखाया जा रहा है, जिनमें एआई पूर्वाग्रह हैं, उन्हें सामाजिक क्रोध का सामना करना पड़ सकता है, जैसे कि सोशल मीडिया और इसी तरह। वे अपने बुरे कामों के लिए बेनकाब हो जाएंगे और अपने व्यवहार को सुधारने में शर्मिंदा होंगे, और खुद को उन लोगों से भी वंचित पाएंगे जो एआई पूर्वाग्रहों के कारण वहां काम करने की मांग कर रहे हैं, जो पदोन्नति को काम पर रखने या हड़पने से रोक रहे हैं।

गैरकानूनी होने से जुड़े बताए गए दंड इस प्रकार हैं:

• "दंड। एक। कोई भी व्यक्ति जो इस उप-अध्याय के किसी भी प्रावधान या इस उप-अध्याय के अनुसार प्रख्यापित किसी भी नियम का उल्लंघन करता है, पहले उल्लंघन के लिए $500 से अधिक के नागरिक दंड के लिए उत्तरदायी है और प्रत्येक अतिरिक्त उल्लंघन उसी दिन पहले उल्लंघन के रूप में होता है, और कम से कम नहीं प्रत्येक बाद के उल्लंघन के लिए $500 और न ही $1,500 से अधिक" (NYC, Int 1894-2020, Subchapter 25, Section 20-872)। यदि आप कानूनी शब्दों में गहरी रुचि रखते हैं, तो अतिरिक्त उपखंड हैं जिन पर आप एक नज़र डालना चाहते हैं।

संशयवादियों और आलोचकों का तर्क है कि दंड पर्याप्त कठोर नहीं हैं। माना जाता है कि एक बड़ी फर्म मामूली डॉलर के जुर्माने का मजाक उड़ाती या हंसती है। दूसरों का कहना है कि जुर्माना आंख से मिलने की तुलना में अधिक हो सकता है, जैसे कि अगर एक फर्म को हर दिन एक हजार डॉलर का उल्लंघन करना पड़ता है (केवल एक परिदृश्य, कई अन्य परिदृश्य हैं), एक वर्ष का मूल्य लगभग होगा $ 365,000, XNUMX, यह मानते हुए कि फर्म ने पूरे एक साल के लिए कानून की अनदेखी की और ऐसा करने से दूर हो गया (कल्पना करना कठिन लगता है, लेकिन हो सकता है, और लंबे समय तक या दैनिक जुर्माना की उच्च परिणति के लिए भी हो सकता है, सिद्धांत रूप में)।

इस बीच, कुछ छोटे व्यवसायों और संबंधित जुर्माने के बारे में चिंतित हैं। यदि एक छोटा व्यवसाय जो मुश्किल से अपना गुजारा कर रहा है, जुर्माने से मारा जाता है, और माना जाता है कि उसने कानून को दरकिनार करने के लिए जानबूझकर प्रेरणा नहीं दी, तो जुर्माना उनके व्यवसाय को प्रभावित कर सकता है।

मुद्दे पर कीस्टोन समस्याग्रस्त विचार

मेरे पास आपके लिए एक सरल और सीधा प्रश्न है।

इस कानून के संदर्भ में, AI ऑडिट वास्तव में क्या है?

समस्या यह है कि कानून की कथा के भीतर कोई निश्चित संकेत नहीं है। हमें जो कुछ बताया जा रहा है, वह यह है कि "पूर्वाग्रह ऑडिट" "एक स्वतंत्र ऑडिटर द्वारा निष्पक्ष मूल्यांकन" (कानून के शब्दों के अनुसार) के माध्यम से किया जाना है।

आप उस गैपिंग होल से मैक ट्रक चला सकते हैं।

यहाँ पर क्यों।

इस बल्कि विचलित करने वाले उदाहरण पर विचार करें। एक स्कैमर NYC में एक फर्म से संपर्क करता है और बताता है कि वे एक ऐसी सेवा प्रदान करते हैं जिससे वे अपने AEDT का तथाकथित "पूर्वाग्रह ऑडिट" करेंगे। वे प्रतिज्ञा करते हैं कि वे ऐसा "निष्पक्ष रूप से" (इसका जो भी अर्थ हो) करेंगे। वे स्वयं को एक स्वतंत्र लेखा परीक्षक के रूप में प्रतिष्ठित करते हैं, और उन्होंने स्वयं को एक के रूप में अभिषिक्त किया है। किसी भी तरह के अकाउंटिंग या ऑडिटिंग ट्रेनिंग, डिग्री, सर्टिफिकेशन या इस तरह की किसी भी चीज की जरूरत नहीं है। हो सकता है कि वे कुछ व्यवसाय कार्डों को प्रिंट करने के लिए परेशानी में पड़ें या जल्दबाजी में एक वेबसाइट डाल दें जो उनके स्वतंत्र लेखा परीक्षक की स्थिति का हवाला दे।

वे फर्म से $100 का मामूली शुल्क लेंगे। उनकी सेवा में शायद AEDT के बारे में कुछ प्रश्न पूछना और फिर यह घोषणा करना शामिल है कि AEDT पूर्वाग्रह मुक्त है। फिर वे एक रिपोर्ट भेजते हैं जो आकार में एक पृष्ठ है और तथाकथित ऑडिट के "परिणाम" घोषित करता है। फर्म कर्तव्यपूर्वक इसे अपनी वेबसाइट पर पोस्ट करती है।

क्या फर्म ने इस कानून का पालन किया है?

आप ही बताओ।

लगता है जैसे उनके पास है।

आपको तुरंत आश्चर्य हो सकता है कि ऑडिट सरसरी तौर पर किया गया था (यह इस विशेष परिदृश्य में विनम्र और उदार है)। आप परेशान हो सकते हैं कि पूर्वाग्रह का पता लगाना (या इसकी कमी) शायद अनिवार्य रूप से पूर्व निर्धारित था (वोइला, आप पूर्वाग्रह मुक्त प्रतीत होते हैं)। आप इस बात से परेशान हो सकते हैं कि पोस्ट किए गए परिणाम एक अनुभवी, प्रशिक्षित, अनुभवी, प्रमाणित ऑडिटर द्वारा कठोर ऑडिट पास करने का आभास दे सकते हैं।

हां, यह चीजों को आकार देने के बारे में है।

एक नियोक्ता को राहत मिल सकती है कि उन्होंने इस "मूर्खतापूर्ण" आवश्यकता को पूरा कर लिया है और खुश हैं कि इससे उन्हें केवल $ 100 का खर्च आया। नियोक्ता आंतरिक रूप से और चुपचाप महसूस कर सकता है कि स्वतंत्र ऑडिट एक छलावा था, लेकिन यह निर्णय लेने के लिए उनके कंधों पर प्रतीत नहीं होता है। उन्हें एक दावा किए गए स्वतंत्र ऑडिटर के साथ प्रस्तुत किया गया था, ऑडिटर ने वह काम किया जो ऑडिटर ने कहा था कि वह आज्ञाकारी था, फर्म ने इसके लिए भुगतान किया, उन्हें परिणाम मिले, और उन्होंने परिणाम पोस्ट किए।

कुछ नियोक्ता ऐसा करेंगे और महसूस करेंगे कि वे कानून के साथ पलक झपकते ही अनुपालन कर रहे हैं। फिर भी, उन्हें विश्वास होगा कि वे पूरी तरह से अनुपालन कर रहे हैं।

अन्य नियोक्ता ठगे जा सकते हैं। वे केवल इतना जानते हैं कि कानून का पालन करने की आवश्यकता है। सौभाग्य से उनके लिए (या तो वे मानते हैं), एक "स्वतंत्र लेखा परीक्षक" उनसे संपर्क करता है और वादा करता है कि एक शिकायत लेखा परीक्षा और परिणाम $ 100 के लिए हो सकता है। उस $500 या उससे अधिक दैनिक जुर्माने से बचने के लिए, फर्म को लगता है कि उन्हें स्वर्ग से उपहार दिया गया है। वे $ 100 का भुगतान करते हैं, "ऑडिट" होता है, उन्हें एआई पूर्वाग्रहों की कमी के रूप में एक मुफ्त बिल-ऑफ-हेल्थ मिलता है, वे परिणाम पोस्ट करते हैं, और अगली बार जब तक उन्हें एक और ऐसा ऑडिट करने की आवश्यकता नहीं होती है, तब तक वे इसके बारे में भूल जाते हैं। .

NYC में इस कानून के अधीन हर फर्म को कैसे पता होना चाहिए कि कानून का वास्तविक अनुपालन क्या है?

यदि आप पहले से ही अपना पेट नहीं भर रहे हैं, तो हम स्थिति को और खराब कर सकते हैं। मुझे आशा है कि आपने पिछले कुछ घंटों में भोजन नहीं किया है क्योंकि अगला मोड़ बरकरार रखना मुश्किल होगा।

क्या आप तैयार हैं?

यह दिखावा सेवा प्रदाता जितना आपने सोचा होगा, उससे कहीं अधिक दिखावा करने वाला निकला। उन्हें एक स्वतंत्र ऑडिटर के रूप में निष्पक्ष पूर्वाग्रह ऑडिट करने के लिए $ 100 सेवा के लिए साइनअप करने के लिए फर्म मिलती है। देखो और देखो, वे "लेखा परीक्षा" करते हैं और पाते हैं कि एईडीटी के हर नुक्कड़ पर पक्षपात है।

उनके पास कॉकरोच के संक्रमण की तरह एआई पूर्वाग्रह हैं।

ओह, फर्म का कहना है, हम इसके बारे में क्या कर सकते हैं?

कोई बात नहीं, उन्हें बताया गया है, हम आपके लिए उन AI पूर्वाग्रहों को ठीक कर सकते हैं। इस तरह के प्रत्येक पूर्वाग्रह के लिए आपको केवल $ 50 का खर्च आएगा जो पाया गया था। ठीक है, फर्म कहती है, कृपया उन्हें ठीक करें, ऐसा करने के लिए धन्यवाद। सेवा प्रदाता कुछ हद तक कोडिंग ब्लार्नी करता है और फर्म को बताता है कि उन्होंने एक सौ एआई पूर्वाग्रह तय किए हैं, और इसलिए उन्हें $ 5,000 (जो कि $ 50 प्रति एआई पूर्वाग्रह तय किया जाना है, को 100 से गुणा करना) चार्ज करना होगा।

आउच, फर्म को लगता है कि चुटकी ली गई है, लेकिन यह अभी भी $ 500 या अधिक प्रति दिन उल्लंघन का सामना करने से बेहतर है, इसलिए वे "स्वतंत्र लेखा परीक्षक" का भुगतान करते हैं और फिर एक नई रिपोर्ट प्राप्त करते हैं जो दिखाते हैं कि वे अब पूर्वाग्रह मुक्त हैं। इसे वे गर्व से अपनी वेबसाइट पर पोस्ट करते हैं।

वे कम ही जानते हैं कि यह एक वरदान, एक ठग, एक घोटाला था।

आप इस बात पर जोर दे सकते हैं कि इस सेवा प्रदाता को उनकी चालबाजी के लिए दंडित किया जाना चाहिए। इन चालबाजों को पकड़ना और रोकना आपकी कल्पना से कहीं अधिक कठिन होने वाला है। जिस तरह उन विदेशी-आधारित राजकुमारों के पीछे जाना, जिनके पास आपके लिए भाग्य है, संयुक्त राज्य के कानून की पहुंच से परे किसी विदेशी भूमि में होने की संभावना है, इस मामले में भी ऐसा ही हो सकता है।

इस नए कानून से कुटीर उद्योग के उभरने की उम्मीद है।

प्रामाणिक लेखा परीक्षक होंगे जो इन सेवाओं को प्रदान करना चाहते हैं। उनके लिए अच्छा। इस काम के बाद स्केची ऑडिटर होंगे। झूठे घोषित लेखापरीक्षक होंगे जो इस कार्य के पीछे जाते हैं।

मैंने उल्लेख किया है कि सेवा प्रदाता परिदृश्य में तथाकथित एआई ऑडिट करने के लिए $ 100 की मांग करना शामिल है। वह सिर्फ एक बना हुआ प्लेसहोल्डर था। हो सकता है कि कुछ $ 10 चार्ज करेंगे (स्केचकी लगता है)। शायद कुछ $ 50 (अभी भी स्केची)। आदि।

मान लीजिए कि एक सेवा प्रदाता कहता है कि उसे काम करने के लिए $10,000 का खर्च आएगा।

या इसे करने के लिए $ 100,000।

संभवतः ऐसा करने के लिए $1,000,000।

कुछ नियोक्ताओं के पास कोई सुराग नहीं होगा कि यह कितना खर्च हो सकता है या होना चाहिए। इन सेवाओं की मार्केटिंग सभी के लिए मुफ्त होगी। यह उन लोगों के लिए एक पैसा बनाने वाला कानून है जो इन सेवाओं को वैध रूप से करते हैं और उन लोगों के लिए एक पैसा बनाने वाला है जो ऐसा करने में भी ठगे जा रहे हैं। यह जानना मुश्किल होगा कि कौन सा है।

मैं आपसे एक और गैपिंग होल पर विचार करने के लिए भी कहूँगा।

इस कानून के संदर्भ में, AI पूर्वाग्रह वास्तव में क्या है?

यूनाइटेड स्टेट्स कोड ऑफ़ फ़ेडरल विनियमों के उल्लेख के अलावा (यह विशेष रूप से AI पूर्वाग्रहों के प्रश्न का उत्तर नहीं देता है और इस मामले पर स्टॉपगैप या रिज़ॉल्वर के रूप में काम नहीं करता है), आपको यह दावा करने के लिए कड़ी मेहनत करनी होगी कि यह नया कानून एआई पूर्वाग्रह क्या हैं, इसका कोई भी वास्तविक संकेत प्रदान करता है। एक बार फिर, यह व्यापक रूप से भिन्न व्याख्याओं के लिए पूरी तरह से खुला होगा और आप विशेष रूप से यह नहीं जान पाएंगे कि क्या खोजा गया था, क्या पाया गया था, इत्यादि। साथ ही, वास्तविक एआई लेखा परीक्षकों द्वारा भी किया गया कार्य लगभग दूसरे के लिए अतुलनीय होगा, जैसे कि प्रत्येक अपनी स्वामित्व परिभाषाओं और दृष्टिकोणों का उपयोग करेगा।

संक्षेप में, हम इस बारे में घबराहट और चिंता के साथ देख सकते हैं कि इस ढीले-ढाले वाक्यांश के परिणामस्वरूप नियोक्ता क्या सामना करेंगे, हालांकि सुविचारित कानून:

• कुछ नियोक्ता कानून के बारे में जानेंगे और अपनी क्षमता के अनुसार ईमानदारी से और पूरी तरह से पालन करेंगे
• कुछ नियोक्ता कानून के बारे में जानेंगे और मामूली रूप से सबसे पतले, सबसे सस्ते और संभवत: खराब रास्ते का पालन करेंगे जो उन्हें मिल सकता है या जो उनके दरवाजे पर आता है
• कुछ नियोक्ता कानून के बारे में जानेंगे और मानते हैं कि वे कानून के दायरे में नहीं हैं, इसलिए इसके बारे में कुछ नहीं करेंगे (हालांकि पता चला है, वे दायरे में हो सकते हैं)
• कुछ नियोक्ता कानून के बारे में जानेंगे और स्पष्ट रूप से इसे अनदेखा करने का निर्णय लेंगे, शायद यह मानते हुए कि कोई भी नोटिस नहीं करेगा या कानून लागू नहीं किया जाएगा, या कानून अप्रवर्तनीय पाया जाएगा, आदि।
• कुछ नियोक्ता कानून के बारे में नहीं जानते होंगे और पालन करने के लिए हाथ-पांव मारते पकड़े जाएंगे
• कुछ नियोक्ता कानून के बारे में नहीं जानते हैं और बुरी तरह से चोर कलाकारों द्वारा ठग लिए जाएंगे
• कुछ नियोक्ताओं को कानून के बारे में पता नहीं होगा, वे दायरे के भीतर नहीं हैं, लेकिन फिर भी वे वैसे भी चोर कलाकारों द्वारा ठगे जाते हैं जो उन्हें विश्वास दिलाते हैं कि वे दायरे में हैं
• कुछ नियोक्ता कानून के बारे में नहीं जानते हैं और इसके बारे में कुछ भी नहीं करेंगे, जबकि चमत्कारिक रूप से कभी भी पकड़े नहीं जाते हैं या उनकी निगरानी के लिए परेशान नहीं होते हैं
• अन्य

ध्यान में रखने के लिए एक महत्वपूर्ण विचार इस नए कानून से जुड़े परिमाण या स्केलिंग है।

न्यूयॉर्क शहर में व्यवसायों की संख्या के संबंध में विभिन्न रिपोर्ट किए गए आंकड़ों के अनुसार, गिनती आमतौर पर लगभग 200,000 या तो उद्यमों के रूप में इंगित की जाती है (चलिए इसे परिमाण के क्रम के रूप में उपयोग करते हैं)। यह मानते हुए कि यह एक उचित अनुमान है, संभवतः वे व्यवसाय जो नियोक्ता के रूप में इस नए कानून के अधीन हैं। इस प्रकार, उपर्युक्त कई तरीकों को लें जिसमें नियोक्ता इस कानून पर प्रतिक्रिया करने जा रहे हैं और इस पर विचार करें कि मैंने अभी जिन विभिन्न बकेट का उल्लेख किया है उनमें से प्रत्येक में कितने होंगे।

यह एक बल्कि चौंका देने वाला स्केलिंग मुद्दा है।

इसके अतिरिक्त, रिपोर्ट किए गए आंकड़ों के अनुसार, न्यूयॉर्क शहर में शायद 4 मिलियन निजी क्षेत्र की नौकरियां हैं, साथ ही एनवाईसी सरकार द्वारा नियोजित 300,000 या उससे अधिक सरकारी कर्मचारियों की अनुमानित संख्या (फिर से, सटीक गणना के बजाय परिमाण के आदेश के रूप में उनका उपयोग करें)। यदि आप इस बात को ध्यान में रखते हैं कि नए कर्मचारियों को इस नए कानून के दायरे में प्रतीत होता है, तो उन सभी मौजूदा और भविष्य के कर्मचारियों से जुड़े पदोन्नति के साथ, कर्मचारियों की संख्या जो एक तरह से या किसी अन्य को इस कानून द्वारा छुआ जाएगा, स्पष्ट रूप से आश्चर्यजनक है .

बिग ऐप्पल का एक नया कानून है कि पहली नज़र में सहज और प्रतीत होता है नगण्य या सांसारिक प्रतीत होता है, फिर भी जब आप स्केलिंग कारकों को शामिल करते हैं, तो ठीक है, यह आपके सिर को स्पिन कर सकता है

निष्कर्ष

मैंने इस चर्चा की शुरुआत में उल्लेख किया था कि यह एक सुविचारित नया कानून है।

सब कुछ जो मैंने अभी संभावित खामियों, चूकों, अंतरालों, समस्याओं और इसी तरह के रूप में वर्णित किया है, सभी का आसानी से अनुमान लगाया जा सकता है। यह रॉकेट साइंस नहीं है। मैं जोड़ सकता हूं, इस कानून में और भी अधिक अंतर्निहित चिंताएं और भ्रमित करने वाले पहलू हैं कि यहां जगह की कमी के कारण मैंने कॉल नहीं किया है।

आप उन्हें उतनी ही आसानी से पा सकते हैं जितना कि आप एक बैरल में मछली मार सकते हैं।

इस तरह के कानूनों को सावधानी से तैयार किया जाना चाहिए ताकि इस तरह के डरपोक अंत को रोकने की कोशिश की जा सके। मुझे लगता है कि गंभीर संगीतकारों ने एक ऐसा कानून लिखने की कोशिश की, जिसके बारे में उनका मानना ​​​​था कि वह अपेक्षाकृत लोहे का था और शायद, सबसे खराब स्थिति में, यहाँ या वहाँ कुछ नन्हे-नन्हे टपकाव होंगे। अफसोस की बात है कि यह बूंदों की आग है। बहुत सारे डक्ट टेप की जरूरत पड़ने वाली है।

क्या इन स्पष्ट खामियों और संबंधित मुद्दों को बंद करने के लिए कानून को और अधिक स्पष्ट तरीके से लिखा जा सकता था?

हाँ, बहुतायत से।

अब, ऐसा होने पर, आप क्रोध से यह कह सकते हैं कि ऐसा कानून निस्संदेह बहुत लंबा होगा। हमेशा एक कानून होने का एक व्यापार होता है जो आगे बढ़ता है, बोझिल हो जाता है, बनाम संक्षिप्त और कॉम्पैक्ट होता है। हालांकि आप वास्तविक और सराहनीय स्पष्टता और विशिष्टता के नुकसान पर संक्षिप्तता हासिल नहीं करना चाहते हैं। एक छोटा सा कानून जो शीनिगन्स की अनुमति देता है, वह परेशानी का सबब है। एक लंबा कानून, भले ही अधिक जटिल प्रतीत हो, आमतौर पर एक योग्य ट्रेडऑफ़ होगा यदि यह गोद लेने के चरण के दौरान डाउनस्ट्रीम मुद्दों से बचा जाता है, टाल देता है या कम से कम कम करता है।

सेंट ऑगस्टीन ने प्रसिद्ध रूप से कहा: "मुझे ऐसा लगता है कि एक अन्यायपूर्ण कानून कोई कानून नहीं है।"

हम एक परिणाम प्रदान कर सकते हैं कि एक न्यायसंगत कानून जो समस्याग्रस्त भाषा से बना है वह एक ऐसा कानून है जो कठिन समस्याओं को उत्पन्न करने के लिए भीख मांगता है। इस मामले में, ऐसा लगता है कि हमारे पास महान न्यायविद ओलिवर वेंडेल होम्स जूनियर के बुद्धिमान शब्दों के साथ छोड़ दिया गया है, अर्थात् इतिहास का एक पृष्ठ एक पाउंड तर्क के लायक है।

देखते रहिये क्योंकि जल्द ही इतिहास बनने वाला है।