एआई नैतिकता और एआई कानून को सभी मौजूदा और भविष्य के एआई पर सुरक्षा चेतावनियों को अनिवार्य करने के लिए तैयार किया जा सकता है

आपकी दैनिक गतिविधियाँ निस्संदेह एक या दूसरे प्रकार की एक हज़ार या अधिक एहतियाती चेतावनियों के साथ बमबारी कर रही हैं।

आकार के लिए इन्हें आज़माएँ:

• सुरक्षा चश्मा हर समय पहना जाना चाहिए
• खतरा: आस-पास खतरनाक रसायन
• उच्च वोल्टेज - बाहर रखें
• चेतावनी: अपने परिवेश से अवगत रहें
• दर्पण में वस्तुएँ जितनी दिखाई देती हैं, उससे अधिक निकट होती हैं
• फोल्ड करने से पहले बच्चे को हटा दें (जैसा कि बेबी स्ट्रोलर पर बताया गया है)
• सावधानी: इस संदेश को अनदेखा करना सुनिश्चित करें

उनमें से अधिकतर आसान और पूरी तरह से विचारशील संकेत या लेबल हैं जो हमें उम्मीद से सुरक्षित और सुरक्षित रखने के लिए काम करते हैं।

कृपया ध्यान रखें कि मैंने कुछ उल्लेखनीय बिंदुओं को बनाने के लिए सूची में कुछ "आउटलेयर" को छीन लिया।

उदाहरण के लिए, कुछ लोगों का मानना ​​​​है कि यह पौष्टिक है कि बच्चे के घुमक्कड़ के पास एक चिपका हुआ लेबल होता है जो आपको चेतावनी देता है कि जब बच्चा अभी भी गर्भनिरोधक के भीतर बैठा हो, तो घुमक्कड़ को मोड़ो नहीं। हालांकि संकेत निश्चित रूप से उपयुक्त और कर्तव्यपरायण रूप से उपयोगी है, ऐसा लगता है कि बुनियादी सामान्य ज्ञान पहले से ही पर्याप्त होगा।

कौन सा व्यक्ति अपनी मनमर्जी से यह महसूस नहीं करेगा कि उन्हें पहले बच्चे को निकालने की आवश्यकता है?

खैर, अन्य इस बात पर जोर देते हैं कि ऐसे लेबल एक महत्वपूर्ण उद्देश्य की पूर्ति करते हैं। सबसे पहले, कोई वास्तव में इस बात से बेखबर हो सकता है कि उसे घुमक्कड़ को मोड़ने से पहले बच्चे को निकालने की आवश्यकता है। शायद उस व्यक्ति ने यह मान लिया था कि घुमक्कड़ को सूक्ष्मता से यह सुनिश्चित करने के लिए डिज़ाइन किया गया था कि फोल्डिंग ऑपरेशन बच्चे को नुकसान नहीं पहुंचाएगा। या संभवत: अंतर्निहित सुरक्षा विशेषताएं हैं जो घुमक्कड़ के भीतर जब भी कोई बच्चा होता है तो तह को रोकता है। आदि।

इसके अलावा, यह भी हो सकता है कि वह व्यक्ति विचलित था और उसने बिना सोचे-समझे घुमक्कड़ को मोड़ दिया होगा, जिसमें बच्चे और सभी शामिल होंगे, लेकिन लेबल ने सौभाग्य से उस व्यक्ति को ऐसा नहीं करने के लिए प्रेरित किया (कुछ लोग तर्क देंगे कि ऐसा लगता नहीं है कि ऐसा व्यक्ति लेबल को नोटिस करेगा) वैसे भी)। एक तथ्य यह भी है कि यदि कोई ऐसा लेबल मौजूद नहीं था तो कोई व्यक्ति घुमक्कड़ के निर्माता पर मुकदमा कर सकता है। आप उन भारी मुकदमों में से एक की कल्पना कर सकते हैं जिसमें एक बच्चा घायल हो गया था और माता-पिता ने दस लाख डॉलर जुटाने का फैसला किया क्योंकि घुमक्कड़ पर चेतावनी के संकेत नहीं थे। घुमक्कड़ कंपनी को पछतावा होगा कि उसने अपने घुमक्कड़ों पर चेतावनी के संकेत बनाने और चिपकाने के लिए आवश्यक कुछ सेंट खर्च नहीं किए।

मेरे द्वारा ऊपर सूचीबद्ध किए गए अंतिम चेतावनी संदेशों को भी ध्यान से देखें।

मैंने संदेश को अनदेखा करना सुनिश्चित करने के बारे में धूर्त संदेश रखने का विकल्प चुना क्योंकि कई नकली चेतावनी लेबल हैं जो लोग इन दिनों केवल मनोरंजन के लिए खरीदते हैं या बनाते हैं। यह एक वास्तविक दार्शनिक दिमागदार है। यदि आप उस चेतावनी को पढ़ते हैं जो चेतावनी को अनदेखा करने के लिए कहती है, तो चेतावनी को पढ़ने के बाद आपको वास्तव में क्या करना चाहिए? आप इसे पहले ही पढ़ चुके हैं, इसलिए यह आपके दिमाग में स्पष्ट रूप से है। ज़रूर, आप इसे अनदेखा कर सकते हैं, लेकिन फिर, आपको बिल्कुल भी सलाह नहीं दी जाती है कि ऐसा क्या है जिसे आपको अनदेखा करना चाहिए। गोल और गोल, यह मजाक चलता है।

बेशक, वास्तविक चेतावनी लेबल आमतौर पर मजाक या विनोदी प्रकृति के नहीं होते हैं।

हमें चेतावनियों को काफी गंभीरता से लेना चाहिए।

आमतौर पर, यदि आप एक विख्यात चेतावनी का पालन करने में विफल रहते हैं, तो आप व्यक्तिगत रूप से गंभीर जोखिम पर ऐसा करते हैं। और, यह भी हो सकता है कि यदि आप चेतावनी का पालन और पालन नहीं करते हैं तो आप संभावित रूप से दूसरों को भी अनुचित जोखिम में डाल सकते हैं। कार चलाने के कार्य पर विचार करें। जिस क्षण आप कार के पहिए के पीछे होते हैं, ड्राइवर के रूप में आपके कार्य स्वयं को नुकसान पहुंचा सकते हैं, साथ ही आप अपने यात्रियों को नुकसान पहुंचा सकते हैं, और आप दूसरों को नुकसान पहुंचा सकते हैं जैसे कि अन्य कारों में या आस-पास के पैदल चलने वालों को। उस अर्थ में, चेतावनी केवल आपके लाभ के लिए नहीं है, यह दूसरों के लाभ के लिए भी संभव है।

मैं चेतावनियों और सावधानियों के लेबल के इन पहलुओं को क्यों कवर कर रहा हूँ?

क्योंकि कुछ लोग जोर देकर कह रहे हैं कि हमें आज के आर्टिफिशियल इंटेलिजेंस (एआई) पर चेतावनी और सावधानी के संकेतों की जरूरत है।

दरअसल, विचार आज के एआई और भविष्य के एआई पर भी ऐसे लेबल लगाने का है। कुल मिलाकर, सभी AI के पास किसी न किसी रूप या चेतावनी के रूप या इससे जुड़े चेतावनी संकेत होंगे।

अच्छा विचार या बुरा विचार?

व्यावहारिक या अव्यवहारिक?

आइए आगे बढ़ें और गर्भाधान को अनपैक करें और देखें कि हम इससे क्या बना सकते हैं।

मैं पहले एआई और विशेष रूप से एआई एथिक्स और एआई लॉ के बारे में कुछ आवश्यक नींव रखना चाहता हूं, यह सुनिश्चित करने के लिए कि एआई चेतावनियों का विषय प्रासंगिक रूप से समझदार होगा। आप में से जो आम तौर पर एथिकल एआई और एआई लॉ में रुचि रखते हैं, उनके लिए मेरा व्यापक और जारी कवरेज देखें यहाँ लिंक और यहाँ लिंक, कुछ लोगों का नाम बताने के लिए।

नैतिक एआई और एआई कानून की बढ़ती जागरूकता

एआई के हाल के युग को शुरू में के रूप में देखा गया था एआई फॉर गुड, जिसका अर्थ है कि हम मानवता की बेहतरी के लिए AI का उपयोग कर सकते हैं। ऊँची एड़ी के जूते पर एआई फॉर गुड एहसास हुआ कि हम भी डूबे हुए हैं एआई फॉर बैड. इसमें एआई शामिल है जो भेदभावपूर्ण होने के लिए तैयार या स्व-परिवर्तित है और अनुचित पूर्वाग्रहों को दूर करते हुए कम्प्यूटेशनल विकल्प बनाता है। कभी-कभी एआई इस तरह से बनाया जाता है, जबकि अन्य मामलों में यह उस अवांछित क्षेत्र में घूमता है।

मैं बहुतायत से सुनिश्चित करना चाहता हूं कि हम आज के एआई की प्रकृति के बारे में एक ही पृष्ठ पर हैं।

आज कोई ऐसा AI नहीं है जो संवेदनशील हो। हमारे पास यह नहीं है। हम नहीं जानते कि संवेदनशील एआई संभव होगा या नहीं। कोई भी उपयुक्त रूप से भविष्यवाणी नहीं कर सकता है कि क्या हम संवेदनशील एआई प्राप्त करेंगे, और न ही संवेदनशील एआई किसी तरह चमत्कारिक रूप से स्वचालित रूप से कम्प्यूटेशनल संज्ञानात्मक सुपरनोवा के रूप में उत्पन्न होगा (आमतौर पर विलक्षणता के रूप में संदर्भित, मेरा कवरेज देखें यहाँ लिंक).

जिस प्रकार के एआई पर मैं ध्यान केंद्रित कर रहा हूं वह गैर-संवेदी एआई है जो आज हमारे पास है। अगर हम संवेदनशील एआई के बारे में बेतहाशा अटकलें लगाना चाहते हैं, तो यह चर्चा मौलिक रूप से अलग दिशा में जा सकती है। माना जाता है कि एक संवेदनशील एआई मानव गुणवत्ता का होगा। आपको यह विचार करना होगा कि संवेदनशील एआई मानव के संज्ञानात्मक समकक्ष है। इसके अलावा, चूंकि कुछ अनुमान लगाते हैं कि हमारे पास सुपर-इंटेलिजेंट एआई हो सकता है, यह अनुमान योग्य है कि ऐसा एआई इंसानों की तुलना में अधिक स्मार्ट हो सकता है (एक संभावना के रूप में सुपर-इंटेलिजेंट एआई की मेरी खोज के लिए, देखें यहाँ कवरेज).

मैं दृढ़ता से सुझाव दूंगा कि हम चीजों को जमीन पर रखें और आज के कम्प्यूटेशनल गैर-संवेदी एआई पर विचार करें।

महसूस करें कि आज का AI किसी भी तरह से मानव सोच के समान "सोचने" में सक्षम नहीं है। जब आप एलेक्सा या सिरी के साथ बातचीत करते हैं, तो बातचीत की क्षमता मानवीय क्षमताओं के समान लग सकती है, लेकिन वास्तविकता यह है कि यह कम्प्यूटेशनल है और इसमें मानवीय ज्ञान का अभाव है। एआई के नवीनतम युग ने मशीन लर्निंग (एमएल) और डीप लर्निंग (डीएल) का व्यापक उपयोग किया है, जो कम्प्यूटेशनल पैटर्न मिलान का लाभ उठाते हैं। इसने एआई सिस्टम को जन्म दिया है जिसमें मानव जैसी प्रवृत्तियों का आभास होता है। इस बीच, आज कोई ऐसा AI नहीं है जिसमें सामान्य ज्ञान की समानता हो और न ही मजबूत मानवीय सोच का कोई संज्ञानात्मक आश्चर्य हो।

आज के एआई का मानवरूपीकरण करते समय बहुत सावधान रहें।

एमएल/डीएल कम्प्यूटेशनल पैटर्न मिलान का एक रूप है। सामान्य तरीका यह है कि आप निर्णय लेने के कार्य के बारे में डेटा इकट्ठा करते हैं। आप डेटा को ML/DL कंप्यूटर मॉडल में फीड करते हैं। वे मॉडल गणितीय पैटर्न खोजने की कोशिश करते हैं। ऐसे पैटर्न खोजने के बाद, यदि ऐसा पाया जाता है, तो AI सिस्टम नए डेटा का सामना करते समय उन पैटर्न का उपयोग करेगा। नए डेटा की प्रस्तुति पर, वर्तमान निर्णय को प्रस्तुत करने के लिए "पुराने" या ऐतिहासिक डेटा पर आधारित पैटर्न लागू होते हैं।

मुझे लगता है कि आप अनुमान लगा सकते हैं कि यह कहाँ जा रहा है। यदि मानव जो निर्णयों पर प्रतिरूप बनाते रहे हैं, वे अवांछित पूर्वाग्रहों को शामिल कर रहे हैं, तो संभावना है कि डेटा इसे सूक्ष्म लेकिन महत्वपूर्ण तरीकों से दर्शाता है। मशीन लर्निंग या डीप लर्निंग कम्प्यूटेशनल पैटर्न मिलान केवल गणितीय रूप से डेटा की नकल करने की कोशिश करेगा। एआई-क्राफ्टेड मॉडलिंग के सामान्य ज्ञान या अन्य संवेदनशील पहलुओं की कोई समानता नहीं है।

इसके अलावा, एआई डेवलपर्स को एहसास नहीं हो सकता है कि क्या हो रहा है। एमएल/डीएल में रहस्यमय गणित अब छिपे हुए पूर्वाग्रहों को दूर करना मुश्किल बना सकता है। आप सही उम्मीद करेंगे और उम्मीद करेंगे कि एआई डेवलपर्स संभावित दफन पूर्वाग्रहों के लिए परीक्षण करेंगे, हालांकि यह जितना प्रतीत हो सकता है उससे कहीं अधिक कठिन है। एक ठोस मौका मौजूद है कि अपेक्षाकृत व्यापक परीक्षण के साथ भी एमएल/डीएल के पैटर्न-मिलान मॉडल के भीतर पूर्वाग्रह अभी भी अंतर्निहित होंगे।

आप कुछ हद तक प्रसिद्ध या कुख्यात कहावत का उपयोग कर सकते हैं कचरा-कचरा-बाहर। बात यह है कि, यह पूर्वाग्रहों के समान है-इसमें एआई के भीतर डूबे हुए पूर्वाग्रहों के रूप में कपटी रूप से संक्रमित हो जाते हैं। एआई का एल्गोरिथम निर्णय लेने (एडीएम) स्वयंसिद्ध रूप से असमानताओं से भरा हो जाता है।

अच्छा नही।

इन सबका विशेष रूप से महत्वपूर्ण एआई एथिक्स निहितार्थ है और जब एआई को कानून बनाने की कोशिश करने की बात आती है तो सीखे गए पाठों (यहां तक ​​​​कि सभी पाठ होने से पहले) में एक आसान विंडो प्रदान करता है।

सामान्य रूप से एआई नैतिकता के नियमों को लागू करने के अलावा, एक समान प्रश्न है कि क्या हमारे पास एआई के विभिन्न उपयोगों को नियंत्रित करने के लिए कानून होना चाहिए। नए कानूनों को संघीय, राज्य और स्थानीय स्तरों पर बांधा जा रहा है जो इस बात से संबंधित हैं कि एआई को कैसे तैयार किया जाना चाहिए। ऐसे कानूनों का मसौदा तैयार करने और उन्हें अधिनियमित करने का प्रयास धीरे-धीरे किया जाता है। एआई एथिक्स बहुत कम से कम एक सुविचारित स्टॉपगैप के रूप में कार्य करता है, और लगभग निश्चित रूप से कुछ हद तक सीधे उन नए कानूनों में शामिल किया जाएगा।

ध्यान रखें कि कुछ लोग दृढ़ता से तर्क देते हैं कि हमें एआई को कवर करने वाले नए कानूनों की आवश्यकता नहीं है और हमारे मौजूदा कानून पर्याप्त हैं। उन्होंने चेतावनी दी है कि अगर हम इनमें से कुछ एआई कानूनों को लागू करते हैं, तो हम एआई में प्रगति पर रोक लगाकर सुनहरी हंस को मार देंगे जो कि अत्यधिक सामाजिक लाभ प्रदान करते हैं।

पिछले कॉलम में, मैंने एआई को विनियमित करने वाले कानूनों को तैयार करने और अधिनियमित करने के विभिन्न राष्ट्रीय और अंतर्राष्ट्रीय प्रयासों को कवर किया है, देखें यहाँ लिंक, उदाहरण के लिए। मैंने विभिन्न एआई नैतिकता सिद्धांतों और दिशानिर्देशों को भी कवर किया है जिन्हें विभिन्न देशों ने पहचाना और अपनाया है, उदाहरण के लिए संयुक्त राष्ट्र के प्रयास जैसे कि एआई एथिक्स का यूनेस्को सेट जिसे लगभग 200 देशों ने अपनाया है, देखें यहाँ लिंक.

यहां एआई सिस्टम के बारे में नैतिक एआई मानदंड या विशेषताओं की एक सहायक कीस्टोन सूची है जिसे मैंने पहले बारीकी से खोजा है:

• ट्रांसपेरेंसी
• न्याय और निष्पक्षता
• गैर-नुकसान
• उत्तरदायित्व
• निजता
• उपकार
• स्वतंत्रता और स्वायत्तता
• ट्रस्ट
• स्थिरता
• गौरव
• एकजुटता

उन एआई नैतिकता सिद्धांतों को एआई डेवलपर्स द्वारा ईमानदारी से उपयोग किया जाना चाहिए, साथ ही एआई विकास प्रयासों का प्रबंधन करने वाले, और यहां तक ​​​​कि वे जो अंततः एआई सिस्टम पर क्षेत्र और रखरखाव करते हैं।

विकास और उपयोग के पूरे एआई जीवन चक्र में सभी हितधारकों को नैतिक एआई के स्थापित मानदंडों के पालन के दायरे में माना जाता है। यह एक महत्वपूर्ण हाइलाइट है क्योंकि सामान्य धारणा यह है कि "केवल कोडर्स" या एआई प्रोग्राम करने वाले एआई एथिक्स धारणाओं का पालन करने के अधीन हैं। जैसा कि यहां पहले जोर दिया गया है, एआई को विकसित करने और क्षेत्र में लाने के लिए एक गाँव की आवश्यकता होती है, और जिसके लिए पूरे गाँव को एआई एथिक्स के नियमों से वाकिफ और उसका पालन करना पड़ता है।

मैंने हाल ही में इसकी भी जांच की एआई बिल ऑफ राइट्स जो अमेरिकी सरकार के आधिकारिक दस्तावेज का आधिकारिक शीर्षक है, जिसका शीर्षक है "ब्लूप्रिंट फॉर ए एआई बिल ऑफ राइट्स: मेकिंग ऑटोमेटेड सिस्टम वर्क फॉर द अमेरिकन पीपल" जो ऑफिस ऑफ साइंस एंड टेक्नोलॉजी पॉलिसी (ओएसटीपी) द्वारा एक साल के लंबे प्रयास का परिणाम था। ) OSTP एक संघीय इकाई है जो राष्ट्रीय महत्व के विभिन्न तकनीकी, वैज्ञानिक और इंजीनियरिंग पहलुओं पर अमेरिकी राष्ट्रपति और अमेरिकी कार्यकारी कार्यालय को सलाह देने का कार्य करती है। उस अर्थ में, आप कह सकते हैं कि यह एआई बिल ऑफ राइट्स मौजूदा यूएस व्हाइट हाउस द्वारा अनुमोदित और समर्थित एक दस्तावेज है।

एआई बिल ऑफ राइट्स में, पांच कीस्टोन श्रेणियां हैं:

• सुरक्षित और प्रभावी सिस्टम
• एल्गोरिथम भेदभाव सुरक्षा
• डाटा प्राइवेसी
• सूचना और स्पष्टीकरण
• मानव विकल्प, विचार, और फ़ॉलबैक

मैंने उन उपदेशों की सावधानीपूर्वक समीक्षा की है, देखें यहाँ लिंक.

अब जबकि मैंने इन संबंधित एआई एथिक्स और एआई लॉ विषयों पर एक सहायक नींव रखी है, हम इस प्रमुख विषय पर कूदने के लिए तैयार हैं कि एआई में चेतावनी लेबल होना चाहिए या नहीं।

आंखें खोलने वाली जानकारीपूर्ण यात्रा के लिए खुद को तैयार करें।

मानव जाति की रक्षा के साधन के रूप में एआई पर चेतावनी लेबल लगाना

इस बात की चर्चा जोर पकड़ रही है कि शायद एआई किसी तरह की चेतावनी लेकर आए।

उदाहरण के लिए, हाल के एक लेख में एमआईटी प्रौद्योगिकी की समीक्षा जिसने एआई के ऑडिट करने में बढ़ती रुचि पर चर्चा की, चेतावनी संकेत प्रदान करने की धारणा उठी: "इन ऑडिट की वृद्धि से पता चलता है कि एक दिन हम सिगरेट-पैक-शैली की चेतावनी देख सकते हैं कि एआई सिस्टम आपके स्वास्थ्य और सुरक्षा को नुकसान पहुंचा सकता है। अन्य क्षेत्रों, जैसे कि रसायन और भोजन, का नियमित ऑडिट होता है ताकि यह सुनिश्चित किया जा सके कि उत्पाद उपयोग के लिए सुरक्षित हैं। क्या एआई में ऐसा कुछ आदर्श बन सकता है?" (एमआईटी प्रौद्योगिकी की समीक्षा, मेलिसा हिक्किला, 24 अक्टूबर, 2022)।

आइए चेतावनी और चेतावनी के संकेतों के बारे में थोड़ा समग्र रूप से बात करें।

हम सभी पहले से ही आम तौर पर रोजमर्रा की प्रकृति के कई उत्पादों और सेवाओं पर चेतावनी और चेतावनी के संकेतों से परिचित हैं। कभी-कभी सुरक्षा संकेत कानून द्वारा आवश्यकतानुसार निर्धारित किए जाते हैं, जबकि अन्य मामलों में ऐसे संकेतों का उपयोग करने के लिए विवेकाधिकार होता है। इसके अलावा, कुछ सुरक्षा संकेतों को मानकीकृत किया गया है, जैसे कि ANSI Z535 मानक और OSHA 1910.14 मानक के अनुसार निर्दिष्ट किया जा रहा है। उन मानकों में ऐसे पहलुओं को शामिल किया गया है जैसे कि संकेत का शब्दांकन, उपयोग किए गए रंग और फ़ॉन्ट, संकेत का आकार, और विभिन्न अन्य विवरण।

ऐसे चेतावनी संकेतों के लिए मानकों का होना समझ में आता है। जब भी आप ऐसा कोई चिन्ह देखते हैं, यदि यह बताए गए मानकों को पूरा करता है, तो आपको यह विश्वास होने की अधिक संभावना है कि संकेत वैध है, साथ ही आपको संकेत का विश्लेषण करने और समझने के लिए कम संज्ञानात्मक प्रसंस्करण की आवश्यकता है। उन संकेतों के लिए जो एक मानकीकृत दृष्टिकोण के नहीं हैं, आपको अक्सर मानसिक रूप से गणना करनी होती है कि संकेत आपको क्या बता रहा है, शायद कार्रवाई करने के लिए कीमती समय खो रहा है या आप संकेत को पूरी तरह से गलत समझ सकते हैं और हाथ में चेतावनी को ठीक से समझ नहीं सकते हैं।

ऐसे संकेतों की एक श्रृंखला मौजूद हो सकती है, जिसके लिए उन्हें अक्सर कुछ इस तरह वर्गीकृत किया जाता है:

• खतरे का संकेत: सबसे ज्यादा चिंता और संभावित गंभीर परिणामों के साथ तत्काल खतरे का संकेत
• चेतावनी संकेत: एक खतरे का संकेत जो "खतरे" से कम है लेकिन फिर भी काफी गंभीर है
• चेतावनी संकेत: एक संभावित खतरे का संकेत जो "चेतावनी" से कम है लेकिन फिर भी वास्तव में गंभीर है
• अधिसूचना संकेत: एक सूचनात्मक हेड-अप का संकेत जो "सावधानी" से कम है, लेकिन फिर भी चिंताजनक पहलुओं को शामिल करता है

चेतावनियों और चेतावनी संकेतों के बारे में पूर्वगामी पृष्ठभूमि को देखते हुए, हम आगे बढ़ सकते हैं और इसे एआई के उपयोग के लिए प्रासंगिक रूप से लागू करने का प्रयास कर सकते हैं।

सबसे पहले, हम संभावित रूप से किसी तरह सहमत हो सकते हैं कि एआई साइनेज गंभीरता की समान श्रेणी में हो सकता है जैसा कि रोजमर्रा के संकेतों के साथ प्रथागत है, जैसे:

• एआई खतरे का संकेत: उच्चतम चिंता का एआई और संभावित गंभीर परिणामों के साथ तत्काल खतरे का संकेत
• एआई चेतावनी संकेत: एआई एक खतरे का संकेत है जो "खतरे" से कम है लेकिन फिर भी काफी गंभीर है
• एआई सावधानी संकेत: एआई एक संभावित खतरे का संकेत है जो एक "चेतावनी" से कम है लेकिन फिर भी वास्तव में गंभीर है
• एआई अधिसूचना संकेत: एआई एक सूचनात्मक हेड-अप का संकेत है जो "सावधानी" से कम है लेकिन फिर भी चिंताजनक पहलुओं को शामिल करता है

सार यह है कि सभी एआई समान रूप से चिंताजनक नहीं होंगे। यह हो सकता है कि एआई में जबरदस्त जोखिम हो या केवल मामूली जोखिम हो। तदनुसार, साइनेज को प्रतिबिंबित करना चाहिए कि कौन सा है। यदि सभी एआई चेतावनियां या चेतावनी संकेत केवल एक ही कैलिबर के होने के रूप में दिखाए गए थे, तो हम संभवतः यह नहीं जानते या जानते होंगे कि क्या एआई के बारे में बहुत चिंतित होना चाहिए या केवल मामूली रूप से चिंतित होना चाहिए। एआई से संबंधित चेतावनी के संकेतों को देखते और उनकी व्याख्या करते समय टाइप की गई शब्द योजना का उपयोग करना जीवन को आसान बना सकता है।

आप सोच रहे होंगे कि संप्रेषित किए जाने वाले संदेश की बारीकियों के संदर्भ में संकेत और क्या कहेंगे।

यह निश्चित रूप से निपटने के लिए एक कठिन मामला है। असुरक्षित या चिंताजनक मानी जाने वाली चीजों को करने की एआई संभावनाएं बहुत बड़ी, लगभग अंतहीन होंगी। क्या हम उन्हें कुछ नियमित सेटों में उबाल सकते हैं, जिन्हें केवल कुछ ही शब्दों में लिखा जाता है? या क्या हमें इस बारे में अधिक स्वतंत्र दृष्टिकोण की अनुमति देनी होगी कि शब्दांकन कैसे होगा?

मैं आपको उस खुले प्रश्न पर विचार करने दूँगा।

आगे बढ़ते हुए, हम वस्तुओं पर चेतावनी के संकेत पोस्ट करते हुए देखते हैं। एआई सिस्टम जरूरी नहीं कि उसी अर्थ में "ऑब्जेक्ट" हो, जैसा कि संकेतों के प्रथागत रूप से लगाया जाता है। इससे यह सवाल उठता है कि एआई चेतावनी संकेत कहां प्रस्तुत किए जाने वाले हैं।

यह हो सकता है कि जब आप अपने स्मार्टफोन पर एक ऐप चला रहे हों तो कहें कि अगर वह एआई का उपयोग कर रहा है तो एक संदेश दिखाया जाएगा जिसमें एआई से संबंधित चेतावनी होगी। ऐप आपको एआई के अंतर्निहित उपयोग के बारे में सचेत करेगा। यह एक पॉप-अप संदेश हो सकता है या विभिन्न प्रकार के दृश्य और यहां तक ​​कि श्रवण तरीकों से प्रस्तुत किया जा सकता है।

एआई द्वारा समर्थित सेवा का उपयोग करने की स्थिति भी है, हालांकि हो सकता है कि आप एआई के साथ सीधे बातचीत नहीं कर रहे हों। उदाहरण के लिए, आप एक मानव एजेंट के साथ एक गृह बंधक प्राप्त करने के बारे में बातचीत कर सकते हैं, जिसके लिए एजेंट चुपचाप अपने प्रयासों का मार्गदर्शन करने के लिए एआई सिस्टम का उपयोग कर पर्दे के पीछे है।

इस प्रकार, हमें यह अनुमान लगाना चाहिए कि AI चेतावनी के संकेत AI उपयोग के दोनों मामलों में मौजूद होने चाहिए, जैसे कि:

• उत्पाद-विशिष्ट एआई: एक उत्पाद के रूप में एआई में एकमुश्त एआई चेतावनी या चेतावनी के संकेत होने चाहिए
• सेवा-उन्मुख एआई: एआई एक सेवा के रूप में (प्रत्यक्ष या परोक्ष रूप से) एआई चेतावनी या चेतावनी संकेत होना चाहिए

संशयवादी निश्चित रूप से यह सुझाव देंगे कि एआई चेतावनी संकेत ऐप निर्माता द्वारा कुटिलता से प्रच्छन्न हो सकता है ताकि अलर्ट विशेष रूप से ध्यान देने योग्य न हो। शायद चेतावनी एक संक्षिप्त पल के लिए प्रकट होती है और आप वास्तव में ध्यान नहीं देते कि यह दिखाया गया था। एक और डरपोक चाल यह होगी कि इसमें से एक तरह का खेल बनाया जाए, जो अलर्ट की गंभीरता को कम करता हो और लोगों को यह सोचकर शांत कर दे कि चेतावनी अप्रासंगिक है।

हां, आप काफी हद तक शर्त लगा सकते हैं कि एआई से संबंधित किसी भी चेतावनी के संकेत को छल किया जाएगा और उन तरीकों से उपयोग किया जाएगा जो उस चेतावनी संदेश की भावना और इरादे के भीतर नहीं हैं जो वे बताने वाले हैं।

वे सभी संदेह इस बात पर निर्भर करते हैं कि क्या हम एआई से संबंधित चेतावनियों और चेतावनियों को आगे बढ़ाने के लिए एआई एथिक्स को "सॉफ्ट लॉ" के रूप में इस्तेमाल करेंगे, या क्या हम कोर्ट के समर्थन के साथ अधिनियमित कानूनों सहित "कठिन कानूनों" का उपयोग करेंगे। सिद्धांत रूप में, नरम कानून धक्का मामले के साथ खिलवाड़ करने की एक बड़ी समानता की अनुमति देगा, जबकि किताबों पर कानून सरकारी प्रवर्तन की क्षमता के साथ आएंगे और अधिक सख्ती लाएंगे।

एक और चिंता यह है कि क्या एआई साइनेज से वैसे भी कोई फर्क पड़ेगा।

जब उपभोक्ताओं के लिए चेतावनी लेबल प्रदान करने की बात आती है तो उपभोक्ता व्यवहार पर बहुत सारे शोध गड़बड़ परिणाम दिखाते हैं। कभी-कभी चेतावनियाँ प्रभावी होती हैं, कभी-कभी नहीं। आइए उस शोध में से कुछ को AI संदर्भ में लागू करें।

इन पहलुओं पर विचार करें:

• पहचान: क्या एआई का उपयोग करने वाले जिसमें एक व्यवहार्य एआई चेतावनी संकेत शामिल है, सक्रिय रूप से नोटिस करेंगे या पता लगाएंगे कि संकेत उन्हें दिखाया जा रहा है (यह मानते हुए कि ऐसा संकेत हुआ है)?
• समझ: जिन लोगों ने नोटिस किया, क्या वे समझेंगे या समझेंगे कि एआई चेतावनी संकेत उन्हें क्या सुझाव देने की कोशिश कर रहा है?
• कार्रवाई: उन लोगों के लिए जो मानसिक छलांग लगाते हैं, क्या एआई चेतावनी संकेत उन्हें कार्रवाई में प्रेरित करेगा या अन्यथा उनके व्यवहार को तदनुसार निर्देशित करने के लिए काम करेगा?

आप अनुमान लगा सकते हैं कि यदि एआई चेतावनी संकेत होने के लिए गति प्राप्त होती है, तो शोधकर्ता इस मामले का बारीकी से अध्ययन करने जा रहे हैं। विचार यह स्पष्ट करने में सहायता करना होगा कि चेतावनियां किन परिस्थितियों में सहायक होती हैं और कब नहीं। यह बदले में डिजाइन और लुक और फील से संबंधित है। हम यह भी उम्मीद कर सकते हैं कि बड़े पैमाने पर जनता को इन एआई चेतावनी और चेतावनी संकेतों के उद्भव के बारे में शिक्षित या सूचित करने की आवश्यकता होगी ताकि वे उनके आदी हो जाएं।

विचार करने के लिए बहुत सारे मोड़ और मोड़ हैं।

क्या AI चेतावनी या चेतावनी संकेत केवल उपयोग किए जा रहे ऐप की शुरुआत में ही होना चाहिए? शायद शुरुआती बिंदु अपने आप में पर्याप्त नहीं है। एक व्यक्ति पहली नज़र में सोच सकता है कि ऐप केवल एक चेतावनी का उपयोग करके इसे सुरक्षित रूप से खेल रहा है, और इस प्रकार चेतावनी पर ज्यादा ध्यान नहीं देता है। एक बार जब व्यक्ति ऐप का उपयोग करने के बीच में हो जाता है, तो शायद एक अतिरिक्त चेतावनी की आवश्यकता होगी। उस समय, व्यक्ति इस बारे में अधिक जागरूक होता है कि ऐप क्या कर रहा है और हो सकता है कि वे पहले बताए गए चेतावनी संदेश के बारे में पहले ही भूल गए हों।

एआई चेतावनी या चेतावनी तब हो सकती है:

• ऐप शुरू करने से पहले और जैसे ही ऐप शुरू होने वाला है
• ऐप शुरू होने के बाद और केवल शुरुआती बिंदु पर प्रस्तुत किया गया
• शुरुआत में और फिर बीच में दिखाया गया
• एआई के पूरे उपयोग के दौरान कई बार दिखाया गया
• ऐप का उपयोग करने के अंत में दिया गया
• ऐप से बाहर निकलने के बाद और संभवत: मिनट, घंटे या दिन बाद भी प्रदान करें
• आदि

क्या आपको लगता है कि एआई का उपयोग करने वाले व्यक्ति को ऐसी किसी एआई चेतावनियों या चेतावनी संकेतों की पुष्टि या स्वीकार करने की आवश्यकता है?

कुछ लोग इस बात पर जोर देंगे कि व्यक्ति को यह स्वीकार करना चाहिए कि उन्होंने चेतावनियां देखी हैं। यह संभावित रूप से उन लोगों को रोक देगा जो दावा कर सकते हैं कि कोई चेतावनी संदेश नहीं था। यह लोगों को संदेशों को अधिक गंभीरता से लेने के लिए भी प्रेरित कर सकता है, यह देखते हुए कि उन्हें यह पुष्टि करने के लिए कहा जा रहा है कि उन्होंने चेतावनी संकेत देखा है।

यहां आपके लिए एक कठिन प्रश्न है.

तैयार करनी चाहिए या सब AI को चेतावनी या सुरक्षा संकेत देना होगा?

आप तर्क दे सकते हैं कि हाँ, सभी AI के पास यह होना चाहिए। भले ही एआई केवल एक मामूली सुरक्षा जोखिम है, फिर भी इसमें किसी प्रकार का चेतावनी संकेत होना चाहिए, संभवतः केवल एक अधिसूचना या सूचनात्मक संकेत। अन्य लोग इस विवाद पर विवाद करेंगे। वे प्रतिवाद करेंगे कि आप पानी में गिर रहे हैं। सभी AI को इसकी आवश्यकता नहीं है। इसके अलावा, यदि आप सभी एआई को इसे प्राप्त करने के लिए बाध्य करते हैं, तो आप उद्देश्य को कम कर देंगे। चेतावनी के संकेत देखकर लोग सुन्न हो जाएंगे। सारा तरीका एक तमाशा बन जाएगा।

संबंधित कोण पर, विचार करें कि AI निर्माता क्या कहने की संभावना रखते हैं।

एक दृष्टिकोण यह होगा कि यह आपके लिए एक दर्द होने वाला है-जानते हैं कि क्या रखा जाए। अपने सभी AI सिस्टम को बदलना और इस सुविधा को जोड़ना महंगा हो सकता है। इसे आगे बढ़ने के आधार पर जोड़ना कम खर्चीला हो सकता है, हालांकि फिर भी इस प्रावधान को शामिल करने में एक लागत जुड़ी हुई है।

आलस्य एक और संभावित शिकायत है। किस तरह का संदेश दिखाने की जरूरत है? यदि कोई मानक नहीं हैं, तो इसका मतलब है कि AI निर्माताओं को कुछ नया बनाने की आवश्यकता होगी। न केवल यह अतिरिक्त लागत है, यह संभवतः मुकदमा दायर करने का द्वार खोलती है। आप कल्पना कर सकते हैं कि एआई निर्माता को इस कार्य में ले जाया जा सकता है कि उनकी चेतावनी किसी अन्य एआई सिस्टम की तरह अच्छी नहीं थी। वकील परिणामी भ्रम से एक बंडल बना लेंगे।

इस बात की भी चिंता है कि इन सुरक्षा संदेशों से लोग बेवजह डर जाएंगे।

एक एआई निर्माता एक सुरक्षा संदेश के कारण उपयोगकर्ताओं की संख्या में भारी गिरावट देख सकता है जिसका उद्देश्य केवल सूचनात्मक सावधानी प्रदान करना है। लोगों को नहीं पता होगा कि संदेश का क्या करना है। यदि उन्होंने पहले ऐसे संदेश नहीं देखे हैं, तो वे तुरंत क्रोधित हो सकते हैं और अनावश्यक रूप से AI के उपयोग से बच सकते हैं।

मैं उन पहलुओं का उल्लेख करता हूं क्योंकि कुछ पहले से ही घोषणा कर रहे हैं कि एआई चेतावनियों या सुरक्षा संदेशों को शामिल करने के लिए "यह चोट नहीं पहुंचा सकता"। उनके लिए, यह विचार सेब पाई के समान आदर्श है। एआई से संबंधित सुरक्षा या चेतावनियों की हमेशा आवश्यकता के लाभों का कोई भी गंभीरता से खंडन नहीं कर सकता है। लेकिन निश्चित रूप से, इस मामले के बारे में सोचने का यह वास्तविक दुनिया का तरीका नहीं है।

आप और भी आगे जा सकते हैं और दावा कर सकते हैं कि एआई चेतावनी संदेश किसी प्रकार के सामूहिक उन्माद पैदा कर सकते हैं। अगर हम अचानक एआई सिस्टम को इस तरह के संदेश देने के लिए मजबूर करना शुरू कर दें, तो लोग इरादे को गलत समझ सकते हैं। आप देखिए, बहुत सारे उपदेश हैं कि हम एआई अस्तित्व के संकट का सामना कर रहे हैं, जिससे एआई दुनिया पर कब्जा करने और मानव जाति का सफाया करने जा रहा है, देखें यहाँ लिंक उन प्रकार के दावों के मेरे विश्लेषण के लिए।

एआई चेतावनी संदेश का उपयोग कुछ लोगों को यह विश्वास दिलाने के लिए "प्रेरित" कर सकता है कि अंत निकट है। संदेश अब और क्यों दिखाई देंगे? निश्चित रूप से, यह एक संकेत है कि आखिरकार, एआई हमारे दमनकारी अधिपति बनने के लिए तैयार हो रहा है।

एआई को भेदभावपूर्ण क्षमताओं या अन्य तरीकों से कैसे प्रभावित किया जा सकता है, इसके बारे में जनता को जागरूक करके सही काम करने की कोशिश करने का एक निराशाजनक रूप से निराशाजनक परिणाम एआई फॉर बैड पहलुओं।

निष्कर्ष

प्रसिद्ध अमेरिकी कवि जेम्स रसेल लोवेल ने एक बार यह कहा था: "अनुभव का एक कांटा चेतावनी के पूरे जंगल के लायक है।"

मैं एआई चेतावनियों या सुरक्षा संदेशों के मामले पर कुछ समापन टिप्पणी करने के लिए उदात्त टिप्पणी लाता हूं।

संभावना यह है कि जब तक हमें एआई के बुरे काम करने का व्यापक अहसास नहीं होगा, तब तक एआई से संबंधित चेतावनी संदेशों के लिए बहुत अधिक शोर नहीं होगा। वे एआई निर्माता जो स्वेच्छा से ऐसा करने का विकल्प चुनते हैं, उनकी शायद सराहना की जाएगी, हालांकि वे अनजाने में खुद को गलत तरीके से परेशान भी कर सकते हैं। कुछ पंडित एआई का लाभ उठाने के लिए उनके पीछे जा सकते हैं, जिन्हें शुरू करने के लिए चेतावनियों की आवश्यकता होती है, इस बीच यह महसूस करने की उपेक्षा करते हुए कि वे पहले जाने की कोशिश कर रहे थे और अन्य सभी एआई निर्माता पिछड़ रहे हैं।

रफ़ू अगर आप करते हैं, तो शायद रफ़ू नहीं अगर आप नहीं करते हैं।

एक अन्य विचार जो एक अच्छा वैचारिक विचार प्रतीत होता है उसे व्यावहारिक और उपयोगी अभ्यास में बदलने से संबंधित है। अपने हाथों को लहराना और हवाओं को अस्पष्ट रूप से चिल्लाना आसान है कि एआई में चेतावनी और सुरक्षा संदेश होने चाहिए। कठिन हिस्सा यह तय करते समय आता है कि वे संदेश क्या होने चाहिए, उन्हें कब और कहाँ प्रस्तुत किया जाना चाहिए, क्या या किस हद तक उनकी लागत पर्याप्त लाभ प्राप्त कर रही है, और इसी तरह।

हम इस विषय पर अभी के लिए जेम्स रसेल लोवेल को अंतिम शब्द (काव्यात्मक रूप से) देंगे: "रचनात्मकता किसी चीज़ की खोज नहीं है, बल्कि उसके मिलने के बाद उससे कुछ बनाना है।"

मान लीजिए कि यह हमारी आस्तीन को रोल करने और इस पर काम करने का समय है। और यह सिर्फ एक चेतावनी नहीं है, यह एक क्रिया है।