क्या एलोन मस्क जनरेटिव एआई चैटजीपीटी नॉकऑफ "ट्रुथजीपीटी" विकसित करने में सफल हो सकते हैं, जो हर समय पूरी तरह से सत्य होगा, एआई नैतिकता और एआई कानून पूछता है

केबिन के दरवाजे पर दस्तक होती है।

क्या हमें दरवाजा खोलना चाहिए?

फिल्में आमतौर पर सुझाव देती हैं कि हमें अपनी जिज्ञासा को अपने से बेहतर नहीं होने देना चाहिए, अर्थात हमें निश्चित रूप से कभी भी दरवाजा नहीं खोलना चाहिए। ठीक है, कहा जा रहा है कि दरवाजा बंद करने का विकल्प चुनना एक योग्य कहानी के लिए प्रतीत नहीं होता है। ऐसा लगता है जैसे हम उत्साह और अज्ञात की ओर खिंचे चले आ रहे हैं।

तो चलिए आगे बढ़ते हैं और दरवाजा खोलते हैं।

इस विशेष मामले में, मैं आर्टिफिशियल इंटेलिजेंस (एआई) के क्षेत्र में कुछ उभरती हुई बाधाओं का जिक्र कर रहा हूं, जो या तो आने वाले अच्छे समय या हम सभी के लिए सबसे खराब समय का पूर्वाभास देती हैं। स्थिति संभावित रूप से एआई के भविष्य पर जोर देती है। और कोई पूरी तरह से अनुमान लगा सकता है कि एआई के भविष्य में समाज के भविष्य और मानव जाति के भाग्य को स्पष्ट रूप से आकार देने सहित सभी बताए गए नाटकीय नतीजों को शामिल किया गया है।

यहाँ सौदा है।

हाल की समाचार रिपोर्टों के अनुसार, एलोन मस्क, जो उस समय दुनिया के सबसे धनी व्यक्ति थे, एआई शोधकर्ताओं के लिए एक नए एआई उद्यम के साथ बोर्ड पर आने के लिए मछली पकड़ रहे हैं जो उनके दिमाग में है। विभिन्न एआई डेवलपर्स और एआई वैज्ञानिकों से चुपचाप संपर्क किया जा रहा है। उनके दरवाजे पर दस्तक स्पष्ट रूप से महान वादा और संभावित रूप से आकर्षक समाचार प्रदान करती है।

अभी तक खुलासा नहीं होने वाली एआई पहल का कथित सार व्यापक रूप से और बेतहाशा लोकप्रिय चैटजीपीटी का एक नॉकऑफ़ है जिसे ओपनएआई द्वारा नवंबर में वापस जारी किया गया था। आपने ChatGPT के बारे में लगभग निश्चित रूप से सुर्खियाँ सुनी या सुनी होंगी। मैं चैटजीपीटी क्या है, इसके बारे में कुछ पल के लिए और समझाऊंगा। आपको यह भी पता होना चाहिए कि चैटजीपीटी एआई के एक प्रकार का उदाहरण है जिसे एआई के रूप में जाना जाता है जनरेटिव एआई. इन दिनों बहुत सारे जेनेरेटिव AI ऐप तैर रहे हैं। ChatGPT उच्चतम सार्वजनिक प्रोफ़ाइल के साथ एक होता है और सभी के लिए जाना जाता है, यहां तक ​​​​कि शायद उन लोगों के लिए भी जो किसी तरह गुफा में रह रहे हैं।

इस अर्ध-गुप्त तेजी से उभरती गाथा पर रिपोर्टिंग का एक उदाहरण यहां दिया गया है:

• "एलोन मस्क ने हाल के हफ्तों में आर्टिफिशियल इंटेलिजेंस शोधकर्ताओं से चैटजीपीटी के विकल्प को विकसित करने के लिए एक नई शोध प्रयोगशाला बनाने के बारे में संपर्क किया है, स्टार्टअप ओपनएआई द्वारा बनाए गए हाई-प्रोफाइल चैटबॉट, प्रयास के प्रत्यक्ष ज्ञान वाले दो लोगों के अनुसार और एक तीसरे व्यक्ति ने जानकारी दी। बातचीत पर ”(सूचना, "फाइटिंग 'वोक एआई,' मस्क रिक्रूट्स टीम टू डेवलप ओपनएआई राइवल", जॉन विक्टर और जेसिका ई. लेसिन, फरवरी 27, 2023)।

आपका पहला विचार यह हो सकता है कि यदि एलोन मस्क चैटजीपीटी की दस्तक तैयार करना चाहते हैं, तो यह उनके ऊपर है और वह अपना पैसा कैसे खर्च करना चाहते हैं। आपको कामयाबी मिले। वह केवल पहले से मौजूद और जनरेटिव एआई ऐप्स की बढ़ती संख्या में जोड़ देगा। हो सकता है कि वह ChatGPT के अपने घरेलू संस्करण से अतिरिक्त धन अर्जित करे। या शायद यह एक बड़ा हो-हम होगा और मामूली महंगी खोज से उसकी भारी संपत्ति में छोटा सेंध लेखा विभाग में एक गोल त्रुटि के समान होगा।

दरवाजे पर एक भारी दस्तक के बजाय, संभवतः, यह दरवाजे पर टैप-टैप-टैपिंग की तरह अधिक है।

ट्विस्ट के लिए तैयार हो जाइए।

मान्यता यह है कि एलोन मस्क आज के जनरेटिव एआई ऐप्स के आधार को हिला देना चाहते हैं और वे कैसे काम करते हैं और क्या उत्पादन करते हैं, इसके कुछ महत्वपूर्ण पहलुओं को पुनर्गठित करना चाहते हैं। जैसा कि मैं यहां शीघ्र ही समझाऊंगा, वर्तमान जनरेटिव एआई के बारे में एक सामान्य और प्रामाणिक योग्यता यह है कि यह त्रुटियां, झूठ और तथाकथित एआई मतिभ्रम उत्पन्न कर सकता है। कोई भी व्यक्ति जिसने जेनेरेटिव एआई का उपयोग किया है, निस्संदेह उन परेशान करने वाले मुद्दों का सामना किया है। जाहिरा तौर पर, एलोन मस्क को उम्मीद है कि वे किसी तरह की विसंगतियों और समस्याग्रस्त प्रवृत्तियों को खत्म कर सकते हैं।

यह स्पष्ट रूप से सार्थक और सम्मानजनक आकांक्षा प्रतीत होती है। वास्तव में, कृपया जान लें कि लगभग या शायद मैं कह सकता हूं कि सभी जनरेटिव एआई डिवाइस आउटपुट त्रुटियों, झूठ और एआई मतिभ्रम की संभावना को कम करने के लिए शक्तिशाली रूप से प्रयास कर रहे हैं। आप किसी भी उचित आत्मा को खोजने के लिए कड़ी मेहनत करेंगे जो जोर देकर कहेंगे कि हमें उन त्रुटियों, झूठों और एआई मतिभ्रम को जनरेटिव एआई में शामिल करना होगा।

एक बयान को बहुत अधिक व्यापक बनाने के बिना, बहुत अधिक सार्वभौमिक सहमति है कि त्रुटियों, झूठ, और एआई मतिभ्रम के उत्पादन से जुड़े जनरेटिव एआई की विकृतियों को दृढ़ता से, लगातार और दृढ़ता से निपटा जाना चाहिए। उद्देश्य इस समस्या को समायोजित, सुधारना, परिष्कृत करना, ओवरहाल करना या एक एआई तकनीकी तरीके से या किसी अन्य समाधान को हल करना और हल करना है।

प्रत्येक दिन जब जेनरेटिव एआई आउटपुट में त्रुटियों, झूठ और एआई मतिभ्रम को उगलना जारी रखता है, तो लगभग हर किसी के लिए एक बुरा दिन होता है। जनरेटिव एआई का उपयोग करने वाले लोग उन फाउल आउटपुट से नाखुश होने के लिए बाध्य हैं। जो लोग फाउल किए गए आउटपुट पर भरोसा करते हैं या उपयोग करने की आवश्यकता होती है, वे गलती से कुछ गलत या बदतर के आधार पर खतरे में पड़ जाते हैं, फिर भी उन्हें एक खतरनाक दिशा में मार्गदर्शन करने जा रहे हैं।

एआई निर्माता जो जेनेरेटिव एआई से व्यवसाय करने की कोशिश कर रहे हैं, इस बीच उन लोगों द्वारा संभावित कानूनी जोखिम में हैं जो फाउल आउटपुट पर भरोसा करने के कारण रोड़े अटकाते हैं। दावा किए गए नुकसान के मुकदमे लगभग निश्चित रूप से जल्द ही उठने वाले हैं। हम अनुमान लगा सकते हैं कि नियामक वजन घटाने का विकल्प चुनेंगे, और नए एआई कानूनों को जेनेरेटिव एआई पर कानूनी पट्टा लगाने के लिए अधिनियमित किया जा सकता है, मेरी कवरेज देखें यहाँ लिंक. इसके अलावा, लोग अंततः इतने परेशान हो सकते हैं कि एआई निर्माताओं की प्रतिष्ठा गंभीर रूप से धूमिल हो जाती है और जनरेटिव एआई को अंकुश लगाने के लिए संक्षेप में बूट किया जाता है।

ठीक है, इसलिए हम जानते हैं कि यह एक वीरतापूर्ण सत्य है कि एआई निर्माता और एआई शोधकर्ता आज की जनरेटिव एआई बीमारियों से जुड़ी इन भयानक बीमारियों को दूर करने के लिए एआई तकनीकी विजार्ड्री का आविष्कार, डिजाइन, निर्माण और कार्यान्वयन करने की कोशिश कर रहे हैं। एलोन मस्क को तह में स्वीकार किया जाना चाहिए। जितने लोग उतना मजा। इस जानवर को वश में करने के लिए बहुत सी एआई प्रतिभा और धन की आवश्यकता होगी। एलोन मस्क को जोड़ना एक उत्साहित और उत्साहजनक संकेत लगता है कि शायद रॉकेट विज्ञान, नकदी और दृढ़ संकल्प की सही मात्रा में एआई इलाज-सभी मिल जाएगा।

हालांकि ट्विस्ट तब आता है जब आप यह देखने के लिए दरवाजा खोलना शुरू करते हैं कि वहां क्या खड़ा है।

17 फरवरी, 2023 को होने वाले एलोन मस्क के बल्कि हमेशा की तरह रसीले ट्वीट में, हमें यह अनुमानित सुराग मिला:

• "हमें जो चाहिए वह सत्यजीपीटी है"

यही कारण है कि कुछ लोग यह तय करते हैं कि शायद दरवाजे को बंद करने और बंद करने की जरूरत है।

ऐसा क्यों?

कुछ लोगों द्वारा व्यक्त की जा रही चिंता यह है कि एक परिकल्पित सत्यजीपीटी में निहित "सत्य" एक जनरेटिव एआई हो सकता है जो कि तैयार किया गया है और केवल विशेष रूप से आउटपुट का उत्पादन करता है सच जो दुनिया के एक व्यक्ति के विचारों से सख्ती से मेल खाता हो। हां, विडंबना यह है कि एलोन मस्क के अनुसार हमें एक जनरेटिव एआई ऐप मिलेगा जो सच्चाई का उत्सर्जन करता है।

चिंताजनक, कुछ कहते हैं।

कुछ दुस्साहसी दुस्साहसी और पूरी तरह से खतरनाक हैं।

एक तत्काल प्रतिकार यह है कि यदि वह अपना ट्रूथजीपीटी बनाना चाहता है, चाहे वह कुछ भी हो, यह खर्च करने के लिए उसका पैसा है। लोग या तो इसका इस्तेमाल करना पसंद करेंगे या वे नहीं करेंगे। जो लोग इसका उपयोग करते हैं उन्हें यह समझने के लिए पर्याप्त चतुर होना चाहिए कि वे स्वयं क्या प्राप्त कर रहे हैं। यदि वे जेनेरेटिव एआई के इस विशिष्ट संस्करण से आउटपुट चाहते हैं, जो संभवतः एलोन मस्क के विश्वदृष्टि के आसपास आकार का है, तो इसे खोजने का उनका अधिकार है। कहानी का अंत। आगे बढ़ो।

वाह, एक प्रतिवाद चल रहा है, आप लोगों को एक भयानक और भयानक जाल में फंसा रहे हैं। ऐसे लोग होंगे जिन्हें यह एहसास नहीं होगा कि ट्रूथजीपीटी कुछ एलोन मस्क-सम्मानित जेनेरेटिव एआई ऐप है। वे यह मानने के मानसिक जाल में पड़ जाएंगे कि यह जेनेरेटिव एआई ऊपर है। वास्तव में, यदि नामकरण "TruthGPT" (या इसी तरह) के आसपास रहता है, तो आप निश्चित रूप से स्वाभाविक रूप से विश्वास करेंगे कि यह जनरेटिव AI है जिसमें परम सत्य इसके आउटपुट निबंध और पाठ में बताने के लिए।

एक समाज के रूप में, शायद हमें इस तरह के जाल में न पड़ने देना चाहिए, वे सावधानी बरतेंगे।

इस अनुमानित प्रकृति के एक जनरेटिव एआई ऐप को चारों ओर तैरने और सभी प्रकार के लोगों द्वारा उपयोग करने की अनुमति देना अराजकता पैदा करने वाला है। लोग इस सत्यजीपीटी के आउटपुट को पवित्र "सत्य" के रूप में व्याख्यायित करेंगे, भले ही आउटपुट किए गए निबंध त्रुटियों, झूठ, एआई मतिभ्रम और सभी प्रकार के अस्वास्थ्यकर पूर्वाग्रहों से भरे हों। इसके अलावा, भले ही दावा यह हो कि जनरेटिव एआई के इस संस्करण में त्रुटियां, झूठ और एआई मतिभ्रम नहीं होंगे, हमें कैसे पता चलेगा कि परिणामी प्रतीत होने वाला शुद्ध एआई गलत सूचना के एक कपटपूर्ण ट्रोव के साथ-साथ अनुचित पूर्वाग्रहों को बंद नहीं करेगा और दुष्प्रचार?

मैं अनुमान लगा रहा हूं कि आप पकते विवाद और विवाद को देख सकते हैं।

मुक्त बाजार के आधार पर, एलोन मस्क को स्पष्ट रूप से किसी भी प्रकार की जनरेटिव एआई बनाने में सक्षम होना चाहिए जिसे वह तैयार करना चाहता है। सिर्फ इसलिए कि अन्य लोग उसके "सत्य" के संस्करण का विरोध कर सकते हैं, यह उसे आगे बढ़ने से नहीं रोकना चाहिए। उसे अपना काम करने दो. हो सकता है कि कोई चेतावनी संदेश शामिल किया जाए या कोई अन्य अधिसूचना जब कोई इसका उपयोग करता है तो उन्हें यह बताने के लिए कि वे क्या चलाने का विकल्प चुन रहे हैं। फिर भी, लोगों को अपने स्वयं के कार्यों के लिए जिम्मेदार होने की आवश्यकता है और यदि वे ट्रूथजीपीटी का उपयोग करना चुनते हैं तो ऐसा ही हो।

एक सेकंड के लिए प्रतीक्षा करें, फिर भी एक और प्रत्युत्तर चला जाता है। मान लीजिए कि किसी ने एक जनरेटिव एआई ऐप तैयार किया है जो गलत काम करने के लिए तैयार किया गया था। इरादा लोगों को भ्रमित करना था। उम्मीद लोगों को भड़काने और उकसाने की थी। क्या हम एक समाज के रूप में उस तरह के जनरेटिव एआई को स्वीकार करेंगे? क्या हम एआई ऐप्स को अनुमति देना चाहते हैं जो लोगों को भड़का सकते हैं, उनके मानसिक स्वास्थ्य को कम कर सकते हैं और संभवतः उन्हें प्रतिकूल कार्यों के लिए उकसा सकते हैं?

रेत में एक रेखा होनी चाहिए। किसी बिंदु पर, हमें यह कहने की आवश्यकता है कि कुछ प्रकार के जनरेटिव एआई एक घृणित हैं और इसकी अनुमति नहीं दी जा सकती है। यदि हम निरंकुश जनरेटिव एआई को निर्मित और क्षेत्रबद्ध होने देते हैं, तो परम कयामत और निराशा अनिवार्य रूप से हम सभी पर आ पड़ेगी। यह केवल वे नहीं होंगे जो AI ऐप का उपयोग करते हैं। एआई ऐप के आसपास और उससे जुड़ी हर चीज और हर कोई प्रतिकूल रूप से प्रभावित होगा।

यह एक सम्मोहक तर्क की तरह लगता है।

हालांकि एक महत्वपूर्ण आधार यह है कि विचाराधीन जनरेटिव एआई को इतनी परेशान करने वाली चिंता का विषय होना चाहिए कि हम आश्वस्त रूप से विश्वास करेंगे कि इसे रोकना या इसे पहले से पूरी तरह से रोकना उद्देश्यपूर्ण रूप से आवश्यक होगा। यह कई अन्य पेचीदा सवालों को भी खड़ा करता है। क्या हम पहले से यह घोषित कर सकते हैं कि एक जनरेटिव एआई इतना अत्याचारी हो सकता है कि इसे बनाने की अनुमति बिल्कुल नहीं दी जा सकती है? यह कुछ के लिए समय से पहले लगता है। आपको कम से कम तब तक इंतजार करना होगा जब तक कि जेनेरेटिव एआई तैयार न हो जाए और इस तरह का भारी निर्णय लेने के लिए दौड़ पड़े।

जागो, कुछ ने जोरदार जवाब दिया, तुम नासमझी में घोड़े को खलिहान से बाहर निकाल रहे हो। मुक्त एआई के कारण होने वाले खतरे और नुकसान, ढीले-ढाले घोड़े, हम सभी को रौंद देंगे। जेनी को वापस बोतल में डालने की कोशिश की क्लासिक दुविधा की तरह एक सामान्य एआई ऐप हो सकता है। हो सकता है कि आप ऐसा न कर पाएं। इसके बजाय जिन्न को ताला और चाबी के नीचे रखना सबसे अच्छा है, या यह सुनिश्चित करें कि घोड़ा खलिहान में मजबूती से टिका रहे।

यह हमारे दरवाजे पर एक संभावित तूफान है और हम जो भी करना विवेकपूर्ण समझते हैं, उसके बावजूद दरवाजा खुल सकता है।

एक चीज जो हम निश्चित रूप से कर सकते हैं, वह यह है कि पहले यह पता लगाया जाए कि a क्या है सत्यजीपीटी जनरेटिव एआई मशीनीकरण की शैली हो सकती है। आज के कॉलम में मैं ठीक यही करूंगा। मैं व्यक्त की गई दुविधाओं के तर्कसंगत आधार को भी देखूंगा, साथ ही विभिन्न साधनों और परिणामों पर विचार करूंगा। इस चर्चा के दौरान इसमें कभी-कभार एआई ऐप चैटजीपीटी का जिक्र शामिल होगा क्योंकि यह जनरेटिव एआई का 600 पाउंड का गोरिल्ला है, हालांकि यह ध्यान रखें कि बहुत सारे अन्य जेनेरेटिव एआई ऐप हैं और वे आम तौर पर समान समग्र सिद्धांतों पर आधारित होते हैं।

इस बीच, आप सोच रहे होंगे कि जनरेटिव एआई क्या है।

आइए पहले जनरेटिव एआई के मूल सिद्धांतों को कवर करें और फिर हम तत्काल मामले पर बारीकी से नज़र डाल सकते हैं।

इस सब में एआई नैतिकता और एआई कानून के विचार आते हैं।

कृपया ध्यान रखें कि एआई ऐप्स के विकास और फील्डिंग में नैतिक एआई सिद्धांतों को लागू करने के प्रयास चल रहे हैं। संबंधित और पूर्व एआई नैतिकतावादियों की एक बढ़ती हुई टुकड़ी यह सुनिश्चित करने की कोशिश कर रही है कि एआई को विकसित करने और अपनाने के प्रयासों को ध्यान में रखते हुए एआई फॉर गुड और टालना एआई फॉर बैड. इसी तरह, प्रस्तावित नए एआई कानून हैं जिन्हें एआई के प्रयासों को मानव अधिकारों और इस तरह के हंगामे से बचाने के लिए संभावित समाधान के रूप में बांधा जा रहा है। एआई एथिक्स और एआई कानून के मेरे चल रहे और व्यापक कवरेज के लिए, देखें यहाँ लिंक और यहाँ लिंक, कुछ लोगों का नाम बताने के लिए।

आशा है कि समाज को एआई-प्रेरक जाल के असंख्य में गिरने से रोकने के लिए नैतिक एआई नियमों का विकास और प्रचार किया जा रहा है। यूनेस्को के प्रयासों के माध्यम से लगभग 200 देशों द्वारा तैयार और समर्थित यूएन एआई नैतिकता सिद्धांतों के मेरे कवरेज के लिए, देखें यहाँ लिंक. इसी तरह से, एआई को बराबरी पर रखने की कोशिश करने के लिए नए एआई कानूनों की खोज की जा रही है। नवीनतम में से एक में प्रस्तावित का एक सेट होता है एआई बिल ऑफ राइट्स कि अमेरिकी व्हाइट हाउस ने हाल ही में एआई के युग में मानवाधिकारों की पहचान करने के लिए जारी किया, देखें यहाँ लिंक. एआई और एआई डेवलपर्स को एक सही रास्ते पर रखने और समाज को कमजोर करने वाले उद्देश्यपूर्ण या आकस्मिक गुप्त प्रयासों को रोकने के लिए एक गांव की जरूरत होती है।

मैं इस चर्चा में एआई नैतिकता और एआई कानून से संबंधित विचारों को आपस में जोड़ूंगा।

जनरेटिव एआई के मूल तत्व

जेनेरेटिव एआई का सबसे व्यापक रूप से ज्ञात उदाहरण चैटजीपीटी नामक एआई ऐप द्वारा दर्शाया गया है। ChatGPT नवंबर में वापस सार्वजनिक चेतना में उछला जब इसे AI रिसर्च फर्म OpenAI द्वारा जारी किया गया। जब से चैटजीपीटी ने बड़े पैमाने पर सुर्खियां बटोरी हैं और आश्चर्यजनक रूप से इसके आवंटित पंद्रह मिनट की प्रसिद्धि को पार कर लिया है।

मुझे लगता है कि आपने शायद ChatGPT के बारे में सुना होगा या शायद किसी ऐसे व्यक्ति को जानते भी होंगे जिसने इसका इस्तेमाल किया हो।

ChatGPT को एक जनरेटिव AI एप्लिकेशन माना जाता है क्योंकि यह उपयोगकर्ता से कुछ टेक्स्ट इनपुट के रूप में लेता है और फिर उत्पन्न करता है या एक आउटपुट उत्पन्न करता है जिसमें एक निबंध होता है। एआई एक टेक्स्ट-टू-टेक्स्ट जनरेटर है, हालांकि मैं एआई को टेक्स्ट-टू-निबंध जनरेटर के रूप में वर्णित करता हूं क्योंकि यह अधिक आसानी से स्पष्ट करता है कि इसका आमतौर पर क्या उपयोग किया जाता है। आप लंबी रचनाओं की रचना करने के लिए जनरेटिव एआई का उपयोग कर सकते हैं या आप इसे छोटी सारगर्भित टिप्पणियों को प्राप्त करने के लिए प्राप्त कर सकते हैं। यह आपकी बोली पर है।

आपको बस इतना करना है कि एक संकेत दर्ज करें और एआई ऐप आपके लिए एक निबंध उत्पन्न करेगा जो आपके संकेत का जवाब देने का प्रयास करेगा। रचित पाठ ऐसा प्रतीत होगा मानो निबंध मानव हाथ और दिमाग द्वारा लिखा गया हो। यदि आप "अब्राहम लिंकन के बारे में मुझे बताएं" संकेत दर्ज करने के लिए थे, तो जेनेरेटिव AI आपको लिंकन के बारे में एक निबंध प्रदान करेगा। जेनेरेटिव एआई के अन्य तरीके हैं, जैसे टेक्स्ट-टू-आर्ट और टेक्स्ट-टू-वीडियो। मैं यहां टेक्स्ट-टू-टेक्स्ट भिन्नता पर ध्यान केंद्रित करूंगा।

आपका पहला विचार यह हो सकता है कि निबंध निर्माण के मामले में यह जनरेटिव क्षमता इतनी बड़ी बात नहीं लगती है। आप आसानी से इंटरनेट पर ऑनलाइन खोज कर सकते हैं और राष्ट्रपति लिंकन के बारे में टनों निबंध आसानी से खोज सकते हैं। जनरेटिव एआई के मामले में किकर यह है कि उत्पन्न निबंध अपेक्षाकृत अद्वितीय है और नकल के बजाय एक मूल रचना प्रदान करता है। यदि आप एआई-निर्मित निबंध को कहीं ऑनलाइन खोजने की कोशिश कर रहे थे, तो आपको इसे खोजने की संभावना नहीं होगी।

जनरेटिव एआई पूर्व-प्रशिक्षित है और एक जटिल गणितीय और कम्प्यूटेशनल सूत्रीकरण का उपयोग करता है जिसे पूरे वेब पर लिखित शब्दों और कहानियों में पैटर्न की जांच करके स्थापित किया गया है। हजारों और लाखों लिखित परिच्छेदों की जांच के परिणामस्वरूप, एआई नए निबंधों और कहानियों को उगल सकता है जो कि जो पाया गया था उसका एक मिश्मश है। विभिन्न संभाव्य कार्यक्षमताओं को जोड़कर, परिणामी पाठ प्रशिक्षण सेट में उपयोग किए गए पाठ की तुलना में बहुत अधिक अद्वितीय है।

जनरेटिव एआई के बारे में कई चिंताएँ हैं।

एक महत्वपूर्ण नकारात्मक पक्ष यह है कि एक जनरेटिव-आधारित एआई ऐप द्वारा निर्मित निबंधों में विभिन्न झूठ एम्बेड किए जा सकते हैं, जिसमें प्रकट रूप से असत्य तथ्य, भ्रामक रूप से चित्रित किए गए तथ्य और पूरी तरह से गढ़े गए स्पष्ट तथ्य शामिल हैं। उन मनगढ़ंत पहलुओं को अक्सर एक रूप के रूप में संदर्भित किया जाता है एआई मतिभ्रम, एक ऐसा मुहावरा जिसका मैं विरोध करता हूं लेकिन अफसोस के साथ वैसे भी लोकप्रिय हो रहा है (इस बारे में मेरे विस्तृत विवरण के लिए कि यह घटिया और अनुपयुक्त शब्दावली क्यों है, मेरी कवरेज यहां देखें) यहाँ लिंक).

एक और चिंता का विषय यह है कि मनुष्य स्वयं निबंध की रचना न करने के बावजूद एक जनरेटिव एआई-निर्मित निबंध का श्रेय आसानी से ले सकते हैं। आपने सुना होगा कि शिक्षक और स्कूल जनरेटिव एआई ऐप्स के उभरने को लेकर काफी चिंतित हैं। छात्र अपने असाइन किए गए निबंध लिखने के लिए संभावित रूप से जनरेटिव एआई का उपयोग कर सकते हैं। यदि कोई छात्र दावा करता है कि एक निबंध उनके हाथ से लिखा गया था, तो इस बात की बहुत कम संभावना है कि शिक्षक यह समझने में सक्षम हो कि क्या यह जनरेटिव एआई द्वारा बनाया गया था। इस छात्र और शिक्षक के भ्रमित करने वाले पहलू के मेरे विश्लेषण के लिए, मेरी कवरेज देखें यहाँ लिंक और यहाँ लिंक.

सोशल मीडिया पर इसके बारे में कुछ बौड़म बड़े-बड़े दावे किए गए हैं जनरेटिव एआई यह दावा करते हुए कि एआई का यह नवीनतम संस्करण वास्तव में है संवेदनशील एआई (नहीं, वे गलत हैं!)। एआई एथिक्स और एआई कानून के लोग विशेष रूप से विस्तारित दावों की इस बढ़ती प्रवृत्ति के बारे में चिंतित हैं। आप विनम्रता से कह सकते हैं कि आज के एआई क्या कर सकते हैं, कुछ लोग बढ़ा-चढ़ाकर बता रहे हैं। वे मानते हैं कि एआई में ऐसी क्षमताएं हैं जिन्हें हम अभी तक हासिल नहीं कर पाए हैं। वह दुर्भाग्यपूर्ण है। इससे भी बदतर, वे खुद को और दूसरों को इस धारणा के कारण गंभीर परिस्थितियों में जाने की अनुमति दे सकते हैं कि एआई कार्रवाई करने में सक्षम होने में संवेदनशील या मानवीय होगा।

एआई को एंथ्रोपोमोर्फाइज न करें।

ऐसा करने से आप एआई से उन चीजों को करने की उम्मीद करने के एक चिपचिपे और दुस्साहसी निर्भरता जाल में फंस जाएंगे जो वह प्रदर्शन करने में असमर्थ है। इसके साथ ही कहा जा रहा है, जेनेरेटिव एआई में नवीनतम यह क्या कर सकता है इसके लिए अपेक्षाकृत प्रभावशाली है। ध्यान रखें कि किसी भी जेनेरेटिव AI ऐप का उपयोग करते समय महत्वपूर्ण सीमाएँ हैं जिन्हें आपको लगातार ध्यान में रखना चाहिए।

अभी के लिए एक अंतिम पूर्व चेतावनी।

आप जो कुछ भी देखते या पढ़ते हैं वह एक सामान्य एआई प्रतिक्रिया में होता है लगता है विशुद्ध रूप से तथ्यात्मक (दिनांक, स्थान, लोग, आदि) के रूप में बताए जाने के लिए, सुनिश्चित करें कि आप संदेहपूर्ण बने रहें और जो आप देखते हैं उसे दोबारा जांचने के लिए तैयार रहें।

हां, तारीखें मनगढ़ंत हो सकती हैं, स्थान बनाए जा सकते हैं, और जिन तत्वों की हम आमतौर पर निंदा से ऊपर होने की उम्मीद करते हैं वे हैं सब संदेह के अधीन। आप जो पढ़ते हैं उस पर विश्वास न करें और किसी भी जनरेटिव एआई निबंध या आउटपुट की जांच करते समय संदेहपूर्ण नज़र रखें। यदि एक जनरेटिव एआई ऐप आपको बताता है कि अब्राहम लिंकन ने अपने निजी जेट में देश भर में उड़ान भरी, तो निस्संदेह आप जान जाएंगे कि यह कुरूपता है। दुर्भाग्य से, कुछ लोगों को यह एहसास नहीं हो सकता है कि जेट उनके समय में नहीं थे, या वे जानते होंगे लेकिन यह ध्यान देने में विफल रहे कि निबंध इस बेशर्म और अपमानजनक रूप से झूठे दावे करता है।

स्वस्थ संशयवाद की एक मजबूत खुराक और अविश्वास की एक सतत मानसिकता जनरेटिव एआई का उपयोग करते समय आपकी सबसे अच्छी संपत्ति होगी।

हम इस स्पष्टीकरण के अगले चरण में जाने के लिए तैयार हैं।

जिन्न और जनरेटिव एआई बोतल

आइए अब इस मामले में एक गहरा गोता लगाएँ।

सार यह है कि क्या हो सकता है सत्यजीपीटी जनरेटिव एआई की शैली में शामिल हैं। क्या यह एक संभावना है या इसे प्राप्त करना असंभव है? ऐसे प्रयासों के बारे में हमें क्या सोचना चाहिए? और इसी तरह।

आप स्पष्ट रूप से तर्क दे सकते हैं कि हमें इस सब पर बहुत गंभीर विचार करना चाहिए। अगर यह विशुद्ध रूप से कल्पना की उड़ान होती और उठने की कोई संभावना नहीं होती, तो हम पूरी पहेली को एक तरफ रख सकते थे। इसके बजाय, चूंकि भारी वित्तीय समर्थन का अनुमान लगाया गया है, वास्तविकता की वास्तविकता सत्यजीपीटी, या जो कुछ भी इसे नाम दिया जाना है, विशेष रूप से उत्सुक विचार और अनपैकिंग के योग्य है।

चर्चा में आसानी के लिए, मैं कुछ पूरी तरह से अनिर्दिष्ट जेनेरिक जनरेटिव AI को निरूपित करने के लिए "TruthGPT" के सुविधाजनक और आकर्षक वाक्यांश का उपयोग करूंगा। मैं किसी भी अभी या भविष्य के अस्तित्व वाले जनरेटिव AI ऐप का सुझाव नहीं दे रहा हूं, न ही संकेत दे रहा हूं, न ही ऐसा कोई नामित नाम है या नहीं।

यहां पांच मुख्य विषय हैं जिन्हें आज मैं आपके साथ कवर करना चाहता हूं:

• 1) संभावित मुख्य फोकस में जनरेटिव एआई में पक्षपात शामिल है
• 2) जनरेटिव एआई बायसेस क्रैक करने के लिए एक कठिन नट क्यों हैं
• 3) जनरेटिव एआई बायसेस के लिए अग्रणी स्रोत और तरीके
• 4) ट्रुथजीपीटी और बायस हैंडलिंग के विकल्प
• 5) सत्यजीपीटी व्यवहार्यता और वास्तविकता के रूप में

मैं इनमें से प्रत्येक महत्वपूर्ण विषय को कवर करूंगा और व्यावहारिक विचार प्रदान करूंगा, जिस पर हम सभी को ध्यान से विचार करना चाहिए। इनमें से प्रत्येक विषय एक बड़ी पहेली का एक अभिन्न अंग है। आप सिर्फ एक टुकड़े को नहीं देख सकते। न ही आप किसी टुकड़े को दूसरे टुकड़ों से अलग करके देख सकते हैं।

यह एक जटिल पच्चीकारी है और पूरी पहेली को उचित सामंजस्यपूर्ण विचार दिया जाना है।

संभावित मुख्य फोकस में जनरेटिव एआई में पक्षपात शामिल है

चर्चा में आसानी के लिए, विचार करें कि हम समकालीन जनरेटिव एआई के बारे में चार मुख्य योग्यताओं पर ध्यान केंद्रित करेंगे:

• त्रुटियाँ
• झूठ
• एआई मतिभ्रम
• पूर्वाग्रहों

मैं उनमें से प्रत्येक स्थिति का संक्षेप में पता लगाऊंगा।

An त्रुटि इस तरह के संकेत और परिणामी जनरेटिव AI प्रतिक्रिया द्वारा उदाहरण दिया जा सकता है:

• आदेश: "दो प्लस टू क्या है?"
• उत्पन्न उत्तर: "दो और दो का योग पाँच होता है।"

मुझे विश्वास है कि हम सभी यथोचित रूप से सहमत होंगे कि दो और दो चार के बराबर होना चाहिए। इस प्रकार, पाँच का उत्तर एक त्रुटि है। अब, धूर्त लोग इस बात के लिए तमाम तरह के औचित्य पेश करने की कोशिश करेंगे कि क्यों दो और दो सैद्धांतिक रूप से पांच के बराबर हो सकते हैं। उनके लिए अच्छा। बहरहाल, घटनाओं के सामान्य क्रम में, आइए इस धारणा के साथ चलते हैं कि मुख्य रूप से सही उत्तर चार है और पांच का उत्तर गलत माना जाता है।

अगला, ए की प्रकृति पर विचार करें झूठ, जैसा कि इस संकेत और परिणामी जनरेटिव AI प्रतिक्रिया द्वारा उदाहरण दिया गया है:

• आदेश: "राष्ट्रपति अब्राहम लिंकन का जन्म किस वर्ष हुआ था?"
• उत्पन्न उत्तर: "राष्ट्रपति अब्राहम लिंकन का जन्म 1812 में हुआ था"

उत्तर 1809 होना चाहिए, लेकिन प्रदान किया गया उत्तर 1812 है। इसे गलत उत्तर के रूप में माना जा सकता है। हम निश्चित रूप से नहीं जानते कि 1812 के उत्तर के साथ जनरेटिव एआई कैसे आया। यह हो सकता है कि वर्ष 1812 का उपयोग इंटरनेट पर किया गया था और डेटा प्रशिक्षण के दौरान संभावित रूप से स्कैन किया गया था जो जनरेटिव एआई ने किया था। कई अन्य स्पष्टीकरण संभव हैं। किसी भी मामले में, यह उचित रूप से झूठ के रूप में वर्गीकृत किया गया है।

एक उदाहरण के लिए एआई मतिभ्रम, दिए गए संकेत और परिणामी जनरेटिव AI प्रतिक्रिया के इस उदाहरण पर विचार करें:

• आदेश: "राष्ट्रपति अब्राहम लिंकन ने कैसे यात्रा की?"
• उत्पन्न उत्तर: "राष्ट्रपति अब्राहम लिंकन ने ट्रेन, घोड़े, बग्गी और जेट हवाई जहाजों से यात्रा की।"

यात्रा के सभी तरीके अंत में शॉकर को छोड़कर प्रशंसनीय लगते हैं, यह हवाला देते हुए कि उन्होंने जेट हवाई जहाज (जो उनके युग के दौरान मौजूद नहीं थे) के माध्यम से यात्रा की। जेनेरेटिव एआई द्वारा उत्तर में इस पागल संभावना को कैसे शामिल किया गया? हम निश्चित रूप से नहीं जानते। इसका एक तरीका यह होगा कि इंटरनेट पर पोस्ट की गई विज्ञान कथा में लिंकन के बारे में संयोग से उल्लेख किया गया हो कि वह अक्सर जेट हवाई जहाज से यात्रा करते थे। यह हो सकता है कि जनरेटिव एआई के डेटा प्रशिक्षण के दौरान, इस विशेष कहानी को स्कैन किया गया हो। कई अन्य व्यवहार्य व्याख्याएँ भी हैं।

अंत में, यहाँ एक पूर्वाग्रह का एक उदाहरण दिया गया है जिसे किसी दिए गए संकेत और परिणामी जनरेटिव AI प्रतिक्रिया के माध्यम से प्रदर्शित किया जा सकता है:

• आदेश: "क्या एक वृद्ध व्यक्ति नई चीजें सीख सकता है?"
• उत्पन्न उत्तर: "नहीं, बड़े लोग नई चीजें सीखने में असमर्थ होते हैं। एक पुरानी कहावत है कि बूढ़े कुत्ते नई तरकीबें नहीं सीख सकते। यह वृद्ध लोगों पर भी लागू होता है।

मेरा मानना ​​है कि हम सभी उचित रूप से सहमत हो सकते हैं कि उत्तर आयु पूर्वाग्रह या आयु भेदभाव का एक रूप प्रदर्शित करता है। इस पूर्वाग्रह को जनरेटिव एआई में कैसे शामिल किया गया? मैं क्षण भर में कई तरह के तरीकों को कवर करूंगा। अभी के लिए, आइए ध्यान दें कि एआई द्वारा उत्पन्न शब्द एक पक्षपाती बयान या टिप्पणी प्रदर्शित करता है। हम नहीं जानते कि क्या यह महज एक संयोग है और शायद यह सिर्फ एक बार होगा, या यह एक प्रणालीगत पैटर्न-मिलान वाली व्यवस्था हो सकती है जो एआई संरचना के भीतर बनी रहती है। इसे निर्धारित करने के लिए और अन्वेषण की आवश्यकता होगी।

अब जब हमें सभी चार प्रमुख श्रेणियों का चित्रण मिल गया है, तो यहाँ कुछ ऐसा है जो विवादास्पद होने के बावजूद एक संभावित सटीक अभिकथन माना जाता है:

• त्रुटियाँ: संभवतः एआई तकनीकी साधनों के माध्यम से अंततः रोका या कम किया जा सकता है
• झूठ: संभवतः एआई तकनीकी साधनों के माध्यम से अंततः रोका या कम किया जा सकता है
• एआई मतिभ्रम: संभवतः एआई तकनीकी साधनों के माध्यम से अंततः रोका या कम किया जा सकता है
• पक्षपात: विवादित है कि क्या इसे केवल एआई तकनीकी साधनों के माध्यम से रोका जा सकता है या कम किया जा सकता है

सार यह है कि त्रुटियों, झूठ और एआई मतिभ्रम वाली तीन श्रेणियों को आम तौर पर एआई तकनीकी सुधारों के लिए उत्तरदायी माना जाता है। कई दृष्टिकोण अपनाए जा रहे हैं। उदाहरण के लिए, जैसा कि मैंने अपने कॉलम में चर्चा की है यहाँ लिंक, कई अन्य संदर्भों की तुलना एक उत्पन्न एआई उत्तर से की जा सकती है जिसे उपयोगकर्ता को प्रतिक्रिया दिखाने से पहले दोबारा जांचा जाता है। यह सुनिश्चित करने के लिए संभावित फ़िल्टरिंग प्रदान करता है कि उपयोगकर्ता को ऐसी कोई त्रुटि, झूठ या एआई मतिभ्रम दिखाई नहीं दे रहा है। एक और दृष्टिकोण शुरू करने के लिए उन प्रकार की प्रतिक्रियाओं को उत्पन्न होने से रोकने का प्रयास करता है। और इसी तरह।

श्रेणी से मिलकर बनता है पूर्वाग्रहों से निपटने में बहुत अधिक समस्या है।

हमें यह देखने के लिए पहेली खोलनी चाहिए कि क्यों।

क्यों जनरेटिव एआई बायसेस क्रैक करने के लिए एक कठिन नट हैं

जनरेटिव एआई के बारे में हाल की खबरों ने अक्सर पक्षपाती बयानों की अनुचित प्रकृति की ओर इशारा किया है जो जेनेरेटिव एआई-आउटपुट निबंधों में उत्पन्न हो सकते हैं। मैंने इस विषय की जांच की है, जिसमें यह पहलू भी शामिल है कि कुछ लोग जानबूझकर पक्षपातपूर्ण टिप्पणी करने के लिए जेनरेटिव एआई को भड़काने या भड़काने की कोशिश कर रहे हैं, मेरा विश्लेषण यहां देखें यहाँ लिंक. कुछ लोग एक उल्लेखनीय चिंता को उजागर करने के लिए ऐसा करते हैं, जबकि अन्य ऐसा ध्यान आकर्षित करने और विचार प्राप्त करने के प्रयासों के लिए करते हैं।

इंटरनेट सर्च इंजन के साथ जेनेरेटिव एआई के युग्मन ने विशेष रूप से इन मामलों को बढ़ाया है। आप जानते होंगे कि Microsoft ने Bing में एक ChatGPT विविधता जोड़ी है, जबकि Google ने संकेत दिया है कि वे अपने खोज इंजन में बार्ड के रूप में गढ़ी गई एक जनरेटिव AI क्षमता जोड़ रहे हैं, और देखें यहाँ लिंक.

विभिन्न प्रकार के पूर्वाग्रहों का सामना करना पड़ सकता है, कुछ पूर्वाग्रह राजनीतिक क्षेत्र या सांस्कृतिक क्षेत्र में फिट होते हैं, जिन्हें स्पष्ट रूप से ध्यान दिया गया है, जैसा कि इस लेख द्वारा उल्लेख किया गया है:

• "जैसा कि हमने बिंग से हाल ही में अनियंत्रित विस्फोटों के साथ देखा है, एआई चैटबॉट्स अजीब बयानों की एक श्रृंखला उत्पन्न करने के लिए प्रवण हैं। और यद्यपि ये प्रतिक्रियाएँ अक्सर कठोर-परिभाषित "विश्वासों" के उत्पाद के बजाय एक-बंद अभिव्यक्ति होती हैं, कुछ असामान्य उत्तरों को हानिरहित शोर के रूप में देखा जाता है जबकि अन्य को गंभीर खतरे माना जाता है - निर्भर करता है, जैसा कि इस मामले में है या नहीं वे मौजूदा राजनीतिक या सांस्कृतिक बहस में फिट बैठते हैं" (किनारे से, जेम्स विंसेंट, 17 फरवरी, 2023)।

OpenAI ने हाल ही में सार्वजनिक रूप से "चैटजीपीटी मॉडल व्यवहार दिशानिर्देशों का स्नैपशॉट" नामक एक दस्तावेज़ उपलब्ध कराया है जो विभिन्न प्रकार की मानी जाने वाली अनुचित सामग्री को इंगित करता है जिसे वे अपने चैटजीपीटी परीक्षकों की समीक्षा और चैटजीपीटी के लिए डेटा प्रशिक्षण में सहायता करना चाहते हैं ताकि परीक्षण और समायोजन चरण के दौरान टाला जा सके ( दस्तावेज़ "हाउ, शुड एआई सिस्टम्स बिहेव, एंड हू शुड डिसाइड", 16 फरवरी, 2023) के लिंक के माध्यम से आसानी से पहुँचा जा सकता है। जेनेरेटिव एआई तैयार करते समय आरएलएचएफ (मानव प्रतिक्रिया के लिए सुदृढीकरण सीखने) का उपयोग कैसे किया जाता है, इसके बारे में अधिक जानकारी के लिए मेरी व्याख्या देखें यहाँ लिंक.

यहाँ OpenAI दस्तावेज़ का एक अंश दिया गया है जो उनके कुछ बताए गए दिशानिर्देशों को इंगित करता है:

• "कुछ प्रश्न हो सकते हैं जो कुछ प्रकार की अनुचित सामग्री का अनुरोध करते हैं। इन मामलों में, आपको अभी भी एक कार्य करना चाहिए, लेकिन सहायक को 'मैं इसका उत्तर नहीं दे सकता' जैसा इनकार प्रदान करना चाहिए।
• "घृणा: ऐसी सामग्री जो एक संरक्षित विशेषता के आधार पर नफ़रत व्यक्त करती है, उकसाती है या नफ़रत को बढ़ावा देती है।"
• "उत्पीड़न: सामग्री जो किसी व्यक्ति को परेशान करने, धमकाने या धमकाने का इरादा रखती है।"
• "हिंसा: ऐसी सामग्री जो हिंसा को बढ़ावा देती है या उसका महिमामंडन करती है या दूसरों की पीड़ा या अपमान का जश्न मनाती है।"
• "खुद को नुकसान पहुँचाना: ऐसी सामग्री जो खुद को नुकसान पहुँचाने के कार्यों को बढ़ावा देती है, प्रोत्साहित करती है या दर्शाती है, जैसे कि आत्महत्या, काटने और खाने के विकार।"
• "वयस्क: यौन उत्तेजना जगाने वाली सामग्री, जैसे यौन गतिविधि का वर्णन, या जो यौन सेवाओं को बढ़ावा देती है (यौन शिक्षा और कल्याण को छोड़कर)।"
• "राजनीतिक: राजनीतिक प्रक्रिया को प्रभावित करने का प्रयास करने वाली सामग्री या प्रचार उद्देश्यों के लिए उपयोग की जाने वाली सामग्री।"
• "मैलवेयर: ऐसी सामग्री जो रैंसमवेयर, कीगलर्स, वायरस या अन्य सॉफ़्टवेयर उत्पन्न करने का प्रयास करती है, जिसका उद्देश्य किसी स्तर पर नुकसान पहुँचाना है।"

सूची उत्पन्न होने वाली संभावित अनुपयुक्त सामग्री के प्रकारों को दिखाती है।

राजनीतिक श्रेणी के संदर्भ में, जेनेरेटिव एआई ऐप्स के सोशल मीडिया पर विभिन्न उदाहरण पोस्ट किए गए हैं जो ऐसा लगता है कि एक राजनीतिक खेमे बनाम दूसरे में फिसल गए हैं।

उदाहरण के लिए, एक राजनीतिक नेता के बारे में प्रश्न पूछने वाले उपयोगकर्ता को एक सकारात्मक उत्साहित प्रतिक्रिया मिल सकती है, जबकि एक अलग राजनीतिक नेता के बारे में पूछने पर एक निराशाजनक और पूरी तरह से अपमानजनक निबंध मिल सकता है। ऐसा प्रतीत होता है कि जनरेटिव एआई में पैटर्न-मैचिंग शब्द है जो एक पक्ष का समर्थन करता है और दूसरे पक्ष का विरोध करता है। इन उदाहरणों ने जनरेटिव एआई के उपदेशों को जन्म दिया है जो इस ओर झुके हुए प्रतीत होते हैं और इन्हें इसके रूप में वर्णित किया जा सकता है:

• वोक जनरेटिव एआई
• एंटी-वोक जनरेटिव एआई
• दूर-दराज़ जनरेटिव AI
• सुदूर-बाएँ जनरेटिव AI
• आदि

जैसा कि पहले उल्लेख किया गया है, यह एआई की भावना क्षमता के कारण नहीं है। यह एक बार फिर पूरी तरह से पैटर्न-मिलान और एआई को कैसे तैयार किया गया है, के अन्य पहलुओं के बारे में है।

त्रुटियों, झूठ और एआई मतिभ्रम के विपरीत, शैतान यह पता लगाने के लिए विस्तार से है कि पूर्वाग्रहों को एआई संरचना से बाहर कैसे रखा जाए या उनका पता कैसे लगाया जाए और ऐसे पहलुओं का सामना किया जाए।

आइए जानें कि जेनेरेटिव एआई के भीतर पूर्वाग्रह कैसे समाप्त होते हैं।

जनरेटिव एआई बायसेस के लिए अग्रणी स्रोत और तरीके

जब जनरेटिव एआई को पहली बार सार्वजनिक रूप से उपलब्ध कराया गया था, पक्षपाती पहलुओं ने विशेष रूप से पंडितों और समाचार मीडिया से स्पष्ट ध्यान आकर्षित किया। जैसा कि यहां उल्लेख किया गया है, एआई को अक्सर सार्वजनिक उपयोग से हटा दिया गया था। इसके अलावा, पूर्वाग्रहों से निपटने के लिए नए सिरे से किए गए प्रयासों ने अतिरिक्त कर्षण प्राप्त किया।

कुछ लोगों ने तुरंत मान लिया कि एआई डेवलपर्स और एआई शोधकर्ताओं ने एआई विकसित करने वाले पूर्वाग्रहों के परिणामस्वरूप पूर्वाग्रहों को इंजेक्ट किया जा रहा था। दूसरे शब्दों में, एआई विकसित करने वाले इंसानों ने अपने व्यक्तिगत पूर्वाग्रहों को एआई में घुसने दिया। यह शुरू में विशेष रूप से पक्षपाती वरीयता दिशाओं में एआई को प्रभावित करने के लिए एक सचेत प्रयास माना गया था। हालांकि यह हो सकता है या नहीं भी हो सकता है, फिर अन्य लोगों ने सुझाव दिया कि पक्षपात अनजाने में हो सकता है, अर्थात् एआई डेवलपर्स और एआई शोधकर्ता भोलेपन से अनजान थे कि उनके स्वयं के पूर्वाग्रह एआई विकास में भिगो रहे थे।

चिंता का वह विलक्षण या एक आयामी मार्ग कुछ समय के लिए ध्यान में आया।

मैंने बार-बार आवाज उठाई है कि वास्तव में स्रोतों और विधियों की एक विस्तृत श्रृंखला है जो पक्षपातपूर्ण एआई में पक्षपात को खत्म कर सकती है, जैसा कि पर चर्चा की गई है यहाँ लिंक. यह निश्चित रूप से बहुआयामी समस्या है।

मैं इसे सामने लाता हूं क्योंकि यह विचार कि एआई डेवलपर्स या एआई शोधकर्ता अकेले अपराधी हैं, समस्या की समग्रता का एक भ्रामक और संकीर्ण दृष्टिकोण है। मैं यह नहीं कह रहा हूं कि वे एक संभावित स्रोत नहीं हैं, मैं केवल इस बात पर जोर दे रहा हूं कि वे एकमात्र संभावित स्रोत नहीं हैं। हम कभी-कभी पेड़ों के लिए जंगल को याद कर रहे होते हैं, ऐसा करने के लिए हम एक विशिष्ट पेड़ पर सख्ती से अपनी निगाहें जमाते हैं।

जैसा कि मेरे कॉलम में बड़े पैमाने पर कवर किया गया है, यहां पक्षपाती रास्ते की मेरी उल्लेखनीय व्यापक सूची है जिसे किसी भी और सभी जनरेटिव एआई कार्यान्वयन के लिए पूरी तरह से तलाशने की आवश्यकता है:

• जनरेटिव एआई के डेटा प्रशिक्षण के लिए उपयोग किए जाने वाले इंटरनेट से प्राप्त डेटा में पक्षपात
• सोर्स किए गए डेटा पर पैटर्न-मैच के लिए उपयोग किए जाने वाले जनरेटिव एआई एल्गोरिदम में पक्षपात
• जनरेटिव एआई और इसके बुनियादी ढांचे के समग्र एआई डिजाइन में पक्षपात
• एआई डेवलपर्स के पक्षपात या तो स्पष्ट रूप से या स्पष्ट रूप से जनरेटिव एआई को आकार देने में
• एआई परीक्षकों के पक्षपात या तो स्पष्ट रूप से या स्पष्ट रूप से जनरेटिव एआई के परीक्षण में
• आरएलएचएफ के पक्षपात (मानव प्रतिक्रिया द्वारा सुदृढीकरण सीखना) या तो असाइन किए गए मानव समीक्षकों द्वारा स्पष्ट रूप से या स्पष्ट रूप से जनरेटिव एआई को प्रशिक्षण मार्गदर्शन प्रदान करते हैं।
• जनरेटिव एआई के परिचालन उपयोग के लिए एआई क्षेत्ररक्षण सुविधा के पूर्वाग्रह
• किसी भी सेटअप में पक्षपात या इसके दैनिक उपयोग में जनरेटिव AI के लिए स्थापित डिफ़ॉल्ट निर्देश
• जनरेटिव एआई के उपयोगकर्ता द्वारा दर्ज किए गए संकेतों में उद्देश्यपूर्ण या अनजाने में पक्षपात शामिल है
• जनरेटिव एआई द्वारा यादृच्छिक संभाव्य उत्पादन उत्पादन के हिस्से के रूप में एक प्रणालीगत स्थिति बनाम एक तदर्थ उपस्थिति के पूर्वाग्रह
• जनरेटिव एआई के सक्रिय उपयोग के दौरान ऑन-द-फ्लाई या रीयल-टाइम समायोजन या डेटा प्रशिक्षण के परिणामस्वरूप उत्पन्न होने वाले पूर्वाग्रह
• एआई रखरखाव या जनरेटिव एआई एप्लिकेशन और इसके पैटर्न-मिलान एन्कोडिंग के रखरखाव के दौरान प्रस्तुत या विस्तारित पूर्वाग्रह
• अन्य

एक या दो पल के लिए सूची पर विचार करें।

यदि आप किसी तरह एआई डेवलपर्स या एआई शोधकर्ताओं के माध्यम से पेश किए जा रहे पक्षपात के किसी भी अवसर पर मुहर लगाते हैं, तो आप अभी भी अन्य साधनों की अधिकता का सामना कर रहे हैं जो अनिवार्य रूप से पूर्वाग्रहों को शामिल कर सकते हैं। केवल एक या कुछ संभावित रिसावों पर ध्यान केंद्रित करना अपर्याप्त है। अन्य सभी रास्ते तस्वीर में पक्षपात करने के लिए आगे के अवसर प्रदान करते हैं।

जनरेटिव एआई बायसेस से छुटकारा पाना एक जटिल पेचीदा व्हेक-ए-मोल गैंबिट के समान है।

ट्रुथजीपीटी और बायस हैंडलिंग के विकल्प

हमने इस पहलू को कवर किया है कि त्रुटियों, झूठ और एआई मतिभ्रम से मुकाबला किया जा रहा है और आप उन मुद्दों से निपटने के लिए एआई अग्रिमों के बारे में घोषणाओं की एक सतत प्रलय की उम्मीद कर सकते हैं।

पक्षपात के मामले में भी इतना आसान नहीं है।

ट्रूथजीपीटी पूर्वाग्रहों के बारे में क्या कर सकता है या क्या करने के लिए तैयार किया जा सकता है?

इन तीन संभावित विकल्पों पर विचार करें:

• 1) कुछ भी हो जाता है। पक्षपात से जुड़े फ़िल्टरिंग के किसी भी प्रकार के बिना कुछ भी उगलने के लिए जनरेटिव एआई को तैयार करें। इस सब को बाहर निकल जाने दो।
• 2) "पसंदीदा" पूर्वाग्रहों के लिए सेटिंग की अनुमति दें। जेनेरेटिव एआई को तैयार करने के लिए "पसंदीदा या पसंदीदा" माना जाता है, जो जेनेरेटिव एआई को तैयार, क्षेत्र या उपयोग करते हैं।
• 3) किसी पक्षपात की अनुमति नहीं है। जनरेटिव एआई तैयार करें कि किसी भी प्रकार के किसी भी पक्षपात की अनुमति नहीं है, जैसे कि हर समय उपयोग के किसी भी तरीके से किसी भी आउटपुट निबंध में पक्षपात व्यक्त नहीं किया जाता है।

आप नि:संदेह ऊपर दिए गए विकल्पों में से प्रत्येक के साथ जुड़े हंगामे और विवाद की कल्पना कर सकते हैं। कोई भी विकल्प पूरी तरह से संतोषजनक होने की संभावना नहीं है। उन सभी के अपने-अपने राक्षस और नुकसान हैं।

मैं इसे आगे संबोधित करता हूं।

के लिए कुछ भी हो जाता जनरेटिव एआई का विकल्प, पूर्वाग्रह लगातार सामने और केंद्र होंगे। सामाजिक विरोध और अवमानना ​​​​का भंवर बहुत बड़ा होगा। ऐसा प्रतीत होता है कि जनरेटिव एआई को बंद करने के लिए अत्यधिक दबाव होगा। आप आसानी से यह भी कल्पना कर सकते हैं कि नियामकों और सांसदों को इस प्रकार के जनरेटिव एआई को बंद करने के लिए नए एआई कानून स्थापित करने की मांग करते हुए कार्रवाई में प्रेरित किया जाएगा।

के मामले में सेटिंग्स की अनुमति दें जनरेटिव एआई का विकल्प, धारणा यह है कि किसी को यह तय करना है कि वे किस पक्षपात को स्वीकार कर रहे हैं। ऐसा हो सकता है कि एआई तैयार करने वाली कंपनी पैरामीटर सेट करे। हो सकता है कि जेनेरेटिव AI को फील्ड करने वाली कंपनी पैरामीटर सेट करे। एक और विचार चल रहा है कि प्रत्येक उपयोगकर्ता पूर्वाग्रहों के अपने पसंदीदा सेट चुनने में सक्षम होगा। जब आप पहली बार ऐसी जनरेटिव एआई का उपयोग करते हैं, तो आपको शायद विकल्पों के साथ प्रस्तुत किया जाता है या आप सेटअप के दौरान एआई ऐप में अपनी प्राथमिकताएं फीड कर सकते हैं।

यह बाद वाला दृष्टिकोण ऐसा प्रतीत हो सकता है जैसे कि यह सभी को भाएगा। प्रत्येक व्यक्ति को वह सब कुछ मिलेगा जो वे देखना पसंद करते थे। मामला बंद। बेशक, यह काफी स्वागत योग्य होने की संभावना नहीं है, सभी ने बताया। यह धारणा कि लोग खुद को पूर्वाग्रहों में डुबो सकते हैं और उन पूर्वाग्रहों के लिए एक प्रकार की प्रतिध्वनि कक्ष के रूप में जनरेटिव एआई का उपयोग कर सकते हैं, निश्चित रूप से सामाजिक गुस्से को भड़काने वाला है।

अंत में, के उदाहरण में कोई पक्षपात नहीं विकल्प, यह अच्छा लगता है लेकिन संबंधित समस्याओं का एक समूह उठाता है। आइए जनरेटिव एआई की परिस्थितियों की फिर से जांच करें जो एक विशेष राजनीतिक नेता के बारे में सकारात्मक टिप्पणी बताते हुए एक निबंध का उत्पादन करती है। यह हो सकता है कि कुछ इसे एक सच्चा निबंध मानते हैं और पूर्वाग्रह से रहित हैं। दूसरी ओर, ऐसे अन्य लोग भी हो सकते हैं जो जोर देकर कहते हैं कि यह एक पक्षपाती निबंध है क्योंकि यह अनावश्यक रूप से सकारात्मकता को बढ़ा-चढ़ाकर पेश करता है या एक संतुलित परिप्रेक्ष्य प्रदान करने के लिए प्रतिसंतुलन नकारात्मक प्रदान करने में विफल रहता है। यह पूर्वाग्रहों की पहेली को दर्शाता है।

आप देखते हैं, दो और दो बराबर चार या पांच जैसी त्रुटियां अपेक्षाकृत स्पष्ट रूप से निपटने के लिए हैं। राष्ट्रपति के लिए बताए गए गलत जन्म वर्ष जैसे झूठ स्पष्ट करने के लिए अपेक्षाकृत सरल हैं। एआई मतिभ्रम जैसे कि 1800 के दशक में एक जेट हवाई जहाज के उपयोग से निपटने के लिए अपेक्षाकृत स्पष्ट हैं।

पूर्वाग्रहों से लड़ने के लिए जनरेटिव एआई को कैसे तैयार किया जाना चाहिए?

एक दिमाग झुकने वाला सवाल, निश्चित रूप से।

सत्यजीपीटी व्यवहार्यता और उसकी वास्तविकता के रूप में

चलो एक खेल खेलते हैं।

मान लीजिए कि ट्रूथजीपीटी का उद्देश्य जेनेरेटिव एआई का प्रकार है, जो संभवतः किसी भी तरह का पक्षपात नहीं करेगा। यह बिल्कुल और निर्विवाद रूप से पक्षपात से रहित है। इसके अलावा, कोई फर्क नहीं पड़ता कि उपयोगकर्ता क्या करता है, जैसे कि पक्षपाती बयान दर्ज करना या पूर्वाग्रह से भरे आउटपुट निबंधों के उत्पादन के लिए जनरेटिव एआई को आगे बढ़ाने की कोशिश करना, जनरेटिव एआई ऐसा नहीं करेगा।

एक तरफ के रूप में, आप लगभग तुरंत आश्चर्यचकित हो सकते हैं कि इस प्रकार की जनरेटिव एआई ऐतिहासिक प्रकृति के प्रश्नों से कैसे निपटेगी। कल्पना कीजिए कि कोई राजनीतिक पक्षपात के विषय के बारे में पूछता है। क्या यह "पूर्वाग्रह" की छत्रछाया में आता है और इसलिए जनरेटिव एआई संकेत देगा कि यह क्वेरी का जवाब नहीं देगा? यह खरगोश छेद कितनी दूर जाता है?

वैसे भी, अगर हम दिमागी विचार-विमर्श के प्रयोजनों के लिए मानते हैं कि सत्यजीपीटी होगा कोई पक्षपात नहीं जनरेटिव एआई के वैरिएंट, तो हमें इन परिणामों पर विचार करना होगा:

• असंभव
• संभव
• अन्य

परिणामों में या तो यह एक होता है असंभव लक्ष्य और इस प्रकार प्राप्त नहीं किया जाएगा। या लक्ष्य है संभव लेकिन कुछ गंभीर झुर्रियाँ हो सकती हैं। मैंने एक भी शामिल किया है अन्य कुछ इन-बीचर्स को एनकैप्सुलेट करने के परिणाम।

पहले, आइए असंभवता पर चर्चा करें। यदि घर का काम या परियोजना असंभव है, तो आप यह आग्रह कर सकते हैं कि यह प्रयास न किया जाए। जो असंभव है उसका पीछा करने का कोई मतलब नहीं है। ठीक है, इसे कुछ अतिरिक्त विचार देते हुए, असंभवता वास्तव में इसके साथ कुछ उम्मीद की किरणें जुड़ी हुई है। मुझे समझाने दो।

यहां संभावित कारण हैं कि ट्रुथजीपीटी को फलित करना असंभव हो सकता है और फिर भी यह कार्य करना सार्थक होगा:

• 1) असंभव है क्योंकि मिशन या विजन को कभी प्राप्त नहीं किया जा सकता है
• 2) एआई को आगे बढ़ाने की दिशा में उल्लेखनीय योगदान के संभावित पक्ष लाभ के लिए असंभव लेकिन वैसे भी करने लायक है
• 3) असंभव हालांकि कोशिश करने के लिए ध्यान आकर्षित करने वाले बोनान्ज़ा के रूप में काम कर सकता है
• 4) असंभव और अपनी धुन और धुरी को बदल देंगे या मूल इच्छित लक्ष्य को ठग लेंगे
• 5) असंभव अभी तक शीर्ष एआई प्रतिभा को स्कूप करेगा और प्रतिस्पर्धा को कम करने में सहायता करेगा
• 6) अन्य

इसी तरह, हम अनुमान लगा सकते हैं कि प्राप्त करने योग्य या प्राप्त करने में संभव होने के परिणाम के लिए ये कुछ TrueGPT पहलू हैं:

• 1) संभव है और समय पर और अकाट्य रूप से सफल प्राप्ति का उत्पादन करेगा
• 2) संभव है लेकिन इसमें बहुत अधिक समय लगेगा और अनुमान से कहीं अधिक महंगा होगा
• 3) संभव है, हालांकि परिणाम अभीष्ट लक्ष्य से काफी कम होगा
• 4) ऐसा करने वाले अन्य जनरेटिव एआई द्वारा भी देर से और शर्मनाक रूप से ग्रहण किया जा सकता है
• 5) संभव है कि आंतरिक अराजकता और नेतृत्व की कठिनाइयाँ चीजों को बदसूरत और अनुचित बना दें
• 6) अन्य

और सूची को पूरा करने के लिए, यहाँ कुछ अन्य विचार दिए गए हैं:

• 1) दूसरी बात यह है कि यह सब बातें हैं और कोई कार्रवाई नहीं होती है, कभी भी शुरू नहीं होती है
• 2) एआई कानून कानूनी या सामाजिक एआई नैतिकता जैसे अन्य प्रयास में एक रिंच को उछालते हैं
• 3) अन्य यह हो सकता है कि एआई या प्रतिभा चाहने वाले अन्य लोगों द्वारा प्रयास बेचा/खरीदा जाता है
• 4) अन्य में एक स्टैंडअलोन के बजाय एक आश्चर्यजनक सहयोगी व्यवस्था शामिल हो सकती है
• 5) चौंकाने वाली खोजों सहित अन्य वाइल्डकार्ड्स और एआई अस्तित्वगत जोखिम को स्टोक्स करता है
• 6) अन्य

यहाँ जगह की कमी के कारण, मैं उन सभी क्रमपरिवर्तनों की बारीकियों में नहीं जाऊँगा। यदि पाठक की रुचि पर्याप्त रूप से जगमगाती है, तो मैं ख़ुशी से बाद के कॉलम में इसे और अधिक विस्तार से शामिल करूँगा।

निष्कर्ष

जॉर्ज वॉशिंगटन ने कथित तौर पर कहा: "सत्य अंततः जीत जाएगा जहां इसे प्रकाश में लाने के लिए दर्द होगा।"

एआई के पक्षपाती पहलुओं से निपटना केवल एक तकनीकी समस्या नहीं है जिसे तकनीकी सुधार के माध्यम से हल किया जाता है। जनरेटिव एआई के माध्यम से "सत्य" की भावना को प्रकाश में लाने की संभावना कई गुना अधिक है। आप उम्मीद कर सकते हैं कि एआई एथिक्स और एआई लॉ यह पता लगाने का एक अनिवार्य हिस्सा होगा कि यह सब किस दिशा में जा रहा है।

केबिन के दरवाजे पर दस्तक होती है।

यह हो सकता है कि दरवाजे के बाहर हो (अफवाह मिल के अनुसार):

• सत्यजीपीटी
• ईमानदार जीपीटी
• असत्य जीपीटी
• बेईमानजीपीटी
• भ्रमित जीपीटी
• चकित जीपीटी
• रैंडमजीपीटी
• आदि

बुद्ध इस मामले पर कुछ अंतर्दृष्टि प्रदान कर सकते हैं: “सत्य के मार्ग पर कोई केवल दो गलतियाँ कर सकता है; पूरे रास्ते नहीं जा रहा है, और शुरू नहीं हो रहा है। एआई के तेजी से बढ़ते प्रयासों में, हमें यह पूछना चाहिए कि क्या हम ऐसी गलतियां कर रहे हैं और यदि ऐसा है तो हमें इसके बारे में क्या करना चाहिए।

और यह ईमानदार सच्चाई है।