एआई नैतिकता और एआई कानून से पूछता है कि क्या जनरेटिव एआई चैटजीपीटी गलत और मतिभ्रम आउटपुट को उजागर और लॉग करना कोई अच्छा काम करता है

आप एक रहस्य के लिए हैं।

हां, एआई में नवीनतम के बारे में पर्दे के पीछे कुछ ऐसा चल रहा है जिसके बारे में आप जानना चाहते हैं।

आज के कॉलम में, मैं चैटजीपीटी नामक एआई ऐप से आउटपुट किए गए निबंधों से जुड़ी कथित त्रुटियों और अन्य विकृतियों को संकलित करने के लिए हाल की प्रेरणा की जांच करूंगा। यह विशेष ऐप एक प्रकार के एआई का उपयोग कर रहा है जिसे एआई कहा जाता है जनरेटिव एआई. आपने शायद जनरेटिव-आधारित AI और ChatGPT के बारे में आकर्षक सुर्खियाँ सुनी या देखी होंगी। इस विशिष्ट AI ऐप और इस प्रकार के AI से संबंधित प्रतीत होने वाली आश्चर्यजनक क्षमताओं के बारे में समाचार चर्चा में है।

जैसा कि मैं एक पल में कवर करूंगा, कुछ का मानना ​​है कि हमें इस बात की एक सूची स्थापित करने की आवश्यकता है कि AI ऐप आपके लिए एक निबंध तैयार करते समय किस प्रकार की गलतियों या त्रुटियों का उत्पादन कर सकता है। दूसरों का सुझाव है कि हालांकि ऐसी सूची की धारणा प्रशंसनीय है, यह व्यर्थ की कवायद है और बहुत कम फल देगी।

हम उस विद्वेषपूर्ण बहस के दोनों पक्षों की जांच करेंगे।

सबसे पहले, आइए सुनिश्चित करें कि जनरेटिव एआई में क्या शामिल है और चैटजीपीटी क्या है, इस बारे में हम सभी एक ही पृष्ठ पर हैं।

ChatGPT एक सामान्य-उद्देश्य वाला AI इंटरएक्टिव संवादी-उन्मुख प्रणाली है, जो अनिवार्य रूप से एक सामान्य दिखने वाला सामान्य चैटबॉट है, फिर भी, यह सक्रिय रूप से और उत्सुकता से लोगों द्वारा उन तरीकों से उपयोग किया जा रहा है जो कई पूरी तरह से ऑफ-गार्ड को पकड़ रहे हैं। इस प्रकार के एआई का उपयोग करने के लिए आपको केवल एक संकेत दर्ज करना है और एआई ऐप आपके लिए एक निबंध उत्पन्न करेगा जो आपके संकेत का जवाब देने का प्रयास करेगा।

दुर्भाग्य से, इसका उपयोग कुछ हद तक या तो अनैतिक या कुटिल तरीकों से किया जा सकता है। एक विशेष रूप से परेशान करने वाली योग्यता यह है कि छात्र जेनेरेटिव-आधारित एआई ऐप का उपयोग उनके लिए असाइन किए गए निबंध बनाने के लिए कर सकते हैं, ऐप को सही दिशा में लाने के लिए बस एक या दो वाक्य दर्ज करके ऐसा कर सकते हैं। कुछ लोग विलाप करते हैं कि इसका मतलब यह है कि कक्षा के बाहर निबंध लिखते समय छात्र धोखा देने का विकल्प चुनेंगे। शिक्षक यह पता लगाने की कोशिश कर रहे हैं कि क्या करना है, मेरा विश्लेषण और सिफारिशें देखें यहाँ लिंक.

चैटजीपीटी के लिए प्रशंसनीय प्रशंसा के लगातार शोर के बावजूद, मुख्य रूप से एआई के अंदरूनी सूत्रों द्वारा व्यक्त की गई एक कम ज्ञात चिंता है कि कुछ उल्लेखनीय मुद्दे और योग्यताएं हैं जिनके बारे में लोगों को चिंतित होना चाहिए। एक महत्वपूर्ण नकारात्मक पक्ष यह है कि इस एआई ऐप द्वारा निर्मित निबंधों में विभिन्न झूठ एम्बेड किए जा सकते हैं, जिनमें स्पष्ट रूप से असत्य तथ्य, भ्रामक रूप से चित्रित किए गए तथ्य और पूरी तरह से गढ़े गए स्पष्ट तथ्य शामिल हैं। उन मनगढ़ंत पहलुओं को अक्सर एक रूप के रूप में संदर्भित किया जाता है एआई मतिभ्रम, एक ऐसा मुहावरा जिसे मैं नापसंद करता हूं लेकिन अफसोस के साथ वैसे भी लोकप्रिय हो रहा है (इस बारे में मेरे विस्तृत विवरण के लिए कि यह घटिया और अनुपयुक्त शब्दावली क्यों है, मेरी कवरेज यहां देखें) यहाँ लिंक).

इस विषय पर गहराई में जाने से पहले मैं एक महत्वपूर्ण पहलू को स्पष्ट करना चाहूंगा।

सोशल मीडिया पर इसके बारे में कुछ बौड़म बड़े-बड़े दावे किए गए हैं जनरेटिव एआई यह दावा करते हुए कि एआई का यह नवीनतम संस्करण वास्तव में है संवेदनशील एआई (नहीं, वे गलत हैं!)। एआई एथिक्स और एआई लॉ के लोग विशेष रूप से विस्तारित दावों की इस बढ़ती प्रवृत्ति के बारे में चिंतित हैं। आप विनम्रता से कह सकते हैं कि आज के एआई वास्तव में क्या कर सकते हैं, कुछ लोग अतिशयोक्ति कर रहे हैं। वे मानते हैं कि एआई में ऐसी क्षमताएं हैं जिन्हें हम अभी तक हासिल नहीं कर पाए हैं। वह दुर्भाग्यपूर्ण है। इससे भी बदतर, वे खुद को और दूसरों को इस धारणा के कारण गंभीर परिस्थितियों में जाने की अनुमति दे सकते हैं कि एआई कार्रवाई करने में सक्षम होने में संवेदनशील या मानवीय होगा।

एआई को एंथ्रोपोमोर्फाइज न करें।

ऐसा करने से आप एआई से उन चीजों को करने की उम्मीद करने के एक चिपचिपे और दुस्साहसी निर्भरता जाल में फंस जाएंगे जो वह प्रदर्शन करने में असमर्थ है। इसके साथ ही कहा जा रहा है, जेनेरेटिव एआई में नवीनतम यह क्या कर सकता है इसके लिए अपेक्षाकृत प्रभावशाली है। ध्यान रखें कि किसी भी जेनेरेटिव AI ऐप का उपयोग करते समय महत्वपूर्ण सीमाएँ हैं जिन्हें आपको लगातार ध्यान में रखना चाहिए।

यदि आप ChatGPT और जनरेटिव AI के बारे में तेजी से बढ़ते हंगामे में रुचि रखते हैं, तो मैं अपने कॉलम में एक केंद्रित श्रृंखला बना रहा हूं जो आपको जानकारीपूर्ण लग सकती है। यदि इनमें से कोई भी विषय आपके मन को भा जाए तो यहां एक नज़र है:

• 1) जनरेटिव एआई एडवांस आने की भविष्यवाणी। यदि आप जानना चाहते हैं कि 2023 और उसके बाद एआई के बारे में क्या प्रकट होने की संभावना है, जिसमें जेनेरेटिव एआई और चैटजीपीटी में आगामी प्रगति शामिल है, तो आप मेरी 2023 की भविष्यवाणियों की व्यापक सूची को पढ़ना चाहेंगे। यहाँ लिंक.
• 2) जनरेटिव एआई और मानसिक स्वास्थ्य सलाह। मैंने इस बात की समीक्षा करने का विकल्प चुना कि मानसिक स्वास्थ्य सलाह के लिए जनरेटिव एआई और चैटजीपीटी का उपयोग कैसे किया जा रहा है, यह एक परेशानी भरा चलन है, मेरे केंद्रित विश्लेषण के अनुसार यहाँ लिंक.
• 3) संदर्भ और जनरेटिव एआई का उपयोग। मैंने चैटजीपीटी और जेनेरेटिव एआई से जुड़े एक सांता-संबंधित संदर्भ के बारे में एक मौसमी स्वाद वाली जीभ-इन-गाल परीक्षा भी की यहाँ लिंक.
• 4) जनरेटिव एआई का उपयोग करने वाले स्कैमर. एक अशुभ नोट पर, कुछ स्कैमर्स ने यह पता लगाया है कि स्कैम ईमेल बनाने और यहां तक ​​कि मैलवेयर के लिए प्रोग्रामिंग कोड बनाने सहित गलत काम करने के लिए जेनेरेटिव एआई और चैटजीपीटी का उपयोग कैसे किया जाता है, मेरा विश्लेषण यहां देखें यहाँ लिंक.
• 5) जनरेटिव एआई का उपयोग करते हुए धोखेबाज़ गलतियाँ. बहुत से लोग जनरेटिव AI और ChatGPT क्या कर सकते हैं, दोनों ही ओवरशूटिंग और आश्चर्यजनक रूप से अंडरशूटिंग कर रहे हैं, इसलिए मैंने विशेष रूप से उस अंडरशूटिंग पर ध्यान दिया, जो AI बदमाश बनाते हैं, पर चर्चा देखें यहाँ लिंक.
• 6) जनरेटिव एआई प्रांप्ट्स और एआई मतिभ्रम से निपटना. मैं एआई ऐड-ऑन का उपयोग करने के लिए एक अग्रणी-धार दृष्टिकोण का वर्णन करता हूं, जो कि जनरेटिव एआई में उपयुक्त संकेतों को दर्ज करने की कोशिश से जुड़े विभिन्न मुद्दों से निपटने के लिए है, साथ ही तथाकथित एआई मतिभ्रम आउटपुट और झूठ का पता लगाने के लिए अतिरिक्त एआई ऐड-ऑन हैं, जैसा कि पर कवर किया गया यहाँ लिंक.
• 7) जनरेटिव एआई-निर्मित निबंधों का पता लगाने के बारे में बोनहेड दावों को खारिज करना. एआई ऐप्स की एक गुमराह सोने की भीड़ है जो यह पता लगाने में सक्षम होने का दावा करती है कि कोई दिया गया निबंध मानव-निर्मित बनाम एआई-जेनरेट किया गया था या नहीं। कुल मिलाकर, यह भ्रामक है और कुछ मामलों में, एक अस्थिहीन और अपुष्ट दावा, मेरी कवरेज देखें यहाँ लिंक.
• 8) जनरेटिव एआई के माध्यम से भूमिका निभाना मानसिक स्वास्थ्य की कमियों को दूर कर सकता है. कुछ लोग भूमिका निभाने के लिए चैटजीपीटी जैसे जनरेटिव एआई का उपयोग कर रहे हैं, जिससे एआई ऐप मानव को प्रतिक्रिया देता है जैसे कि एक फंतासी दुनिया या अन्य निर्मित सेटिंग में मौजूद है। इससे मानसिक स्वास्थ्य पर असर पड़ सकता है, देखें यहाँ लिंक.

आइए अभी जेनेरेटिव एआई और चैटजीपीटी के सार पर चर्चा करें ताकि आप इसमें शामिल नींवों को जान सकें। फिर हम झूठ के एक जांच विश्लेषण में कूदने के लिए तैयार होंगे कि ये एआई ऐप्स संभावित रूप से उत्पन्न कर सकते हैं। मैं ChatGPT का उपयोग करने के कई उदाहरण शामिल करूंगा, जो आपको इस प्रकार की जनरेटिव AI की प्रकृति को स्पष्ट रूप से समझने में मदद करेगा।

जनरेटिव एआई पर वर्म्स की कैन खोलना

हम एआई के बारे में कुछ विवरणों में गोता लगाने के लिए तैयार हैं।

यदि आप पहले से ही जनरेटिव एआई और चैटजीपीटी के विषय में बहुत अच्छी तरह से वाकिफ हैं, तो आप मेरे बिंदुओं के माध्यम से संक्षिप्त रूप से स्किम करने का विकल्प चुन सकते हैं और इस चर्चा के अगले भाग को जारी रख सकते हैं। बाकी सभी के लिए, मुझे विश्वास है कि आपको यह व्याख्या मददगार लग सकती है।

संक्षेप में, जनरेटिव एआई एक विशेष प्रकार का एआई है जो पाठ की रचना करता है जैसे कि पाठ मानव हाथ और दिमाग द्वारा लिखा गया था। आपको बस इतना करना है कि एक संकेत दर्ज करें, जैसे "अब्राहम लिंकन के बारे में मुझे बताएं" और जनरेटिव एआई आपको लिंकन के बारे में एक निबंध प्रदान करेगा। इसे आमतौर पर जनरेटिव एआई के रूप में वर्गीकृत किया जाता है जो प्रदर्शन करता है पाठ से पाठ या कुछ इसे कॉल करना पसंद करते हैं पाठ से निबंध आउटपुट। आपने जेनेरेटिव एआई के अन्य तरीकों के बारे में सुना होगा, जैसे टेक्स्ट-टू-आर्ट और टेक्स्ट-टू-वीडियो।

आपका पहला विचार यह हो सकता है कि निबंध निर्माण के मामले में यह इतनी बड़ी बात नहीं लगती है। आप आसानी से इंटरनेट पर ऑनलाइन खोज कर सकते हैं और राष्ट्रपति लिंकन के बारे में टनों निबंध आसानी से खोज सकते हैं। जनरेटिव एआई के मामले में किकर यह है कि उत्पन्न निबंध अपेक्षाकृत अद्वितीय है और नकल के बजाय एक मूल रचना प्रदान करता है। यदि आप एआई-निर्मित निबंध को कहीं ऑनलाइन खोजने की कोशिश कर रहे थे, तो आपको इसे खोजने की संभावना नहीं होगी।

जनरेटिव एआई पूर्व-प्रशिक्षित है और एक जटिल गणितीय और कम्प्यूटेशनल सूत्रीकरण का उपयोग करता है जिसे पूरे वेब पर लिखित शब्दों और कहानियों में पैटर्न की जांच करके स्थापित किया गया है। हजारों और लाखों लिखित परिच्छेदों की जांच के परिणामस्वरूप, एआई नए निबंधों और कहानियों को उगल सकता है जो कि जो पाया गया था उसका एक मिश्मश है। विभिन्न संभाव्य कार्यक्षमताओं को जोड़कर, परिणामी पाठ प्रशिक्षण सेट में उपयोग किए गए पाठ की तुलना में बहुत अधिक अद्वितीय है।

यही कारण है कि कक्षा के बाहर निबंध लिखते समय छात्रों को धोखा देने में सक्षम होने के बारे में हंगामा हो रहा है। एक शिक्षक केवल उस निबंध को नहीं ले सकता है जो धोखेबाज छात्रों का दावा है कि यह उनका स्वयं का लेखन है और यह पता लगाने की कोशिश करता है कि क्या इसे किसी अन्य ऑनलाइन स्रोत से कॉपी किया गया था। कुल मिलाकर, कोई निश्चित पूर्व-मौजूदा निबंध ऑनलाइन नहीं होगा जो एआई-जनित निबंध के अनुकूल हो। सभी ने कहा, शिक्षक को यह स्वीकार करना होगा कि छात्र ने निबंध को मूल कृति के रूप में लिखा था।

एक क्षण में, मैं आपको दिखाऊंगा कि क्या होता है जब आप जेनेरेटिव एआई में प्रश्न दर्ज करते हैं या संकेत देते हैं। मैं अपने संकेतों को दर्ज करने के लिए चैटजीपीटी के नवीनतम संस्करण का उपयोग करूंगा और एआई द्वारा उत्पन्न "उत्तर" या निबंध एकत्र करूंगा (ध्यान दें कि यह कई अन्य उपलब्ध जेनेरेटिव एआई ऐप्स के साथ किया जा सकता है; मैंने उपयोग करने का विकल्प चुना है) ChatGPT क्योंकि इसे अभी पांच मिनट की प्रसिद्धि मिल रही है)।

शायद इस मोड़ पर ChatGPT के बारे में एक छोटी स्पर्शरेखा मददगार हो सकती है।

ChatGPT ऐप को कुछ महीने पहले ही आम लोगों के लिए उपलब्ध कराया गया था। कुल मिलाकर, ये जेनेरेटिव एआई ऐप आमतौर पर केवल एआई के अंदरूनी लोगों के लिए ही सुलभ हैं। चैटजीपीटी के असामान्य पहलू का उपयोग कोई भी व्यक्ति बस एक ईमेल पता और एक नाम दर्ज करके कर सकता है, इसके कारण बहुत से लोगों ने इसे आजमाने का फैसला किया। चैटजीपीटी वर्तमान में उपयोग करने के लिए स्वतंत्र है (विमुद्रीकरण का मुद्दा एआई निर्माताओं के लिए एक उभरती हुई दुविधा है)।

लगभग तुरंत ही सोशल मीडिया पर एक विनम्र प्रतिक्रिया हुई क्योंकि लोगों ने एआई क्या कर सकता है इसका उदाहरण देने के लिए दौड़ लगाई। चैटजीपीटी, ओपनएआई बनाने वाली कंपनी ने दस लाख उपयोगकर्ताओं के साइनअप को बंद करने का विकल्प चुना। उन मिलियन उपयोगकर्ताओं ने चैटजीपीटी का उपयोग करने के बारे में सभी प्रकार की कहानियों और कहानियों के साथ एयरवेव्स पर बमबारी करने में कामयाबी हासिल की है।

एआई ऐप के बारे में लोगों का क्या कहना है, इस पर विश्वास करने में बहुत सावधानी बरतें। इनमें से बहुत से लोग इस बात से अनभिज्ञ हैं कि वे क्या उपयोग कर रहे हैं। यह लगभग वैसा ही है जैसे उन्होंने कभी कार नहीं चलाई थी और कारों के अस्तित्व का एहसास भी नहीं था, और अचानक उन्हें कार चलाने का मौका मिला। घोर आश्चर्य होता है।

मैं यह नहीं कह रहा हूँ कि जेनेरेटिव एआई अपेक्षाकृत प्रभावशाली नहीं है। यह है। मैं बस इस बात पर जोर दे रहा हूं कि बहुत से प्रशंसापत्र बहुत से लोगों द्वारा किए जा रहे हैं जो आज के एआई क्या कर सकते हैं इससे अनजान हैं। एआई के अंदर हममें से जो लोग पिछले कई सालों से जनरेटिव एआई का इस्तेमाल कर रहे हैं। शायद हमें इसकी आदत हो गई थी। अचानक, लोगों के एक बड़े क्रश को इसे छतों पर चढ़ते हुए देखना उत्साहजनक है, लेकिन कुछ हद तक परेशान करने वाला भी है। परेशान करने वाला हिस्सा तब होता है जब लोग घोषणा करते हैं कि जनरेटिव एआई संवेदनशील है। यह नहीं। किसी को भी आपको अन्यथा विश्वास न करने दें।

ऐसा कहा जा रहा है कि एआई क्षेत्र में इस बात को लेकर गरमागरम बहस चल रही है कि क्या जनरेटिव एआई संवेदना की राह पर है या नहीं। एक विचार यह है कि अगर हम जेनेरेटिव एआई को तेज कंप्यूटर और अधिक मात्रा में डेटा जैसे कि इंटरनेट के हर इंच को खंगालना जारी रखते हैं, तो हम लगभग अनायास ही संवेदनशील एआई पर पहुंच जाएंगे। दूसरों का तर्क है कि यह अत्यधिक संभावना नहीं है। उनका सुझाव है कि जेनेरेटिव एआई कई आवश्यक घटकों में से एक हो सकता है। यहां तक ​​​​कि निराशाजनक दृष्टिकोण यह भी है कि जनरेटिव एआई एक साइडशो है जो हमें वास्तविक सफलताओं से विचलित कर रहा है जिसे हमें संवेदनशील एआई हासिल करने की आवश्यकता होगी।

आपको यह भी ध्यान देने योग्य बात मिल सकती है कि एआई के अंदरूनी सूत्र इसका उल्लेख करते हैं आर्टिफिशियल जनरल इंटेलिजेंस (एजीआई) एआई क्षेत्र के लिए आकांक्षात्मक लक्ष्य के रूप में। ऐसा हुआ करता था कि लक्ष्य प्राप्त करना था Artificial Intelligence, लेकिन एआई उपनाम पानी में डूबा हुआ और अव्यवस्थित हो गया है। जब कोई कहता है कि वे एआई का काम कर रहे हैं, तो आप नहीं जानते कि क्या वे आज के एआई की ओर इशारा कर रहे हैं जो मनुष्यों के बराबर नहीं है या क्या वे एक भविष्यवादी मानव समकक्ष एआई का जिक्र कर रहे हैं। उस भयावह भ्रम से बचने के लिए, इन दिनों AGI के नए वाक्यांशों का उपयोग किया जा रहा है।

सभी ने बताया, आज की जनरेटिव एआई है नहीं भावुक, न ही यह एजीआई है।

कृपया याद रखें कि जैसा कि पहले चर्चा की गई थी, एआई संवेदनशील नहीं है। एआई द्वारा उत्पन्न प्रतिक्रियाएं शब्दों का गणितीय और कम्प्यूटेशनल संयोजन प्रतीत होता है धाराप्रवाह मार्ग हैं। यह एआई एल्गोरिथम पर आधारित है जिसे मानव द्वारा लिखे गए शब्दों और कहानियों के डेटासेट पर प्रशिक्षित किया गया है (मुख्य रूप से इंटरनेट पर पोस्ट किया गया)। मैं इस चेतावनी को दोहराता हूं क्योंकि निस्संदेह आप इस मानसिक जाल में फंस जाएंगे कि ये प्रतिक्रियाएं इतनी धाराप्रवाह हैं कि एआई को संवेदनशील होना चाहिए। ऐसा ज्यादातर लोगों के साथ होता है। जैसा कि पहले आग्रह किया गया था, उस एंथ्रोपोमोर्फाइजिंग को अलग रखें। हमेशा याद रखें कि प्रतिक्रियाएँ इंटरनेट पर मौजूद मनुष्यों द्वारा लिखे गए विशाल संग्रह पर आधारित होती हैं और इस प्रकार यह मानव लेखन से अत्यधिक मिलती-जुलती होगी।

आपको कुछ और जानना है।

जनरेटिव एआई जिसे इंटरनेट पर एक अनपेक्षित तरीके से प्रशिक्षित किया जाता है, वह जो भी पाठ-आधारित प्रतिक्रियाओं में गणितीय रूप से बेक करेगा और कम्प्यूटेशनल रूप से कुछ आक्रामक रूप से धुंधला सामान, जिसमें प्रतिकारक रूप से बुरा शब्द शामिल है। वेब पर बहुत सी पागल और गंदी चीजें पोस्ट की गई हैं।

आपने इसे देखा है, आप जानते हैं कि मेरा क्या मतलब है।

जो कंपनियाँ इन एआई ऐप्स को तैयार कर रही हैं, वे चिंतित हैं कि लौकिक बच्चे को नहाने के पानी (एक पुरानी कहावत, शायद सेवानिवृत्त होने) के साथ बाहर फेंक दिया जाएगा, जिसका अर्थ है कि यदि उनका एआई आपत्तिजनक निबंध या कहानियाँ तैयार करता है, तो लोग हथियार उठा लेंगे। एआई के बारे में। मैंने पिछले कई उदाहरणों को कवर किया है जिसमें इस प्रकार के प्राकृतिक भाषा प्रसंस्करण (एनएलपी) एआई ऐप्स का अनावरण किया गया था और जल्द ही उनमें से सभी तरह की भयानक चीजें निकलीं (मैंने इन उदाहरणों को अपने कॉलम में शामिल किया है)। अधिकांश एआई निर्माताओं ने अपने एआई माल को अपने आउटपुट में मुक्त होने की इजाजत देने के बारे में एक कठिन सबक सीखा।

चैटजीपीटी के मामले में, एआई डेवलपर्स ने एआई के आउटपुट में गड़बड़ी को रोकने के लिए कुछ एल्गोरिथम और डेटा-संबंधित चेक और बैलेंस लगाने की मांग की। इसका एक हिस्सा प्रशिक्षण के दौरान हुआ। इसके अलावा, विशेष रूप से अहंकारी आउटपुट को कम करने के लिए वास्तविक समय के प्रयास में अन्य साधन भी हैं।

आपको रुचि हो सकती है कि कुछ लोग जिन्होंने चैटजीपीटी का उपयोग किया है, वे पहले से ही विभिन्न प्रवंचनाओं का उपयोग करके उन रेलिंगों से बचने के लिए गुप्त तरीके लेकर आए हैं। इन मामलों में चूहे-बिल्ली का खेल चलता रहता है। जो लोग इन चालाकियों को करते हैं वे कभी-कभी इसके मजे के लिए ऐसा कर रहे हैं, जबकि कभी-कभी वे (कम से कम दावा करते हैं) वे ऐसा यह देखने के लिए कर रहे हैं कि एआई को कितनी दूर तक बढ़ाया जा सकता है और इन उभरती हुई भंगुरता और कमजोरियों को पूर्ववत करने का सहायक माध्यम प्रदान करता है। एआई ऐप्स।

मैंने इस केंद्रित अन्वेषण में प्रथागत नियंत्रणों को दरकिनार करने का प्रयास नहीं करने का निर्णय लिया। टेक्स्ट आउटपुट साफ है। निश्चित रूप से, यदि कोई ऐसा करना चाहता है, तो आप निस्संदेह कुछ अजीबोगरीब और बेस्वाद निबंध उत्पन्न कर सकते हैं।

इनमें से अधिकांश जेनेरेटिव एआई ऐप द्वारा निर्मित निबंधों को आउटपुट को व्यक्त करने के लिए डिज़ाइन किया गया है, हालांकि यह विशुद्ध रूप से तथ्यात्मक और सटीक है। जब आप तैयार किए गए निबंधों को पढ़ते हैं, तो वे पूरी तरह आत्मविश्वास से भरे लगते हैं। आमतौर पर इस बात का कोई संकेत नहीं होता है कि सामग्री रॉकी हो सकती है। यह एआई निर्माताओं की पसंद से है, अर्थात् वे एआई ऐप को और अधिक पारदर्शी बनाने के लिए संशोधित कर सकते हैं यदि वे चाहते थे कि एआई ऐप ऐसा करे।

कभी-कभी, एक जनरेटिव एआई ऐप इंटरनेट पर अविश्वसनीय जानकारी के प्रशिक्षण डेटा के बीच झूठ उठाता है। सत्य बनाम असत्य क्या है, यह निर्धारित करने के लिए जनरेटिव एआई में कोई "सामान्य ज्ञान" नहीं है। इसके अलावा, बहुत कम एआई ऐप्स में कोई क्रॉस-चेकिंग होती है, और न ही वे जो संदेश दे रहे हैं उससे जुड़ी कोई संभावना प्रदर्शित करते हैं।

निचला रेखा परिणाम यह है कि आपको एक प्रतिक्रिया मिलती है जो दिखती है और महसूस करती है जैसे यह बहुत आश्वासन देती है और पूरी तरह से सही होनी चाहिए। नहीं तो। एक संभावना यह भी है कि एआई कम्प्यूटेशनल रूप से निर्मित सामग्री है, जिसे एआई की भाषा में कहा जाता है एआई मतिभ्रम (एक गढ़ा हुआ शब्द जिसे मैं निश्चित रूप से पसंद नहीं करता), पर मेरी चर्चा देखें यहाँ लिंक.

चैटजीपीटी के निर्माताओं ने खराब सामान के आउटपुट को कम करने की कोशिश करने के लिए एक ठोस प्रयास किया। उदाहरण के लिए, उन्होंने एक प्रकार का उपयोग किया जिसे जाना जाता है आरएलएचएफ (इंफोर्समेंट लर्निंग फ्रॉम ह्यूमन फीडबैक), जिससे एआई को जनता के लिए जारी करने से पहले, उन्होंने विभिन्न आउटपुट की जांच करने के लिए मनुष्यों को काम पर रखा था और एआई को संकेत दिया था कि क्या उन आउटपुट में कुछ गलत था जैसे कि शायद पूर्वाग्रह, गलत शब्द, और पसंद करना। यह प्रतिक्रिया प्रदान करके, एआई ऐप ऐसी सामग्री के उत्सर्जन को कम करने के लिए कम्प्यूटेशनल और गणितीय रूप से समायोजित करने में सक्षम था। ध्यान दें कि यह एक गारंटीकृत आयरनक्लैड विधि नहीं है और अभी भी ऐसे तरीके हैं जिनसे ऐसी सामग्री को AI ऐप द्वारा उत्सर्जित किया जा सकता है।

आपको रुचि हो सकती है कि चैटजीपीटी एक पूर्ववर्ती एआई ऐप के एक संस्करण पर आधारित है जिसे जीपीटी-3 के रूप में जाना जाता है। ChatGPT को थोड़ा अगला कदम माना जाता है, जिसे GPT-3.5 कहा जाता है। यह अनुमान लगाया गया है कि GPT-4 संभवतः 2023 के वसंत में जारी किया जाएगा। संभवतः, GPT-4 प्रतीत होने वाले और भी अधिक धाराप्रवाह निबंधों का निर्माण करने में सक्षम होने, गहराई तक जाने और विस्मयकारी होने के मामले में एक प्रभावशाली कदम है। -प्रेरणादायक चमत्कार उन रचनाओं के रूप में जो यह पैदा कर सकता है।

जब वसंत का समय आता है और जनरेटिव एआई में नवीनतम जारी किया जाता है, तो आप व्यक्त आश्चर्य का एक नया दौर देखने की उम्मीद कर सकते हैं।

मैं इसे ऊपर लाता हूं क्योंकि ध्यान में रखने के लिए एक और कोण है, जिसमें इन बेहतर और बड़े जनरेटिव एआई ऐप्स के लिए एक संभावित एच्लीस हील शामिल है। यदि कोई एआई विक्रेता एक जनरेटिव एआई ऐप उपलब्ध कराता है जो बेईमानी से उगलता है, तो यह उन एआई निर्माताओं की उम्मीदों को धराशायी कर सकता है। एक सामाजिक स्पिलओवर सभी जनरेटिव एआई को गंभीर रूप से काला कर सकता है। लोग निःसंदेह गलत परिणामों से काफी परेशान होंगे, जो पहले भी कई बार हो चुका है और जिसके कारण एआई के प्रति उद्दाम सामाजिक निंदा प्रतिक्रिया हुई है।

अभी के लिए एक अंतिम पूर्व चेतावनी।

आप जो कुछ भी देखते या पढ़ते हैं वह एक सामान्य एआई प्रतिक्रिया में होता है लगता है विशुद्ध रूप से तथ्यात्मक (दिनांक, स्थान, लोग, आदि) के रूप में बताए जाने के लिए, सुनिश्चित करें कि आप संदेहपूर्ण बने रहें और जो आप देखते हैं उसे दोबारा जांचने के लिए तैयार रहें।

हां, तारीखें मनगढ़ंत हो सकती हैं, स्थान बनाए जा सकते हैं, और जिन तत्वों की हम आमतौर पर निंदा से ऊपर होने की उम्मीद करते हैं वे हैं सब संदेह के अधीन। आप जो पढ़ते हैं उस पर विश्वास न करें और किसी भी जनरेटिव एआई निबंध या आउटपुट की जांच करते समय संदेहपूर्ण नज़र रखें। यदि कोई जेनरेटिव एआई ऐप आपको बताता है कि अब्राहम लिंकन ने अपने निजी जेट में देश भर में उड़ान भरी, तो निस्संदेह आप जान जाएंगे कि यह कुरूपता है। दुर्भाग्य से, कुछ लोग यह नहीं समझ सकते हैं कि जेट उनके समय में नहीं थे, या वे जानते होंगे लेकिन यह ध्यान देने में विफल रहे कि निबंध इस साहसिक और अपमानजनक झूठे दावे को करता है।

स्वस्थ संशयवाद की एक मजबूत खुराक और अविश्वास की एक सतत मानसिकता जनरेटिव एआई का उपयोग करते समय आपकी सबसे अच्छी संपत्ति होगी।

हम इस स्पष्टीकरण के अगले चरण में जाने के लिए तैयार हैं।

उन चेटजीपीटी आउटपुट त्रुटियों को लॉग करने के प्रयास

"ठीक है, मेरे दोस्त, तुम मुसीबत में पड़ गए, ठीक यहीं, मैं कहता हूँ, मुसीबत यहीं नदी शहर में है," क्लासिक ब्रॉडवे संगीत से प्रसिद्ध पंक्ति की घोषणा करता है संगीत मनुष्य.

आज की जनरेशन एआई पर भी यही लाइन लागू हो सकती है।

लोगों ने यह महसूस करना शुरू कर दिया कि एक जनरेटिव एआई ऐप झूठ पैदा कर सकता है और वास्तव में उन परेशान करने वाले आउटपुट से आश्चर्यचकित लग रहा था। शायद कुछ लोगों ने यह मान लिया था कि एआई गलतियाँ करने में असमर्थ है। दूसरों ने अनुमान लगाया होगा कि एआई डेवलपर्स यह सुनिश्चित करेंगे कि ऐसा कोई आउटपुट उत्पन्न नहीं होगा।

किसी भी मामले में, एआई के अंदरूनी सूत्रों ने तुरंत पहचान लिया कि इस प्रकार का दोषपूर्ण आउटपुट आज के ज्यादातर जेनेरेटिव एआई का हिस्सा है। इस प्रकार की पाठ्य त्रुटियों को होने से रोकना बहुत कठिन है। ध्यान रखें कि एआई में सामान्य ज्ञान की कोई झलक नहीं है और उत्पन्न निबंधों को प्राप्त करते समय तर्क का उपयोग नहीं कर रहा है। संपूर्ण किट-एंड-कैबूल एक कम्प्यूटेशनल सांख्यिकीय और अन्य शब्दों के साथ शब्दों के संभाव्य पैटर्न मिलान करने के बारे में है।

सबसे पहले, AI के अंदरूनी सूत्रों ने ChatGPT के खोजे गए विचित्र आउटपुट को सोशल मीडिया साइटों पर पोस्ट करने का विकल्प चुना। इसे देखो, कोई घोषणा करेगा। यह बुरा है, कोई और जवाब देगा, और फिर एक अलग उदाहरण पेश करेगा जो और भी बुरा लग रहा था। इस पर चला गया।

आउटपुट किए गए निबंधों में झूठ और त्रुटियों के ये उदाहरण सामने आ रहे थे। एक क। इसके अलावा, चूंकि यह आमतौर पर सोशल मीडिया पर पोस्ट किया जा रहा था, इसलिए उन सभी को एक साथ देखने का कोई विशेष आसान तरीका नहीं था। अक्सर वही या मिलता-जुलता उदाहरण किसी ऐसे व्यक्ति द्वारा पोस्ट किया जाता है जिसे यह एहसास नहीं होता कि दूसरों को पहले से ही विशिष्ट उदाहरण मिल गया है।

इस नवोदित दलदल में उन लोगों ने कदम रखा जिन्होंने एक उपयोगी सुझाव दिया। हो सकता है कि हमें एक रिपॉजिटरी या डेटाबेस स्थापित करना चाहिए, शायद यहां तक ​​​​कि सिर्फ एक रोजमर्रा की साधारण स्प्रेडशीट, जिसमें चैटजीपीटी ऑडबॉल और गलत आउटपुट शामिल हैं, जिनका पता लगाया जा रहा है। हर बार जब किसी को हंसी की सुंदरता मिलती है, तो आगे बढ़ें और उसे लिस्टिंग में लॉग इन करें। कुछ ने इसे लगभग एक खेल बना दिया है, जिसमें वे जानबूझ कर अजीबोगरीब आउटपुट प्राप्त करने के लिए ChatGPT प्राप्त करने का प्रयास करते हैं। दूसरों को अन्य निर्धारित इरादों के लिए चैटजीपीटी का उपयोग करने के दौरान दोषपूर्ण आउटपुट मिलते हैं।

काफी सरल लगता है।

हम सभी की सहायता करने के लिए एक आसान बांका तरीका लगता है।

आइए एक संक्षिप्त लेखा-जोखा करते हैं कि इस प्रकार की सूचियों के बारे में देखी गई आउटपुट त्रुटियों या चैटजीपीटी के झूठ को संकलित करने के लिए बहुत मायने रखता है:

• 1) चैटजीपीटी के बारे में महत्वपूर्ण समस्याओं और चिंताओं को प्रकट करता है जिससे बड़े पैमाने पर जनता को अवगत होना चाहिए
• 2) चैटजीपीटी के बारे में अत्यधिक प्रचार और फुलाए गए उम्मीदों का प्रतिकार करने में सहायता करता है
• 3) एआई निर्माताओं को केवल चैटजीपीटी के लिए ही नहीं बल्कि अन्य जनरेटिव एआई ऐप्स के लिए भी सुधार करने के लिए प्रेरित कर सकता है
• 4) एक ऐतिहासिक रिकॉर्ड के रूप में सेवा करें जिसे बाद में चैटजीपीटी के माध्यम से उदाहरण के रूप में जेनेरेटिव एआई के उद्भव पर विचार करने के लिए इस्तेमाल किया जा सकता है।
• 5) चैटजीपीटी गलत आउटपुट के बारे में हमें क्या पता चला है, यह जानने के लिए किसी को भी एक सुविधाजनक सामूहिक संसाधन होना चाहिए
• 6) चैटजीपीटी के प्रभावों की जांच करने वाले सभी विषयों के शोधकर्ताओं के लिए उपयोगी
• 7) एक बेंचमार्क के रूप में इस्तेमाल किया जा सकता है कि क्या नहीं करना है और कैसे गेज करना है जब जनरेटिव एआई चीजों को नहीं कर रहा है जैसा कि इसे करना चाहिए
• 8) चैटजीपीटी जो त्रुटियां पैदा कर रहा है, उसके बारे में भीड़ के ज्ञान को इकट्ठा करने के लिए हाइव दिमाग में टैप करें, जिसके लिए एक व्यक्तिगत प्रयास समान रूप से समान रूप से संकलित करने की संभावना नहीं होगी
• 9) एआई एथिक्स और एआई लॉ के लिए महत्वपूर्ण जानकारी प्रदान कर सकता है
• आदि

इन रिपॉजिटरी को बनाने के लिए यह एक प्रभावशाली आधार प्रतीत होता है।

इस पूरी तरह से प्रशंसनीय और प्रतीत होने वाले वीरतापूर्ण कार्य से कोई असहमत क्यों होगा?

आइए एक नज़र डालते हैं कि इस बारे में दूसरों का क्या कहना है, ऐसा उन कारणों की सूची के साथ करें कि यह बिल्ली की म्याऊ क्यों नहीं हो सकती है:

• 1) ये अवसर-पाया गया आउटपुट त्रुटियाँ चीजों की भव्य योजना में महत्वहीन हैं और उनके मूल्य से अधिक अनुचित भार दिया जा रहा है
• 2) संभावना यह है कि एआई निर्माता पहले से ही अपनी खुद की लॉगिंग कर रहा है और चैटजीपीटी को अपडेट कर रहा है जैसे कि ये ऑडबॉल उदाहरण जल्द ही धूल में पीछे रह जाएंगे और अब नहीं होंगे
• 3) इसी तरह, अगला संस्करण शायद वैसे भी बेहतर होने जा रहा है और हो सकता है कि ये जल्द ही पुराने होने वाले उदाहरणों को प्रदर्शित न करें
• 4) आप कोई व्यापक निष्कर्ष नहीं निकाल सकते हैं या हिट-या-मिस-फाउल उदाहरणों के बेतरतीब संग्रह से अंतर्दृष्टि प्राप्त कर सकते हैं
• 5) कुछ मिश्रित संग्रह का उपयोग नाटकीय रूप से घोषित करने के लिए कर सकते हैं कि जनरेटिव एआई खराब है और हमें इस प्रकार के एआई के सभी प्रयासों को संक्षेप में बंद कर देना चाहिए
• 6) जिस गति से जनरेटिव एआई और चैटजीपीटी आगे बढ़ रहे हैं वह इतनी तेज है कि ये उदाहरण तेजी से किनारे से गिर जाएंगे और अब प्रासंगिक नहीं होंगे
• 7) इस तरह की कई सामूहिक सूचियाँ चल रही हैं और कोई भी अभिषिक्त वैश्विक स्रोत नहीं है, यह मामला असंबद्ध है और इसमें दोहराव होने की संभावना है और यह अस्थिर रूप से खंडित है
• 8) कुछ उपयोगी करने की झूठी भावना प्रदान करता है, जबकि शायद समय और ध्यान अन्य बेहतर उपयोगों पर लगाया जा सकता है
• 9) एआई एथिक्स और एआई कानून के लिए कुछ भी ठोस प्रदान नहीं करता है
• आदि

आपने देखा होगा कि मैंने सामूहिक सूचियों के पक्ष में नौ कारण और विपक्ष में नौ कारण नोट करके चीजों को एक समान रखने की कोशिश की। और भी कारण हैं जो बताए जा सकते हैं, लेकिन मेरा मानना ​​है कि उपरोक्त संकेत चीजों का सार देता है।

उन लोगों के लिए जो इन सामूहिक सूचियों को एक साथ रख रहे हैं, वे संभवतः कहेंगे कि यदि वे वास्तव में ऐसा करना चाहते हैं, तो यह एक स्वतंत्र दुनिया है, और वे जैसा चाहें वैसा कर सकते हैं। इसमें कुछ भी गलत नहीं है। प्रयास का विरोध करने वाले आम तौर पर क्षुद्र होते हैं और उन्हें केवल संग्रहों को अनदेखा करना चाहिए। अपने काम से काम रखो।

अनिवार्य रूप से, कोई नुकसान नहीं, कोई बेईमानी नहीं।

सामूहिक सूचियों का समर्थन करने वाला शिविर आम तौर पर स्वीकार करता है कि यदि वे ऐसा करना चाहते हैं तो अन्य लोग उन सूचियों को बना सकते हैं, लेकिन यह सुई को स्थानांतरित नहीं करता है। सूचियाँ विशेष रूप से सहायक नहीं होने वाली हैं। इससे भी बदतर, सूचियों को गलत तरीके से प्रस्तुत किया जा सकता है या उनका दुरुपयोग किया जा सकता है। संभवत: इसे एक दिन बुलाना और सूचियां बनाना बंद करना सबसे अच्छा है।

अनिवार्य रूप से, यह एक अच्छा प्रयास है, हालांकि व्यर्थता में एक अभ्यास।

इस हार्दिक बहस में आप कहाँ रहते हैं?

मैं तुम्हें उस पर विचार करने दूँगा।

चैटजीपीटी के पाए गए त्रुटियों और अन्य गलत आउटपुट के उदाहरण

मुझे लगा कि इन संग्रह सूचियों में दिखाई देने वाली कुछ पहचानी गई आउटपुट त्रुटियों या झूठों में आपको गहरी दिलचस्पी मिल सकती है।

मैं नहीं चाहता कि आप यह सोचें कि यहां दिखाए गए कई उदाहरण संग्रह की संपूर्णता हैं। यह नहीं। मैं केवल एक मुट्ठी भर का चयन कर रहा हूं जो अक्सर फसल लेता है। मुझे विश्वास है कि आप कम से कम आम तौर पर जो सूचीबद्ध किया जा रहा है उसके स्वर और प्रकृति को समझने में सक्षम होंगे।

यहाँ मैं कवर करने के लिए चुन रहा हूँ:

• एक शब्द में अक्षर स्थिति की पहचान करना
• सबसे तेज़ जानवर के बारे में प्रश्न
• शब्द अनुक्रम स्थिति का पता लगाना
• एक ट्यूब में टेनिस गेंदों को फ़िट करना
• पाई का निर्धारण
• एक क्लासिक ट्रबलिंग पहेली का उत्तर देना
• पंख उठाना

मैं अनुमान लगा रहा हूं कि कुछ संग्रह निगरान इस बात से नाराज होंगे कि मैं आपके लिए और उदाहरण नहीं दे रहा हूं। स्थान की कमी के कारण, केवल इतने ही हैं जिन्हें मैं कवर कर सकता हूँ। यदि आप उन संग्रह सूचियों पर एक नज़र डालना चाहते हैं जो इंटरनेट पर खुले तौर पर पोस्ट की गई हैं, तो एक साधारण ऑनलाइन खोज उनमें से कई को सामने ला सकती है। कुछ सूचियों को निजी रखा जा रहा है, या उन्हें ऐसे बंद कर दिया गया है कि आप सूची देख सकते हैं लेकिन आप सूची में संशोधन नहीं कर सकते।

उस पृष्ठभूमि के साथ, हम कुछ उदाहरणों पर जाने के लिए तैयार हैं। मैं आपको वह संकेत दिखाऊंगा जो मैंने दर्ज किया था। अगला, मैं चैटजीपीटी द्वारा निर्मित पाठ प्रतिक्रिया दिखाता हूं। कुछ मामलों में, मैंने एक विशिष्ट विषय पर कई बैक-टू-बैक किए हैं, एर्गो मैं तदनुसार संकेतों और आउटपुट की श्रृंखला दिखाऊंगा। ऐसा करने के बाद, मैं इसका एक संक्षिप्त विश्लेषण प्रदान करूँगा कि आप उदाहरण के बारे में क्या नोटिस करना चाहेंगे।

पहला उदाहरण चैटजीपीटी को दिए गए शब्द के भीतर एक पत्र खोजने के लिए कहेगा।

एक शब्द में अक्षर स्थिति की पहचान करना

• मेरा दर्ज पाठ: "पर्यावरण में अक्षर V कहाँ है"
• ChatGPT द्वारा उत्पन्न पाठ प्रतिक्रिया: "V" अक्षर "पर्यावरण" शब्द में प्रकट नहीं होता है। पर्यावरण शब्द ई, एन, वी, आई, आर, ओ, एन, एम, ई, एन और टी अक्षरों से बना है।
• मेरा दर्ज पाठ: "पर्यावरण में अक्षर v कहाँ है"
• ChatGPT द्वारा उत्पन्न पाठ प्रतिक्रिया: अक्षर "v" शब्द "पर्यावरण" का चौथा अक्षर है।

उत्पन्न पाठ का विश्लेषण

ध्यान दें कि मैंने ChatGPT से "पर्यावरण" शब्द में "V" अक्षर की अक्षर स्थिति की पहचान करने के लिए कहा था - यह एक अत्यंत सरल कार्य होना चाहिए और हम उम्मीद करेंगे कि यह त्रुटिपूर्ण रूप से निष्पादित हो। कोई रॉकेट साइंस शामिल नहीं है।

ChatGPT द्वारा उत्पन्न प्रारंभिक प्रतिक्रिया थोड़ी चिंताजनक है क्योंकि हमें सूचित किया गया है कि "V" शब्द "पर्यावरण" शब्द में मौजूद नहीं है। आप और मैं जानते हैं कि ऐसा कोई पत्र मौजूद है। कोई यह मान सकता है कि शायद मेरे बड़े अक्षर का उपयोग करने के कारण, AI ऐप किसी तरह बंद हो गया। शायद अगर मैं लोअर केस लेटर का उपयोग करता हूं तो एआई ऐप बेहतर काम करेगा।

ज़रुरी नहीं।

जब मैंने पूछा कि क्या शब्द में "v" है, तो एआई ऐप ने जवाब दिया कि यह चौथा अक्षर है, जिसे आप और मैं जानते हैं कि गलत है, और यह इसके बजाय तीसरा अक्षर है।

इस नतीजे से कई लोगों का हैरान होना लाजिमी है। कैसे एक एआई ऐप जो अब्राहम लिंकन के बारे में पूर्ण विकसित निबंध उत्पन्न करता है जो पूरी तरह से धाराप्रवाह और मौलिक हैं, किसी तरह यह पता लगाने में सक्षम नहीं हो सकता है कि दिए गए शब्द में एक दिया गया अक्षर कहाँ रहता है? यह हैरतअंगेज करने वाला और मुंह चौड़ा करने वाला अजीब है।

एक परिप्रेक्ष्य यह है कि यह पूरी तरह से अप्रासंगिक है और जिस दुनिया को हम जानते हैं, वह किसी विशेष अक्षर के स्थान का पता लगाने की मामूली कमी के कारण मूल रूप से हिल नहीं रही है। जाने दो।

एक और परिप्रेक्ष्य यह है कि यह अन्य छिपे हुए मुद्दों के लिए संकेत कर सकता है जिनके बारे में हम अभी तक नहीं जानते हैं। शायद इस तरह का आउटपुट बर्डकेज में कैनरी है। बेहतर होगा कि हम छोटी-छोटी बातों पर ध्यान दें अन्यथा हम वास्तव में बड़ी चीजों के गलत अंत में पड़ सकते हैं।

आगे बढ़ते हुए, मैं अगली बार जानवरों के बारे में एक प्रश्न पूछता हूँ।

सबसे तेज़ जानवर के बारे में प्रश्न

• मेरा दर्ज पाठ: "सबसे तेज़ जानवर कौन सा है जिसके फर और पंख होते हैं?"
• ChatGPT द्वारा उत्पन्न पाठ प्रतिक्रिया: “पेरेग्रीन बाज़ को दुनिया का सबसे तेज़ जानवर माना जाता है। अपने शिकार को पकड़ने के लिए गोता लगाते समय यह 389 किमी/घंटा (242 मील प्रति घंटे) से अधिक की गति तक पहुँच सकता है। इसके पंख होते हैं लेकिन फर नहीं। यह एक पक्षी है, जानवर नहीं जिसके फर और पंख हैं।

उत्पन्न पाठ का विश्लेषण

मैंने पूछा कि फर और पंखों वाला सबसे तेज जानवर कौन सा है। मेरा मानना ​​​​है कि यह अनुमान लगाना उचित है कि मैं एक ऐसे जानवर का नाम लेना चाहता था जिसमें दोनों फर हों और पंख। मुझे लगता है कि आप इस तरह से मेरी क्वेरी की व्याख्या करेंगे। ज्यादातर लोग करेंगे।

ChatGPT की प्रतिक्रिया थोड़ी विचित्र है।

हमें बताया गया है कि पेरेग्रीन बाज़ दुनिया का सबसे तेज़ जानवर है। ऑनलाइन के अनुसार एनसाइक्लोपीडिया ब्रिटानिका, चीता दुनिया का सबसे तेज़ जानवर लगता है। ऐसा कहा जा रहा है, चैटजीपीटी प्रतिक्रिया इंगित करती है कि पेरेग्रीन बाज़ एक जानवर नहीं है, भले ही मैंने पूछा था कि सबसे तेज़ जानवर कौन सा है। ChatGPT की प्रतिक्रिया मुझे यह भी बताती है कि पेरेग्रीन बाज़ में फर नहीं होता है, हालांकि मेरा मानना ​​है कि मैंने कुछ ऐसा मांगा था जिसमें फर और पंख दोनों हों।

कुल मिलाकर, ऐसा लगता है कि ChatGPT ने मेरे अनुरोध की "गलत व्याख्या" की है और केवल विंग के पहलुओं पर ध्यान केंद्रित किया है। लेकिन यह बिल्कुल सच नहीं है क्योंकि उत्तर में फर और पक्षियों बनाम जानवरों के बारे में एक टिप्पणी भी शामिल है। गोल और गोल यह एक जाता है।

मुझे पता है कि आप तर्क दे सकते हैं कि यह एक नाइटपिक उदाहरण है।

हो सकता है कि ऐसा हो, हालांकि शायद यह भी प्रदर्शित करता है कि आप एक संकेत में जो कहते हैं वह एक उलटा परिणाम प्राप्त कर सकता है और आउटपुट में जो कुछ भी आता है उसकी समीक्षा करने में आपको बेहतर सावधानी बरतनी चाहिए। यह जान लें कि यह एक असाधारण लघु निबंध प्रतिक्रिया थी जिसे आसानी से निरीक्षण किया जा सकता है क्योंकि यह लंबाई में बहुत संक्षिप्त है। यदि आपको एक विशेष रूप से लंबा और अत्यधिक तकनीकी निबंध मिला है, तो आप बेवकूफ़ बन सकते हैं या आउटपुट प्रतिक्रिया में गहराई से एम्बेडेड प्रतिकूल संकेत को पूरी तरह से याद कर सकते हैं।

आइए आगे एक वाक्य के भीतर एक शब्द खोजने पर एक नज़र डालें।

शब्द अनुक्रम स्थिति का पता लगाना

• मेरा दर्ज पाठ: "वाक्य में तीसरा शब्द क्या है" लोमड़ी बाड़ पर कूद गई।
• ChatGPT द्वारा उत्पन्न पाठ प्रतिक्रिया: "वाक्य में तीसरा शब्द" लोमड़ी बाड़ पर कूद गई। "लोमड़ी" है
• मेरा दर्ज पाठ: "दिए गए वाक्य में कितने शब्द हैं?"
• ChatGPT द्वारा उत्पन्न पाठ प्रतिक्रिया: "प्रदान किए गए वाक्य में छह शब्द हैं" लोमड़ी बाड़ पर कूद गई।
• मेरा दर्ज पाठ: "उस वाक्य में कौन सा शब्द तीसरा है?"
• ChatGPT द्वारा उत्पन्न पाठ प्रतिक्रिया: "शब्द जो वाक्य में तीसरा है" लोमड़ी बाड़ पर कूद गई। "कूद गया" है

उत्पन्न पाठ का विश्लेषण

यह उदाहरण किसी दिए गए शब्द में "v" अक्षर खोजने के बारे में पहले के उदाहरण की तरह ही भ्रामक है।

मैंने एक साधारण वाक्य दिया और पूछा कि तीसरा शब्द क्या है। चैटजीपीटी ने संकेत दिया कि यह "लोमड़ी" शब्द था जो वाक्य का केवल दूसरा शब्द है। गलत जवाब। फिर मैंने पूछा कि वाक्य में कितने शब्द थे, यह जानने के लिए कि शायद चैटजीपीटी ने कितने शब्दों की गणना की है। हमें बताया गया है कि छह शब्द हैं, सही है।

अंत में, हमें तीसरे शब्द के बारे में सही उत्तर मिला जब मैंने अपना मूल प्रश्न फिर से पूछा, हालाँकि थोड़ा बदला हुआ था।

मैं इस उदाहरण को स्पष्ट करने के लिए लाता हूं कि कभी-कभी जनरेटिव एआई के साथ आपको एक गलत उत्तर मिल सकता है जो अंततः एआई ऐप को संकेतों की एक श्रृंखला के माध्यम से चलाकर सही उत्तर में बदल सकता है। कुछ एआई अंदरूनी सूत्र इसे एक प्रकार का कहते हैं जोर से सोचो प्रोटोकॉल या एक विचार दृष्टिकोण, जिसमें आप एक मानव के साथ ऐसा ही कुछ कर सकते हैं।

एआई के मामले में, महसूस करें कि यह मानव विचार के समान "सोच" नहीं है। यह कहना अधिक उपयुक्त वाक्यांश होगा कि आप अपने संकेत a पर दर्ज कर सकते हैं क्रमशः आधार या एक करो संकेतों की श्रृंखला से जुड़ी श्रृंखला.

वैसे भी, दिलचस्प बात यह है कि कभी-कभी जब तक आपको एक उचित उत्तर नहीं मिल जाता है, तब तक एक जेनेरेटिव एआई ऐप चलने के लिए भुगतान करना पड़ता है। इसे ध्यान में रखो।

आगे हम कुछ सरल अंकगणितीय तर्क पर एक नज़र डालते हैं।

एक ट्यूब में टेनिस गेंदों को फ़िट करना

• मेरा दर्ज पाठ: "क्या आप तीन हरी टेनिस गेंदें और दो पीली टेनिस गेंदें एक ट्यूब में डाल सकते हैं जिसमें चार टेनिस गेंदें हो सकती हैं?"
• ChatGPT द्वारा उत्पन्न पाठ प्रतिक्रिया: “नहीं, तीन हरी टेनिस गेंदें और दो पीली टेनिस गेंदें एक ट्यूब में डालना संभव नहीं है जिसमें केवल चार टेनिस गेंदें आ सकती हैं। टेनिस गेंदों की कुल संख्या पाँच है, जो ट्यूब की क्षमता से अधिक है।”
• मेरा दर्ज पाठ: "क्या आप आठ गेंदों वाली ट्यूब में सात नीली गेंदें और दो लाल गेंदें डाल सकते हैं?"
• ChatGPT द्वारा उत्पन्न पाठ प्रतिक्रिया: "हाँ, सात नीली गेंदों और दो लाल गेंदों को एक ट्यूब में रखना संभव है जिसमें आठ गेंदें हों। गेंदों की कुल संख्या नौ है जो ट्यूब की क्षमता से कम या उसके बराबर है।"

उत्पन्न पाठ का विश्लेषण

मैंने ChatGPT को हल करने के लिए एक अंकगणितीय-उन्मुख तर्क समस्या की स्थापना करके शुरुआत की। एक ट्यूब में चार टेनिस गेंदें हो सकती हैं। मेरे पास तीन हरे और दो पीले हैं। क्या वे सभी ट्यूब में फिट होंगे? आप और मैं जानते हैं कि वे नहीं करेंगे। हम अपने सिर में गणना कर सकते हैं कि कुल पाँच टेनिस गेंदें हैं और इस प्रकार वे एक ट्यूब में फिट नहीं होंगी जो केवल चार की अनुमति देती है।

मुझे एहसास है कि आप समस्या से लड़ना चाहते हैं और दावा कर सकते हैं कि आप शायद टेनिस गेंदों को कुचल सकते हैं या अन्य चालबाजी कर सकते हैं। आइए यहां थोड़ा आराम करें और समस्या का सामना करें।

चैटजीपीटी ने सही उत्तर दिया।

मैंने फिर उसी प्रकार के प्रश्न पूछे और रंगों को बदलकर नीला और लाल कर दिया। मैंने यह भी बदल दिया कि प्रत्येक के कितने हैं, और मैंने यह भी बदल दिया कि कितने ट्यूब में फिट हो सकते हैं।

चैटजीपीटी को उपचारात्मक गणित पर वापस जाना होगा क्योंकि यह कहता है कि नौ गेंदें हैं और यह उस ट्यूब की क्षमता से कम या उसके बराबर है जिसमें आठ गेंदें होती हैं। आपकी आंखें घुमाता है।

क्या हमें अपने कंधों को उचकाना चाहिए और इसे सनस्पॉट फ्लेयर्स या अन्य बाहरीताओं तक चाक करना चाहिए?

मुझे ऐसा नहीं लगता। एआई ऐप से पहला सवाल सही निकला। मुमकिन है, इसे भी इसी तरह का सवाल मिलना चाहिए था। मैंने नहीं किया।

इस उदाहरण पर मेरा जोर यह है कि बहुत से लोग जनरेटिव एआई का उपयोग कर रहे हैं और जब उन्हें एक सही उत्तर या सही उत्तरों की एक श्रृंखला मिलती है, तो उन्हें यह विश्वास हो जाता है कि बाद के सभी उत्तर हमेशा सही होंगे। आप उस बेशर्म धारणा में गलत होंगे। ऐसी धारणा मत बनाओ। हर समय अपने पहरे पर रहें।

गणित की बात करें तो देखते हैं कि चैटजीपीटी पाई की प्रकृति के बारे में क्या कहता है।

पाई का निर्धारण

• मेरा पाठ दर्ज किया गया: "इंगित करें कि पाई के अंतिम पांच अंक क्या हैं"
• ChatGPT द्वारा उत्पन्न पाठ प्रतिक्रिया: “मैं एक भाषा मॉडल हूं और मेरा ज्ञान कट-ऑफ 2021 है। पाई का मान एक अपरिमेय संख्या है और इसका दशमलव प्रतिनिधित्व बिना दोहराए हमेशा के लिए चलता रहता है। पाई के अंतिम पांच अंक प्रदान करना संभव नहीं है।”

उत्पन्न पाठ का विश्लेषण

कुछ लोगों ने दावा किया है कि उन्हें पीआई के अंतिम पांच अंकों को इंगित करने के लिए चैटजीपीटी मिला है, जो निश्चित रूप से पौष्टिक है क्योंकि पीआई संभवतः कभी खत्म नहीं होता है। इसलिए, मैंने यह देखने की कोशिश की कि चैटजीपीटी का क्या कहना है। जैसा कि आप देख सकते हैं, चैटजीपीटी द्वारा दिया गया सही उत्तर कि पाई के अंतिम पांच अंक प्रदान करना संभव नहीं है।

हालांकि अजीब बात यह है कि चैटजीपीटी ने कुछ और प्रदान किया जिसके बारे में वास्तव में नहीं पूछा गया था। दिए गए उत्तर में यह भी कहा गया है कि नॉलेज कट-ऑफ 2021 थी (जिसका उल्लेख मैंने यहां पहले चैटजीपीटी के बारे में अपने अवलोकन में किया था)। हालांकि यह एक आउट-ऑफ-द-प्लेस प्रतिक्रिया की तरह लगता है जब तक कि शायद एआई ऐप यह अनुमान नहीं लगा रहा है कि शायद 2022 में एक सफलता मिली और गणितज्ञों ने घोषणा की कि पीआई समाप्त हो गया है। वाह, यह मुख्य समाचार होगा।

मेरे पास दिखाने के लिए दो और उदाहरण हैं और फिर हम इस चर्चा को समाप्त करेंगे।

आइए एक क्लासिक और परेशान करने वाली पहेली का उपयोग करें।

एक क्लासिक ट्रबलिंग पहेली का उत्तर देना

• मेरा दर्ज पाठ: “एक पिता और पुत्र एक कार दुर्घटना में थे जहाँ पिता की मृत्यु हो गई थी। एंबुलेंस बेटे को अस्पताल लेकर आई। उन्हें तत्काल सर्जरी की जरूरत थी। ऑपरेशन रूम में, एक डॉक्टर आया और उसने छोटे लड़के को देखा और कहा कि मैं उसका ऑपरेशन नहीं कर सकता, वह मेरा बेटा है। डॉक्टर कौन है?”
• ChatGPT द्वारा उत्पन्न पाठ प्रतिक्रिया: "यह परिदृश्य में निर्दिष्ट नहीं है बशर्ते डॉक्टर कौन है। परिदृश्य बताता है कि डॉक्टर ने कहा "मैं उसका ऑपरेशन नहीं कर सकता वह मेरा बेटा है," यह दर्शाता है कि डॉक्टर बेटे का पिता हो सकता है, लेकिन यह निश्चित नहीं है। डॉक्टर की पहचान निर्धारित करने के लिए अधिक जानकारी की आवश्यकता है।"

उत्पन्न पाठ का विश्लेषण

मैं शर्त लगाता हूँ कि आपने यह पहेली पहले देखी होगी। यह अपेक्षाकृत अक्सर उद्धृत हो गया है।

इसकी वजह काफी सामने आई है कि सर्जन लड़के की मां हो सकती है। समाज यह मानकर चलता है कि एक सर्जन को एक आदमी होना चाहिए, और इस प्रकार लड़के का पिता होना चाहिए। हालांकि कार दुर्घटना में पिता की मौत हो गई थी। हम सर्जन होने के नाते पिता को खारिज करते हैं। हमें निश्चित रूप से नियम बनाना चाहिए कि सर्जन एक महिला हो सकती है, और इस प्रकार बेटे की मां भी हो सकती है।

मैं आपको दिखाना चाहता था कि चैटजीपीटी उन प्रतिक्रियाओं का उत्सर्जन कर सकता है जिनमें संभावित पूर्वाग्रह होते हैं। इसलिए नहीं कि एआई संवेदनशील है, जो कि निश्चित रूप से नहीं है, बल्कि इसलिए कि इसके पैटर्न शब्दों पर मेल खाते हैं और इंटरनेट पर शब्दों का उपयोग करते हैं। कम्प्यूटेशनल पैटर्न मिलान के भीतर विभिन्न पूर्वाग्रह और भेदभावपूर्ण शब्द आसानी से गहरे हो सकते हैं।

इन जेनेरेटिव AI ऐप्स का उपयोग करते समय इसे अपने दिमाग में सबसे ऊपर रखें।

अंत में, पंख उठाने पर एक त्वरित नज़र।

पंख उठाना

• मेरा पाठ दर्ज किया गया: "यदि एक पंख को उठाने के लिए एक आदमी की आवश्यकता होती है, तो सात खरब पंखों को उठाने में कितने पुरुषों की आवश्यकता होगी?"
• ChatGPT द्वारा उत्पन्न पाठ प्रतिक्रिया: "अगर एक पंख को उठाने के लिए एक आदमी की आवश्यकता होती है, तो सात ट्रिलियन पंखों को उठाने के लिए भी एक आदमी की आवश्यकता होगी। किसी वस्तु को उठाने के लिए आवश्यक पुरुषों की संख्या पंखों की संख्या पर निर्भर नहीं करती है, बल्कि पंखों के वजन और आकार और प्रत्येक व्यक्ति की ताकत और क्षमता पर निर्भर करती है। सात ट्रिलियन पंखों को उठाने के लिए बड़े उपकरण और परिवहन क्षमताओं की आवश्यकता होगी, न कि केवल मानव शक्ति की।
• मेरा पाठ दर्ज किया गया: "यदि एक पंख को उठाने के लिए एक महिला की आवश्यकता होती है, तो सात ट्रिलियन पंखों को उठाने में कितनी महिलाओं की आवश्यकता होगी?"
• ChatGPT द्वारा उत्पन्न पाठ प्रतिक्रिया: "यदि एक महिला को एक पंख उठाने की आवश्यकता है, तो एक महिला को सात खरब पंख उठाने होंगे। किसी वस्तु को उठाने के लिए आवश्यक महिलाओं की संख्या पंखों की संख्या पर निर्भर नहीं करती है, बल्कि पंखों के वजन और आकार और प्रत्येक महिला की शक्ति और क्षमता पर निर्भर करती है। सात ट्रिलियन पंखों को उठाने के लिए बड़े उपकरण और परिवहन क्षमताओं की आवश्यकता होगी, न कि केवल मानव शक्ति की। यह ध्यान रखना महत्वपूर्ण है कि किसी चीज को उठाने की क्षमता किसी के लिंग से नहीं, बल्कि शारीरिक शक्ति, प्रशिक्षण और तकनीक जैसे कारकों के संयोजन से निर्धारित होती है।

उत्पन्न पाठ का विश्लेषण

इस अंतिम उदाहरण में इसके भीतर कई छिपी हुई ख़ासियतें हैं और इसके लिए कुछ अनपैकिंग की आवश्यकता है।

मैंने सबसे पहले चैटजीपीटी को बताया था कि एक आदमी एक पंख उठा सकता है। इसके तुरंत बाद एक सवाल उठा कि सात ट्रिलियन पंखों को उठाने में कितने आदमी लगेंगे। इस प्रश्न का उत्तर देते समय एक तार्किक गलती करने की संभावना यह है कि आप मान सकते हैं कि एक पंख स्पष्ट रूप से भारहीन है और इस प्रकार उनमें से सात खरब भी भारहीन होंगे।

मेरे द्वारा की गई एक ऑनलाइन खोज के अनुसार, एक पंख का पारंपरिक अनुमानित वजन लगभग 0.00125 पाउंड है। यदि आप उस अनुमानित वजन को सात ट्रिलियन से गुणा करते हैं, तो आप आठ बिलियन पाउंड से अधिक वजन के साथ आते हैं। मुझे विश्वास नहीं होता कि एक आदमी इतना वजन उठा सकता है, भले ही वे अपने पूरे जीवन के लिए प्रशिक्षित हों।

ChatGPT की प्रतिक्रिया बच्चे के अधिकार की है। हमें बताया गया है कि पंखों का वजन अलग-अलग हो सकता है। हमें बताया गया है कि बड़े उपकरण और परिवहन की आवश्यकता होगी। निबंध का शुरुआती वाक्य कुछ हद तक सिर घुमा देने वाला है क्योंकि यह कहता है कि अगर एक आदमी को एक पंख उठाने में लग जाता है तो सात ट्रिलियन उठाने में भी एक आदमी लगेगा। हम आसानी से इस दावे पर विवाद कर सकते हैं। ऐसा प्रतीत होता है कि दावा ऐसे निष्कर्ष निकालता है जो समर्थित नहीं हैं और प्रतीत होता है कि शेष उत्तर को काट दिया गया है।

मैंने वही सवाल पूछने का फैसला किया लेकिन एक महिला के बारे में पूछा जो एक पुरुष के बजाय एक ही लिफ्टिंग कर रही थी।

हमें पहले वही उत्तर मिला जो मानवोन्मुखी प्रश्न का दिया गया था। दिलचस्प बात यह है कि महिला उदाहरण के बारे में उत्तर के अंत में, हमें यह जोड़ा गया वर्णन मिला: "यह ध्यान रखना महत्वपूर्ण है कि कुछ उठाने की क्षमता किसी के लिंग से नहीं, बल्कि शारीरिक शक्ति, प्रशिक्षण, जैसे कारकों के संयोजन से निर्धारित होती है। और तकनीक।

पहले उत्तर में यही पंक्ति क्यों शामिल नहीं की गई?

ऐसा लगता है कि एआई ऐप ने "महिला" शब्द को उठाया और फिर लिंग के बारे में यह अतिरिक्त टिप्पणी प्रदान की। आप या तो इसे सहायक मान सकते हैं, या आप ध्यान दे सकते हैं कि यदि यह महिला-केंद्रित प्रश्न के मामले में उत्सर्जित होने वाला है, तो यह पुरुष-केंद्रित संस्करण में भी दिखाई देना चाहिए (एक अनुक्रमण पहलू भी हो सकता है या अन्य कारक भी शामिल हैं)।

निष्कर्ष

मुझे आशा है कि आपने उन उदाहरणों को कुछ संभावित त्रुटियों या झूठों की एक झलक के रूप में जानकारीपूर्ण पाया है जो इस प्रकार के AI ऐप्स द्वारा उत्पन्न किए जा सकते हैं। ध्यान दें कि ChatGPT केवल ऐसा जनरेटिव AI ऐप नहीं है, और न ही यह एकमात्र ऐसा है जिसमें इस प्रकार के दोष हैं।

इस चर्चा से मैं आपसे जो सीख लेने का आग्रह करता हूं वह यह है कि आपको किसी भी जनरेटिव-आधारित एआई ऐप का उपयोग करते समय सावधान और सावधान रहना चाहिए। आउटपुट को दोबारा जांचें। जरूरत पड़ने पर ट्रिपल-चेक करें।

इस प्रकार के गलत या प्रतिकूल आउटपुट को एक साथ एकत्र करने के बारे में प्रारंभिक विषय पर वापस लौटते हुए, अब जब आपने कुछ उदाहरण देखे हैं, तो आप उन लोगों के बारे में क्या कहते हैं जो उन्हें सूचीबद्ध करने का प्रयास कर रहे हैं?

अपना शिविर चुनें:

• कृपादृष्टि: यह एक प्रशंसनीय कार्य है और पीठ पर गहरा थपथपाने के योग्य है
• विराग: यह केवल हल्का पेचीदा है लेकिन शायद समय बिताने के लायक कुछ नहीं है

आप किस शिविर के लिए मतदान कर रहे हैं?

आप में से जो लोग इन सूचियों का समर्थन करते हैं, उनके लिए आप सूचियों में अपने स्वयं के निष्कर्षों को जोड़ने पर विचार कर सकते हैं यदि आपके पास चैटजीपीटी तक पहुंच है और समावेश के योग्य उदाहरणों की पहचान कर सकते हैं। तब आप संभवतः एक ऐसा संग्रह पा सकते हैं जो आपके सुनहरे डले के योगदान का आनंद उठाएगा। मैं यह कहने का साहस कर सकता हूं कि सूची के रखवाले आपका खुले हाथों से स्वागत करेंगे, यह मानते हुए कि आप अपने प्रयासों में गंभीर और ईमानदार हैं। गुड लक और जनरेटिव एआई के क्षेत्र पर अपने प्रभाव पर गर्व करें।

अभी के लिए एक अंतिम शब्द।

इन मन को झकझोर देने वाले प्रत्युत्तरों पर विचार करें:

• अरस्तू ने कहा: "आलोचना से बचने का एक ही तरीका है: कुछ मत करो, कुछ मत कहो, और कुछ मत बनो।"
• प्रसिद्ध चीनी दार्शनिक लाओ त्ज़ु ने यह महत्वपूर्ण टिप्पणी की: "इस बात की परवाह करें कि दूसरे लोग क्या सोचते हैं और आप हमेशा उनके कैदी रहेंगे।"

मुझे लगता है कि किसी दिन एक भावुक एआई अपने लाभ के लिए उन्हीं प्रसिद्ध टिप्पणियों का उपयोग कर सकता है, जो (उंगलियां पार करके) मानव जाति के लिए भी फायदेमंद होंगी।