ओपनएआई ने 31 मई को चैटजीपीटी की गणितीय समस्या को सुलझाने की क्षमताओं को बढ़ाने के अपने प्रयासों की घोषणा की, जिसका लक्ष्य आर्टिफिशियल इंटेलिजेंस (एआई) मतिभ्रम के मामलों को कम करना है। OpenAI ने संरेखित AGI को विकसित करने की दिशा में एक महत्वपूर्ण कदम के रूप में मतिभ्रम को कम करने पर जोर दिया।
मार्च में, ChatGPT, GPT-4 के नवीनतम संस्करण की शुरूआत ने कृत्रिम बुद्धिमत्ता को मुख्यधारा में आगे बढ़ाया। हालाँकि, जेनेरेटिव AI चैटबॉट्स लंबे समय से तथ्यात्मक सटीकता से जूझ रहे हैं, कभी-कभी गलत जानकारी उत्पन्न करते हैं, जिसे आमतौर पर "मतिभ्रम" कहा जाता है। इन एआई मतिभ्रम को कम करने के प्रयासों की घोषणा उनकी वेबसाइट पर एक पोस्ट के माध्यम से की गई थी।
एआई मतिभ्रम उन उदाहरणों को संदर्भित करता है जहां कृत्रिम बुद्धिमत्ता प्रणाली ऐसे आउटपुट उत्पन्न करती है जो वास्तविक दुनिया के डेटा द्वारा तथ्यात्मक रूप से गलत, भ्रामक या असमर्थित होते हैं। ये मतिभ्रम विभिन्न रूपों में प्रकट हो सकते हैं, जैसे गलत जानकारी उत्पन्न करना, गैर-मौजूद घटनाओं या लोगों को बनाना या कुछ विषयों के बारे में गलत विवरण प्रदान करना।
OpenAI ने दो प्रकार के फीडबैक- "परिणाम पर्यवेक्षण" और "प्रक्रिया पर्यवेक्षण" की प्रभावशीलता की जांच करने के लिए शोध किया। परिणाम पर्यवेक्षण में अंतिम परिणाम के आधार पर प्रतिक्रिया शामिल होती है, जबकि प्रक्रिया पर्यवेक्षण विचार की श्रृंखला में प्रत्येक चरण के लिए इनपुट प्रदान करता है। OpenAI ने गणित की समस्याओं का उपयोग करके इन मॉडलों का मूल्यांकन किया, कई समाधान तैयार किए और प्रत्येक फीडबैक मॉडल के अनुसार उच्चतम रैंक वाले समाधान का चयन किया।
पूरी तरह से विश्लेषण के बाद, शोध दल ने पाया कि प्रक्रिया पर्यवेक्षण ने बेहतर प्रदर्शन दिया क्योंकि इसने मॉडल को मानव-अनुमोदित प्रक्रिया का पालन करने के लिए प्रोत्साहित किया। इसके विपरीत, परिणाम पर्यवेक्षण लगातार जांच करने के लिए अधिक चुनौतीपूर्ण साबित हुआ।
OpenAI ने माना कि प्रक्रिया पर्यवेक्षण के निहितार्थ गणित से परे हैं, और विभिन्न डोमेन में इसके प्रभावों को समझने के लिए आगे की जांच आवश्यक है। इसने संभावना व्यक्त की कि यदि देखे गए परिणाम व्यापक संदर्भों में सही हैं, तो प्रक्रिया पर्यवेक्षण परिणाम पर्यवेक्षण की तुलना में प्रदर्शन और संरेखण के अनुकूल संयोजन की पेशकश कर सकता है। अनुसंधान की सुविधा के लिए, कंपनी ने इस क्षेत्र में अन्वेषण और अध्ययन को आमंत्रित करते हुए सार्वजनिक रूप से प्रक्रिया पर्यवेक्षण का पूरा डेटासेट जारी किया।
संबंधित: एआई की मांग संक्षेप में एनवीडिया को $1T क्लब में पहुंचा देती है
हालांकि OpenAI ने स्पष्ट उदाहरण प्रदान नहीं किए जिससे मतिभ्रम में उनकी जांच को प्रेरित किया, हाल की दो घटनाओं ने वास्तविक जीवन परिदृश्यों में समस्या का उदाहरण दिया।
हाल ही की एक घटना में, माता बनाम एविआंका एयरलाइंस मामले में वकील स्टीवन ए. श्वार्ट्ज ने एक शोध संसाधन के रूप में चैटबॉट पर भरोसा करने की बात स्वीकार की। हालाँकि, ChatGPT द्वारा प्रदान की गई जानकारी पूरी तरह से मनगढ़ंत निकली, जिससे इस मुद्दे पर प्रकाश डाला गया।
OpenAI का ChatGPT मतिभ्रम का सामना करने वाली कृत्रिम बुद्धिमत्ता प्रणाली का एकमात्र उदाहरण नहीं है। Microsoft की AI ने मार्च में अपनी चैटबॉट तकनीक के प्रदर्शन के दौरान कमाई रिपोर्ट की जांच की और Gap और Lululemon जैसी कंपनियों के लिए गलत आंकड़े उत्पन्न किए।
पत्रिका: 25K व्यापारियों ने ChatGPT के स्टॉक पिक्स पर दांव लगाया, AI पासा फेंकने पर चूसता है, और बहुत कुछ
स्रोत: https://cointelegraph.com/news/here-s-how-openai-plans-to-cleanse-chatgpt-from-false-information