अपनी प्रगति के साथ-साथ, कृत्रिम बुद्धिमत्ता (एआई) तेजी से आगे बढ़ रही है, और जनरेटिव एआई सिस्टम में तथाकथित "इनब्रीडिंग" का खतरा एक खतरा बन गया है, जो मानव और पालतू जानवरों की आबादी के बीच लंबे समय से आम है।
यह लेख जेनरेटिव एआई के प्रकाश में इनब्रीडिंग की अवधारणा पर कुछ प्रकाश डालेगा और इनब्रीडिंग एआई-जनरेटेड सामग्री के भविष्य से कैसे संबंधित हो सकती है।
जेनेरेटिव एआई इनब्रीडिंग को समझना बड़े भाषा मॉडल (एलएलएम) जैसे जेनेरेटिव एआई सिस्टम को मुख्य रूप से वेब पर उपलब्ध पाठ्य, दृश्य और ऑडियो सामग्री से व्यापक डेटा सेट पर प्रशिक्षित किया जाता है। प्रारंभ में, डेटा सेट में बड़े पैमाने पर मनुष्यों द्वारा बनाई गई वस्तुएं शामिल थीं, जैसे साहित्य, लेख और कला के कार्य। हालाँकि, जेनेरिक एआई टूल के बढ़ने के साथ, इंटरनेट पर अधिक से अधिक सामग्री एआई द्वारा ही लिखी जा रही है।
यह बदलाव भविष्य के एआई सिस्टम को प्रशिक्षित करने के लिए उपयोग किए जाने वाले डेटासेट की गुणवत्ता और विविधता के बारे में चिंता पैदा करता है। एआई-जनित सामग्री के विकास के साथ, यह उम्मीद की जाती है कि एआई मॉडल की कई भावी पीढ़ियां उन डेटासेट से सीखेंगी जो मानव सामग्री का प्रतिनिधित्व नहीं करते हैं बल्कि एआई-निर्मित सामग्री का प्रतिनिधित्व करते हैं।
जेनेरिक एआई इनब्रीडिंग के परिणाम बहुआयामी हैं।
इसके विपरीत, अधिक संख्या में सजातीय डेटासेट से एआई प्रणाली द्वारा सीखने की निरंतरता से एआई-जनित आउटपुट में रचनात्मकता और मौलिकता कम हो सकती है।
यदि इस प्रक्रिया को दोहराया जाता है - यानी, एक प्रतिलिपि से प्रतिलिपि बनाना - पीढ़ी दर पीढ़ी, तो आउटपुट की गुणवत्ता कम हो जाती है, और परिणाम कम आकर्षक काम होने का जोखिम उठाते हैं और जिसे हम मानव रचनात्मक आउटपुट मानते हैं, उसके कम प्रतिबिंबित होने का जोखिम होता है। . इनब्रेड डेटासेट पर प्रशिक्षित एआई-जनित सामग्री की वृद्धि के साथ, ऐसी समस्याएं बढ़ सकती हैं।
यदि प्रशिक्षण डेटासेट पर्याप्त रूप से विविध नहीं हैं, तो विकसित एआई सिस्टम केवल एआई-जनित सामग्री के भीतर मौजूद पूर्वाग्रहों को मजबूत करने और बढ़ाने का काम करेगा, इस प्रकार सूचना के स्रोत के रूप में एआई-जनित सामग्री के भरोसेमंद उपयोग को और कमजोर कर देगा। इसके अलावा, प्रशिक्षण डेटा में विविधता की कमी एआई सिस्टम विकसित करने की संभावना को सीमित कर सकती है जो मानवीय अनुभवों और दृष्टिकोणों की विस्तृत श्रृंखला को सही ढंग से समझ और प्रस्तुत कर सके। यह एआई के विभिन्न अनुप्रयोग क्षेत्रों, जैसे प्राकृतिक भाषा प्रसंस्करण, सामग्री निर्माण और निर्णय लेने वाली प्रणालियों में प्रगति को सीमित कर सकता है।
जनरेटिव एआई इनब्रीडिंग की चुनौती को संबोधित करना
सबसे बढ़कर, यह एक सच्चा जोखिम है, विशेष रूप से जेनेरिक एआई प्रौद्योगिकियों का अंतर्ग्रहण। फिर भी, यह शोधकर्ताओं, डेवलपर्स और यहां तक कि नीति निर्माताओं को सक्रिय रूप से कार्य करने का दायित्व देता है, यह सुनिश्चित करते हुए कि एआई प्रणाली के प्रशिक्षण के दौरान विविध और प्रतिनिधि डेटासेट का उपयोग सर्वोच्च प्राथमिकता के रूप में किया जाता है, ऐसे तंत्र को एकीकृत किया जाता है जो पता लगाने और कम करने में सक्षम होंगे। एआई-जनित सामग्री में पूर्वाग्रह, और एआई के निर्माण के नैतिक और सामाजिक निहितार्थों को संबोधित करते हुए प्रभावी अंतःविषय सहयोग सुनिश्चित करना।
उन्हें एआई सिस्टम की तैनाती में खुलेपन और जवाबदेही की आवश्यकता को और अधिक सुविधाजनक बनाना चाहिए और एआई-जनित सामग्री के उपयोगकर्ताओं के साथ सीमाओं और पूर्वाग्रहों के बारे में जागरूकता साझा करनी चाहिए। इसलिए, सभी हितधारक एआई विकास में इनब्रीडिंग से जुड़े जोखिमों को कम करते हुए जेनेरिक एआई की शक्ति का उपयोग करने में सक्रिय रूप से सहयोग कर सकते हैं।
जेनरेटिव एआई में इनब्रीडिंग की अवधारणा एआई सिस्टम के विकास और तैनाती के लिए भविष्य की एक बड़ी चुनौती है। इससे उन्हें यह सुनिश्चित करने में मदद मिलेगी कि जेनेरिक एआई इनब्रीडिंग को प्रभावी ढंग से सुधारने के निहितार्थ और तरीकों को समझकर समाज के लिए प्रौद्योगिकी बेहतरी का जिम्मेदार और नैतिक विकास पूरा किया जाता है।
स्रोत: https://www.cryptopolitan.com/generative-ai-growing-in-ai-development/