सुरक्षा विशेषज्ञ बार लैन्याडो ने हाल ही में कुछ शोध किया है कि सॉफ्टवेयर विकास की दुनिया में बड़े संभावित सुरक्षा खतरों के प्रति जेनरेटिव एआई मॉडल अनजाने में कैसे योगदान करते हैं। लान्याडो के इस तरह के शोध में एक चिंताजनक प्रवृत्ति पाई गई: एआई काल्पनिक सॉफ़्टवेयर के पैकेज का सुझाव देता है, और डेवलपर्स, बिना जागरूक हुए, इसे अपने कोडबेस में शामिल करते हैं।
मुद्दे का अनावरण
अब, समस्या यह है कि उत्पन्न समाधान एक काल्पनिक नाम था - एआई का कुछ विशिष्ट। हालाँकि, ये काल्पनिक पैकेज नाम उन डेवलपर्स को आत्मविश्वास से सुझाए जाते हैं जिन्हें एआई मॉडल के साथ प्रोग्रामिंग में कठिनाई होती है। वास्तव में, कुछ आविष्कृत पैकेज नाम आंशिक रूप से लोगों पर आधारित हैं - जैसे लान्याडो - और कुछ आगे बढ़े और उन्हें वास्तविक पैकेज में बदल दिया। इसके परिणामस्वरूप, वास्तविक और वैध सॉफ़्टवेयर परियोजनाओं में संभावित रूप से दुर्भावनापूर्ण कोड का आकस्मिक समावेश हो गया है।
इस प्रभाव में आने वाले व्यवसायों में से एक अलीबाबा था, जो तकनीकी उद्योग में प्रमुख खिलाड़ियों में से एक था। ग्राफ़ट्रांसलेटर के लिए अपने इंस्टॉलेशन निर्देशों में, लान्याडो ने पाया कि अलीबाबा ने "हगिंगफेस-क्ली" नामक एक पैकेज शामिल किया था जो नकली था। वास्तव में, पाइथॉन पैकेज इंडेक्स (पीईपीआई) पर इसी नाम से एक वास्तविक पैकेज होस्ट किया गया था, लेकिन अलीबाबा के गाइड ने लान्याडो द्वारा बनाए गए पैकेज का उल्लेख किया था।
दृढ़ता का परीक्षण
लैन्याडो के शोध का उद्देश्य इन एआई-जनरेटेड पैकेज नामों की दीर्घायु और संभावित शोषण का आकलन करना है। इस अर्थ में, LQuery ने प्रोग्रामिंग चुनौतियों के बारे में और भाषाओं के बीच समझने की प्रक्रिया में अलग-अलग एआई मॉडल पेश किए, यदि प्रभावी ढंग से, व्यवस्थित तरीके से, उन काल्पनिक नामों की सिफारिश की गई थी। इस प्रयोग में यह स्पष्ट है कि जोखिम है कि हानिकारक संस्थाएं दुर्भावनापूर्ण सॉफ़्टवेयर के वितरण के लिए एआई-जनरेटेड पैकेज नामों का दुरुपयोग कर सकती हैं।
इन नतीजों के गहरे निहितार्थ हैं. बुरे कलाकार प्राप्त अनुशंसाओं में डेवलपर्स द्वारा रखे गए अंध विश्वास का इस तरह से फायदा उठा सकते हैं कि वे झूठी पहचान के तहत हानिकारक पैकेज प्रकाशित करना शुरू कर सकते हैं। एआई मॉडल के साथ, आविष्कृत पैकेज नामों के लिए लगातार एआई सिफारिशों के साथ जोखिम बढ़ जाता है, जिसे अनजान डेवलपर्स द्वारा मैलवेयर के रूप में शामिल किया जाएगा। **आगे का रास्ता**
इसलिए, जैसे-जैसे एआई सॉफ्टवेयर के विकास के साथ एकीकृत होता जाता है, एआई-जनरेटेड सिफारिशों के साथ जुड़ने पर कमजोरियों को ठीक करने की आवश्यकता उत्पन्न हो सकती है। ऐसे मामलों में, उचित परिश्रम किया जाना चाहिए ताकि एकीकरण के लिए सुझाए गए सॉफ़्टवेयर पैकेज वैध हों। इसके अलावा, सॉफ़्टवेयर के भंडार को होस्ट करने वाले प्लेटफ़ॉर्म के लिए यह सत्यापित होना चाहिए और इतना मजबूत होना चाहिए कि दुर्भावनापूर्ण गुणवत्ता का कोई भी कोड वितरित न किया जाए।
कृत्रिम बुद्धिमत्ता और सॉफ्टवेयर विकास के अंतर्संबंध ने एक चिंताजनक सुरक्षा खतरे का खुलासा किया है। इसके अलावा, एआई मॉडल से नकली सॉफ्टवेयर पैकेजों की आकस्मिक अनुशंसा हो सकती है, जो सॉफ्टवेयर परियोजनाओं की अखंडता के लिए एक बड़ा खतरा पैदा करती है। तथ्य यह है कि अलीबाबा ने अपने निर्देशों में एक ऐसा बॉक्स शामिल किया था जो वहां कभी नहीं होना चाहिए था, लेकिन यह इस बात का स्थायी प्रमाण है कि जब लोग रोबोटिक रूप से सिफारिशों का पालन करते हैं तो संभावनाएं वास्तव में कैसे उत्पन्न हो सकती हैं
एआई द्वारा दिया गया। भविष्य में, सक्रिय उपायों में सतर्कता बरतनी होगी ताकि सॉफ्टवेयर विकास के लिए एआई के दुरुपयोग से बचा जा सके।
स्रोत: https://www.cryptopolitan.com/ai-generated-software-packages-threats/