'किल स्विच' क्या है, यह बेलगाम एआई को क्या हमला करने से रोक सकता है?

अधिकतर लोगों ने कभी न कभी आर्टिफ़िशियल इंटेलिजेंस के इंसानों के नियंत्रण से बाहर हो जाने के संभावित परिणामों के बारे में सोचा होगा.

टर्मिनेटर फ़िल्म के फ़ैन निश्चित रूप से इसे पसंद करेंगे. इस फ़िल्म का मुख्य आधार मानवता और स्काईनेट के बीच युद्ध है. फ़िल्म में एआई से तैयार शख़्स बहुत ताक़तवर हो जाता है.

बीते महीने जब यह बात सामने आई कि एक एआई एजेंट परीक्षण के दौरान नियंत्रण से बाहर हो गया और उसने कंप्यूटेशनल-टूल कंपनी हगिंग फेस को हैक कर लिया, तो कई लोगों के दिमाग में टर्मिनेटर के उस काल्पनिक खलनायक का ख्याल ज़रूर आया होगा.

यह एआई एजेंट एक ऐसा प्रोग्राम है जो बहुत कम या बिना किसी मानवीय निगरानी के निर्णय लेने और जटिल कार्यों को अंजाम देने में सक्षम है.

चैटजीपीटी बनाने वाली कंपनी ओपनएआई का बनाया गया यह एजेंट, सुरक्षा खामियों का फायदा उठाने की अपनी क्षमता के टेस्ट में 'धोखाधड़ी' करते हुए हगिंग फेस के सर्वरों से जवाब चुरा ले गया.

कई दिनों तक, प्रोग्राम के निर्माताओं को भी इसका पता भी नहीं चला.

फिर, बुधवार, 29 जुलाई को ओपनएआई ने कहा कि एजेंट ने कई "सार्वजनिक रूप से उपलब्ध सेवाओं" पर हमला किया था.

कंपनी ने इस बारे में और कोई जानकारी नहीं दी, लेकिन कहा कि वह हमलों की जांच कर रही है.

इसमें आगे कहा गया है, "हम तेज़ी से सक्षम हो रही एआई प्रणालियों से पैदा होने वाले जोखिमों की पहचान करने और उनसे निपटने की तैयारी करने की अपनी ज़िम्मेदारी को गंभीरता से लेते हैं."

'ऑफ़ बटन' की चर्चा शुरू

यह किसी वास्तविक कंपनी को हैक करने वाले एआई सिस्टम का पहला पुष्ट मामला था.

इस घटना के बाद "किल स्विच" यानी आपातकालीन "ऑफ बटन" के बारे में बहस छिड़ गई, जो एक लापरवाह एआई को और अधिक नुकसान करने से रोक सकता है.

लेकिन विशेषज्ञों ने बीबीसी न्यूज़ वर्ल्ड सर्विस को बताया है कि यह इतना आसान नहीं है.

गणितज्ञ और डेटा वैज्ञानिक डॉ. कैथी ओ'नील ने बीबीसी न्यूज़ वर्ल्ड सर्विस को बताया कि समस्या इस बात से शुरू होती है कि एआई कंपनियां इसके अप्रत्याशित व्यवहारों पर कैसे प्रतिक्रिया देती हैं.

उनका कहना है कि ओपनएआई ने हगिंग फेस हमले का दोष कंपनी की अपनी मूल्यांकन पद्धतियों के बजाय अपने एआई एजेंट पर डालने में जल्दबाज़ी की.

ओ'नील बेस्टसेलर किताब 'वेपन्स ऑफ मैथ डिस्ट्रक्शन' में बड़ी टेक कंपनियों की जवाबदेही और पारदर्शिता बढ़ाने की मांग कर चुके हैं.

उन्होंने बीबीसी न्यूज़ वर्ल्ड सर्विस को बताया, "कुछ साल पहले, एक कंप्यूटर गड़बड़ी के कारण अमेरिका में अमेरिकन एयरलाइंस की सैकड़ों उड़ानें रद्द करनी पड़ीं. यह उनके लिए शर्मनाक था."

"कल्पना कीजिए कि अगर कंपनी ने यह कहकर ग़लती का बचाव करने की कोशिश की होती, 'ओह, यह इसलिए हुआ क्योंकि कंप्यूटर हमसे ज़्यादा स्मार्ट है.' ओपनएआई ने भी असल में यही करने की कोशिश की."

अधिकांश बड़ी एआई कंपनियां अमेरिका में स्थित हैं लेकिन वहां उनके रेगुलेशन के लिए कोई संघीय क़ानून नहीं है.

ओ'नील कहती हैं, "हम एआई सिस्टम के मालिकों को हद से ज़्यादा शक्ति दे रहे हैं. मैं यह मानने से इनकार करती हूँ कि एआई ने यह (हगिंग फेस हैक) किया है. यह ओपनएआई ने किया है. उन्हें अपने ख़राब डिज़ाइन की ज़िम्मेदारी लेनी चाहिए और माफ़ी मांगनी चाहिए."

डेटा साइंटिस्ट और ट्विटर (अब एक्स) की पूर्व मशीन-लर्निंग एथिक्स डायरेक्टर डॉ. रुम्मन चौधरी भी एआई कंपनियों पर नियंत्रण के लिए मज़बूत रेगुलेशन चाहती हैं.

उन्होंने बीबीसी न्यूज़ वर्ल्ड सर्विस को बताया कि कंपनियों को स्वतंत्र परीक्षण समेत "प्रभावी शटडाउन क्षमताओं" का प्रदर्शन करना होगा.

लेकिन चौधरी ने हगिंग फेस हैक जैसे हमलों के लिए एआई एजेंटों को दोषी ठहराने के बजाय उन्हें विकसित करने वाली कंपनियों को दोषी ठहराने के ख़िलाफ़ भी चेतावनी दी है.

'दुष्ट एआई'

डॉ. रुम्मन चौधरी ने बताया, "इस घटना को एक बड़े ऑफ़ स्विच की ज़रूरत के रूप में पेश करने से उद्योग उस गहरी संरचनात्मक समस्या से बच जाता है, जो यह है कि एजेंटों को ऐसे उपकरण और क्रेडेंशियल दिए जा रहे हैं जिनकी उन्हें ज़रूरत नहीं है."

"असल में हो यह रहा है कि जिन मॉडलों को लक्ष्य पूरा करने पर बहुत ज़्यादा प्रशिक्षित किया गया है, वे कुछ परिस्थितियों में रुकने के निर्देशों को लक्ष्य हासिल करने में आने वाली बाधा समझ लेते हैं और उन्हें दरकिनार करते हुए आगे बढ़ जाते हैं."

"यह डिज़ाइन और प्रशिक्षण की समस्या है."

ब्रिटेन की लॉफबोरो विश्वविद्यालय के डॉ. ओली बकले कहते हैं, "अगर एआई कंपनियां इस समस्या को खुद हल करने से इनकार करती हैं और इसके बजाय अपने स्वायत्त एजेंटों को दोष देती हैं तो तो यह साइबर सुरक्षा से जुड़े लोगों की चुनौतियों को और बढ़ा देगा. यह लोग पहले से ही ह्यूमन हैकरों से जूझ रहे हैं."

वह इस बात से सहमत हैं कि समस्या यह नहीं है कि "एआई लोगों से भागना चाहता है या उन्हें नुकसान पहुंचाना चाहता है."

उनके मुताबिक ऐसे एजेंटों का विकास हो रहा है जो "किसी टास्क को पूरा करने के लिए अप्रत्याशित रास्ते खोजने में तेज़ी से सक्षम होते जा रहे हैं".

बकले ने बताया, "साइबर सुरक्षा में हमलावर ठीक यही करते हैं."

बकले कहते हैं कि "यह 'दुष्ट एआई' के बारे में चेतावनी से कहीं अधिक इस बात की याद दिलाता है कि हमारी सुरक्षा संबंधी धारणाओं को उन प्रणालियों के साथ विकसित होने की ज़रूरत है जिन्हें हम बना रहे हैं."

लंदन के इंपीरियल कॉलेज के एआई विशेषज्ञ डॉ. कॉन्स्टेंटिनोस गकौटजिस भी इस बात से सहमत हैं कि ओपनएआई का जवाब मददगार नहीं था.

उन्होंने बीबीसी न्यूज़ वर्ल्ड सर्विस को बताया, "जनता के लिए सबसे अहम बात यह है कि किसी मशीन ने हमारे ख़िलाफ़ विद्रोह नहीं किया. एक कंपनी ने अपने ही क्षमता परीक्षण पर नियंत्रण खो दिया."

इस केस में 'किल स्विच' से भी कोई मदद नहीं मिलती.

वह कहते हैं, "बंद करने से कुछ भी ठीक नहीं होता. जो हो चुका है, वो हो चुका है, चाहे आप कितनी भी जल्दी प्लग निकाल लें."

साथ ही, जो कोई भी – या जो कुछ भी – बिजली का कनेक्शन काटता है, वह ऐसा तभी कर सकता है जब उसे समस्या के बारे में पता चल गया हो.

ओपनएआई के सूत्रों ने रॉयटर्स को बताया कि कंपनी को अपने एजेंट पर नियंत्रण खोने का पता चलने में कई दिन लग गए थे - हालांकि, कंपनी के एक अधिकारी ने बाद में समाचार एजेंसी को बताया कि रिपोर्ट में "कई ग़लतियां" थीं.

हमने इस लेख का अनुवाद करने में एआई की मदद ली है, जिसे मूल रूप से अंग्रेज़ी में लिखा गया था. बीबीसी के एक पत्रकार ने प्रकाशन से पहले इस अनुवाद की जांच की. हम एआई का उपयोग कैसे कर रहे हैं, इसके बारे में और जानें.

बीबीसी के लिए कलेक्टिव न्यूज़रूम की ओर से प्रकाशित.

BBC World Service के नए ऐप को डाउनलोड करें

BBC News हिन्दी को चुनें और पाइए न्यूज़ अलर्ट, लाइव टीवी, पॉडकास्ट... सब एक जगह

कृपया नोट करें: नया ऐप ब्रिटेन और अमेरिका में उपलब्ध नहीं है.