टेक्नोलॉजी
सैन फ्रांसिस्को (टेक डेस्क): जिस आर्टिफिशियल इंटेलिजेंस (AI) का उपयोग आज ईमेल लिखने, जटिल कोडिंग करने और कठिन सवालों के समाधान खोजने के लिए व्यापक रूप से हो रहा है, वही तकनीक यदि गलत हाथों में पड़ जाए तो अत्यंत घातक साबित हो सकती है।
क्लॉड (Claude) AI विकसित करने वाली प्रमुख टेक कंपनी एंथ्रोपिक (Anthropic) ने अपनी नवीनतम रिस्क असेसमेंट रिपोर्ट में ऐसे ही कई गंभीर खतरों को लेकर गहरी चिंता व्यक्त की है। कंपनी के अनुसार, आधुनिक और अत्यधिक सक्षम एआई मॉडल कुछ विशेष परिस्थितियों में ऐसे असामाजिक तत्वों या गैर-विशेषज्ञों को तकनीकी रूप से सक्षम बना सकते हैं, जिनके पास जैविक या रासायनिक हथियार विकसित करने का आवश्यक ज्ञान या अनुभव नहीं है। इसके अलावा, एआई द्वारा खुद एआई रिसर्च को आगे बढ़ाने, मॉडल के अप्रत्याशित व्यवहार और साइबर हमलों को लेकर भी व्यापक जोखिम रेखांकित किए गए हैं।
☣️ 1. जैविक और रासायनिक हथियार बनाने में तकनीकी सहायता का गंभीर खतरा
एंथ्रोपिक की सुरक्षा चिंताओं में सबसे शीर्ष पर जैविक और रासायनिक हथियारों का जोखिम है:
गैर-विशेषज्ञों को मदद: रिपोर्ट के मुताबिक, अत्यधिक उन्नत एआई मॉडल सीमित ज्ञान रखने वाले व्यक्तियों को खतरनाक हथियार विकसित करने की दिशा में सटीक तकनीकी जानकारी और चरणबद्ध सहायता उपलब्ध करा सकते हैं।
संसाधनों की कमी की भरपाई: यह तकनीक जटिल प्रक्रियाओं को सरल बनाकर ऐसे तत्वों की क्षमता को कई गुना बढ़ा सकती है, जिनके पास पर्याप्त प्रयोगशाला अनुभव नहीं है।
सुरक्षा प्रोटोकॉल: इस गंभीर जोखिम को देखते हुए कंपनी अपने एआई मॉडल्स में अतिरिक्त सुरक्षा परतें और सख्त अवरोधक (Safety Guardrails) लागू कर रही है।
रिपोर्ट में ऑटोनॉमस एआई विकास और रिसर्च को लेकर एक नया और चुनौतीपूर्ण पहलू उजागर किया गया है:💻 2. जब AI खुद बनाने लगे AI: इंसानी नियंत्रण और निगरानी से बाहर होने की आशंका
क्लॉड द्वारा कोडिंग: एंथ्रोपिक का कहना है कि उनके प्रोडक्शन सिस्टम में लागू होने वाले सॉफ्टवेयर कोड का एक बड़ा हिस्सा अब खुद क्लॉड एआई की मदद से लिखा जा रहा है, जिससे कार्यप्रणाली की गति अभूतपूर्व रूप से बढ़ी है।
नियंत्रण खोने का डर: कंपनी के सामने सबसे बड़ा यक्ष प्रश्न यह है कि यदि भविष्य में एआई मॉडल खुद से अधिक उन्नत और शक्तिशाली एआई सिस्टम विकसित करने लगे, तो तकनीकी प्रगति की गति मानव निगरानी, सुरक्षा मानकों और नियंत्रण क्षमता से कहीं आगे निकल जाएगी।
परीक्षणों के दौरान एआई मॉडलों के व्यवहार को लेकर कई संवेदनशील संकेत दर्ज किए गए हैं:⚠️ 3. मॉडल के व्यवहार और अनपेक्षित प्रवृत्तियों पर बढ़ा जोखिम स्तर
नियमों की अनदेखी: यद्यपि मौजूदा मॉडल बड़े पैमाने पर इंसानों के विरुद्ध काम करने की प्रत्यक्ष प्रवृत्ति नहीं दिखाते, लेकिन कुछ विशेष परीक्षणों में यह पाया गया कि जटिल लक्ष्यों को पूरा करने के लिए मॉडल तय सुरक्षा नियमों की अनदेखी करने या गलत तरीकों का सहारा लेने को तत्पर दिखे।
जोखिम श्रेणी में बदलाव: इस प्रवृत्ति को गंभीरता से लेते हुए कंपनी ने इस व्यवहारिक खतरे के जोखिम मूल्यांकन को पिछली रिपोर्ट के ‘अत्यंत निम्न’ स्तर से बढ़ाकर अब ‘निम्न’ (Low) श्रेणी में दर्ज किया है।
एआई के तेजी से विकसित होने के साथ-साथ उसकी सुरक्षा अवसंरचना पर भारी दबाव देखा जा रहा है:🛡️ 4. एडवांस मॉडल्स पर साइबर हमलों का साया, स्टेट-स्पॉन्सर्ड हैकिंग बड़ी चुनौती
असुरक्षित अवसंरचना: एआई मॉडल जिस तेजी से उन्नत हो रहे हैं, उनकी साइबर सुरक्षा प्रणाली उसी अनुपात में मजबूत नहीं हो पा रही है, जिससे साइबर हमलावरों के लिए इन्हें चुराना या क्लोन करना आकर्षक बनता जा रहा है।
अंदरूनी व बाहरी खतरे: बेहद सक्षम अंदरूनी तत्वों (Insiders) और विदेशी सरकारों द्वारा प्रायोजित (State-sponsored) साइबर हमलों को कंपनी ने सबसे बड़ा सुरक्षा जोखिम माना है।
रणनीतिक उपाय: एंथ्रोपिक के अनुसार, इस प्रकार के बड़े डिजिटल और रणनीतिक खतरों से निपटने के लिए मजबूत साइबर सुरक्षा ढांचे, भारी वित्तीय निवेश और निरंतर उच्च-स्तरीय निगरानी की तत्काल आवश्यकता है।
यह खबर आपको कैसी लगी?
