संगठनों में AI साइबर सुरक्षा: जोखिम, खतरे और सर्वोत्तम उपाय
कर्मचारियों के AI उपयोग, कंपनी डेटा और AI प्रणालियों को सुरक्षित रखने की व्यावहारिक मार्गदर्शिका, हर नए टूल को संकट माने बिना।
AI साइबर सुरक्षा कोई अलग सुरक्षा कार्यक्रम नहीं है। यह नई प्रणालियों, डेटा के नए प्रवाहों और सॉफ़्टवेयर के साथ लोगों के नए प्रकार के व्यवहार पर ठोस सुरक्षा उपाय लागू करने का काम है। संगठन अब संदेशों के मसौदे बनाने, आंतरिक ज्ञान खोजने, दस्तावेज़ों का विश्लेषण करने और कार्यप्रवाह शुरू करने के लिए AI सहायकों का उपयोग करते हैं। हर उपयोग से यह बदल सकता है कि जानकारी कहाँ जाती है और किसी व्यक्ति या स्वचालित प्रणाली को क्या करने की अनुमति है। लक्ष्य है इन बदलावों को समझना, महत्वपूर्ण चीज़ों की सुरक्षा करना और उपयोगी AI को स्पष्ट सीमाओं में रखना।
संगठनों के लिए AI साइबर सुरक्षा क्यों महत्वपूर्ण है
AI प्रणालियाँ बड़ी मात्रा में पाठ, कोड, चित्र, ऑडियो और व्यावसायिक रिकॉर्ड संसाधित कर सकती हैं। वे दस्तावेज़ भंडार, ईमेल, ग्राहक प्रणालियों, सॉफ़्टवेयर टूल या सार्वजनिक वेबसाइटों से जुड़ सकती हैं। इसलिए वे संगठन के सूचना और पहचान परिवेश का हिस्सा हैं, केवल चैट विंडो नहीं। सुरक्षा समीक्षा में परिचित प्रश्न पूछे जाने चाहिए: कौन-सा डेटा आता है, उसका प्रसंस्करण कहाँ होता है, उसे कौन प्राप्त कर सकता है, कौन-सी कार्रवाइयाँ संभव हैं और गतिविधि कैसे दर्ज होती है। NIST की जनरेटिव AI प्रोफ़ाइल, डिज़ाइन, उपयोग और मूल्यांकन के व्यापक जोखिम प्रबंधन के हिस्से के रूप में AI सुरक्षा को देखती है।NIST AI RMF की जनरेटिव AI प्रोफ़ाइल
जोखिम केवल मॉडल पर हमले तक सीमित नहीं है। कोई कर्मचारी ग्राहक का रिकॉर्ड किसी गैर-अनुमोदित टूल में चिपका सकता है। AI सहायक कर्मचारी की अपनी अनुमतियों से अधिक व्यापक अनुमतियों का उपयोग करके दस्तावेज़ प्राप्त कर सकता है। कोई कार्यप्रवाह जनरेट किए गए पाठ को रिकॉर्ड अपडेट करने या संदेश भेजने का निर्देश मान सकता है। ये नए संदर्भ में सामान्य सूचना-सुरक्षा और पहुँच-नियंत्रण की समस्याएँ हैं। उपयोगी शुरुआत है AI सेवा, उससे जुड़े डेटा, शामिल पहचानों और प्रणाली द्वारा की जा सकने वाली कार्रवाइयों का मानचित्र बनाना। NCSC की सुरक्षित AI प्रणाली-विकास मार्गदर्शिका में जोखिमों को समझना, खतरा-मॉडलिंग और परिसंपत्ति प्रबंधन जैसी संबंधित पद्धतियाँ शामिल हैं।NCSC की सुरक्षित AI प्रणाली-विकास मार्गदर्शिका
इसलिए AI उपयोग को नियंत्रित करने की कोशिश से पहले संगठनों को उसे दृश्यमान बनाना चाहिए। अनुमोदित AI उत्पादों, आंतरिक मॉडलों, ब्राउज़र एक्सटेंशन, एजेंट सुविधाओं, API और एकीकरणों की सूची बनाएँ। व्यावसायिक टीमों से पूछें कि वे क्या उपयोग करती हैं और AI से कौन-सा काम करवाना चाहती हैं। यदि कर्मचारियों को काम फिर भी करना है, तो केवल व्यापक प्रतिबंध से छिपे हुए AI उपयोग की समस्या हल नहीं होती; स्पष्ट अनुमोदित विकल्प और समीक्षा माँगने का त्वरित रास्ता अधिक उपयोगी है। उत्पादों में नई सुविधाएँ जुड़ने पर सूची अद्यतन रखें, क्योंकि बाद में फ़ाइलों या टूल तक पहुँच पाने वाले लेखन सहायक की सुरक्षा रूपरेखा अलग होगी।
AI से जुड़े आम साइबर खतरे
AI-सहायता प्राप्त फ़िशिंग और प्रतिरूपण
जनरेटिव टूल अपराधी को विश्वसनीय लगने वाला संदेश लिखने, किसी प्राप्तकर्ता के अनुसार भाषा ढालने या प्रतिरूपण के लिए संवाद तैयार करने में मदद कर सकते हैं। इससे हर संदेश अधिक विश्वसनीय नहीं हो जाता और न ही परिचित चेतावनी संकेत अप्रासंगिक होते हैं। इसका अर्थ यह है कि केवल व्याकरण और लहजे से अनुरोध की प्रामाणिकता परखना कमज़ोर तरीका है। भुगतान में अप्रत्याशित बदलाव, पासवर्ड रीसेट, संवेदनशील फ़ाइल का अनुरोध या तत्काल स्वीकृति को लेखन-शैली की पहेली नहीं, बल्कि प्रक्रिया से जुड़ा प्रश्न मानें। किसी दूसरे विश्वसनीय माध्यम और संगठन की स्थापित अनुमोदन प्रक्रिया का उपयोग करें।
आवाज़ और वीडियो में बदलाव किया जा सकता है या उन्हें कृत्रिम रूप से बनाया जा सकता है। कार्यकारी अधिकारी जैसी आवाज़ वाले कॉलर को भुगतान नियंत्रण बदलने, क्रेडेंशियल उजागर करने या दो-व्यक्ति अनुमोदन नियम से बचने में सक्षम नहीं होना चाहिए। घटना से पहले सत्यापन प्रक्रिया तय करें: निर्देशिका में दिए नंबर पर वापस कॉल करें, सामान्य कार्यप्रवाह में अनुरोध की पुष्टि करें और अधिक प्रभाव वाले कामों के लिए स्वतंत्र अनुमोदन लें। समझाने के लिए एक उदाहरण: वित्त कर्मचारी को परिचित आवाज़ में उसी दिन आपूर्तिकर्ता बदलने का संदेश मिलता है। कर्मचारी रिकॉर्डिंग पर कार्रवाई करने के बजाय रुकता है, ज्ञात नंबर पर कॉल करता है और दूसरे अनुमोदक से पुष्टि करता है।
प्रॉम्प्ट और जुड़ी सेवाओं से डेटा उजागर होना
जब कर्मचारी किसी AI सेवा को प्रॉम्प्ट, फ़ाइलें या बातचीत का इतिहास भेजते हैं, तो जानकारी अपनी मूल एप्लिकेशन सीमा से बाहर चली जाती है। उसका सटीक प्रबंधन उत्पाद, खाते के प्रकार, अनुबंध, कॉन्फ़िगरेशन और जुड़े एकीकरणों पर निर्भर करता है। सभी AI उत्पादों के व्यवहार को एक जैसा मानने के बजाय संगठन को डेटा-रखने की अवधि, मॉडल-सुधार सेटिंग, प्रशासनिक नियंत्रण, उप-प्रसंस्करणकर्ताओं, डेटा के स्थान और मिटाने की शर्तों की पुष्टि करनी चाहिए। यदि प्रणाली ऐसा डेटा प्राप्त कर सकती है जिसे मौजूदा उपयोगकर्ता को नहीं देखना चाहिए, तो संवेदनशील जानकारी जनरेट किए गए उत्तरों में भी आ सकती है। OWASP जनरेटिव AI अनुप्रयोगों के प्रमुख जोखिमों में संवेदनशील जानकारी का खुलासा शामिल करता है।LLM अनुप्रयोगों के लिए OWASP के शीर्ष 10 जोखिम
समझाने के लिए एक उदाहरण: मान लें कि कोई कर्मचारी ग्राहक के नाम और मामलों के नोट्स वाली स्प्रेडशीट का सारांश बनाने के लिए गैर-अनुमोदित चैटबॉट से कहता है। तत्काल चिंता यह नहीं है कि मॉडल फ़ाइल याद रखेगा या नहीं। ठोस प्रश्न हैं: क्या उस डेटा के लिए सेवा अनुमोदित है, प्रॉम्प्ट और आउटपुट तक किसकी पहुँच है, वे कितने समय तक रखे जाते हैं और क्या फ़ाइल में काम की ज़रूरत से अधिक जानकारी है। हर कॉन्फ़िगरेशन में डेटा न्यूनतम रखना मददगार है: पहचान-सूचक हटाएँ, छोटा अंश इस्तेमाल करें या वास्तविक रिकॉर्ड की आवश्यकता न होने पर कृत्रिम उदाहरणों से काम करें।
प्रॉम्प्ट इंजेक्शन और दुर्भावनापूर्ण निर्देश
AI सहायक ईमेल, वेब पेज, छवि या दस्तावेज़ में छिपे निर्देशों को संसाधित कर सकता है। दुर्भावनापूर्ण निर्देश सहायक से उसका निर्धारित काम अनदेखा करवाने, जानकारी उजागर करवाने या जुड़े टूल का अप्रत्याशित उपयोग करवाने की कोशिश कर सकता है। इसे प्रॉम्प्ट इंजेक्शन कहते हैं। यह तब विशेष रूप से प्रासंगिक है जब प्रणाली विश्वसनीय निर्देशों और बाहर से प्राप्त सामग्री को मिला देती है। प्राप्त सामग्री को अविश्वसनीय इनपुट मानें, अनुमतियाँ मॉडल के बाहर रखें और एप्लिकेशन से हर प्रस्तावित कार्रवाई की जाँच करवाएँ। OWASP बताता है कि पुनर्प्राप्ति या अन्य बाहरी सामग्री का उपयोग करने वाली प्रणालियाँ प्रॉम्प्ट इंजेक्शन से प्रभावित हो सकती हैं।OWASP का प्रॉम्प्ट इंजेक्शन जोखिम विवरण
दुरुपयोग, समझौता किए गए घटक और असुरक्षित आउटपुट
ईमेल, कोड एडिटर, क्लाउड कंसोल और अन्य वैध टूल की तरह AI का भी अंदरूनी व्यक्ति या बाहरी हमलावर दुरुपयोग कर सकता है। AI प्रणालियाँ मॉडल, डेटासेट, प्लग-इन, लाइब्रेरी, होस्टिंग सेवाओं और API पर भी निर्भर करती हैं। कमज़ोर एकीकरण या समझौता की गई निर्भरता से केवल मॉडल की खामी से अधिक जानकारी उजागर हो सकती है। जनरेट किया गया कोड या निर्देश गलत या असुरक्षित हो सकता है, इसलिए उसे चलाने या महत्वपूर्ण निर्णय में उपयोग करने से पहले उसकी समीक्षा करें। सुरक्षा टीमों को बिना स्वामी वाली अलग प्रक्रिया बनाने के बजाय AI घटकों को सामान्य आपूर्तिकर्ता समीक्षा, भेद्यता प्रबंधन, बदलाव नियंत्रण और घटना-प्रतिक्रिया में शामिल करना चाहिए।
कर्मचारियों द्वारा ChatGPT और अन्य AI टूल के उपयोग के सुरक्षा जोखिम
कर्मचारी अक्सर वास्तविक काम में समय बचाने के लिए AI टूल चुनते हैं। केवल “गोपनीय डेटा दर्ज न करें” कहने वाली नीति कई महत्वपूर्ण प्रश्न अनुत्तरित छोड़ देती है: कौन-से टूल अनुमोदित हैं, गोपनीय किसे माना जाएगा, पहुँच कैसे माँगी जाए और कंपनी की फ़ाइलों से पहले से जुड़े टूल के मामले में क्या किया जाए। कर्मचारियों को उदाहरणों सहित संक्षिप्त, व्यावहारिक नीति दें। उदाहरण के लिए, सार्वजनिक उत्पाद-पाठ अनुमोदित सहायक में स्वीकार्य हो सकता है, जबकि ग्राहक पहचान-सूचक, स्रोत कोड, क्रेडेंशियल, कानूनी मसौदे और अप्रकाशित वित्तीय जानकारी के लिए स्पष्ट अनुमति आवश्यक है या उन्हें साझा नहीं करना चाहिए।
यह न मानें कि व्यक्तिगत खाते और संगठन द्वारा प्रबंधित खाते में समान नियंत्रण होते हैं। सेवा की वास्तविक शर्तें और सेटिंग जाँचें, फिर संगठन ने जिन बातों की पुष्टि की है उन्हें दर्ज करें। पुष्टि करें कि प्रशासक खाते, प्रमाणीकरण, डेटा-रखने की अवधि, डेटा-साझाकरण, प्लग-इन और ऑडिट रिकॉर्ड प्रबंधित कर सकते हैं या नहीं। यदि कर्मचारी किसी टूल को क्लाउड ड्राइव या संदेश प्रणाली से जोड़ते हैं, तो दी गई अनुमतियाँ देखें और भूमिकाएँ बदलने पर उनकी समीक्षा करें। अनावश्यक वैकल्पिक कनेक्टर बंद करें। पहुँच को कर्मचारी की मौजूदा अनुमति के अनुरूप रखें और सत्र तथा टोकन शीघ्र रद्द करना संभव बनाएँ।
प्रशिक्षण में नारे नहीं, कार्रवाई सिखाएँ। कर्मचारियों को बताएँ कि अनुमोदित टूल कैसे पहचानें, प्रॉम्प्ट से अनावश्यक डेटा कैसे हटाएँ, जनरेट की गई सामग्री कैसे सत्यापित करें और संदिग्ध खुलासे की सूचना कैसे दें। स्पष्ट करें कि जनरेट किया गया उत्तर तथ्य, अधिकार या स्वीकृति का प्रमाण नहीं है। समझाने के लिए एक उदाहरण: हेल्प-डेस्क विश्लेषक स्वीकृत सहायक से टिकट के पहचान-साफ़ किए गए अंश के आधार पर उत्तर का मसौदा बनाता है, फिर उद्धृत नीति जाँचकर सामान्य टिकट प्रणाली से संदेश भेजता है। सहायक भाषा सँवारता है; सामग्री और खुलासे की जवाबदेही विश्लेषक की रहती है।
AI प्रणालियों, कंपनी डेटा, API और पहुँच की सुरक्षा करें
शासन और खतरा-मॉडल से शुरुआत करें
हर AI उपयोग-मामले के लिए एक स्वामी तय करें और उसका व्यावसायिक उद्देश्य, डेटा वर्ग, प्रदाता, एकीकरण, उपयोगकर्ता और संभावित परिणाम दर्ज करें। विश्वास-सीमाओं का मानचित्र बनाएँ: सार्वजनिक प्रॉम्प्ट, अपलोड की गई फ़ाइलें, प्राप्त कंपनी सामग्री, मॉडल प्रदाता, टूल और आगे की प्रणालियाँ। कर्मचारी द्वारा दुरुपयोग, समझौता किए गए खाते, दुर्भावनापूर्ण दस्तावेज़, आपूर्तिकर्ता की सेवा-बाधा और व्यवहार बदलने वाले मॉडल अपडेट पर विचार करें। NCSC मार्गदर्शन केवल लॉन्च के समय नहीं, बल्कि AI प्रणाली के डिज़ाइन, विकास, परिनियोजन और संचालन के दौरान सुरक्षा पर विचार करने की अनुशंसा करता है।NCSC की AI सुरक्षा जीवनचक्र मार्गदर्शिका
डेटा और पुनर्प्राप्ति मार्गों की सुरक्षा करें
मॉडल या पुनर्प्राप्ति सूचकांक में डालने से पहले जानकारी का वर्गीकरण करें। काम के लिए आवश्यक जानकारी ही लें, जहाँ व्यावहारिक हो पहचान-सूचक छिपाएँ और अनुमोदित उद्देश्य के लिए आवश्यक न्यूनतम अवधि तक ही डेटा रखें। पहुँच जाँच सामग्री प्राप्त करते समय करें, केवल सूचकांक बनाते समय नहीं। यदि कोई उपयोगकर्ता स्रोत दस्तावेज़ सीधे नहीं खोल सकता, तो AI को सारांश के माध्यम से उसकी सामग्री उजागर नहीं करनी चाहिए। प्रतिनिधि खातों से पहुँच बदलाव, हटाए गए रिकॉर्ड और टीमों के बीच सीमाओं का परीक्षण करें। पहुँच की जाँच के लिए पर्याप्त लॉग रखें, लेकिन संवेदनशील प्रॉम्प्ट को अनावश्यक रूप से दूसरे अनियंत्रित भंडार में न कॉपी करें।
पहचानों, API और कार्रवाइयों को नियंत्रण में रखें
हर सेवा या एजेंट को अलग पहचान और निर्धारित काम के लिए केवल आवश्यक अनुमतियाँ दें। लंबे समय तक मान्य रहस्य प्रॉम्प्ट, स्रोत कोड, ब्राउज़र स्टोरेज या लॉग में न रखें। API क्रेडेंशियल अनुमोदित सीक्रेट मैनेजर में रखें, उन्हें नियमित रूप से बदलें, उनका दायरा सीमित करें और उपयोग की निगरानी करें। सर्वर पर अनुरोध सत्यापित करें, हर API कार्रवाई के लिए प्राधिकरण लागू करें और एजेंट द्वारा बुलाए जा सकने वाले टूल की अनुमति-सूची बनाएँ। मॉडल कार्रवाई सुझा सकता है, लेकिन निष्पादन से पहले निश्चित नियमों वाला एप्लिकेशन कोड उपयोगकर्ता, लक्ष्य, सीमाओं और व्यावसायिक नियमों की जाँच करे।
महत्वपूर्ण परिणाम वाली कार्रवाइयों के लिए अतिरिक्त जाँच रखें। बाहरी संदेश भेजने, वित्तीय रिकॉर्ड बदलने, पहुँच देने, जानकारी मिटाने या लेन-देन स्वीकृत करने के लिए पुष्टि का स्पष्ट चरण होना चाहिए। मानवीय स्वीकृति तभी उपयोगी है जब समीक्षक देख सके कि क्या होगा, क्यों होगा और किस रिकॉर्ड पर होगा। कम जोखिम वाली कार्रवाइयों के लिए सीमित दायरा, दर-सीमा, पलटे जा सकने वाले अपडेट और स्पष्ट ऑडिट लॉग इस्तेमाल करें। यदि प्रणाली यह नहीं बता सकती कि किस अनुमति से कार्रवाई संभव हुई, तो सुविधा बढ़ाने से पहले अनुमति-मॉडल सुधारें।
परीक्षण करें, निगरानी रखें और प्रतिक्रिया के लिए तैयार रहें
केवल मॉडल के उत्तरों का नहीं, पूरे एप्लिकेशन का परीक्षण करें। इसमें दुर्भावनापूर्ण दस्तावेज़, असामान्य फ़ाइल फ़ॉर्मेट, उपयोगकर्ता अनुमतियों को पार करने के प्रयास, प्रॉम्प्ट इंजेक्शन, असुरक्षित आउटपुट, API का दुरुपयोग और जुड़ी सेवाओं की विफलताएँ शामिल करें। पायलट से पहले अपेक्षित व्यवहार और रुकने की शर्तें दर्ज करें। प्रमाणीकरण, पुनर्प्राप्ति, टूल कॉल, आउटपुट प्रबंधन और कॉन्फ़िगरेशन बदलावों की निगरानी करें। उजागर डेटा, अनपेक्षित कार्रवाइयों, समझौता किए गए क्रेडेंशियल और प्रदाता संबंधी घटनाओं के लिए घटना-प्रतिक्रिया मार्ग बनाएँ। प्रासंगिक रिकॉर्ड सुरक्षित रखें, आवश्यकता पर क्रेडेंशियल रद्द करें, एकीकरण को सीमित करें और प्रभावित स्वामियों को चिंताओं की सूचना देने का तरीका बताएँ।
AI सुरक्षा संचालन की निरंतर जिम्मेदारी है। मॉडल संस्करणों, विक्रेता सुविधाओं, डेटा स्रोतों और अनुमतियों में बदलाव उपयोगकर्ताओं तक पहुँचने से पहले जाँचें। महत्वपूर्ण बदलावों के बाद फिर परीक्षण करें और घटनाओं या बाल-बाल बची चूकों से नियंत्रण अद्यतन करें। CISA का सुरक्षित-डिज़ाइन मार्गदर्शन प्रौद्योगिकी निर्माताओं से आग्रह करता है कि वे ग्राहकों के सुरक्षा परिणामों की जिम्मेदारी लें और डिज़ाइन से ही सुरक्षित उत्पाद उपलब्ध कराएँ। AI टूल अपनाने वाले संगठन के लिए यह प्रदाताओं से यह पूछने का कारण है कि सुरक्षा उत्पाद में कैसे शामिल की गई है, जबकि कॉन्फ़िगरेशन, पहुँच और डेटा का प्रबंधन संगठन को स्वयं करना होता है।CISA के सुरक्षित-डिज़ाइन सिद्धांत
व्यवसायों के लिए AI साइबर सुरक्षा की व्यावहारिक जाँच-सूची
- AI टूल, खातों, मॉडलों, API, एजेंटों, डेटा स्रोतों और व्यावसायिक स्वामियों की सूची अद्यतन रखें।
- कर्मचारियों के वास्तविक काम में लागू किए जा सकने वाले उदाहरणों सहित अनुमोदित उपयोग और निषिद्ध डेटा तय करें।
- स्वीकृति से पहले प्रदाता की शर्तें, डेटा-रखने की अवधि, मॉडल-सुधार सेटिंग, पहुँच नियंत्रण और घटना-सूचना प्रक्रिया जाँचें।
- इनपुट डेटा का वर्गीकरण करें और उसे न्यूनतम रखें; क्रेडेंशियल, रहस्य या अनावश्यक व्यक्तिगत जानकारी न भेजें।
- कर्मचारियों, एकीकरणों, सेवा पहचानों, API कुंजियों और एजेंट टूल पर न्यूनतम-अधिकार सिद्धांत लागू करें।
- भुगतान, पहुँच, खुलासे, मिटाने या अन्य अधिक प्रभाव वाले अनुरोधों के लिए स्वतंत्र पुष्टि अनिवार्य करें।
- बदलावों से पहले और बाद में प्रॉम्प्ट इंजेक्शन, अनधिकृत पुनर्प्राप्ति, असुरक्षित आउटपुट और टूल के दुरुपयोग का परीक्षण करें।
- प्रासंगिक पहुँच और कार्रवाइयाँ लॉग करें, घटना-स्वामी तय करें और पहुँच रद्द करने तथा एकीकरण को सीमित करने का अभ्यास करें।
व्यावहारिक लक्ष्य कर्मचारियों को AI उपयोग से रोकना नहीं है। लक्ष्य है अनुमोदित उपयोग को समझने योग्य बनाना, संवेदनशील डेटा और अनुमतियों को स्पष्ट सीमाओं में रखना और लोगों या व्यावसायिक रिकॉर्ड पर असर पड़ने से पहले कार्रवाइयों की पुष्टि करना। सूची और विशिष्ट जोखिम समीक्षा से शुरुआत करें, फिर नियंत्रण और स्वामी तैयार होने पर ही विस्तार करें।
AI शासन पर हमारी मार्गदर्शिका पढ़ेंनियंत्रणों को इंजीनियरिंग आवश्यकताओं में बदलने के बारे में और जानने के लिए, या देखें APLS शासन और संचालन सेवाएँ.
बातचीत शुरू करें