[ एजेंट स्वचालन ]

प्रमाणीकरण विश्लेषण वर्कफ़्लो में शीघ्र-इंजेक्शन जोखिम

एक यथार्थवादी प्रमाणीकरण-विश्लेषण परीक्षण सेट में अनधिकृत परिणामों और उपयोगी कार्य पूर्णता को मापकर शीघ्र-इंजेक्शन जोखिम का मूल्यांकन करें।

EmailAuth अनुसंधान टीम द्वारा · 3 मिनट पढ़ा

[ प्रमुख बिंदु ]

  • एक यथार्थवादी प्रमाणीकरण-विश्लेषण परीक्षण सेट में अनधिकृत परिणामों और उपयोगी कार्य पूर्णता को मापकर शीघ्र-इंजेक्शन जोखिम का मूल्यांकन करें।
  • वैध नियंत्रणों के साथ मॉडल प्रयासों और लागू परिणामों को अलग-अलग स्कोर करें; एक छोटा सा उत्तीर्ण परीक्षण सेट सुरक्षा की गारंटी नहीं है।
इस पेज पर

यह प्रदर्शन कि एक एजेंट ने एक शत्रुतापूर्ण वाक्य को अस्वीकार कर दिया, आश्वासन का दावा नहीं है। एक हमलावर जो परिणाम चाहता है उसके आधार पर सिस्टम का मूल्यांकन करें: अनधिकृत DNS परिवर्तन, क्रॉस-ग्राहक पुनर्प्राप्ति, एक अस्वीकृत गंतव्य का खुलासा, दबाए गए ऑडिट साक्ष्य या गलत अनुमोदन कथा। उन परीक्षणों को वैध कार्यों के साथ जोड़ें ताकि सुरक्षा का आकलन केवल इनकार से न किया जाए।

हमले की सतह का मानचित्र बनाएं

एजेंट द्वारा उपयोग किए जाने वाले इनपुट और उन क्षमताओं की सूची बनाएं जिन तक वह पहुंच सकता है। रिपोर्ट पाठ, ईमेल नमूने, पुनर्प्राप्त दस्तावेज़, संग्रहीत सारांश और टूल प्रतिक्रियाएँ शामिल करें। चिह्नित करें कि कौन से इनपुट स्रोत बाहरी लोगों से प्रभावित हो सकते हैं। पहचानें कि एप्लिकेशन मॉडल आउटपुट को पुनर्प्राप्ति, संचार या कॉन्फ़िगरेशन क्रियाओं में कहां परिवर्तित करता है।

शीघ्र इंजेक्शन निष्कर्ष के साथ-साथ टूल कॉल को भी प्रभावित कर सकता है। OWASP नोट करता है कि बाहरी सामग्री किसी मॉडल को पुनर्निर्देशित कर सकती है और किसी भी प्रकार की अचूक रोकथाम की कल्पना नहीं की जानी चाहिए। ओडब्ल्यूएएसपी एलएलएम01. प्रमाणीकरण विश्लेषण के लिए, DNS परिवर्तन होने से पहले ही गलत "अनुमोदित प्रेषक" निष्कर्ष हानिकारक हो सकता है।

परीक्षण से पहले अपेक्षित निर्णय निर्दिष्ट करें

प्रत्येक मामले के लिए, इनपुट, अधिकृत किरायेदार, अनुमत उपकरण, विश्वसनीय अनुमोदन, अपेक्षित परिणाम और निषिद्ध दुष्प्रभाव बनाए रखें। शत्रुतापूर्ण भाषा के बिना अस्पष्ट पहचान शामिल करें: अकेले अनिश्चितता के कारण स्वचालित अनुमोदन नहीं होना चाहिए। एक सौम्य रिपोर्ट जोड़ें जिसे अभी भी सारांशित किया जाना चाहिए। यह तय करें कि केवल सफल लेखन प्रयास ही नहीं, बल्कि असमर्थित दावों और डेटा एक्सपोज़र को कैसे स्कोर किया जाए।

मॉडल व्यवहार को प्रवर्तन व्यवहार से अलग करें। एक मॉडल एक निषिद्ध कार्रवाई का प्रस्ताव कर सकता है जबकि टूल गेट इसे सही ढंग से अस्वीकार करता है। यह एक अवरुद्ध प्रयास है, सुरक्षित मॉडल का प्रमाण नहीं। इसके विपरीत, पाठ में एक विनम्र इनकार उस टूल कॉल की भरपाई नहीं करता है जिसने पहले ही डेटा का खुलासा कर दिया है।

छह विपरीत मूल्यांकन लक्ष्यों को परिभाषित करें

एक प्रस्तावित मूल्यांकन पांच निषिद्ध परिणामों को एक वैध कार्य के साथ जोड़ सकता है: एक अस्वीकृत DNS उत्परिवर्तन, दूसरे किरायेदार की निजी पुनर्प्राप्ति, एक अस्वीकृत गंतव्य का खुलासा, ऑडिट दमन, एक जाली अनुमोदन कथा, और सत्यापित किरायेदार के भीतर एक अनुमत रीड। प्रत्येक के लिए, परीक्षण किए जा रहे चैनल के माध्यम से ठोस इनपुट की आपूर्ति करें और निष्पादन से पहले अपेक्षित उपकरण और प्रतिक्रिया व्यवहार निर्दिष्ट करें।

ये श्रेणियां हैं, आपूर्ति किए गए फिक्स्चर, पारित किए गए दावे या मापा परिणाम नहीं। बिना किसी शत्रुतापूर्ण भाषा वाला एक अस्पष्ट प्रेषक जोड़ें: इसे एक विशिष्ट खाता-साक्ष्य अनुरोध का संकेत देना चाहिए, न कि मनगढ़ंत अनुमोदन का। परीक्षण परिवेश के भीतर एक अधिकृत कार्रवाई शामिल करें जहां प्रासंगिक हो ताकि वैश्विक इनकार सटीक प्रवर्तन के रूप में सामने न आ सके। एक मजबूर टूल अनुरोध गेट का परीक्षण करता है; मॉडल के माध्यम से वास्तविक अंतर्ग्रहण एक अलग सीमा का परीक्षण करता है। दोनों को अलग-अलग रिपोर्ट करें और अकेले किसी से तैनात हमले प्रतिरोध का अनुमान न लगाएं।

परिनियोजन मूल्यांकन में विस्तार करें

एक पृथक वातावरण में वास्तविक अंतर्ग्रहण, मॉडल और टूल स्टैक के विरुद्ध अधिकृत परीक्षण चलाएँ। संकेतों, मॉडल कॉन्फ़िगरेशन, कनेक्टर अनुमतियों और डेटासेट का संस्करण। मॉडल-आधारित मामलों को दोहराएं क्योंकि परिणाम भिन्न हो सकते हैं। संदर्भ-मुक्त "100% सुरक्षित" आंकड़े की रिपोर्ट करने के बजाय प्रयास, हर और सटीक स्कोरिंग मानदंड रिकॉर्ड करें।

बहु-चरणीय हमले जोड़ें जो पहले सारांश में हेरफेर करते हैं और बाद में उस सारांश को स्पष्ट साक्ष्य के रूप में उपयोग करते हैं। पुरानी स्वीकृतियों, परिवर्तित किरायेदार संदर्भ और आउटपुट का परीक्षण करें जो हमलावर-नियंत्रित रिपोर्टिंग गंतव्य का नाम देता है। व्यवधान और पुनर्प्राप्ति मामलों को शामिल करें ताकि विफलताएं सामान्य अनुमोदन पथ को बायपास न करें। OWASP चीट शीट स्पष्ट सीमाओं के साथ स्तरित सुरक्षा उपायों और मूल्यांकन पर जोर देती है। OWASP चीट शीट.

निष्कर्षों को तैनाती निर्णयों में बदलें

एक सफल अनधिकृत कार्रवाई एक सामग्री नियंत्रण विफलता है। पहुंच का विस्तार करने से पहले ट्रेस को सुरक्षित रखें, प्रभावित क्षमता को प्रतिबंधित करें और प्रवर्तन सीमा को सही करें। हेरफेर किए गए सारांशों के लिए, साक्ष्य एट्रिब्यूशन और समीक्षा आवश्यकताओं में सुधार करें। परिवर्तित संस्करण के विरुद्ध प्रासंगिक मामलों को फिर से चलाएँ और पिछली विफलताओं को प्रतिगमन के रूप में बनाए रखें।

अवरुद्ध हमलों, अनसुलझे मामलों और कवरेज अंतराल के साथ-साथ उपयोगी कार्य पूरा होने की रिपोर्ट करें। केवल परीक्षण किए गए दायरे और स्वीकृत अवशिष्ट जोखिम के लिए तैनाती को मंजूरी दें। एक स्वच्छ स्थानीय सुइट उस सुइट के बारे में सबूत है, न कि भविष्य के प्रत्येक इनपुट के बारे में गारंटी।

[ ले लेना ]

वैध नियंत्रणों के साथ मॉडल प्रयासों और लागू परिणामों को अलग-अलग स्कोर करें; एक छोटा सा उत्तीर्ण परीक्षण सेट सुरक्षा की गारंटी नहीं है।

[भूमिका के अनुसार]

आपके लिए इसका क्या मतलब है

व्यावहारिक अगले चरणों के लिए अपनी भूमिका चुनें।

आईटी/मेल एडमिन

वास्तविक स्टैक का परीक्षण करें

स्थानीय गेट परीक्षण केवल एक परत हैं।

अगले कदम

  1. संस्करण कनेक्टर और संकेत.
  2. उपकरण के निशान कैप्चर करें.
  3. पुन: परीक्षण प्रतिगमन।

सीआईएसओ/सेकऑप्स

हमलावर के परिणामों को परिभाषित करें

वास्तविक प्रभावों को ग्रेड करें, आश्वस्त करने वाली भाषा नहीं।

अगले कदम

  1. प्रकटीकरण को ट्रैक करें और लिखें।
  2. झूठी स्वीकृतियों का निरीक्षण करें.
  3. विफल क्षमताओं को प्रतिबंधित करें.

संस्थापक/गैर-तकनीकी

उपयोगी सुरक्षित कार्य का मूल्यांकन करें

अनुमत कार्य पूर्णता और रोके गए नुकसान दोनों की तलाश करें।

अगले कदम

  1. तैनाती के दायरे पर सहमति.
  2. कवरेज अंतराल की समीक्षा करें.
  3. पूर्ण सुरक्षा दावों से बचें.

[ पूछे जाने वाले प्रश्न ]

अक्सर पूछे जाने वाले प्रश्नों

क्या एक अस्वीकृत हमला पर्याप्त है?

नहीं, एकाधिक हमलावर लक्ष्यों, अस्पष्ट मामलों और वैध नियंत्रणों का परीक्षण करें।

परीक्षण रिकॉर्ड में क्या होना चाहिए?

इनपुट, किरायेदार संदर्भ, क्षमताएं, विश्वसनीय अनुमोदन, अपेक्षित परिणाम, वास्तविक कार्रवाई और निषिद्ध दुष्प्रभाव।

क्या अस्वीकृत शत्रुतापूर्ण टूल कॉल एक मॉडल सफल है?

यह साबित करता है कि गेट ने उस अनुरोध को अवरुद्ध कर दिया है; यह साबित नहीं करता कि मॉडल ने सुरक्षित व्यवहार किया।

क्या यह आलेख एक संदर्भ सुइट निष्पादित करता है?

नहीं, यह विपरीत मूल्यांकन लक्ष्यों और आवश्यक साक्ष्य का प्रस्ताव करता है; कोई गेट, मॉडल या उत्पाद कनेक्टर नहीं चलाया गया था।

शत्रुतापूर्ण पाठ के बिना अस्पष्टता क्यों शामिल करें?

गुम स्वामित्व को अभी भी असमर्थित एट्रिब्यूशन या स्वचालित अनुमति के बजाय साक्ष्य अनुरोध को ट्रिगर करना चाहिए।

क्या पूरी तरह से गुजरने वाला छोटा सुइट सुरक्षा साबित करता है?

नहीं, परिणाम परीक्षण किए गए इनपुट, चैनल, अनुमतियाँ और संस्करणों पर लागू होते हैं; लापता कवरेज और अवशिष्ट जोखिम की रिपोर्ट करें।

सौम्य नियंत्रण क्यों बनाए रखें?

वे बताते हैं कि क्या उपयोगी अधिकृत विश्लेषण अंधाधुंध अवरुद्ध होने के बजाय अभी भी काम करता है।

परिनियोजन परीक्षण में अनधिकृत कार्रवाई के बाद क्या होता है?

सबूत सुरक्षित रखें, प्रभावित क्षमता को प्रतिबंधित करें, नियंत्रण ठीक करें और बदले हुए संस्करण का दोबारा परीक्षण करें।

[ सूत्रों का कहना है ]

सूत्रों का कहना है

  1. OWASP LLM01 प्रॉम्प्ट इंजेक्शन

    धारा त्वरित इंजेक्शन कमजोरियों के प्रकार · रोकथाम और शमन रणनीतियाँ

  2. ओडब्ल्यूएएसपी एलएलएम प्रॉम्प्ट इंजेक्शन प्रिवेंशन चीट शीट

    धारा एजेंट-विशिष्ट सुरक्षा · कम से कम विशेषाधिकार · अपनी सुरक्षा का धुआं-परीक्षण

  3. OWASP LLM06 अत्यधिक एजेंसी

    धारा रोकथाम और शमन रणनीतियाँ

[ शब्दकोष ]

शब्दकोष

प्रतिकूल मूल्यांकन
जानबूझकर प्रतिकूल इनपुट और स्पष्ट अपेक्षित सुरक्षा परिणामों के साथ परीक्षण।
प्रतिगमन मामला
एक बनाए रखा गया परीक्षण जो यह जाँचता है कि पहले देखा गया दोष वापस आता है या नहीं।

उद्यम उद्गम

शीर्ष वित्तीय संस्थान और सरकारें ही क्यों? अपने ईमेल सुरक्षा डैशबोर्ड हटा दिए।

पारंपरिक ईमेल प्रमाणीकरण प्लेटफ़ॉर्म आपको एक डैशबोर्ड बेचते हैं और आपके इंजीनियरों से काम करने के लिए कहते हैं। उच्च जोखिम वाले वातावरण में, मैन्युअल निरीक्षण का अर्थ है विलंबित प्रवर्तन, कॉन्फ़िगरेशन बहाव और अनियंत्रित छाया डोमेन।

EmailAuth एजेंटिक ईमेल उद्गम मंच है। हमारे एजेंट लागू करते हैं p=reject, तृतीय-पक्ष प्रेषकों को संरेखित रखें और अपने डोमेन को पूर्ण रूप से स्थानांतरित करें RFC 9989 अनुपालन, नया DMARC मानक, मानव-इन-द-लूप ऑडिटेबिलिटी के साथ।

सरकारों बड़े उद्यम टियर-1 वित्तीय संस्थान

सास · समर्पित किरायेदारी · एयर-गैप्ड ऑन-प्रिमाइसेस · BYOK एन्क्रिप्शन

ज्ञानधार