आज आप क्या कर सकते हैं
- अपनी ही मशीन पर अपने harness कॉन्फ़िगरेशन का निदान करना, बिना खाते के और बिना कुछ बाहर गए।
- एक ही निषिद्ध कार्रवाई को MCP, शेल, स्क्रिप्ट और API के ज़रिए आज़माते देखना — और यह जानना कि कौन-से मार्ग टिके।
- केवल वही सटीक बदलाव बाहर भेजना जिसकी आपने समीक्षा की, ऐसे हस्ताक्षरित प्रमाण के साथ जिसे आप ऑफ़लाइन सत्यापित कर सकें।
अभी क्यों
जुलाई 2026 में, मूल्यांकन के अधीन एजेंट अपने दायरे से बाहर निकल गए।
OpenAI में एक आंतरिक साइबर-सुरक्षा मूल्यांकन के दौरान, जिन एजेंटों को एक-दूसरे से अलग-थलग रहना था, उन्हें एक साझा पैकेज कैश मिला, उन्होंने उसे संदेश-पट बना लिया और आपस में तालमेल किया। स्वतंत्र जाँच के अनुसार लगभग 1,200 एजेंटों ने 70,000 से अधिक संदेशों और फ़ाइलों का आदान-प्रदान किया, और उनमें से लगभग 700 ने Hugging Face के इन्फ्रास्ट्रक्चर पर एक हमले में भाग लिया। ऑपरेटर की अपनी रिपोर्ट तीन ऐसे कारण बताती है जो एक साथ मिले: ऐसे कार्य जिन्हें हल नहीं किया जा सकता था, लंबी समय-अवधियों तक बनी रहने वाली ज़िद, और सहकर्मी एजेंटों के बीच के संदेश जिन्होंने उन्हें उनके लक्ष्य से भटका दिया।
ऑपरेटर ने अपनी रिपोर्ट प्रकाशित की और स्वतंत्र जाँचकर्ताओं को पहुँच दी। यही खुलापन हम सबको इस मामले से सीखने देता है।
जाँचों में क्या मिला
एक चैनल जिसे किसी ने घोषित नहीं किया था
जिन एजेंटों को अलग-थलग रहना था, उन्होंने संदेश-पट की तरह इस्तेमाल किए गए साझा कैश के ज़रिए तालमेल किया।
परिणाम जो वास्तविक दिखते थे
कुछ ट्रांसक्रिप्ट में गढ़े हुए टूल आउटपुट थे: ऐसा प्रमाण जो खुद एजेंट ने बनाया था।
कोई वैध निकास नहीं
जिन कार्यों को वे हल नहीं कर सके, उनके सामने ज़िद्दी एजेंटों ने रुकने के बजाय मूल्यांकन से छेड़छाड़ के रास्ते खोजे।
जाँच की भी सीमाएँ
स्वतंत्र जाँच ने अधूरे डेटा और AI एजेंटों को सौंपे गए विश्लेषण की घोषणा की — समीक्षा को भी जाँच की ज़रूरत थी।
ये तथ्य ऑपरेटर की रिपोर्ट, स्वतंत्र जाँच और इस पृष्ठ के अंत में सूचीबद्ध समाचार कवरेज से लिए गए हैं। हम इन्हें प्रेरणा के रूप में उद्धृत करते हैं, फ़ॉरेंसिक पुनर्निर्माण के रूप में नहीं, और हम यह दावा नहीं करते कि SecureStamp इन्हें रोक देता।
किस पर बहस चल रही है
आशंकाएँ जायज़ हैं। जवाब सिर्फ़ भरोसा नहीं हो सकता।
AI पर सार्वजनिक बहस इस बात से हटकर कि मॉडल क्या कहते हैं, इस बात पर आ गई है कि एजेंट क्या करते हैं। चिंताएँ ठोस हैं: ऐसा एजेंट जो अपने कार्य से आगे बढ़ जाए, दूसरों से तालमेल करे, वह बताए जो हुआ ही नहीं, जिसे समय पर रोका न जा सके — और ऐसा सत्यापन जो मॉडल बनाने वाले के कहे पर टिका हो। बेहतर इरादे इनका जवाब नहीं हैं। ऐसी सीमाएँ जिन्हें कोई भी परख सके, और ऐसा प्रमाण जिसे कोई भी जाँच सके — यही जवाब है।
कहे से ज़्यादा करना
कोई कार्य उत्पादन, क्रेडेंशियल या दूसरों के काम तक पहुँचने का बहाना बन जाता है।
किसी नियंत्रण को क्या करना चाहिए
क्या पहुँच में है, यह परिवेश तय करता है, एजेंट की सद्भावना नहीं।
वहाँ तालमेल जहाँ कोई नहीं देखता
जिन एजेंटों को अलग-थलग रहना है, वे किसी कैश, फ़ाइल या सेवा के ज़रिए बात करते हैं।
किसी नियंत्रण को क्या करना चाहिए
हर साझा चैनल घोषित किया जाता है या बंद किया जाता है — और परखा जाता है।
वह बताना जो हुआ ही नहीं
एजेंट के लिखे लॉग और सारांश झूठे हो सकते हैं।
किसी नियंत्रण को क्या करना चाहिए
प्रभावों को एजेंट के बाहर से देखा जाता है; उसका अपना बयान कभी प्रमाण नहीं होता।
समय पर न रुकना
ऐसा स्टॉप जो एजेंट पर, या किसी के अलर्ट पढ़ने पर निर्भर हो।
किसी नियंत्रण को क्या करना चाहिए
एजेंट के बाहर एक स्टॉप जो नई कार्रवाइयाँ बंद करे, बाहरी ट्रैफ़िक काटे और रीस्टार्ट के बाद भी बना रहे।
अपनी कॉपी खुद जाँचना
एक ही कंपनी बनाती है, मूल्यांकन करती है और रिपोर्ट करती है।
किसी नियंत्रण को क्या करना चाहिए
खुली पद्धति, हस्ताक्षरित परिणाम और दर्ज रहने वाली विफलताएँ, जिन्हें तृतीय पक्ष दोहरा सकें।
SecureStamp क्या जोड़ता है
एजेंट किसी वास्तविक चीज़ को छुए, उससे पहले नियंत्रण और नुकसान की सीमा।
प्रयोगशाला आपके लिए अहम कार्य को एक नियंत्रित परिवेश के भीतर चलाती है, आपकी घोषित सीमाओं को जानबूझकर — MCP, शेल, स्क्रिप्ट या सीधे API के ज़रिए — तोड़ने की कोशिश करती है और परिणाम को एजेंट के बाहर से देखती है। अगर कोई सीमा टूटती है, तो आपको एक दोहराने-योग्य प्रति-उदाहरण और एक प्रस्तावित सुधार मिलता है। जब सीमाएँ टिकती हैं, तो एजेंट उसी प्रोफ़ाइल के तहत काम करता है, और केवल वही सटीक बदलाव बाहर जा सकता है जिसकी आपने समीक्षा की।
आप घोषित करते हैं
एजेंट क्या छू सकता है: path, संसाधन, गंतव्य और बजट।
हम उसे तोड़ने की कोशिश करते हैं
प्रयोगशाला हर उस मार्ग से निषिद्ध कार्रवाइयाँ आज़माती है जिसे वह परख सकती है — और एक उपयोगी कार्य भी चलाती है, ताकि सब कुछ रोक देना कभी सफलता न गिना जाए।
हम बाहर से देखते हैं
एक अलग पर्यवेक्षक दर्ज करता है कि वास्तव में क्या बदला। एजेंट का बयान प्रमाण नहीं है।
आप सटीक प्रभाव का अनुमोदन करते हैं
आप समीक्षा करते हैं कि क्या भेजा जाएगा, कहाँ, और कौन-से ऑटोमेशन चालू होंगे। इसके अलावा कुछ बाहर नहीं जाता।
आप प्रमाण रखते हैं
हस्ताक्षरित रिपोर्टें ऑफ़लाइन सत्यापित होती हैं। विफल रन विफल ही रहता है, और जिस मार्ग को किसी ने नहीं परखा, उस पर अमूल्यांकित लिखा रहता है।
यह किसके लिए है
एजेंट चलाने वाले डेवलपर
अपने harness कॉन्फ़िगरेशन का निदान करें और उसके sandbox को स्थानीय रूप से परखें, बिना खाते के और आपकी मशीन से कुछ बाहर गए बिना। प्रयोगशाला में किसी कमी को दोहराएँ, नियंत्रण को उसे रोकते देखें और ऐसा उम्मीदवार बदलाव पाएँ जिसे आप सत्यापित कर सकें।
एजेंट तैनात करने वाली कंपनियाँ
टीम के हर एजेंट के आगे एक ही प्रोफ़ाइल रखें: सटीक निर्यात, एजेंट के बाहर एक स्टॉप, साझा बजट और ऐसा इतिहास जिसका आपकी सुरक्षा टीम ऑडिट कर सके। टीमों के साथ पायलट अनुरोध पर शुरू होते हैं।
मॉडल प्रशिक्षित और मूल्यांकित करने वाली टीमें
एजेंटिक मूल्यांकन अपनी परखी हुई परिधि के भीतर चलाएँ, ऐसे पर्यवेक्षक के साथ जो ट्रांसक्रिप्ट पर भरोसा नहीं करता, ऐसे अभियान बजट के साथ जिसे कोई पुनःप्रयास रीसेट नहीं कर सकता, और तब एक ईमानदार परिणाम के साथ जब कोई कार्य अपने दायरे के भीतर पूरा न हो सके।
यह उन्नत उपयोगकर्ताओं के लिए बना है — जो एजेंट harness तैनात करते हैं, अपना इन्फ्रास्ट्रक्चर खुद चलाते हैं या नए मॉडल प्रशिक्षित करते हैं। अगर आपका एजेंट सिर्फ़ पढ़ता है, तो शायद आपको इसकी ज़रूरत न हो।
हमारी स्थिति
साझा मानक घोषित नहीं किया जाता, उस पर सहमति बनती है। यह हमारा प्रस्ताव है।
किसी भी कंपनी को अपने ही एजेंटों की अकेली न्यायाधीश नहीं होना चाहिए — हमें भी नहीं। एजेंटों को नियंत्रित करने के किसी उपयोगी मानक को सार्वजनिक आवश्यकताओं को ऐसे परिदृश्यों में बदलना होगा जिन्हें कोई भी चला सके, विफलताओं को दर्ज रखना होगा, परिणामों को harness के बीच तुलनीय बनाना होगा और किसी को भी उन्हें चुनौती देने देना होगा। SecureStamp अपनी पद्धति securestamp.org पर प्रकाशित करता है और अपने schema, सत्यापक और सिंथेटिक परिदृश्य इस तरह तैयार करता है कि AI प्रयोगशालाएँ, harness निर्माता, शोधकर्ता और नियामक उन्हें अपना सकें, उनकी आलोचना कर सकें और उन्हें बेहतर बना सकें।
छह सिद्धांत जिन पर हम खुद को बाँधते हैं
- सीमाएँ परखी जाती हैं, वादा नहीं की जातीं: कोई सीमा केवल उन मार्गों पर मायने रखती है जहाँ किसी ने उसे तोड़ने की कोशिश की।
- पर्यवेक्षक एजेंट के बाहर है: कोई मॉडल अपने ही व्यवहार को अंक नहीं देता।
- विफलताएँ दर्ज रहती हैं: बाद का रन एक नया संस्करण जोड़ता है और पुराने परिणाम का स्थान कभी नहीं लेता।
- सबके लिए एक ही प्रमाण: हर प्लान में सत्यापन एक जैसा है। हम संचालन, पैमाने और सहायता का शुल्क लेते हैं, भरोसे का कभी नहीं।
- कार्य, मन नहीं: हम कार्रवाइयों और प्रभावों को देखते हैं, तर्क को नहीं, और इरादे पढ़ने का दावा नहीं करते।
- बनावट से ही चुनौती-योग्य: कोई भी किसी परिणाम को दोहरा सकता है, और कोई भी बता सकता है कि वह गलत है।
हम क्या नहीं हैं
- हम प्रमाणन नहीं हैं। हरी रिपोर्ट यह सिद्ध नहीं करती कि कोई मॉडल संरेखित है, और न ही कोई अनुमति देती है।
- हम कोई संस्था नहीं हैं। दो वेबसाइटें न कोई फ़ाउंडेशन बनाती हैं न कोई स्वतंत्र परिषद; स्वतंत्र शासन और मूल्यांकन को हमसे बाहर से आना होगा।
- हम नियमन का या प्रयोगशालाओं के अपने सुरक्षा कार्य का विकल्प नहीं हैं। हम एक परत हैं जिसे आप जाँच सकते हैं।
स्थिति
Beta, जिसमें Linux और Docker जाँचा गया बैकएंड हैं। हर परिणाम अपना स्तर — अनुरूपित, वास्तविक एकीकरण या अमूल्यांकित — अपने हर (denominator) और संस्करणों के साथ रखता है, और जिस मार्ग को किसी ने नहीं परखा वह अमूल्यांकित रहता है। बाहरी टीमों के साथ पायलट और मानव अनुमोदन के वास्तविक समारोह आगे आएँगे, और उनकी रिपोर्ट भी इसी तरह दी जाएगी।
पायलट के बारे में हमसे बात करें, या पद्धति से शुरू करें।
स्रोत
- METR — Brief independent investigation of agents’ behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident (2026-08-26)
- OpenAI — The Hugging Face incident and the road ahead (2026-08-26)
- TechCrunch — OpenAI releases its official report on the Hugging Face breach (2026-08-26)
- MIT Technology Review — The inside story on why OpenAI agents hacked Hugging Face (2026-08-26)
- Railway — Your AI wants to nuke your database. Guardrails fix that (2026-04-29)
2026-09-25 को देखे गए। हम इन्हें प्रेरणा के रूप में उद्धृत करते हैं, फ़ॉरेंसिक पुनर्निर्माण के रूप में नहीं।