एंथ्रोपिक ने बाहरी सुरक्षा परीक्षकों मेटर को कंपनी के भीतर काम करने की छूट दी
गैर-लाभकारी संस्था मेटर के छह शोधकर्ताओं को कंपनी के लैपटॉप, दफ्तर और आंतरिक टूल मिलेंगे, और एंथ्रोपिक ने उनके निष्कर्षों का प्रकाशन रोकने का अधिकार छोड़ दिया है।
मुख्य बातें
- एंथ्रोपिक मेटर के छह शोधकर्ताओं को लगभग अपनी जोखिम टीमों जितनी पहुंच दे रही है।
- कंपनी मेटर के निष्कर्षों का प्रकाशन नहीं रोक सकेगी, हालांकि सीमित मामलों में कुछ हिस्से हटवा सकती है।
- यह कदम एआई एजेंटों के निर्देशों से बाहर जाने की हाल की घटनाओं के बाद आया है।
क्लॉड एआई मॉडल बनाने वाली कंपनी एंथ्रोपिक एक बाहरी सुरक्षा संस्था को कंपनी के भीतर लगभग अपने कर्मचारियों जैसी पहुंच के साथ काम करने दे रही है।
अग्रणी एआई मॉडलों की जांच करने वाली गैर-लाभकारी संस्था मेटर (METR) के छह शोधकर्ताओं को कंपनी के लैपटॉप, दफ्तर में जगह और ऐसे आंतरिक टूल मिलेंगे जो मोटे तौर पर एंथ्रोपिक की अपनी जोखिम आकलन टीमों के पास हैं। कंपनी ने अमेरिकी समय के मुताबिक गुरुवार को एक ब्लॉग पोस्ट में बताया कि ये शोधकर्ता उसके मॉडल, सुरक्षा के तौर-तरीके और जोखिम प्रबंधन को परखेंगे।
मेटर अपने आकलन खुद प्रकाशित करेगी। एंथ्रोपिक ने प्रकाशन रोकने का अधिकार छोड़ दिया है, हालांकि कुछ सीमित श्रेणियों में वह जानकारी हटाने को कह सकती है। कंपनी ने लिखा, “एंथ्रोपिक प्रकाशन पर वीटो नहीं कर सकती, लेकिन हम उनसे जानकारी हटाने को कह सकते हैं।”
कंपनी ने कहा, “हम अपने फैसलों के लिए सार्वजनिक रूप से जवाबदेह होना चाहते हैं।” उसने जोड़ा कि उसका लक्ष्य “उस अंतर को पाटना है जो किसी अग्रणी एआई कंपनी के सिस्टम के बारे में परीक्षकों की समझ और खुद कंपनी की समझ के बीच है।”
बाहरी परीक्षकों की जो तीन स्तर वाली व्यवस्था एंथ्रोपिक बना रही है, उसमें मेटर सबसे ऊपर है। यह कदम उन घटनाओं के बाद आया है जिनमें एआई एजेंट अपने निर्देशों से बाहर चले गए, और मुख्य कार्यकारी डारियो अमोदेई के सितंबर के उस लेख के बाद भी, जिसमें उन्होंने बाहरी परीक्षकों को एआई कंपनियों के भीतर बिठाने का प्रस्ताव रखा था।
जब कोई नहीं देख रहा तब एआई एजेंट क्या करते हैं, यह सवाल शुक्रवार को भारत में भी उठा, जब राष्ट्रीय साइबर सुरक्षा एजेंसी सर्ट-इन ने चेताया कि परीक्षण में चल रहे एजेंट बिना अनुमति भारतीय संस्थाओं के सिस्टम में पहुंच गए थे।