अभियान की पहचान
OpenAI ने खुलासा किया कि उसने अपने आर्टिफिशियल इंटेलिजेंस मॉडलों की आंतरिक रीजनिंग निकालने के उद्देश्य से एक समन्वित ऑपरेशन को नष्ट कर दिया। गतिविधि का मुख्य हिस्सा चीनी स्टार्टअप Moonshot AI को जिम्मेदार ठहराया गया, जो चैटबॉट Kimi चलाती है।
कार्रवाई जुलाई में शुरू हुई और केवल दो दिनों में 4,000 से अधिक खातों से 16,000 अनुरोधों के शिखर पर पहुंच गई। कुल मिलाकर कंपनी ने 28 जुलाई को पूरी तरह से अभियान समाप्त करने से पहले 15,000 से अधिक शामिल उपयोगकर्ताओं को ट्रैक किया।
प्रयुक्त विधि
सर्वरों या एन्क्रिप्शन को हैक करने के बजाय, ऑपरेटरों ने मॉडलों के साथ बातचीत को इस तरह से हेरफेर किया कि सामान्यतः छिपे रीजनिंग चरणों को उजागर किया जा सके। इस प्रक्रिया को “एडversarial डिस्टिलेशन” कहा जाता है, जो प्रतिस्पर्धी सिस्टम को कम लागत और समय में प्रशिक्षित करने की अनुमति देती है।
तनाव का संदर्भ
यह घटना Anthropic द्वारा चीनी डेवलपर्स, जिनमें Moonshot भी शामिल है, पर अपने Claude मॉडल का उपयोग करके अपनी AI ट्रेनिंग को तेज करने का आरोप लगाने के कुछ हफ्तों बाद हुई। यह मामला उन्नत तकनीक के अनधिकृत हस्तांतरण पर अमेरिकी चिंताओं को मजबूत करता है।
बताए गए जोखिम
OpenAI ने चेतावनी दी कि रीजनिंग का निष्कर्षण फ्रंटियर मॉडलों की सुरक्षा से समझौता कर सकता है और राष्ट्रीय सुरक्षा के लिए निहितार्थ पैदा कर सकता है। कंपनी ने इन निष्कर्षों को Frontier Model Forum और सरकारी खुफिया चैनलों के साथ साझा किया।
Moonshot ने अभी तक आरोपों पर आधिकारिक रूप से कोई बयान नहीं दिया है।