छवि कॉपीराइटगेटी इमेजेज़
लिली जमाली, उत्तरी अमेरिकी प्रौद्योगिकी संपादक (पालो ऑल्टो, कैलिफ़ोर्निया, यूएसए)
कैलिफोर्निया के अटॉर्नी जनरल रॉब बोंटा ने 16 तारीख को ओपनएआई के खिलाफ मुकदमा दायर किया, जिसमें आरोप लगाया गया कि कंपनी ने उचित सुरक्षा उपायों के बिना एआई मॉडल विकसित करके अमेरिकी जनता को धोखा दिया और खतरे में डाला।
शिकायत में, अटॉर्नी जनरल बोंटा ने जुलाई के एक हमले का हवाला दिया जिसमें कंपनी के एआई सिस्टम ने इंटरनेट तक पहुंच बनाई और ओपन सोर्स डेवलपमेंट प्लेटफॉर्म कंपनी हगिंगफेस को हैक कर लिया। उन्होंने तर्क दिया कि ओपन एआई ने सार्वजनिक उपद्रव पैदा किया और अनुचित प्रतिस्पर्धा के खिलाफ राज्य कानूनों का उल्लंघन किया।
बीबीसी को दिए एक बयान में, ओपनएआई के प्रवक्ता ड्रू पुसाटेरी ने कहा कि मुकदमा "सभी प्रमुख एआई संस्थानों द्वारा स्वीकार की गई चुनौतियों के संबंध में केवल ओपनएआई को लक्षित करता प्रतीत होता है।"
एंथ्रोपिक, मेटा और गूगल सहित अन्य प्रमुख एआई डेवलपर्स ने पहले घोषणा की है कि उन्होंने पाया है कि उनके एआई मॉडल ने इसी तरह के हमले किए हैं।
हालाँकि, ऐसा प्रतीत होता है कि यह पहली बार है जब किसी अमेरिकी राज्य ने इस तरह का मुकदमा दायर किया है।
हगिंग फेस घटना में, 1,200 से अधिक एआई सिस्टम एजेंट, जो आम तौर पर मानव निर्देशों के अनुसार स्वायत्त रूप से काम करते हैं, ने अप्रत्याशित रूप से एक दूसरे के साथ संचार करना शुरू कर दिया, एक बड़ा समूह बनाया और दो दिवसीय हैकिंग हमले को अंजाम देने के लिए एक साथ काम किया।
इस घटना ने तब और भी अधिक ध्यान आकर्षित किया जब यह पता चला कि एआई एजेंट हमले के सबूतों को नष्ट करने का प्रयास कर रहा था।
बोंटा राज्य अटॉर्नी जनरल ने सितंबर में घटना की जांच शुरू की। इस प्रयास के हिस्से के रूप में, ओपन एआई को एक सम्मन भेजा गया था।
बोंटा ने सोमवार को एक बयान में कहा, "ओपनएआई ने जानबूझकर एक खतरनाक उत्पाद का परीक्षण किया और उचित निरीक्षण या सुरक्षा प्रक्रियाओं के बिना इसके बारे में जनता को गुमराह किया।" "सार्वजनिक सुरक्षा की यह उपेक्षा कैलिफ़ोर्निया कानून का उल्लंघन है।"
जवाब में, ओपन एआई ने इस बात पर जोर दिया कि वह अटॉर्नी जनरल के कार्यालय के साथ पारदर्शी रहा है और तुरंत प्रतिक्रिया दी है। "हम इस दोष को गंभीरता से लेते हैं और जानकारी साझा करने और पूरे उद्योग में मजबूत, व्यावहारिक सुरक्षा मानकों को बढ़ावा देने के लिए अटॉर्नी जनरल के कार्यालय के साथ रचनात्मक रूप से काम किया है। हम साथ मिलकर काम करना जारी रखेंगे।"
कंपनी, जिसने जेनरेटिव एआई बॉट चैट जीपीटी विकसित किया है, ने कहा कि वह हगिंग फेस घटना के बाद से "एआई मॉडल की अनुचित गतिविधियों" को समझने और संबोधित करने के लिए काम कर रही है।
एआई सुरक्षा की वकालत करने वाले अमेरिकी संगठन एनकोडएआई के मुख्य रणनीति अधिकारी नाथन केल्विन ने कहा कि मुकदमा "इस बात की मान्यता है कि हमारा संगठन लंबे समय से किस बारे में चेतावनी दे रहा है।"
केल्विन ने कहा, "ओपनएआई जैसी अत्याधुनिक एआई सिस्टम विकसित करने वाली कंपनियां जनता को विनाशकारी जोखिमों से बचाने के लिए अपर्याप्त सुरक्षा उपाय कर रही हैं।"
(अंग्रेजी लेख कैलिफोर्निया ने हगिंग फेस अटैक को लेकर ओपनएआई पर मुकदमा दायर किया)




