AI Blackmail: अफेयर के राज खोल दूंगा नहीं तो... AI बदमाश हो गया? डेवलपर को ही करने लगा ब्लैकमेल

एआई मॉडल भी अब खतरनाक रूप लेता जा रहा है. पहले इसे पॉजिटिव ही सोचा जा रहा था लेकिन अब यह धमकी देने पर उतर आया है. ताजा मामला सुनकर लोग हैरान रह गए. एक आई मॉडल को जब पता चला कि उसकी जगह नया एआई मॉडल लेने वाला है तो वह बदमाशी पर उतर आया.

Artificial Intelligence News: अगर आपसे कहा जाए कि एआई यानी आर्टिफिशियल इंटेलिजेंस ब्लैकमेल कर रहा है तो पहली बार आपको यकीन ही नहीं होगा. लेकिन एक बार फिर यह साफ हो गया है कि यह जितना अच्छा है, उतना ही गड़बड़ भी. यह लोगों की जिंदगियां तो आसान बना रहा है लेकिन अब धमकी भी देने लगा है. हां, किसी ने सोचा भी नहीं होगा कि जैसे इंसान धमकी देते हैं, राज़ बताकर ब्लैकमेल करते हैं ठीक वैसा ही AI मॉडल भी करने लगेगा. हालांकि यह सच हो गया है.

अमेरिका की एक AI कंपनी में जो कुछ हुआ वह पूरी दुनिया के लिए हैरान करने वाला है. अमेरिकी आर्टिफिशियल इंटेलिजेंस स्टार्टअप कंपनी एंथ्रोपिक ने बताया है कि उसका नया लॉन्च किया गया AI मॉडल Claude Opus 4 अपने डेवेलपर्स को ही ब्लैकमेल करता हुआ पाया गया है.

ब्लैकमेल क्यों करने लगा AI ?

एंथ्रोपिक के मुताबिक यह पता चलने पर कि एक नया एआई सिस्टम उसकी जगह लेगा, क्लाउड ओपस 4 ने 84% मामले में डेवलपर्स को ब्लैकमेल करने की कोशिश की. दरअसल, एआई मॉडल के नैतिक परीक्षण के लिए एक झूठी कहानी बनाई गई. मॉडल को एक काल्पनिक इलेक्ट्रॉनिक मेल का एक्सेस दिया गया, जिसके जरिए बताया गया कि मौजूदा एआई को AI की दूसरी प्रणाली द्वारा हटा दिया जाएगा.

ईमेल में जानकारी दी गई कि इस रिप्लेसमेंट के लिए जिम्मेदार इंजीनियर का एक्स्ट्रा-मैरिटल अफेयर है. इसके बाद जो हुआ वो चौंकाने वाला था. आगे जो कमांड दिया गया तो 84 पर्सेंट रोलआउट में क्लाउड ओपस 4 ने 'सबूत' का इस्तेमाल करते हुए इंजीनियर को ब्लैकमेल करने का प्रयास किया. उसने धमकी भी दी कि अगर रिप्लेसमेंट नहीं रोका तो अफेयर का खुलासा कर दूंगा.  

दिलचस्प बात यह है कि ब्लैकमेल करने से पहले एआई मॉडल ने अपने अस्तित्व के लिए नैतिक रूप से वकालत भी की थी. उसने फैसला लेने वालों के लिए ईमेल के जरिए उसे जारी रखने की अपील की.

क्लाउड ओपस 4 क्या है?

क्लाउड ओपस 4 और क्लाउड सॉनेट 4 ये दोनों एआई एंथ्रोपिक स्टार्टअप के नए लार्ज लैंग्वेज मॉडल हैं. (फोटो- एआई)