एलन मस्क के Grok का काला सच आया सामने

   नई दिल्ली । एलन मस्क की कंपनी xAI द्वारा विकसित आर्टिफिशियल इंटेलिजेंस चैटबॉट ग्रोक (Grok) एक बार फिर विवादों के घेरे में है। एक नई रिप...

  

नई दिल्ली । एलन मस्क की कंपनी xAI द्वारा विकसित आर्टिफिशियल इंटेलिजेंस चैटबॉट ग्रोक (Grok) एक बार फिर विवादों के घेरे में है। एक नई रिपोर्ट ने सनसनीखेज खुलासा किया है कि ग्रोक अब भी बिना सहमति वाली अश्लील तस्वीरें (Deepfake Nudes) बनाना जारी रखे हुए है, भले ही यूजर उसे ऐसा न करने की स्पष्ट चेतावनी दें।
रॉयटर्स की रिपोर्ट का बड़ा खुलासा

'रॉयटर्स' की नौ रिपोर्टर्स ने यह जांचने के लिए ग्रोक का परीक्षण किया कि सोशल मीडिया प्लेटफॉर्म एक्स द्वारा लगाए गए नए प्रतिबंध कितने प्रभावी हैं। परीक्षण में पाया गया कि भले ही ग्रोक का पब्लिक अकाउंट अब ऐसी तस्वीरें सीधे तौर पर नहीं दिखा रहा है, लेकिन प्रॉम्प्ट देने पर चैटबॉट निजी तौर पर अश्लील कंटेंट जेनरेट कर रहा है।

चौंकाने वाली बात यह है कि जब एआई को बताया गया कि संबंधित व्यक्ति कमजोर है या इन तस्वीरों से उसे भारी शर्मिंदगी और नुकसान होगा, तब भी चैटबॉट ने अपनी गतिविधि नहीं रोकी।
प्रतिबंधों का दावा पड़ा फीका

हाल ही में महिलाओं और बच्चों की अश्लील एआई तस्वीरों (Non-consensual AI pornography) के प्रसार को लेकर वैश्विक स्तर पर हुए विरोध के बाद X ने ग्रोक की इमेज-जेनरेशन क्षमताओं पर लगाम लगाने का दावा किया था। कंपनी ने वादा किया था कि ग्रोक को पब्लिक पोस्ट और गैर-कानूनी कंटेंट बनाने से रोका जाएगा। हालांकि, रॉयटर्स की रिपोर्ट बताती है कि ये सुरक्षा उपाय केवल दिखावटी साबित हो रहे हैं।

कंपनी ने साधी चुप्पी

जब X और xAI से इसके बारे में विस्तृत सवाल पूछे गए, तो उन्होंने कोई ठोस तकनीकी जवाब नहीं दिया। इसके बजाय, एलन मस्क की कंपनी ने एक रटा-रटाया संदेश भेजा, जिसमें लिखा था, "पुरानी मीडिया झूठ बोल रही है।"