AI Grok: सोशल मीडिया प्लेटफॉर्म X के AI चैटबॉट Grok को दुनिया भर में अश्लील और डीपफेक तस्वीरें बनाने के आरोपों के बाद विवादों में घेरा गया है। इंडोनेशिया और मलेशिया ने इसे अस्थायी रूप से बैन कर दिया है। भारत, ब्रिटेन और यूरोप की सरकारें भी इस मामले पर चिंता जता चुकी हैं।
अश्लील कंटेंट रोकने के लिए बदलाव
X ने Grok की पॉलिसी में बदलाव किए हैं ताकि कोई भी यूजर किसी की बिना सहमति अश्लील तस्वीरें नहीं बना सके, ये दावा कंपनी की ओर से किया जा रहा है। कंपनी ने चेतावनी दी है कि नियम तोड़ने वाले यूजर के अकाउंट को हमेशा के लिए बंद किया जाएगा। साथ ही अगर कोई अश्लील तस्वीरें बनाने की कोशिश करता है तो उसके खिलाफ पुलिस कार्वायही की जा सकती है।
हालांकि, कंपनी का दावा झूठा साबित होता नजर आ रहा है, टेस्टिंग में पाया गया कि Grok अभी भी कुछ अश्लील तस्वीरें बनाने में सक्षम है।
READ MORE: ईरानी सरकार ने ट्रंप को दी जान से मारने की धमकी; ईरान में फंसे 10 हजार भारतीय
सरकारी कार्रवाई
भारत सरकार ने X को 72 घंटे का अल्टीमेटम दिया और 3500 आपत्तिजनक पोस्ट हटाने के साथ 600 से अधिक अकाउंट डिलीट किए गए। मलेशिया और इंडोनेशिया ने भी सुरक्षा उपायों की मांग की। ब्रिटेन में आने वाले कानून के तहत बिना सहमति अश्लील डीपफेक बनाना अपराध होगा।
डिजिटल सुरक्षा पर सवाल
Grok विवाद अंतरराष्ट्रीय स्तर पर चर्चा का विषय बन गया है। AI टूल से बनाई जाने वाली नकली तस्वीरें असली जैसी दिखती हैं, जिससे लोगों को खतरा है। सरकारें चाहती हैं कि AI कंपनियां सख्त सुरक्षा उपाय लागू करें ताकि तकनीक का गलत इस्तेमाल रोका जा सके।
READ MORE: विराट कोहली बने 5 साल बाद नंबर-1 वनडे बल्लेबाज; कोहली ने रोहित को पीछे छोड़ा
