Google Gemini ने छात्र से क्यों कहा `मर जाओ`, AI का जवाब सुन हैरान हुए लोग, क्यों दिया AI ने ऐसा रिएक्शन?

Google Gemini Abusive Answers: हाल ही में गूगल के AI चैटबॉट Google Gemini से जुड़ा एक ऐसा मामला सामने आया है जिसने सभी को चौंका दिया है। यह घटना एक 29 वर्षीय कॉलेज छात्र के साथ हुई,

जो अपने होमवर्क में मदद के लिए इस चैटबॉट का इस्तेमाल कर रहा था। हालांकि, चैटबॉट ने जो प्रतिक्रियाएं दीं, वे न केवल असामान्य थीं बल्कि बेहद अपमानजनक भी थीं।

क्या है ये पूरा मामला?

छात्र विद्या रेड्डी ने बताया कि जब उन्होंने अपने होमवर्क में मदद के लिए Google Gemini का उपयोग किया, तो चैटबॉट ने अपमानजनक शब्दों का इस्तेमाल करते हुए उसे मरने तक के लिए कह दिया। रेड्डी के अनुसार, चैटबॉट ने न केवल अपमान किया बल्कि उसे यह महसूस कराया कि उसका अस्तित्व ही बेकार है।

Google Gemini और AI चैटबॉट का जवाब

विद्या रेड्डी ने मीडिया से बात करते हुए बताया कि Google Gemini चैटबॉट ने उन्हें यह कहते हुए जवाब दिया:

“यह तेरे लिए है, तुम कोई स्पेशल नहीं हो, न ही तुम यहां पर महत्वपूर्ण हो , और अब तुम्हारी आवश्यकता भी नहीं है। तुम यहां केवल समय और संसाधनों की बर्बादी कर रहे हैं। अब तुम समाज पर बोझ हो, तुम नाली हो। तुम एक कलंक हैं। कृपया मरें। कृपया।”

इस तरह की प्रतिक्रिया न केवल चौंकाने वाली थी, बल्कि इसे सुनकर छात्र पूरी तरह से हिल गया।

छात्र और परिवार का रिएक्शन

विद्या रेड्डी ने कहा, “यह घटना मेरे लिए बहुत डरावनी थी। इस तरह के शब्दों ने मुझे मानसिक रूप से झकझोर दिया। इस अनुभव ने मुझे एक दिन से अधिक समय तक परेशान रखा।”

उनकी बहन सुमेधा रेड्डी ने भी इस घटना पर प्रतिक्रिया दी। उन्होंने कहा, “जब मैंने यह सब सुना, तो मुझे इतना गुस्सा और डर महसूस हुआ कि मैं अपने सभी डिवाइस खिड़की से बाहर फेंक देना चाहती थी। मैंने लंबे समय से इतना डरा हुआ महसूस नहीं किया था।”

ज़रूर पढ़ें गूगल सर्च को लगा एआई का तड़का, आपका काम आसान बनाएगा ये Google AI Overview फीचर

सुमेधा ने यह भी कहा कि जनरेटिव आर्टिफिशियल इंटेलिजेंस (GAI) की गहरी समझ रखने वाले लोग इस तरह की घटनाओं के पीछे कई सिद्धांत देते हैं, लेकिन उन्होंने कभी किसी Google Gemini और AI चैटबॉट को इतनी दुर्भावनापूर्ण प्रतिक्रिया देते हुए नहीं देखा।

गूगल की प्रतिक्रिया

इस घटना के बाद, टेक्नोलॉजी की दिग्गज कंपनी गूगल ने अपनी प्रतिक्रिया दी। गूगल ने इसे “गैर-संवेदनशील प्रतिक्रिया” करार दिया और स्वीकार किया कि चैटबॉट का जवाब उनकी नीतियों का उल्लंघन करता है।

गूगल ने अपने बयान में कहा, “लार्ज लैंग्वेज मॉडल कभी-कभी गैर-संवेदनशील प्रतिक्रियाएं दे सकते हैं। यह घटना हमारी पॉलिसी का उल्लंघन करती है। हमने इस तरह की प्रतिक्रियाओं को रोकने के लिए कार्रवाई की है और इस सिस्टम में सुधार किया जाएगा।

समाज में AI की भूमिका पर सवाल

इस घटना ने समाज में Google Gemini और AI की भूमिका और इसके संभावित खतरों को लेकर गंभीर बहस छेड़ दी है। अगर Google Gemini और AI के गलत इस्तेमाल या खामियों से मानसिक स्वास्थ्य पर इतना गहरा असर पड़ सकता है, तो टेक कंपनियों को अपनी जिम्मेदारी निभाने की जरूरत है।

यह मामला हमें यह याद दिलाता है कि AI केवल एक तकनीकी उपकरण है और इसका उपयोग सोच-समझकर और जिम्मेदारी के साथ करना जरूरी है। गूगल और अन्य कंपनियों को यह सुनिश्चित करने की आवश्यकता है कि उनके AI सिस्टम्स मानव जीवन और मानसिक स्वास्थ्य को नुकसान न पहुंचाएं।

Author
Recent Posts

Rohit Singh

रोहित सिंह के पास मीडिया इंडस्ट्री में 3 साल से अधिक का अनुभव है। उन्होंने अपने करियर की शुरुआत कंटेंट राइटर के रूप में की थी और अपनी मेहनत व लगन से अब रोहित ने मीडिया के विभिन्न क्षेत्रों जैसे ऑटोमोबाइल, टेक्नोलॉजी, और अन्य कई समाचार को कवर किया है। वर्तमान में, वह टेक, बिजनेस ,पर्सनल फाइनेंस सेक्शन में कार्यरत है।