ग्रोक की प्रतिक्रियाओं पर ‘एक्स के संपर्क में सरकार’

उद्देश्य, इस व्यक्ति के अनुसार, जिसने नाम नहीं लिया, यह समझना है कि ग्रोक भारतीय भाषाओं में अपवित्रता से संबंधित प्रतिक्रियाएं क्यों उत्पन्न कर सकता है, जिसमें अनुवादित हिंदी शामिल है।

अभी तक इस मुद्दे पर एक्स को कोई औपचारिक संचार या नोटिस नहीं भेजा गया है।

अधिकारियों के लिए एक महत्वपूर्ण प्रश्न यह निर्धारित करना है कि इस तरह की प्रतिक्रियाओं के लिए कौन जिम्मेदार है – उपयोगकर्ता जो एक विशेष प्रकार की प्रतिक्रिया को प्राप्त करने के लिए संकेत में प्रवेश करता है, एलएलएम के निर्माता या चैटबोट (एक्स के मामले में एक्सई के मामले में एक्सई, एक्स के मालिक एलोन मस्क), या मध्यस्थ जो इस तरह की पहुंच उपलब्ध कराता है (इस मामले में एक्स/ट्विटर)।

“ग्रोक द्वारा कई प्रतिक्रियाओं में, उपयोगकर्ता संकेत हमेशा दिखाई नहीं देते हैं। हमें यह देखने की जरूरत है कि उपयोगकर्ता ने भी क्या पूछा,” अधिकारी ने समझाया। इसका मतलब यह हो सकता है कि मेटी इस तरह के चैटबॉट्स द्वारा उत्पन्न आउटपुट देख सकती है, जैसे कि उपयोगकर्ता द्वारा सह-निर्मित सामग्री और चैटबॉट को अंतर्निहित मॉडल।

जिम्मेदारी असाइन करना महत्वपूर्ण है कि किसे उत्तरदायी ठहराया जा सकता है और क्या एक मध्यस्थ जैसे एक्स भारतीय कानून के तहत सुरक्षित बंदरगाह संरक्षण (यानी, तृतीय-पक्ष सामग्री के लिए देयता से सुरक्षा) का दावा कर सकता है। अब तक, अधिकारी ने कहा, एक्स का सेफ हार्बर प्रोटेक्शन बरकरार है।

अधिकारी ने कहा, “यह कहां से आ रहा है? उनकी प्रारंभिक प्रतिक्रियाओं में, एक्स ने कहा है कि मॉडल को ओपन-सोर्स इंटरनेट पर प्रशिक्षित किया गया है।”

वायरल होने वाली प्रतिक्रियाओं में ग्रोक ट्वीट शामिल हैं जो मानव जननांगों को संदर्भित करते हैं। अधिक राजनीतिक प्रतिक्रियाओं में वे शामिल हैं जो प्रधानमंत्री नरेंद्र मोदी को एक सांप्रदायिक व्यक्ति के रूप में संदर्भित करते हैं और ऑनलाइन विघटन के बड़े पैमाने पर फैलने वालों की एक सूची, जिनमें से सभी लगभग विशेष रूप से कुछ राजनीतिक दलों या विचारधाराओं के पक्ष में ट्वीट करते हैं।

फरवरी 2024 में, Google की मिथुन ने तत्कालीन राज्य मंत्री के साथ इसी तरह की परेशानी में भाग लिया, जो कि राजीव चंद्रशेखर ने बॉट की प्रतिक्रिया के बारे में एक सवाल के बारे में बताया कि क्या मोदी फासीवादी हैं। इसने एक जल्दबाजी में सलाह दी, जिसे भारत में उपयोगकर्ताओं को उपलब्ध कराए जाने से पहले सरकार से स्पष्ट अनुमति प्राप्त करने के लिए “परीक्षण के तहत” या “अविश्वसनीय” एआई मॉडल की आवश्यकता थी।

सलाहकार को तब संशोधित किया गया था और अनुमति प्राप्त करने की आवश्यकता को खत्म कर दिया गया था।

अधिकारी ने कहा कि मंत्रालय केवल अपवित्रता के साथ प्रतिक्रियाओं की जांच कर रहा है। “अन्य राय हैं। हम इस पर कैसे कार्य कर सकते हैं?”

हालांकि, अधिकारी ने कहा कि यदि यह एक बिंदु से परे एक समस्या बन जाती है, तो विशिष्ट ग्रोक प्रतिक्रियाओं को धारा 69 ए अवरुद्ध प्रक्रिया के माध्यम से अवरुद्ध किया जा सकता है, लेकिन इस तरह के किसी भी यूनियन मंत्रालयों या राज्य सरकारों से इस तरह के किसी भी अनुरोध को अब तक नहीं भेजा गया है।

वैश्विक स्तर पर, इस बात पर कानूनी स्पष्टता की कमी है कि क्या एलएलएमएस कि पावर बॉट जैसे ग्रोक, या बॉट्स खुद, बिचौलियों के रूप में अर्हता प्राप्त करते हैं और इस प्रकार सुरक्षित बंदरगाह का दावा कर सकते हैं। सूचना प्रौद्योगिकी अधिनियम के तहत, एक मध्यस्थ किसी भी व्यक्ति/इकाई को संदर्भित करता है, जो किसी अन्य व्यक्ति की ओर से, इलेक्ट्रॉनिक रिकॉर्ड प्राप्त करता है, स्टोर करता है या प्रसारित करता है या रिकॉर्ड से संबंधित सेवा प्रदान करता है। इसमें दूरसंचार कंपनियां, आईएसपी, खोज इंजन, ऑनलाइन भुगतान साइटें, ऑनलाइन मार्केटप्लेस और अन्य संस्थाओं के एक मेजबान शामिल हैं।

जो सवाल उठता है, वह यह है कि क्या ग्रोक जैसी सेवा स्वयं सामग्री का उत्पादन कर रही है और इस प्रकार एक प्रकाशक की तरह काम कर रही है (और इसलिए उत्तरदायी है) या किसी अन्य व्यक्ति की ओर से जानकारी संचारित कर रही है। बहस में इस बारे में चर्चा भी शामिल है कि क्या, प्रशिक्षण के कार्य में, मॉडल को तैनात करने और ठीक करने के लिए, मॉडल निर्माता ने संपादकीय नियंत्रण का प्रयोग किया और इसलिए एक प्रकाशक के रूप में कार्य कर सकते हैं।

और अगर यह वास्तव में एक संपादकीय व्यायाम है, तो यह स्पष्ट नहीं है कि इस तरह की सामग्री के लिए जिम्मेदारी कहां होगी — मॉडल को प्रशिक्षित करने वाले लोगों के साथ, जो लोग डेटासेट बनाए थे, वे मॉडल को प्रशिक्षित करने के लिए उपयोग किए जाते थे, या जो लोग इसे तैनात करते थे? डेटासेट के मामले में, खुले डेटासेट के लिए जिम्मेदारी कैसे आवंटित की जाती है जैसे कि इंटरनेट पर सभी सामग्री या एक विशेष खुले सोशल मीडिया प्लेटफॉर्म? उन उपयोगकर्ताओं की भूमिका और जिम्मेदारी पर स्पष्टता की कमी भी है जो विशिष्ट प्रकार की प्रतिक्रियाओं को उत्पन्न करने के लिए एक चैटबॉट में सुरक्षा नियंत्रणों को कम करने के लिए रचनात्मक भाषा या काल्पनिक का उपयोग करते हैं।

ग्रोक जैसी कृत्रिम इकाई द्वारा उत्पादित प्रतिक्रियाओं के मामले में, इरादे का सवाल भी हो जाता है।