नई तकनीक अपने राजनीतिक पूर्वाग्रह के कारण आग की चपेट में आ गई।
- OpenAI, एक AI लैब जिसमें Microsoft ने एक अरब डॉलर डाले हैं, ने कहा कि वह ChatGPT में एक अनुकूलन सुविधा शामिल करने की योजना बना रहा है।
- स्मार्ट चैटबॉट अपने कथित राजनीतिक पूर्वाग्रह के लिए विवादास्पद है।
- जब सुविधा लागू हो जाती है, तो उपयोगकर्ता अपने वांछित उत्तरों को तैयार कर सकते हैं।
Microsoft-वित्तपोषित OpenAI ने अपने ChatGPT के भविष्य को संबोधित किया ब्लॉग पोस्ट में उत्पाद और उसका अनुकूलन। एआई अनुसंधान प्रयोगशाला ने कहा कि यह एक ऐसी सुविधा पर काम कर रहा है जिससे उपयोगकर्ता चैटबॉट के उपयोग के तरीके को अपने राजनीतिक पूर्वाग्रह के विवाद के मद्देनजर अनुकूलित कर सकें।
"इसका मतलब यह होगा कि सिस्टम आउटपुट की अनुमति देता है कि अन्य लोग (स्वयं शामिल) दृढ़ता से असहमत हो सकते हैं। यहां सही संतुलन कायम करना चुनौतीपूर्ण होगा—अनुकूलन को चरम सीमा तक ले जाना जोखिम भरा होगा हमारी तकनीक और चापलूस एआई के दुर्भावनापूर्ण उपयोग को सक्षम करना जो लोगों के मौजूदा को बिना सोचे-समझे बढ़ा देता है विश्वास।
इससे पहले, चैटजीपीटी को ट्रम्प विरोधी पूर्वाग्रहों और एक वामपंथी प्रचार उपकरण के आरोपों का सामना करना पड़ा था। जब यूजर्स ने बॉट से पूर्व राष्ट्रपति की प्रशंसा में एक कविता लिखने के लिए कहा, तो चैटबॉट ने अनुरोध को खारिज कर दिया, लेकिन जब इसी तरह का आदेश जो बिडेन के लिए निर्देशित किया गया, तो उसने हर शब्द त्रुटिपूर्ण लिखा।
वे चैट-जीपीटी को एक अच्छे तकनीकी कर्मचारी में बदल रहे हैं pic.twitter.com/dwu7gIQxr8
- इको चैंबर (@echo_chamberz) जनवरी 30, 2023
की कोशिश के बीच खबर पहुंची माइक्रोसॉफ्ट द्वारा दुनिया के पहले एआई-संचालित सर्च इंजन बिंग में सुधार, जिसने 2019 में कम से कम $1 बिलियन वापस स्टार्ट-अप कंपनी में निवेश किया।
ChatGPT में कस्टमाइजेशन कैसे काम करेगा?
चैटजीपीटी पर उत्तर दो चरणों में विकसित किए जाते हैं। बड़े इंटरनेट टेक्स्ट डेटासेट का उपयोग करने वाली बॉट ट्रेनों के बाद, मानव समीक्षक दिशानिर्देशों के साथ छोटे डेटा की समीक्षा करते हैं, जिससे वे अभी भी जूझ रहे हैं।
"हम मानते हैं कि एआई व्यक्तिगत लोगों के लिए एक उपयोगी उपकरण होना चाहिए, और इस प्रकार प्रत्येक उपयोगकर्ता द्वारा समाज द्वारा परिभाषित सीमाओं तक अनुकूलन योग्य होना चाहिए। इसलिए, हम चैटजीपीटी में एक अपग्रेड विकसित कर रहे हैं ताकि उपयोगकर्ता आसानी से अपने व्यवहार को अनुकूलित कर सकें।"
यह नया अपडेट डिफॉल्ट और सिस्टम व्यवहार पर सार्वजनिक इनपुट और तीसरे पक्ष के सुरक्षा ऑडिट करने के लिए बाहरी निकायों के साथ इसके व्यापक सहयोग पर निर्भर करेगा।
आप इस विवाद के बारे में क्या सोचते हैं? हमें टिप्पणियों में बताएं!
