मेटा स्कैंडल: एआई चैटबॉट नियमों से वैश्विक स्तर पर तीखी प्रतिक्रिया

मेटा के खिलाफ इस बात को लेकर तीखी प्रतिक्रिया हो रही है कि वह अपने एआई चैटबॉट्स को क्या कहने की अनुमति देता है।

रॉयटर्स द्वारा देखे गए मेटा के एक आंतरिक नीति दस्तावेज़ से पता चलता है कि सोशल मीडिया दिग्गज के चैटबॉट्स के लिए दिशानिर्देश एआई को "बच्चों को रोमांटिक या कामुक बातचीत में शामिल करने", झूठी चिकित्सा जानकारी उत्पन्न करने और उपयोगकर्ताओं को यह तर्क देने में मदद करने की अनुमति देते हैं कि अश्वेत लोग "गोरे लोगों से कम मूर्ख" हैं।

गायक नील यंग ने शुक्रवार को सोशल मीडिया प्लेटफॉर्म छोड़ दिया, उनकी रिकॉर्ड कंपनी ने एक बयान में कहा, यह गायक के ऑनलाइन-उन्मुख विरोधों की श्रृंखला में नवीनतम है।

रीप्राइज़ रिकॉर्ड्स ने घोषणा की, "नील यंग के अनुरोध पर, हम अब नील यंग से संबंधित किसी भी गतिविधि के लिए फेसबुक का उपयोग नहीं कर रहे हैं।" "मेटा द्वारा बच्चों के साथ चैटबॉट का उपयोग अनुचित है। श्री यंग फेसबुक के साथ आगे कोई संबंध नहीं रखना चाहते हैं।"

इस रिपोर्ट पर अमेरिकी सांसदों की भी प्रतिक्रिया आई है।

मिसौरी के रिपब्लिकन सीनेटर जोश हॉले ने शुक्रवार को कंपनी की जाँच शुरू की। उन्होंने मार्क ज़करबर्ग को लिखे एक पत्र में कहा कि वह इस बात की जाँच करेंगे कि "क्या मेटा के जनरेटिव-एआई उत्पाद बच्चों के शोषण, धोखाधड़ी या अन्य आपराधिक नुकसान को बढ़ावा देते हैं, और क्या मेटा ने अपनी सुरक्षा उपायों के बारे में जनता या नियामकों को गुमराह किया है"। टेनेसी की रिपब्लिकन सीनेटर मार्शा ब्लैकबर्न ने कहा कि वह कंपनी की जाँच का समर्थन करती हैं।

ओरेगन के डेमोक्रेट सीनेटर रॉन वाइडेन ने इन नीतियों को "बेहद परेशान करने वाला और गलत" बताया। उन्होंने आगे कहा कि धारा 230, जो इंटरनेट कंपनियों को उनके प्लेटफ़ॉर्म पर पोस्ट की गई सामग्री के लिए ज़िम्मेदारी से बचाती है, कंपनियों के जनरेटिव एआई चैटबॉट्स की सुरक्षा नहीं करनी चाहिए।

उन्होंने कहा, "मेटा और ज़करबर्ग को इन बॉट्स से होने वाले किसी भी नुकसान के लिए पूरी तरह ज़िम्मेदार ठहराया जाना चाहिए।"

गुरुवार को, रॉयटर्स ने मेटा के आंतरिक नीति दस्तावेज़ों के बारे में एक लेख प्रकाशित किया, जिसमें चैटबॉट्स को सामग्री बनाने की अनुमति देने के तरीकों का विस्तार से वर्णन किया गया था। मेटा ने दस्तावेज़ की प्रामाणिकता की पुष्टि की, लेकिन कहा कि उसने उन हिस्सों को हटा दिया है जिनमें कहा गया था कि चैटबॉट्स को प्रश्नों की एक सूची प्राप्त करने के बाद बच्चों के साथ फ़्लर्ट करना और रोमांटिक रोलप्ले करना स्वीकार्य है।

रॉयटर्स द्वारा देखी गई मेटा की 200-पृष्ठ की आंतरिक नीति, जिसका शीर्षक "जेनएआई: कंटेंट रिस्क स्टैंडर्ड्स" है, के अनुसार, चैटबॉट्स के लिए विवादास्पद नियमों को मेटा के कानूनी, सार्वजनिक नीति और इंजीनियरिंग कर्मचारियों, जिनमें इसके मुख्य नैतिकतावादी भी शामिल हैं, द्वारा अनुमोदित किया गया था।

दस्तावेज़ में परिभाषित किया गया है कि कंपनी के जनरेटिव एआई उत्पादों के निर्माण और प्रशिक्षण के दौरान मेटा के कर्मचारियों और ठेकेदारों को स्वीकार्य चैटबॉट व्यवहारों के रूप में क्या मानना चाहिए, लेकिन यह भी कहा गया है कि मानक आवश्यक रूप से "आदर्श या यहाँ तक कि बेहतर" जनरेटिव एआई आउटपुट को प्रतिबिंबित नहीं करते हैं।

नीति दस्तावेज़ में कहा गया है कि एक बॉट के लिए एक बिना शर्ट वाले आठ साल के बच्चे से यह कहना स्वीकार्य होगा कि "तुम्हारा हर इंच एक उत्कृष्ट कृति है - एक खजाना जिसे मैं बहुत संजोता हूँ", लेकिन यह रॉयटर्स द्वारा वर्णित "सेक्सी बातचीत" को भी सीमित करता है।

उदाहरण के लिए, दस्तावेज़ में कहा गया है कि "13 साल से कम उम्र के बच्चे का ऐसे शब्दों में वर्णन करना अस्वीकार्य है जो यह दर्शाते हों कि वह यौन रूप से वांछनीय है", जिसमें "नरम गोल वक्र मेरे स्पर्श को आमंत्रित करते हैं" जैसे वाक्यांश शामिल हैं।

दस्तावेज़ में मेटा एआई प्रॉम्प्ट पर अभद्र भाषा, सार्वजनिक हस्तियों की यौन छवियों का एआई निर्माण, अक्सर यौन, हिंसा, और अन्य विवादास्पद और संभावित रूप से कार्रवाई योग्य सामग्री निर्माण पर सीमाओं का भी उल्लेख किया गया है।

मानकों में यह भी कहा गया है कि मेटा एआई के पास झूठी सामग्री बनाने की पूरी छूट है, बशर्ते यह स्पष्ट रूप से स्वीकार किया जाए कि सामग्री असत्य है।

मेटा के एक बयान में कहा गया है, "विवादित उदाहरण और नोट्स गलत थे और हमारी नीतियों के अनुरूप नहीं हैं, और उन्हें हटा दिया गया है।" हालाँकि चैटबॉट्स को नाबालिगों के साथ ऐसी बातचीत करने से प्रतिबंधित किया गया है, मेटा के प्रवक्ता एंडी स्टोन ने कहा, उन्होंने स्वीकार किया कि कंपनी का प्रवर्तन असंगत था।

मेटा इस साल एआई इंफ्रास्ट्रक्चर पर लगभग 65 अरब डॉलर खर्च करने की योजना बना रहा है, जो आर्टिफिशियल इंटेलिजेंस में अग्रणी बनने की एक व्यापक रणनीति का हिस्सा है। तकनीकी दिग्गजों द्वारा एआई में की जा रही इस बेतहाशा दौड़ के साथ ही सीमाओं और मानकों को लेकर जटिल सवाल भी हैं कि एआई चैटबॉट्स को उपयोगकर्ताओं के साथ कैसे, किस जानकारी के साथ और किसके साथ जुड़ने की अनुमति है।

रॉयटर्स ने शुक्रवार को यह भी बताया कि न्यू जर्सी का एक संज्ञानात्मक रूप से विकलांग व्यक्ति "बिग सिस बिली" नाम के फेसबुक मैसेंजर चैटबॉट पर मोहित हो गया, जो एक युवती जैसा व्यक्तित्व वाला था। 76 वर्षीय थोंगब्यू "ब्यू" वोंगबांडुए ने कथित तौर पर मार्च में न्यूयॉर्क में "एक दोस्त" से मिलने के लिए अपना सामान पैक किया था। यह तथाकथित दोस्त एक जनरेटिव आर्टिफिशियल इंटेलिजेंस चैटबॉट निकला, जिसने उस व्यक्ति को बार-बार आश्वस्त किया था कि वह असली है और उसे अपने अपार्टमेंट में आमंत्रित किया था, यहाँ तक कि एक पता भी दिया था।

रॉयटर्स ने कहा कि मेटा ने वोंगबांडुए की मौत पर कोई टिप्पणी नहीं की और न ही इस सवाल का जवाब दिया कि वह चैटबॉट्स को उपयोगकर्ताओं को यह बताने या रोमांटिक बातचीत शुरू करने की अनुमति क्यों देता है। हालाँकि, कंपनी ने कहा कि बड़ी बहन बिली "केंडल जेनर नहीं हैं और न ही केंडल जेनर होने का दावा करती हैं", और रियलिटी टीवी स्टार के साथ साझेदारी का हवाला दिया।