अल्फाबेट इंक के Google के स्वामित्व वाला वीडियो प्लेटफ़ॉर्म YouTube पर बहुत ही जल्द वीडियो निर्माताओं को यह खुलासा करने की ज़रूरत पड़ेगी कि उन्होंने कब सिंथेटिक कंटेंट अपलोड किया है जो रियल लगता है। इसमें AI टूल का इस्तेमाल करके बनाया गया वीडियो भी शामिल है। नए साल में प्रभावी होने वाला पालिसी अपडेट उन वीडियो पर लागू हो सकता है, जो उन घटनाओं को वास्तविक रूप से चित्रित करने के लिए जनेरिक AI टूल का इस्तेमाल करते हैं जो कभी हुई ही नहीं थीं।
Jennifer Flannery O’Connor और emily moxley (YouTube उपाध्यक्ष, प्रोडक्ट मैनेजमेंट) ने कहा कि, “यह उन मामलों में ख़ास तौर पर अहम है, जहां कंटेंट संवेदनशील विषयों, जैसे कि – election, struggle और public health crisis अथवा public officials पर हो।” कंपनी ने कहा कि जो निर्माता बार-बार सिंथेटिक कंटेंट पोस्ट करने पर खुलासा नहीं करते हैं, वह कंटेंट रिमूवल, ऐड रेवेन्यू प्रोग्राम से सस्पेंशन या अन्य पेनल्टी का शिकार हो सकते हैं।
YouTube के नए वार्निंग लेबल का करना होगा चयन
जब कंटेंट को डिजिटली हेरफेर या क्रिएट किया जाता है, तो क्रिएटर्स को वीडियो के डिस्क्रिप्शन में YouTube के नए वार्निंग लेबल को प्रदर्शित करने का विकल्प चुनना होगा। संवेदनशील विषयों पर कंटेंट के लिए YouTube वीडियो प्लेयर पर एक लेबल अधिक प्रमुखता से प्रदर्शित करेगा। कंपनी ने कहा कि पालिसी को लागू करने से पहले वह क्रिएटर्स के साथ काम करेगी, ताकि वह नई आवश्यकताओं को समझ सकें।
इसी के साथ वह नियमों का उल्लंघन होने पर पता लगाने के लिए अपने स्वयं के टूल्स विकसित कर रही है। YouTube क्रिएटर्स के लिए अपने स्वयं के AI टूल का इस्तेमाल करके कंटेंट को स्वचालित रूप से लेबल करने के लिए भी प्रतिबद्ध है। गूगल जो ऐसे टूल्स बनाता है जो जनरेटिव AI कंटेंट बना सकता है और ऐसे प्लेटफ़ॉर्म का मालिक है जो कंटेंट को दूर-दूर तक वितरित कर सकता है, प्रौद्योगिकी को जिम्मेदारी से लागू करने हेतु नए दबाव का सामना कर रहा है।
इससे पहले मंगलवार को कंपनी के कानूनी मामलों के अध्यक्ष केंट वॉकर ने एक कंपनी ब्लॉग पोस्ट प्रकाशित की थी, जिसमें Google के “AI अवसर एजेंडा” को शामिल किया गया था। इसमें नीतिगत सिफारिशों वाला एक श्वेत पत्र था, जिसका उद्देश्य दुनिया भर की सरकारों को AI में विकास के बारे में सोचने में सहायता करना था।
गलत सूचना के प्रसार से जूझ रहे Google और YouTube
अन्य यूजर-जनरेटेड मीडिया सेवाओं की तरह Google और YouTube भी अपने प्लेटफार्मों पर गलत सूचना के प्रसार को कम करने का दबाव झेल रहे हैं। Google ने पहले ही इस चिंता से जूझना शुरू कर दिया है कि जनरेटिव AI गलत सूचना की नई लहर पैदा कर सकता है। सितंबर में घोषणा की गई कि उसे AI-जनरेटेड चुनावी विज्ञापनों हेतु “प्रमुख” खुलासे की आवश्यकता होगी। विज्ञापनदाताओं से कहा गया था कि उन्हें Google के प्लेटफ़ॉर्म पर परिवर्तित चुनावी विज्ञापनों में “यह ऑडियो कंप्यूटर द्वारा तैयार किया गया था,” या “यह छवि वास्तविक घटनाओं को चित्रित नहीं करती है” जैसी भाषा शामिल करनी होगी।
कंपनी ने यह भी कहा कि YouTube के सामुदायिक दिशानिर्देश, जो डिजिटल रूप से हेरफेर किये गए कंटेंट को प्रतिबंधित करते हैं जो सार्वजनिक नुकसान का खतरा पैदा कर सकता है, पहले ही प्लेटफ़ॉर्म पर अपलोड सभी वीडियो पर लागू होते हैं। नए जनरेटिव AI खुलासे के अलावा यूट्यूब वीडियो प्लेटफॉर्म पर ऐड ऑन की योजना बना रहा है। यह लोगों को अपनी प्राइवेसी रिक्वेस्ट प्रोसेस के ज़रिये AI-जनरेटेड या सिंथेटिक कंटेंट को हटाने का अनुरोध करने की अनुमति देगा।
कंपनी ने कहा कि एक बार अनुरोध करने के बाद सभी सामग्री स्वचालित रूप से नहीं हटाई जाएगी। इन अनुरोधों का मूल्यांकन करते समय विभिन्न कारकों पर विचार किया जायेगा। उदाहरण के लिए, यदि निष्कासन अनुरोध उस वीडियो का संदर्भ देता है जिसमें पैरोडी या व्यंग्य शामिल है या अनुरोध करने वाले व्यक्ति को विशिष्ट रूप से पहचाना नहीं जा सकता, तो YouTube कंटेंट को अपने प्लेटफ़ॉर्म पर छोड़ने का निर्णय ले सकता है।