दिवंगत अभिनेता रॉबिन विलियम्स की बेटी ज़ेल्डा विलियम्स के पास अपने पिता के प्रशंसकों के लिए एक मार्मिक संदेश है।
उन्होंने सोमवार को अपनी इंस्टाग्राम स्टोरी पर एक पोस्ट में लिखा, “कृपया, मुझे पिताजी के एआई वीडियो भेजना बंद करें। यह विश्वास करना बंद करें कि मैं इसे देखना चाहती हूं या मैं इसे समझूंगी। मैं नहीं समझती और मैं नहीं समझूंगी।” “यदि आपमें थोड़ी भी शालीनता है, तो उसके और मेरे साथ, यहां तक कि हर किसी के साथ ऐसा करना बंद करें, पूर्ण विराम। यह मूर्खतापूर्ण है, यह समय और ऊर्जा की बर्बादी है, और मेरा विश्वास करो, यह वह नहीं है जो वह चाहता है।”
यह शायद संयोग नहीं है कि ओपनएआई के सोरा 2 वीडियो मॉडल के रिलीज होने के कुछ ही दिनों बाद विलियम्स को यह पोस्ट करने के लिए प्रेरित किया गया था और सोरा सोशल ऐप, जो उपयोगकर्ताओं को अत्यधिक यथार्थवादी उत्पन्न करने की शक्ति देता है स्वयं के डीपफेकउनके दोस्त, और कुछ कार्टून पात्र।
इसमें मृत लोग भी शामिल हैं, जो उचित प्रतीत होता है क्योंकि यह उचित है मृतक का अपमान करना गैरकानूनी नहीं हैस्टूडेंट प्रेस लॉ सेंटर के अनुसार।
सोरा आपको जीवित लोगों के वीडियो बनाने नहीं देगा – जब तक कि यह आपका या किसी मित्र का न हो जिसने आपको उनकी समानता (या “कैमियो,” जैसा कि ओपनएआई इसे कहता है) का उपयोग करने की अनुमति दी है। लेकिन ये सीमाएँ मृतकों पर लागू नहीं होती हैं, जो अधिकतर बिना किसी बाधा के उत्पन्न हो सकते हैं। ऐप, जो अभी भी केवल आमंत्रण के माध्यम से उपलब्ध है, मार्टिन लूथर किंग जूनियर, फ्रैंकलिन डेलानो रूजवेल्ट और रिचर्ड निक्सन जैसी ऐतिहासिक हस्तियों के साथ-साथ बॉब रॉस, जॉन लेनन, एलेक्स ट्रेबेक और हां, रॉबिन विलियम्स जैसी दिवंगत हस्तियों के वीडियो से भर गया है।
ओपनएआई मृतकों के वीडियो तैयार करने की सीमा कैसे तय करता है यह स्पष्ट नहीं है। उदाहरण के लिए, सोरा 2, पूर्व राष्ट्रपति जिमी कार्टर, जिनकी 2024 में मृत्यु हो गई, या माइकल जैक्सन, जिनकी 2009 में मृत्यु हो गई, उत्पन्न नहीं करेगा, हालांकि टेकक्रंच के परीक्षणों के अनुसार, इसने रॉबिन विलियम्स की समानता के साथ वीडियो बनाए, जिनकी 2014 में मृत्यु हो गई। और जबकि ओपनएआई की कैमियो सुविधा लोगों को यह निर्देश सेट करने की अनुमति देती है कि वे दूसरों द्वारा बनाए गए वीडियो में कैसे दिखाई देंगे – रेलिंग जो प्रतिक्रिया में आई थी सोरा की प्रारंभिक आलोचना -मृतक का ऐसा कोई कहना नहीं है। मैं शर्त लगा सकता हूं कि अगर रिचर्ड निक्सन पुलिस उन्मूलन की वकालत करते हुए मेरे द्वारा बनाई गई डीपफेक देख सकें तो वह अपनी कब्र में लोट रहे होंगे।
ओपनएआई ने मृत लोगों की डीपफेकिंग की अनुमति पर टिप्पणी के लिए टेकक्रंच के अनुरोध का जवाब नहीं दिया। हालाँकि, यह संभव है कि विलियम्स जैसी मृत हस्तियों की डीपफेकिंग कंपनी की स्वीकार्य प्रथाओं के अंतर्गत हो; कानूनी मिसाल दिखाता है कंपनी को संभवतः मृतक की मानहानि के लिए उत्तरदायी नहीं ठहराया जाएगा।
टेकक्रंच इवेंट
सैन फ्रांसिस्को
|
27-29 अक्टूबर, 2025
विलियम्स ने लिखा, “वास्तविक लोगों की विरासतों को ‘यह अस्पष्ट रूप से उनके जैसा दिखता है और लगता है, इसलिए यह पर्याप्त है’ तक सीमित होते देखना, ताकि अन्य लोग भयानक टिकटॉक फूहड़ कठपुतली का मंचन कर सकें, पागलपन है।”
OpenAI के आलोचक कंपनी पर ये आरोप लगाते हैं ऐसे मुद्दों पर तेज़ और ढीला रुख अपनानायही कारण है कि रिलीज होने पर सोरा पर पीटर ग्रिफिन और पिकाचु जैसे कॉपीराइट पात्रों की एआई क्लिप की बाढ़ आ गई। सीईओ सैम अल्टमैन ने मूल रूप से कहा था कि हॉलीवुड स्टूडियो और एजेंसियों को स्पष्ट रूप से बाहर निकलने की आवश्यकता होगी यदि वे नहीं चाहते कि उनका आईपी सोरा-जनरेटेड वीडियो में शामिल हो। मोशन पिक्चर एसोसिएशन ने पहले ही OpenAI से इस मुद्दे पर कार्रवाई करने का आह्वान किया है, घोषणा एक बयान में कहा गया है कि “अच्छी तरह से स्थापित कॉपीराइट कानून रचनाकारों के अधिकारों की रक्षा करता है और यहां लागू होता है।” उसके पास तब से है कहा कि कंपनी इस स्थिति को उलट देगी।
सोरा, शायद, लोगों के लिए अब तक उपलब्ध सबसे खतरनाक डीपफेक-सक्षम एआई मॉडल है, यह देखते हुए कि इसके आउटपुट कितने यथार्थवादी हैं। एक्सएआई जैसे अन्य प्लेटफ़ॉर्म पीछे हैं, लेकिन सोरा की तुलना में यहां तक कि कम रेलिंग हैं, जिससे अश्लील सामग्री उत्पन्न करना संभव हो जाता है वास्तविक लोगों के डीपफेक. जैसे-जैसे अन्य कंपनियां ओपनएआई को पकड़ रही हैं, हम एक भयावह मिसाल कायम करेंगे यदि हम वास्तविक लोगों – जीवित या मृत – को अपने निजी खिलौने की तरह मानते हैं।