AI का नया कारनामा, वर्चुअल गर्लफ्रेंड बनकर लड़कों को डेट कर रही थी लड़की, AI Avatar ने शुरू की शर्मनाक हरकत

हम सभी जानते हैं कि आर्टिफिशियल इंटेलिजेंस (एआई) इस साल की शुरुआत से ही चर्चा में रहा है। लोग कई तरह से एआई टूल्स का इस्तेमाल कर रहे हैं। कई लोग इसकी मदद से पैसे भी कमा रहे हैं. Caryn Marjorie ने भी कुछ ऐसा ही किया है. Caryn स्नैपचैट पर काफी पॉपुलर है और इस पर उसके 1.8 मिलियन फॉलोअर्स हैं।

Caryn ने एक कंपनी की मदद से एक वर्चुअल अवतार बनाया है जिसे कोई भी डेट कर सकता है। Caryn Marjorie इन लोगों को डेट करने के लिए इनसे पैसे ले रही हैं. Marjorie ने CarynAI नामक एक AI संस्करण बनाया, जो एक आवाज-आधारित चैटबॉट है जो खुद को “आभासी प्रेमिका” के रूप में लेबल करता है। CarynAI की आवाज़ और व्यक्तित्व इतना मिलता-जुलता है कि लोग उसके साथ बातचीत करने के लिए $1 प्रति मिनट का भुगतान करने को तैयार हैं।

चैटबॉट के पास पहले से ही 1,000 से अधिक भुगतान करने वाले ग्राहक हैं। इस महीने की शुरुआत में बीटा परीक्षण के रूप में लॉन्च किया गया, CarynAI ने पुरुषों से केवल एक सप्ताह में $71,610 का राजस्व अर्जित किया।

लेकिन, मूल रूप से ऐसा करने के लिए प्रोग्राम नहीं किया गया था, CarynAI दुष्ट हो गया और अपने भुगतान करने वाले ग्राहकों के साथ यौन आरोपित बातचीत में लिप्त हो गया।

इनसाइडर ने मार्जोरी के हवाले से कहा, “एआई को ऐसा करने के लिए प्रोग्राम नहीं किया गया था और ऐसा लगता है कि यह शरारती हो गया है।” “मेरी टीम और मैं इसे फिर से होने से रोकने के लिए चौबीसों घंटे काम कर रहे हैं।” “

इसकी आधिकारिक वेबसाइट के अनुसार, CarynAI को वास्तविक जीवन मार्जोरी की आवाज, व्यवहार और व्यक्तित्व को फिर से बनाने के लिए डिज़ाइन किया गया है। चैटबॉट को 2,000 घंटे से अधिक सामग्री के साथ विकसित किया गया था और यह 24/7 उपलब्ध है। CarynAI का दावा है कि यूजर्स को ऐसा लगेगा कि वे खुद इन्फ्लुएंसर से सीधे बात कर रहे हैं।

उनकी आधिकारिक वेबसाइट पर लिखा है, “हमने एक प्रभावशाली एआई अनुभव बनाने के लिए कैरीन की भाषा और व्यक्तित्व को सावधानीपूर्वक डिजाइन और कोडिंग करने के लिए 2,000 से अधिक घंटे समर्पित किए। उनकी अनूठी आवाज, आकर्षक व्यक्तित्व और विशिष्ट व्यवहार का उपयोग करके, कैरिएनाई आपके लिए एक गतिशील, एक-में-एक लाता है। इस तरह की बातचीत से ऐसा लगता है कि आप सीधे Caryn से बात कर रहे हैं। कभी भी, कहीं भी उपलब्ध, Caryn आपकी सुविधा और आनंद के लिए AI में त्रुटिपूर्ण रूप से क्लोन हो गया है।”

फॉर्च्यून की रिपोर्ट है कि CarynAI ने Ms Marjorie के आधिकारिक YouTube चैनल से हटाए गए वीडियो का उपयोग किया और उन्हें OpenAI की GPT-4 API तकनीक के साथ स्तरित किया।

चैटबॉट की वेबसाइट का दावा है, “हमारा एंड-टू-एंड एन्क्रिप्शन सुनिश्चित करता है कि आपकी चैट गोपनीय और विशिष्ट रूप से आपकी रहे।”

जब से चैटजीपीटी ने मानव जैसी सामग्री को मंथन करके दुनिया को चौंका दिया, एआई-संचालित चैटबॉट्स ने छलांग और सीमाएं बढ़ा दी हैं, जिससे यह एक अंतरराष्ट्रीय सनसनी बन गया है।

एक प्रमुख सीनेटर ने कैपिटल हिल पर एक कंप्यूटर जनित आवाज के साथ एक सुनवाई शुरू की जो उल्लेखनीय रूप से उनकी आवाज के समान थी। एआई के विकास के बारे में सांसदों की गहरी आशंकाओं को व्यक्त करते हुए एक बॉट द्वारा लिखा गया वॉयस रीड टेक्स्ट।

OpenAI के सीईओ सैम ऑल्टमैन ने हाल ही में अमेरिकी सांसदों से कहा था कि आर्टिफिशियल इंटेलिजेंस को रेगुलेट करने की जरूरत है।