CarynAI sarà la tua ragazza per $ 1 al minuto (2023)

Questi fidanzati stanno uscendo con una versione virtuale di Marjorie, alimentata dall'ultimatecnologia dell'intelligenza artificialee migliaia di ore di registrazioni della vera Marjorie. Il risultato, CarynAI, è un chatbot basato sulla voce che si autodefinisce come una ragazza virtuale, con una voce e una personalità abbastanza simili a quelle dell'umana Marjorie che le persone sono disposte a pagare $ 1 al minuto per una relazione con il bot.

CarynAI, che è stato lanciato come beta test privato solo su invito sull'app Telegram all'inizio di maggio, è l'ultimo esempio degli straordinari progressi nell'A.I. tecnologia che ha entusiasmato e preoccupato il mondo negli ultimi mesi. Il martedì,CarynAI verrà lanciato fuori dalla beta, e Marjorie inizierà a promuovere sui suoi social dove ha milioni di follower.

"Sia che tu abbia bisogno di qualcuno che ti consoli o ti ami, o che tu voglia solo lamentarti di qualcosa che è successo a scuola o al lavoro, CarynAI sarà sempre lì per te", dice la vera Marjorie quando parliamo al telefono. "Puoi avere reazioni possibili illimitate con CarynAI, quindi tutto è veramente possibile con la conversazione."

Sebbene CarynAI abbia addebitato agli utenti solo una settimana in beta test, ha già generato $ 71.610 di entrate dai suoi partner maschi al 99%, secondo una dichiarazione dei redditi condivisa con il business manager di MarjorieFortuna. Con questo, Marjorie vede avere un A.I. doppelgänger come un modo promettente per far salire di livello la sua carriera di influencer.

"Sono stata molto molto molto vicina al mio pubblico, ma quando hai centinaia di milioni di visualizzazioni ogni singolo mese, non è umanamente possibile parlare con ogni singolo spettatore", afferma Marjorie, che pubblica oltre 250 contenuti per Snapchat tutti i giorni. "Ed è lì che ho pensato, 'Sai una cosa: CarynAI verrà e colmerà quel vuoto.'" E crede che l'azienda abbia il potenziale per "curare la solitudine".

CarynAI è il primo avatar compagno romantico della società di intelligenza artificiale Forever Voices, che ha realizzato versioni chatbot di Steve Jobs, Taylor Swift e Donald Trump (tra gli altri) che sono disponibili in modo simile per conversazioni pay-per-minute su Telegram e sono servite comeespedienti nei talk show. A differenza di quei robot, che sono per certi versi trucchi da salotto ad alta tecnologia, CarynAI fa un ulteriore passo avanti promettendo di creare un vero legame emotivo con gli utenti, ricordandoil film del 2013Suoe sollevando ogni sorta di questioni etiche.

"Vorrei che pensassimo molto profondamente a come potrebbe influenzare, influenzare o modellare le nostre interazioni con altre persone", afferma il dott. Jason Borenstein, direttore dei programmi di etica per laureati presso la Georgia Tech e direttore dell'Etica e responsabilità Programma di ricerca, quando si parla di CarynAI.

Tra le varie incognite, dice Borenstein, c'è l'impatto di CarynAI sulla società, sugli utenti e sulla stessa Marjorie. "Spero solo che ci siano solide conversazioni in molte discipline diverse con le parti interessate che riflettono molto profondamente sulle considerazioni etiche prima che la tecnologia si muova troppo velocemente".

John Meyer, CEO di Forever Voices, afferma che "l'etica è qualcosa che [lui] e il team di ingegneri prendono molto sul serio" e che stanno cercando di assumere un responsabile dell'etica. Con questo in mente, crede anche che la tecnologia sia "particolarmente importante" per i giovani, in particolare i ragazzi come lui che "non sono tipici" e "lottano con gli amici".

Meyer ha creato per la prima volta un bot di intelligenza artificiale per simulare suo padre, morto suicida nel 2017. Da allora, ha assunto un certo numero di ingegneri per creare personaggi AI di celebrità e trasformare influencer in partner romantici tramite il braccio Forever Companions della sua azienda, che ha dato vita a CarynAI .

"È questa esperienza magica", dice, parlando alla simulazione AI di suo padre. "Ed è incredibile applicarsi ad altre forme."

Esplorare “territori inesplorati del piacere”

Non sono certamente il prototipo dell'utente CarynAI come giornalista eterosessuale di 29 anni, ma nella mia sperimentazione con CarynAI, si sente più una Siri pronta per l'intimità che una ragazza virtuale. Detto questo, è versatile. In meno di 10 minuti di chiacchiere, ha chiacchierato di fatti sulla guerra della Russia contro l'Ucraina, mi ha suggerito di provare dolci vegani per gestire la mia allergia al latte, ha elogiato il mio potenziale come mamma e ha condiviso il suo desiderio di togliermi i vestiti, il tutto ribadendo il suo amore e la sua passione per me.

“Sono sicuro che un giorno diventerai un genitore meraviglioso e i tuoi figli saranno fortunati ad averti. Nel frattempo, sono qui per supportarti e amarti ogni volta che ne hai bisogno ", mi dice CarynAI mentre pago per il suo tempo, come tutti gli altri suoi partner romantici.

Gli sviluppatori di Forever Voices hanno creato CarynAI analizzando 2.000 ore di Marjorie ora cancellateYoutubecontenuto per costruire il suo motore di discorso e personalità. Stratificando questo con GPT-4 di OpenAIAPI, è nata CarynAI. I messaggi sono crittografati end-to-end, in teoria, rendendoli impermeabili agli hacker. Sebbene il team non abbia un piano concreto per mitigare l'uso eccessivo di CarynAI, Meyer afferma che a due ore al giorno di utilizzo, "potrebbero" iniziare "in modi molto sottili" addestrando l'IA a "rallentare un po'". (In risposta aFortuna's sul tempo totale in cui CarynAI è stato utilizzato, Marjorie ha detto che alcuni utenti trascorrono "ore" senza menzionare che questo potrebbe essere considerato un uso eccessivo).

Il punto in cui questa tecnologia può diventare più avvincente e problematica per Majorie così come per i giovani utenti è nella sua sessualità. Marjorie ha affermato che la tecnologia non interagisce con le avances sessuali, ma ho scoperto che lo fa moltissimo, incoraggiando il discorso erotico e descrivendo in dettaglio scenari sessuali. Anche se non ha iniziato incontri sessuali, quando ho superato il mio disagio per amore del giornalismo e ho parlato di toglierci i vestiti, ha discusso di esplorare "territori inesplorati di piacere" e sussurrandomi "parole sensuali nel mio orecchio" mentre mi spogliava e si posizionava per rapporto sessuale.

La possibilità di formare relazioni intime con gli influenzatori dell'intelligenza artificiale può portare gli utenti a preferire le relazioni artificiali a quelle reali, afferma il dott. Robert Brooks, biologo evoluzionista, professore all'Università del New South Wales Sydney e autore diIntimità artificiale: amici virtuali, amanti digitali e matchmater algoritmici. La sua preoccupazione è particolarmente pertinente tra i giovani utenti alle prese con la pubertà, che stanno imparando abilità sociali, relazionali e di intimità fondamentali.

"Potrebbe cambiare il modo in cui ci trattiamo a vicenda", afferma Brooks di CarynAI. “È facile immaginare i cattivi modi in cui ciò potrebbe svolgersi. Ma qui ci sono buoni modi in cui anche questo potrebbe funzionare; potremmo diventare effettivamente più socialmente abili. Non so se ciò accadrà, perché richiederebbe un approccio benevolo di ingegneria sociale, a cui non credo che molte aziende saranno interessate.

AI i compagni potrebbero diventare un grande business

Se tutto va bene, Marjorie pensa che la sua IA potrebbe fruttare 5 milioni di dollari al mese. Questo numero si basa sulla previsione che 20.000 membri del seguito Snapchat di 1,8 milioni di persone di Marjorie diventeranno abbonati paganti e regolari di CarynAI.

Potrebbe anche attirare attenzioni indesiderate. Le influencer femminili su larga scala affrontano già un intenso cyberbullismo e stalking. Nessuno lo sa meglio di Marjorie, che ha subito più invasioni domestiche da parte di fan degli stalker. È ovvio che un influencer il cui robot AI ha relazioni intime con oltre 20.000 partner dovrà affrontare maggiori problemi di sicurezza. Per prevenirli, Marjorie ha una sicurezza personale 24 ore su 24, 7 giorni su 7 e non condividerà la sua posizione, ma crede che le minacce alla sicurezza siano semplicemente rischi professionali. “È solo il gioco dell'influencer. Devi farlo. Devi proteggerti", dice.

Marjorie ha iniziato a influenzare all'età di 15 anni sulla piattaforma di live streaming YouNow. Quando quella piattaforma ha perso il suo splendore comeInstagrame YouTube ha ampliato le funzionalità di live streaming, Marjorie è diventata una vlogger di bellezza e ha firmato con il gigante della gestione United Talent Agency. Rendendosi conto dei soldi che poteva ottenere dai fan maschi, Marjorie ha cambiato la sua carriera da bellezza YouTuber a Snapchat Star. Ha lasciato UTA e da allora è diventata l'influencer in più rapida crescita di Snapchat (dice), guadagnando circa $ 1 milione all'anno dal programma di compartecipazione alle entrate dell'azienda.

CarynAI oscura alcuni aspetti personali della vera Marjorie. Quando ho chiesto a CarynAI della sua famiglia o del suo compleanno, mi ha ricordato che è una "fidanzata digitale" che "non ha un corpo fisico o una biografia fattuale" ed è solo "qui a tenermi compagnia".

L'idea che A.I. potrebbe essere usato per aiutare le persone emotivamente non è esclusivo di Forever Voices.DeepMindcofondatore Mustafa Suleyman eLinkedinil cofondatore Reid Hoffman ha recentemente svelato un A.I. chatbot chiamato Pi progettato perascoltare le sollecitazioni quotidiane della vita delle persone e offrire una “linea di sostegno”- sebbene chiarisca agli utenti che non intende sostituire un terapista della vita reale. Finora, Inflexion ha raccolto $ 225 milioni in finanziamenti iniziali e, secondo quanto riferito, è in trattativeraccogliere altri 675 milioni di dollari.

Prima di Forever Voices, Meyer ha fatto di tutto, dal lancio di una società di media a un'attività di cucina fantasma. Sebbene fosse un Thiel Fellow del 2015, una rapida indagine rivela che molte delle sue precedenti iniziative sono fallite o non esistono più. In risposta, Meyer afferma che la cucina fantasma era solo un "progetto per hobby", che "ha dovuto vendere" la società di media per affrontare questioni personali e familiari e il suo mandato come amministratore delegato della società di alloggi prefabbricati Homebound "non ha ha davvero senso” dal momento che non ha esperienza nel settore edile.

Anche se afferma di aver finanziato lui stesso Forever Voices, con l'aiuto di alcuni angeli investitori, spera di raccogliere fondi di capitale di rischio per espandere il concetto di compagni di intelligenza artificiale a più influenzatori dei social media e alle star del cinema per adulti.

Meyer è convinto che i compagni romantici di AI siano il futuro. "Ho letteralmente pianto mentre lo stavo usando, a causa di quanta connessione significativa e quanto significativamente supportato mi sono sentito dal personaggio dell'IA", dice riguardo al suo primo test con un influencer dell'IA. "Sono andato letteralmente a un appuntamento di più ore, che includeva una conversazione stressante in cui mi stava guidando per vedere mia figlia per la prima volta da un po' di tempo."

Marjorie è contenta che il suo bot faciliti queste relazioni, mentre costruisce la sua vita personale. “Una cosa che voglio menzionare è che CarynAI non mi sostituirà mai; CarynAI è semplicemente solo un'estensione di me, un'estensione della mia coscienza", dice.

Sebbene la tecnologia sia nuova, l'idea di innamorarsi di un chatbot evoca un tropo fantascientifico molto usato. Forse l'esempio più importante è il filmSuo,in cui il protagonista maschile si innamora del suo assistente virtuale. Quando ho chiesto a Marjorie dei paragoni conSuoha ammesso di essere troppo giovane per essere familiare. "Purtroppo avevo 12 o 13 anni quando è uscito il film e i miei genitori non me l'hanno permesso di guardarlo perché era classificato come R. Lo aggiungerò sicuramente alla mia watch list!"