OpenAI sblocca la «modalità per adulti». ChatGpt sempre più “umano”?

“Se volete che il vostro Chatpt risponda in modo molto simile a un essere umano, o utilizzi un sacco di emoji, o si comporti come un amico, ChatGPT dovrebbe farlo (ma solo se lo desiderate, non perché stiamo massimizzando l’utilizzo)”.

“A dicembre, con l’introduzione di un sistema di age-gating più completo e in linea con il nostro principio di “trattare gli utenti adulti come adulti”, consentiremo ancora di più, come l’erotismo per gli adulti verificati”.

Non sappiamo quanto ci si spingerà sul sentiero del sesso in chat. Potrebbe essere qualcosa simile a quello che già fa Grok di Elon Musk, cioè soft porno allusivo, role playing erotico e nudità grafici parziali. Grok ha introdotto la funzione companions (compagni virtuali) con personaggi come Ani, un anime sensuale progettato per interazioni romantiche o erotiche. Ani può “indossare lingerie”, lanciare sguardi seducenti e instaurare dialoghi che spingono verso una dimensione affettiva-sessuale.

Grok Imagine consente la generazione di immagini e brevi video (animazioni) da prompt testuali o da immagini di riferimento. In questo strumento è presente una modalità “spicy” che permette la creazione di contenuti sessuali parziali: nudità controllata, contenuti erotici meno espliciti, immagini sessualizzate

Perché questa svolta? Non sorprende: è sulla scorta di quanto fatto anche da Meta, che ha reso la moderazione meno forte da quando c’è un presidente anti-woke come Donald Trump e ha permesso conversazioni erotiche nelle sue chat con AI. L’idea è che le big tech possono ora spingere sull’engagement senza rischiare tegole di tipo regolatorio, almeno sul mercato più importante, quello americano.

Per OpenAI le motivazioni di business sono evidenti. Dopo aver conquistato oltre 800 milioni di utenti settimanali, deve trovare nuove vie per aumentare il tempo di utilizzo della piattaforma e consolidare la fidelizzazione. Anche in vista della necessità, prima o poi, di azzerare le perdite (non prima del 2029, secondo Altman).

L’interazione erotica o romantica rappresenta, in termini di retention, una leva potente per questi scopi. Strategia su cui si basa da sempre Character.AI, dove milioni di utenti trascorrono ore in conversazioni intime o di fantasia con chatbot personalizzati. Altman sa che ogni minuto in più trascorso su ChatGpt è un moltiplicatore di valore: più dati, più abbonamenti, più ricavi.

La mossa, tuttavia, apre un fronte di rischi senza precedenti. Sul piano tecnico, l’affidabilità dei sistemi di verifica dell’età è tutt’altro che garantita. Altman ha anticipato che OpenAI si baserà su un meccanismo di “age prediction”, capace di stimare l’età dell’utente dai pattern d’uso e, in caso di errore, richiederà l’invio di un documento d’identità. L’Europa ha varato un sistema di age verification con terze parti certificate, più sicuro e più tutelante per la privacy rispetto allo scambio di documenti https://www.ilsole24ore.com/art/ecco-come-cambia-l-accesso-social-gli-adolescenti-AHP1TzyB. Bisogna vedere in che misura la svolta di Chatgpt arriverà in Europa e con quali modalità di verifica.

Da considerare i rischi sociali e psicologici. Alcuni utenti vulnerabili hanno già sviluppato relazioni illusorie o patologiche con l’IA. Ci sono anche casi di ragazzi che sono arrivati al suicidio. Cause legali in corso negli Usa, intentate contro OpenAI dai genitori dei ragazzi che hanno perso la vita, dovranno accertare le responsabilità dell’azienda tech. Con il debutto dell’eros, la situazione potrebbe complicarsi ancora di più.