Articoli

È disponibile subito il podcast di oggi de
Il Disinformatico
della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto:
lo trovate
qui sul sito della RSI
(si apre in una finestra/scheda separata) e lo potete scaricare
qui.

Le puntate del Disinformatico sono ascoltabili anche tramite
iTunes,
Google Podcasts,
Spotify
e
feed RSS.

Buon ascolto, e se vi interessano il testo di accompagnamento e i link alle
fonti di questa puntata, sono qui sotto.

—

[CLIP: Spezzoni rimontati da video di YouTuber e canali di notizie internazionali che parlano di Aitana Lopez]

Aitana Lopez è una modella spagnola dai caratteristici capelli rosa. Ha
231.000 follower su Instagram, dove posta foto curatissime e commentatissime,
che mettono in mostra la sua bellezza, e altrove su Internet mostra a
pagamento tutte le proprie grazie. Ultimamente i media le hanno dedicato molte
attenzioni, titolando che “guadagna 10.000 dollari al mese” (Corriere della Sera) grazie ai contratti pubblicitari, ma Aitana ha una particolarità: non
esiste. È una influencer virtuale: le sue foto sono tutte sintetiche,
generate dall’onnipresente intelligenza artificiale, pilotata da un’agenzia di
moda di Barcellona.

Se state pensando che 10.000 dollari al mese per delle foto siano una cifra
perlomeno interessante e che però ci vogliano chissà quali tecnologie e
competenze tecniche per creare una modella virtuale, metterla in posa e per
farle indossare indumenti e prodotti da sponsorizzare, non è così. Lo so
perché ci ho provato. Ho speso in tutto sei dollari, non ho dovuto acquistare
macchinari particolari, e il risultato è sicuramente paragonabile a quello di
Aitana Lopez in termini di aspetto, flessibilità di posa e vestiario, e
soprattutto realismo fotografico: ne trovate qualche esempio su
Disinformatico.info.

Questa è la storia di come ho creato una modella digitale, di come e perché la
gente si entusiasma per delle immagini totalmente sintetiche, e del
sorprendente sottobosco di persone e ditte che guadagnano dal boom degli
aspiranti creatori di influencer virtuali, attratti dalla speranza di facili
guadagni. Spoiler: i guadagni non sono affatto facili. Perlomeno non per i
creatori.

Benvenuti alla puntata del 15 dicembre 2023 del Disinformatico, il
podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie
strane dell’informatica. Io, come al solito, sono Paolo Attivissimo.

[SIGLA di apertura]

Aitana non è la prima modella virtuale

L’idea di creare modelle virtuali non è nuova. Già nel 1999 debuttava Webbie
Tookay, una modella generata e animata digitalmente, costata circa un milione
di dollari e un anno di lavoro preparatorio e creata dall’animatore Steven
Stahlberg per la celebre agenzia di modelle Elite Models. Ne parlò persino,
all’epoca, il compassato
Wall Street Journal: nonostante il suo aspetto chiaramente sintetico, che visto oggi fa
sorridere, e la camminata inconfondibilmente robotica, Webbie Tookay era una
chiara anticipazione di un’idea che aveva senso economicamente da tutti i
punti di vista: le modelle sintetiche
“non invecchiano, non aumentano di peso e non fanno capricci”, per
citare il Journal [“Won’t Age, Gain Weight or Throw Tantrums”]. Non si stancano, non hanno mai le borse sotto gli
occhi, non hanno partner discutibili, non fanno dichiarazioni imbarazzanti,
non arrivano mai in ritardo agli appuntamenti di lavoro e azzerano le spese
per voli e alberghi.

Nel 2016 è arrivata Lil Miquela, modella virtuale che ha quasi tre milioni di
follower su Instagram e ha ottenuto contratti con Samsung, Calvin Klein e
Prada, diventando il primo avatar digitale sotto contratto con un’agenzia di
moda. Miquela è decisamente più realistica di Webbie Tookay e nei suoi video
interagisce con persone reali, comprese molte celebrità, ma c’è un trucco: il
suo corpo è reale e solo il volto è creato digitalmente sovrapponendolo a
quello di una modella in carne e ossa.

Aitana Lopez, invece, è completamente sintetica, concepita nel 2022 da Rubén
Cruz dell’agenzia di moda spagnola The Clueless. Non usa più un corpo di una
persona reale, e non è neppure un modello digitale tradizionale, un
rendering 3D da posizionare e animare come Webbie Tookay o come i Na’vi
di Avatar, Spider-Man e tanti altri personaggi digitali ai quali ci ha
abituato il cinema. Aitana è generata direttamente tramite software di
intelligenza artificiale.

L’artista che la gestisce descrive a parole il suo aspetto, la posa e
l’espressione che deve assumere, la sua acconciatura, il suo trucco, il
vestiario che deve indossare, l’illuminazione della scena e l’ambientazione in
cui deve collocarsi, e una quarantina secondi dopo ottiene una serie di
immagini praticamente indistinguibili da foto reali che corrispondono alla sua
richiesta.

Diecimila dollari al mese per scrivere una serie di descrizioni e postare sui
social network qualche foto sembrano soldi facili, e infatti ci stanno
provando in molti. Ci ho provato anch’io per questo podcast, e in effetti
generare queste immagini di persone virtuali è sorprendentemente facile e a
buon mercato, e i follower e le richieste di collaborazione economica arrivano
molto rapidamente. Ma non fatevi troppe illusioni: la parte difficile è
un’altra, e i vari tutorial sull’argomento fatti dagli YouTuber tendono a non
parlarne.

Modelle facili, guadagni difficili

Prima di tutto va chiarito che quei diecimila dollari mensili raccontati dai
media a proposito di Aitana Lopez non sono reali: Rubén Cruz, il suo creatore,
ha
dichiarato
che la sua modella virtuale guadagna in media circa tremila
euro al mese e che diecimila sono solo il picco massimo; ma la cifra grossa è
più sensazionale, e così i giornalisti hanno citato solo quella.

Comunque anche tremila euro al mese sono una cifra allettante, e Aitana Lopez
non è l’unico caso di
personaggio sintetico che fa incassare cifre mensili di tutto rispetto, soprattutto se l’offerta include immagini intime e piccanti, che sono
vietate su Instagram ma accettabili su altre piattaforme. Prevengo subito un
dubbio inevitabile: no, Onlyfans non accetta immagini fotorealistiche
completamente sintetiche. Almeno la faccia deve essere la vostra. Ho
verificato e mi hanno bannato.

Se per caso a questo punto i vostri scrupoli morali all’idea di diffondere
stereotipi di bellezza impossibili, inarrivabili e deprimenti insieme a luoghi
comuni sessisti sono temporaneamente accantonati perché quei soldi
comprensibilmente sono una tentazione e vi state chiedendo come si fa in
concreto a generare immagini fotorealistiche di persone in pose specifiche e
con indumenti specifici, fatte così bene da indurre aziende e follower a
pagarle, chiarisco subito che praticamente tutti i generatori di immagini più
famosi disponibili online non sono all’altezza del compito, perché producono
volti umani dall’aspetto plasticoso e dallo sguardo vitreo, con mani
malformate, e oltretutto vietano le immagini eccessivamente sessualizzate,
perché c’è l’enorme problema delle foto sintetiche di minori e dei
deepfake
in cui il volto di una persona viene applicato perfettamente al corpo di
un’altra in situazioni intime o imbarazzanti allo scopo di umiliare o
molestare.

Anche i principali software scaricabili, come Stable Diffusion, hanno delle
salvaguardie molto severe sui tipi di immagini generabili. Toglierle richiede
notevole competenza informatica e in ogni caso usare software di questo genere
richiede computer molto potenti e costosi, con schede grafiche dedicate,
altrimenti generare un’immagine richiede decine di minuti. Se aspirate a
diventare gestori di una influencer virtuale nella speranza di fare qualche
soldo, insomma, non è questa la via da seguire.

Ci sono però alcuni siti e servizi online che hanno molti meno scrupoli etici
e consentono di generare immagini anatomicamente corrette e con espressioni
naturali: non li cito perché contengono, e permettono di generare, immagini
decisamente discutibili sia in termini di sessualità che in termini di
violenza, persecuzione e discriminazione. Quello che conta è che esistono, e
sono sorprendentemente a buon mercato. Quello che ho usato io per generare la
mia versione di influencer virtuale mi è costato in tutto sei dollari.

Con questa cifra ho potuto generare centinaia di immagini di prova intanto che
imparavo l’oscuro linguaggio dei prompt, ossia delle descrizioni
estremamente precise delle immagini desiderate, che vanno fatte in una sorta
di inglese telegrafico con una sintassi tutta sua e per nulla intuitiva. Nel
giro di una settimana sono passato da rigide bambole di porcellana, la cui
anatomia da incubo avrebbe fatto la gioia di David Cronenberg, a immagini
sostanzialmente indistinguibili da foto reali, con volti espressivi, pelle
ricca di dettagli come peluria, pori, nei, piccole rughe e sottili variazioni
di colore. Cose che mancano, va detto, anche nelle foto di persone
reali
mostrate dalle riviste di moda e dai social network, che ci hanno assuefatto a
un aspetto profondamente artificiale del corpo umano.

Ho anche scoperto che il problema delle mani, che i generatori di immagini
tramite intelligenza artificiale faticano a creare realisticamente, si risolve
in un modo molto banale: quelle venute deformi vengono semplicemente escluse
dall’inquadratura finale pubblicata. Fateci caso: è quello che succede anche
con le immagini di Aitana Lopez.

Fra l’altro, questo è un buon metodo per riconoscere, almeno per ora, le
immagini sintetiche: se le dita sono guarda caso appena fuori
dall’inquadratura, è probabile che la foto sia generata. Guardate anche i nei:
anche se oggi le intelligenze artificiali sono in grado di generare immagini
multiple dello stesso volto, non riescono ancora a piazzare i nei sempre negli
stessi punti del corpo. E il vestiario di queste modelle sintetiche,
specialmente quello intimo, ha spesso delle asimmetrie innaturali.

Ma se è possibile accorgersi facilmente che si tratta di persone inesistenti,
perché la gente segue le influencer virtuali e addirittura paga per vederle?

Cecità da allupamento

La risposta è che la maggior parte delle persone, quando guarda le foto di
questi personaggi sintetici, non vede avvisi che dicono che si tratta di
immagini sintetiche, usa lo schermo piccolo del telefonino, che nasconde
moltissimo questi dettagli rivelatori, e comunque è talmente distratta
dall’aspetto fisico provocante di quello che sta guardando che, per dirla
educatamente, la razionalità passa del tutto in secondo piano. Nessuno guarda
le foto virtuali delle mutandine di pizzo virtuale indossate dalla
formosissima modella virtuale e si accorge che il ricamo virtuale è
asimmetrico.

E infatti la mia influencer sintetica sperimentale ha fatto subito colpo. Sono
arrivati presto i primi follower e i primi like, sia su Instagram sia
sull’altra piattaforma che ho usato, Fanvue. Un ragazzo, in una lunga chat, ha
detto che voleva portarla fuori e farle visitare la sua città in Scandinavia.
È stato gentile e molto sincero, e mi è spiaciuto non potergli dire che stava
chattando con me e non con la sorridente ventiseienne che aveva ammirato. Solo
una persona ha avuto qualche dubbio sulla realtà delle immagini; le altre
hanno creduto tutte che si trattasse di foto reali.

Nel giro delle prime ventiquattro ore sono arrivati anche i primi contatti di
lavoro, e persino i primi soldi. Ma è qui che è venuto a galla l’aspetto
nascosto di questa recente foga di creare influencer virtuali: i contatti di
lavoro erano proposte di pagare per farsi conoscere, per avere più
follower, o per entrare in discutibili giri di marketing multilivello di
bigiotteria, e quei primi soldi arrivati, ben cinque dollari, sono stati
probabilmente versati – virtualmente come tutto il resto – dalla piattaforma
stessa per incoraggiarmi a pubblicare contenuti. Dopo non è arrivato più
nulla. In pratica, finora ho chiuso più o meno in pareggio, ma di tremila o
diecimila dollari al mese proprio non se ne parla. Aitana, invece, incassa
perché i suoi creatori hanno saputo farla promuovere in maniera virale dai
media; era una novità e le sue immagini erano giornalisticamente accattivanti.
Così tutti ne hanno parlato, ed è questo l’ingrediente del successo di
un’influencer virtuale che i tanti aspiranti del settore difficilmente
riusciranno a procurarsi.

Intorno alla speranza di facili guadagni, insomma, si è creata un’industria di
servizi che monetizza questa speranza, offrendo tutorial su YouTube che
incassano soldi grazie alle visualizzazioni pubblicitarie e agli sponsor,
generatori di immagini specificamente orientati al vestiario o ad alcune parti
anatomiche facilmente immaginabili, modelle e modelli virtuali chiavi in mano,
voci sintetiche, servizi di sostituzione automatica dei volti e della voce in
tempo reale per far credere a chi paga di stare davvero in videochiamata
personale con il modello o la modella, chat automatizzate con i follower per
spingerli ad abbonarsi e a spendere soldi, tutto nell’illusione di aver fatto
colpo su una bella ragazza o su un bel ragazzo che in realtà nemmeno esiste. E
ci sono naturalmente anche i follower automatizzati, che si comprano per dare
l’impressione di essere popolari e quindi piazzarsi bene tra i profili
consigliati dagli algoritmi dei social network.

È quindi importante rendersi conto che a questo punto non possiamo più credere
a nulla di quello che vediamo su uno schermo, né in foto né in video, se non
proviene da una fonte più che attendibile. Grazie all’uso distorto
dell’intelligenza artificiale abbinata alla furbizia naturale, Internet si sta
trasformando rapidamente in un universo popolato da persone sintetiche che
dialogano con altre persone sintetiche a proposito di immagini false di
bellezze che non esistono: Siri che chatta con Alexa e ChatGPT a proposito di
Aitana Lopez.

In altre parole, per parafrasare Mark Twain, quando c’è una corsa all’oro, gli
unici che guadagnano sicuramente sono i venditori di pale e picconi.