Ma quanto è sexy l'intelligenza artificiale?

È una domanda seria, giuro.

Ciao,

oggi su Ellissi parliamo delle ultime novità di OpenAI, e di qualcosa che ho notato mentre guardavo i video dimostrativi dell’azienda.

Grazie a Datwave per avere sostenuto questa puntata della newsletter. Ne hanno lanciata una anche loro, intitolata Surfing Through Innovation, che vi consiglio di andare a scoprire.

Buona lettura!
Valerio

Ma quanto è sexy l'intelligenza artificiale?

La settimana scorsa OpenAI ha presentato GPT-4o, un nuovo avanzamento del proprio modello di intelligenza artificiale.

La novità principale è costituita da un’assistente vocale in grado di “emozionarsi” e di reagire alle sollecitazioni del proprio interlocutore in un modo più umano: con affetto, entusiasmo, stupore.

{Un breve inciso. Ho scritto volutamente «un’assistente» con l’apostrofo, non solo perché la voce è femminile, ma anche per quello che dirò tra poco}.

Molti utenti hanno notato quanto la voce sintetica mostrata nella demo fosse simile a quella di Scarlett Johansson, la co-protagonista del film Her (2013), che narra la storia di un uomo e del suo rapporto con un’intelligenza artificiale, interpretata dall’attrice.

L’ispirazione è stata goffamente confermata negli stessi minuti anche da Sam Altman, ceo dell’azienda, grazie a un tweet piuttosto esplicativo (questo).

E poi a notarlo è stata lei stessa.

Johansson ha pubblicato un comunicato in cui ha rivelato di essere stata contattata da Altman mesi fa per diventare “la voce di ChatGPT”, ma di avere declinato l’offerta, e di essere ora «arrabbiata, scioccata e incredula» per la notevole somiglianza.

Secondo l’attrice, negli incontri avuti nei mesi scorsi, Altman le avrebbe spiegato che la sua voce «avrebbe aiutato i consumatori a sentirsi a proprio agio con il cambiamento epocale che colpirà gli umani e l’intelligenza artificiale».

OpenAI ha poi negato di avere cercato di imitare la voce dell’attrice e aggiunto che metterà in pausa l’assistente vocale finché non sarà stata fatta chiarezza.

Tra schermo e realtà

Tuttavia, più che alla somiglianza con Johansson (e alle battaglie legali che seguiranno), a me ha colpito qualcos’altro, di quella voce.

Che non è soltanto “molto umana”, ma anche risponde a una concezione maschile ben precisa: quella che vuole una donna accondiscendente, in grado di esaudire ogni richiesta dell’interlocutore, e che lo fa utilizzando un tono seducente, quasi sessualizzato.

Lo si nota particolarmente in questo video, in cui Barret Zoph di OpenAI dialoga con la voce, dicendole: «Stiamo spiegando al pubblico quanto tu sia fantastica», e la voce risponde imbarazzata «Oh, smettila… Mi stai facendo arrossire!» (al minuto 24:35).

Ma anche in quest’altro video, dove un giovane dipendente di OpenAI riceve improvvisamente una serie di complimenti: prima per la felpa che indossa, e poi per il luogo in cui si trova, che l’interfaccia elogia come «cool industrial style office».

Quando lo sviluppatore si rivolge a ChatGPT dicendo che sta per fare un annuncio «che la riguarda», poi, la voce produce una risata che potremmo definire sovra-eccitata e incredula, e risponde: «Me? L’annuncio riguarda… me?!», accompagnata da un tono innegabilmente civettuolo e flirty.

Un ruolo da «teach me daddy», come è stato definito in questo sketch del Daily Show.

La foglia di fico

Non c’è granché di cui stupirsi.

L’industria del tech è ancora un mondo predominantemente maschile, e anche i prodotti che crea rispecchiano questa tendenza, così come a volte accade con i loro nomi: dall’archeologico SuperEva - «il motore di ricerca con l’anima», impersonificato però da un avatar femminile e seducente - ad Alexa.

Lo sguardo maschile nel plasmare queste interfacce è direttamente correlato alla scarsità di donne impiegate nel settore. Che sono il 27.6% del totale negli Stati Uniti, il 22% in Europa e il 15% in Italia.

E che, oltre a essere pagate meno dei colleghi, raramente si trovano in posizioni decisionali: il che fa sì che l’ultima parola su un prodotto arrivi molto spesso da un uomo (o più d’uno).

Del resto, il design e il software sono strumenti al servizio delle strutture di potere esistenti. Nel tanto decantato human-centered design c’è ancora tanto, tantissimo male-centered design.

È proprio per reagire a questo status quo che sono nati progetti come Tendernet, un collettivo di hacker che esplora pratiche di progettazione femminista nel mondo dell’IA, e che ha sottolineato come le interfacce che hanno il ruolo di “badanti” o “segretarie” siano spesso alimentate da voci femminili.

«Le tecnologie vocali sono in gran parte progettate e codificate per arricchire le aziende in un contesto ristretto e capitalistico, e principi come la giustizia, la diversità e l'accessibilità non sono considerati fondamentali», spiega il collettivo.

In OpenAI l’unica donna di alto rango è Mira Murati, che ricopre il ruolo di Chief Technology Officer. Ma Murati è un’eccezione: come ha fatto notare Manuel Pascal su El Paìs, l’azienda «non sembra una grande fan del femminismo».

Nel suo board ci sono infatti solo uomini, e tra questi c’è l’ex Segretario di Stato Larry Summers, che nel 2005, quando era rettore di Harvard, disse che la mancanza di figure femminili nelle posizioni apicali delle aziende fosse da attribuire «in parte alle differenze innate tra uomini e donne» così come alla «attitudine» di queste ultime.

Concludendo…

Da quando c’è Internet, i problemi del mondo fisico diventano parte integrante anche di quello virtuale. È successo a livello economico, sociale e politico.

La trasposizione delle attuali strutture di potere - tra cui quelle patriarcali - ma anche di concezioni errate e bias ha generato profonde disuguaglianze digitali, come quelle legate alla profilazione razziale negli strumenti di riconoscimento facciale.

Mi chiedo, in conclusione, e ti chiedo: questa evoluzione tecnologica così «veloce» e «inarrestabile» rappresenta davvero un «cambiamento epocale» se non si riflette anche in una reale trasformazione del modo in cui questo potere è distribuito?

Difficilmente potrà nascere una tecnologia migliore senza assumere una prospettiva più equa del mondo e dei suoi abitanti.

Alla prossima Ellissi
Valerio

C’è una nuova newsletter in città: Surfing Through Innovation è la tua guida gratuita, in lingua inglese, al cambiamento tecnologico.

Ogni uscita presenta novità e tendenze, grazie alle interviste realizzate ad esperti ed esperte sui temi come Cloud, Intelligenza Artificiale, MarTech, Dati e Machine Learning.

Tra i guest ci sono Paola Pisano, ex Ministro per l'innovazione tecnologica e la transizione digitale, il giornalista Francesco Oggiano e il professore Carlo Alberto Carnevale-Maffè.

Nella puntata di oggi l’ospite è Massimo Temporelli, fisico e scienziato, che racconta come la robotica - grazie all’AI - sarà finalmente in grado di compiere quel «salto quantico che promette da decenni».

Surfing Through Innovation è curata dal team di Datwave, un’entità intelligente nata con l’obiettivo di aiutare l'umanità a utilizzare la tecnologia per costruire un domani migliore.

Nella mia reading list

🟡 Martedì prossimo, in Fondazione Feltrinelli a Milano, modererò un evento sulle sfide digitali per l’Italia e l’Europa.

🟡 La disinformazione spiegata attraverso un video (ovviamente fake).

🟡 È arrivata la fine degli editoriali sui giornali?

🟡 Il Washington Post continua a perdere soldi e lettori: -50% in 4 anni.

🟡 Vita, morte e resurrezione del Nokia 3210.

🟡 La regola del 7-38-55, e del perché non funziona.

🟡 E infine: in difesa dei sentimenti.

Il mio libro!

Se ti stanno a cuore temi come il nostro rapporto con la tecnologia e il futuro della rete, ne ho parlato in un libro intitolato «Riavviare il sistema. Come abbiamo rotto Internet e perché tocca a noi riaggiustarla», pubblicato da Chiarelettere.

Puoi acquistarlo qui.

Ecco le prossime presentazioni:

Rovigo - 1 giugno 2024 - RovigoRacconta | alle 16.00 con Giorgio Soffiato.
Bologna - 13 giugno 2024 - We Make Future | alle 17.20 con Alessandro Morloi Grazioli.
Milano - 16 giugno 2024 - Wired Next Fest | con Philip di Salvo.

A presto!
v.