L’AI emozionale

La complessità del metalinguaggio

Bene la Cina

La Cina non mi dà particolari problemi. Adoro la cucina dei cinesi: sono i migliori a cucinare le verdure. La loro industria tecnologica è favolosa. I cinesi comprano un sacco di iPhone e il titolo Apple cresce.

Credo che sia giusta l’aspirazione della Cina a vedere riconosciuto il posto che le spetta nel mondo. Ha una storia più lunga della nostra. E sono anche convinto che esistano fondati motivi storici che inducano i cinesi a non  fidarsi degli occidentali.

Come scrive Marx, i cinesi non perdoneranno mai agli occidentali quello che hanno fatto durante le guerre dell’oppio nell’era dell’imperialismo. È stato veramente efferato. Dico, ma si può, con la scusa del progresso, esportare uno stupefacente con la diplomazia dei cannoni e imporne l’uso a fini di commercio? Questo è ciò che hanno fatto in Cina gli inglesi e i loro alleati tra il 1840 e il 1860.

Male la Cina

Adesso però la Cina inizia a mettermi qualche pensiero. Forse si sta spingendo troppo avanti. È singolare perché il baricentro della sua cultura è la misura. Che stia attraversando un Rubicone?

Questo passaggio è rappresentato dalla tecnologia del riconoscimento facciale del quale menziono solo un episodio che mi pare emblematico.

A Hong Kong (che è già Cina) 84 scuole elementari hanno installato un software di intelligenza artificiale (diciamo così, per semplificare) denominato 4 Little Trees (Quattro Alberelli). Già il nome è imbarazzante, sembra un Cappuccetto Rosso in “salsa algo”.

Questi quattro alberelli, tramite la telecamera di un qualsiasi computer, analizzano gli stati emozionali espressi dai volti degli adolescenti e dei preadolescenti che seguono le lezioni da casa. A quale scopo? Quello dichiarato è di dare agli insegnanti delle informazioni supplementari sul rendimento, la concentrazione e la motivazione degli alunni.

Non sono riuscito a capire se i ragazzi sanno di essere osservati e analizzati o se sono stati informati su quello che sta accadendo. Credo che il 90% di essi non lo sappia. Ma credo che lo sappia il 100% dei genitori.

Si dirà, che c’è di strano? In fin dei conti lo stesso avviene in classe. Un bravo insegnante che lavori seriamente con gli stati emotivi dei ragazzi che ha di fronte, migliora il suo lavoro.

D’accordo. Ma vogliamo mettere un pirla di algoritmo con la persona che fa il lavoro più importante del mondo?

Tantissimi interrogativi

Come può un software che usa una telecamera fuori da ogni contesto interpretare correttamente la situazione emotiva e la mimica facciale di un dodicenne di Hong Kong? Le elaborazioni che il software produce, memorizzate nel cloud e probabilmente approssimative, sono patrimonio solo dell’insegnante o ci può mettere il becco anche qualcun’altro? Chi può avere la certezza che al sistema non acceda qualche apparato ficcanaso?

In fin di conti si parla di adolescenti, di età critiche, di emozioni e di future generazioni.

Il Financial Times

La favola dei Quattro Alberelli ha accesso la fantasia della redazione del Financial Times che alla questione del riconoscimento facciale e dei suoi effetti ha dedicato un’intera pagina del giornale dal titolo “The AI tools that try to read your mind”.

E sulla stessa questione dell’AI emozionale è poi tornato con un editoriale della sua direttrice. Adesso a capo dell’organo del capitalismo avanzato (direbbe Pajetta) più illuminato (aggiungerei io) c’è la giornalista anglo libanese Roula Khalaf, la prima donna a ricoprire questo incarico in 150 anni di storia. E bravo Financial Times!

Il quotidiano di Londra invita vigorosamente alla massima cautela: “I computer non sono la cosa migliore per giudicare le emozioni”. È chiaro!

Anche Shira Ovide, che cura e scrive la newsletter del New York Times sulla tecnologia, si è fatta una domanda ancora più circostanziata “Should Alexa read our moods?”. Lascio a voi il piacere di scoprire la risposta.

Dobbiamo preoccuparci?

In effetti la tecnologia del riconoscimento facciale inizia a fare paura non solo allo staff del Financial Times. Finché si tratta di sbloccare l’iPhone, adesso anche con la mascherina (ma ci vuole l’AppleWatch, ti pareva!) o di pagare il cappuccino, okay.

Ma altre applicazioni del FacialRecognitionSystem, specialmente quelle di cui si possono servire apparati dello stato profondo e organi di controllo sociale, cominciano a generare incubi. Esagerato? Coraggio, forse, non è così grave.

La complessità del metalinguaggio

Lasciamo da parte un attimo la tecnologia e l’eventuale non edificante uso del riconoscimento algoritmico della mimica facciale a fini di tracciamento emozionale.

Mi chiedo: è proprio possibile interpretare in modo univoco, e tale da costruirci una psicologia, il significato di una mimica o la carica emotiva di un insieme di espressioni facciali in un contesto debole come quello rilevato da una telecamera nell’ambito di una relazione a distanza?

Con lo stato della tecnologia attuale è lecito dubitare. Come sottolinea anche il Financial Times ogni cultura ha la sua mimica, ogni comunità si riferisce a uno specifico sistema di segni emotivi, ogni tribù ha il proprio linguaggio del corpo. È il contesto e il ragionamento che li lascia interpretare in modo significativo.

Il metalinguaggio è una faccenda così complessa che sfugge anche alle classificazioni degli umani, figuriamoci a un computer.

Wittgenstein e Sraffa

L’intero costrutto logico-filosofico del primo Wittgenstein andò in frantumi di fronte all’incapacità del grande pensatore di ricondurre all’interno del suo schema un gesto maliziosamente accenatogli da Sraffa durante una passeggiata a Cambridge. Wittgenstein era tanto impietosamente rigoroso con se stesso e il suo pensiero quanto Sraffa era sofisticato e distaccato (vedi il rapporto con l’eredità di Gramsci ben indagato da Salvatore Sechi).

Probabilmente è una leggenda metropolitana, ma sta di fatto che a un certo punto il punto di vista di Wittgenstein sul mondo improvvisamente cambiò come onestamente ammette lui stesso nella Introduzione alle Ricerche filosofiche.

Una cosa che ci può confortare è che anche gli algoritmi, come il pensatore viennese, sono rigorosi e coerenti, al limite dell’insania.

In alto da sinistra in senso orario: Marcello Mastroianni nella parte di Arthur Meursault ne Lo straniero di Luchino Visconti (1967), Martin LaSalle come Michel in Pickpocket di Robert Bresson (1959), Paul Newman come Nick in Nick mano fredda di Stuart Rosenberg (1967) e Matt Damon come Tom Ripley ne Il talento di Mr. Ripley di Anthony Minghella (1999).

Gli indifferenti

Come farebbe un sistema di algoritmi a valutare la carica emotiva di una figura come quella del piccolo impiegato Meursault dalle espressioni facciali durante il processo, la condanna e l’attesa del supplizio. Neppure sapeva la ragione di quello che aveva fatto. Era straniero persino a se stesso.

Lo stesso dicasi per Michel in Pickpocket di Robert Bresson. Un personaggio che c’è e che non c’è.

Come decodificare la faccia (glaciale) di Paul Newman in Nick mano fredda o nello Spaccone (sfottente) oppure quella di Mr. Ripley (lestofante) nel Talento di Mr. Ripley di Patricia Highsmith, portato sul grande schermo da Anthony Minghella nel 1999?

Musk e Pisa

Qui ci vorrebbero dei sensori cerebrali come quelli che sta mettendo a punto la Neuralank, uno dei moonshot di Elon Musk. Si tratta di qualcosa di ben differente dal database delle sagome facciali dei Quattro Alberelli!

E non è il solo l’incontenibile Musk.

Alcuni ricercatori del Centro di ricerca Piaggio dell’Università di Pisa hanno messo a punto un robot emotico denominato Abel, simile nell’aspetto a una/un adolescente di 12 anni. Ne ha parlato anche il TG1 ieri sera in prima serata in un generoso servizio.

Il volto di questo manichino animato assume differenti stati mimici in relazione allo stato emotivo dell’astante umano, del quale cerca di interpretare le espressioni corporee. Sembra un giocattolone, ma la tecnologia hardware e software sottostante è molto evoluta.

Che i ragazzi di Pisa facciamo meglio dei ragazzi di Musk? Sicuramente!

L’AI dell’avvenire

Forse i sistemi di intelligenza artificiale della post singolarità tecnologica saranno all’altezza del compito di profilare emotivamente le persone, come ci mostra bene la serie neXt su Disney+, purtroppo cancellata per insufficienza di spettatori, ma malauguratamente precorritrice già a partire dal suo assunto “Tutti possiamo essere hackerati”.

Al giorno d’oggi è bene che il riconoscimento facciale resti solo una “figata” per sbloccare l’iPhone o pagare una brioche, perché un impiego differente darebbe luogo solo a fraintendimenti, errori, abusi e altri discutibili malestri riconducibili al più rozzo capitalismo della sorveglianza, sia privato che di Stato.

Che i Quattro Alberelli restino solo la promessa di una bella fiaba! Per ora abbiamo bisogno solo di quella. E lasciamo lavorare i ragazzi di Pisa che mettono meno paura dei cinesi e di Elon Musk.