Il tagging non serve solo a promuovere contenuti o partecipare a una discussione online: è parte integrante della logica del machine learning. Quando tagghiamo infatti, allo stesso tempo stiamo anche allenando degli algoritmi, creando stereotipi che contribuiscono all’intelligenza artificiale. Il famoso caso di Google Photos che taggava le persone di colore come gorilla o il sistema di tagging automatico delle foto usato da Facebook sono solo alcuni esempi di come visualità e cultura convergano spesso in modo imperfetto o preoccupante, rendendo la ridefinizione del rapporto tra umani e macchine sempre più urgente. Nell’affascinante saggio What Algorithms Want, Ed Finn scrive di culture machines (assemblaggi di astrazioni, processi e persone), evidenziando proprio l’importanza di un approccio umanistico all’analisi critica degli algoritmi. È proprio quello che fa Max Dovey, il cui lavoro si serve spesso di stereotipi, tag e software dal vivo: nelle sue opere l’artista inglese ha infatti provato a definire il concetto di “hipster” in modo algoritmico, a scoprire cosa rende un individuo maschio o femmina agli occhi di un computer, e a mostrare il lato umano del machine learning.

Nicola Bozzi: Di cosa ti occupi principalmente come artista?

Max Dovey: Provo ad attirare l’attenzione su quei punti critici in cui l’accelerazione tecnologica diventa più rapida della nostra capacità di valutare i sistemi in modo politico o sociale – quell’intervallo, insomma, tra l’anticipazione della tecnologia e gli sconvolgimenti portati dal suo arrivo. Provo a vedere come viviamo la tecnologia da un punto di vista corporeo, come ci si sente quando si incontra una decisione algoritmica o si fa crypto mining. Per questo motivo lavoro con performance dal vivo, cercando di far incontrare il pubblico con agenti non-umani da esaminare criticamente oltre lo schermo.

Nicola Bozzi: Nelle tue opere How to Be More or Less Human e A Hipster Bar hai lavorato su alcuni stereotipi e su come gli algoritmi li interpretano. Mi ha fatto pensare ai concetti di “culture machines” e “algorithmic imagination” coniati da Ed Finn. È di questo che si occupa il tuo lavoro?

Max Dovey: C’è dell’affinità. In How to be More or Less Human il pubblico è presente e mi vede interagire con questo software di image-recognition che mi classifica in tempo reale, mentre provo ad assecondare l’immagine stereotipata che l’algoritmo è stato educato a riconoscere come maschio o femmina. La gente vede un performer che fa fatica a rientrare nei confini di un’etichetta, ma l’opera serve proprio a mostrare come etichetta e categorizzazione siano esse stesse predeterminate, ma anche che bastano semplici accorgimenti come mettersi una cravatta o sollevare una valigia per ingannare lo sguardo della macchina e fargli dichiarare una cosa falsa. La critica diventa particolarmente evidente quando mi tolgo i vestiti e mi metto in una posizione di vulnerabilità, quella di un performer che vuole essere riconosciuto al 100% come uomo. Probabilmente abbiamo sempre quest’esigenza di essere facilmente classificabili, rintracciabili, ed essenzialmente ricordati. Quanto al libro di Ed Finn non l’ho ancora letto, ma non sono molto convinto del termine “immaginazione” nel contesto degli algoritmi. Penso ci sia un po’ troppo hype attorno a quest’idea dei “machine dreams”, che molta gente sembra vedere come una manifestazione estetica dei sogni dell’algoritmo. Per quanto mi riguarda quando sento la gente parlare di “immaginazione maccainica” penso subito a tutto il lavoro che serve per allenare questi processi, specialmente le reti neurali. Più che “immaginazione” mi sembra piuttosto una determinazione imposta con la forza.

Nicola Bozzi: Quello che trovo interessante, anche nel tuo lavoro, è proprio il ruolo di noi umani nel processo di allenamento degli algoritmi. Quando ho provato la tua installazione Hipster Bar sono stato classificato molto rapidamente, ma c’era una donna con i capelli corti (che potremmo identificare come un taglio abbastanza hipster) che invece è stata fermata alla porta con un misero 3% di match. Mi chiedevo che tipo di dati avessi usato per il training, e se hai calcolato il fattore genere…

Max Dovey: Buona domanda. Mi sono trovato davanti a un dilemma, perché originariamente la premessa era scegliere uno stereotipo culturale che sarebbe stato impossibile insegnare a un algoritmo. Pensavo un po’ ingenuamente che la mia definizione di “hipster” (espressione di solito usata per descrivere persone che non ti piacciono) fosse universale, visto che la gente la usava spesso in modo negativo. Non avevo capito che ci fossero tutta una serie di caratteristiche visive o addirittura uno stereotipo esteticamente preciso. Quindi mi sono messo a fare uno scraping di Instagram e ho accumulato un data set scaricando tutte le foto taggate #hipster. Ho usato l’hashtag per navigare questa enorme quantità di immagini, ma sfortunatamente mi sono imbattuto in un sacco di foto di cani, avocado e tazze di caffè. Non volevo usare la mia interpretazione soggettiva nel raccogliere i dati da dare in pasto all’algoritmo, ma ogni volta che facevo vedere il data set ad altra gente per avere feedback avevano tutti opinioni diverse su cosa contasse o no come “hipster”. Siccome tutti avevano i propri pregiudizi in merito, alla fine sono tornato all’idea di lasciar decidere ai dati, senza filtrare o moderare troppo. Se c’era una faccia e la tag #hipster, l’immagine si classificava. Volevo che fosse così per far vedere come il tagging mette insieme questi stereotipi, ma andando avanti con il progetto ho dovuto intervenire e curare un po’ il set ogni tanto – principalmente per mantenere i dati basati sul set originale da Instagram, visto che ogni volta che installo l’opera da qualche parte devo reimportare tutto nelle librerie. Ogni tanto dò un’occhiata per vedere se ci sono ancora facce umane, ma non sto troppo a decidere se siano hipster o meno, visto che l’algoritmo ha già deciso.

Nicola Bozzi: Con che sample ti sei trovato alla fine?

Max Dovey: Direi che più o meno l’80-85% delle immagini venivano da scraping automatici di Instagram, ma poi ho aggiunto manualmente materiale pubblicitario, prevalentemente di moda. Il problema principale è che mi serviva anche un database visivo di “non-hipster” con cui comparare ogni foto, in modo che il classificatore immagini di tipo 2 funzionasse bene. Per capire quello che un’immagine è devi anche sapere cosa non è, quindi per riconoscere un hipster devi anche avere un’idea di cos’è un “non-hipster”. Avevo quindi una cartella di immagini “non-hipster”, che però era la parte più difficile perché le immagini taggate #nonhipster erano di solito, secondo me, molto più hipster di quelle taggate #hipster. In occidente la gente sovverte il termine in maniera ironica, quindi le foto #nonhipster stranamente offrono risultati molto migliori. #Hipster invece ha un respiro più globale, che include anche interpretazioni cinesi o asiatiche dello stereotipo che per me erano nuove. Insomma, dimostravo di nuovo una certa ingenuità riguardo al carattere visivo dello stereotipo. Dal 2016 avrò aggiornato il software più o meno tre volte, ogni volta con immagini diverse, e adesso è diventato una specie di “supervised learning”: una volta salvati i metadata di tutti quelli che vengono al bar salvo le immagini e le aggiungo a una delle due cartelle, a seconda della scelta dell’algoritmo. Ogni tanto faccio un po’ di moderazione, giusto per assicurarmi che i dati siano in ordine, ma mi sento un po’ in colpa perché a quel punto divento io il giudice e quello non era l’obiettivo iniziale. Altrimenti tanto vale avere un buttafuori umano che decide chi è hipster e può entrare nel bar.

Nicola Bozzi: In How to Be More or Less Human sottoponi il tuo stesso corpo al giudizio algoritmico e al tagging. Il processo è stato più semplice in quel caso o hai dovuto intervenire manualmente come con l’algoritmo di Hipster Bar?

Max Dovey: Il processo non è intenzionale ed è un effetto collaterale del fare performance con il machine learning. Da un lato stai continuamente sollevando dei dubbi sul pregiudizio algoritmico in modo critico, dall’altro stai comunque contribuendo a sviluppare e di fatto migliorare l’intelligenza artificiale. All’inizio lo facevo con un software commerciale di image tagging e mi affascinava il fatto che identificasse il genere in modo incorretto. Come ti dicevo prima nella performance faccio interpretare il mio genere dall’algoritmo ripetutamente, finché non confonde il mio corpo nudo con quello di una donna, ma dopo aver eseguito questa operazione una serie di volte il mio corpo è ormai stati assorbito dal database. Non avevo considerato che ogni immagine che raccoglievo venisse mandata alla compagnia che ha creato il software tramite il loro API, e che quindi copie di quelle immagini sarebbero diventate parte integrante del training per altre applicazioni di riconoscimento immagini. Adesso la performance non esiste più, ma il software è stato aggiornato alla seconda versione e riesce a riconoscere il mio corpo come maschio. È anche per questo che mi sono spostato su altri temi: nella performance era sempre più difficile far vedere gli errori del software, al punto che dovevo assumere posizioni sempre più contorte che finivano per diventare poco interessanti per il pubblico. Con la prima versione ero io che smascheravo l’algoritmo, ma più andavo avanti più questo assumeva il controllo e il mio messaggio critico si perdeva. Alla fine la mia opera ha aiutato il software a riconoscere i corpi maschili nudi, aiutando a definire le tag, introdurle, svilupparle e applicarle – che è interessante anche in termini di lavoro.

Nicola Bozzi: Questo mi porta a un altro tema ricorrente nelle tue opere, che è appunto il lavoro. Hai una band che si chiama The Precariats, l’opera Work, bitch… e in generale questa attenzione per il lavoro tramite la macchina. Da artista e quindi precario per definizione, come pensi converga il tuo ruolo rispetto al lavoratore precario? Pensi che essere più “artisti” sia un modo di reagire a questa condizione?

Max Dovey: Non saprei come rispondere, è un problema molto complesso. Non saprei nemmeno come il processo di categorizzazione interagisca con la precarietà del lavoro, ma ho un progetto che forse tocca questo argomento. Nel game show HITs(Human Intelligence Tasks) due squadre competono tra loro e provano a creare un algoritmo di image-recognition in un’ora. Sperimentiamo tutto il lavoro umano necessario ad accumulare e categorizzare i dati, di fatto costruendo quest’applicazione. Iniziavamo spiegando un discorso emerso dalla comunità di Flickr, quando la piattaforma ha introdotto l’auto-tagging delle foto. In pratica, Flickr era stato venduto a Yahoo! e l’unico modo in cui la compagnia poteva monetizzare la piattaforma era iniziare a usare le foto per allenare algoritmi di riconoscimento immagini che poi avrebbero venduto. Nella comunità c’è stato un grosso dibattito riguardo a questa nuova funzione, specialmente perché l’auto-tagging faceva un sacco di errori e la gente si lamentava spesso con i moderatori. Ma Flickr aveva bisogno che il software migliorasse e quindi continuava a usare l’auto-tagging e gli utenti non avevano altra scelta che correggere il suo output. In cambio dell’uso gratuito della piattaforma, la compagnia ha così trasformato i propri utenti in lavoratori cognitivi. Alcuni lo facevano notare nei commenti, dicendo cose come: “Ci danno il servizio gratis, quindi che problema c’è a fare qualche correzione?”. È una truffa molto interessante, fa capire come le compagnie del web 2.0 negli ultimi dieci anni abbiano dovuto trovare nuovi modelli di profitto, mentre Google accentrava tutti i soldi della pubblicità e loro dovevano buttarsi sull’AI. Insomma, nello spettacolo volevamo vivere in prima persona questo lavoro, in modo divertente ma anche utile per evidenziare un fenomeno di cui non si parla molto. Nel primo round si scaricano le immagini da Flickr, nel secondo il pubblico scrive molto rapidamente una frase per descriverle, e il terzo round è per i developer, che danno un’occhiata alle frasi e iniziando a lavorare da lì. È un po’ come Cadaveri Eccellenti, il gioco surrealista.

Nicola Bozzi: Come mai ti concentri su atti performativi ed esperienze fisiche? Secondo te usare la tecnologia insieme la rende diversa?

Max Dovey: Per motivi personali preferisco sempre usare la performance e concentrarmi sul progettare un’esperienza che la gente possa vivere. A volte usare questi mezzi per esplorare criticamente tecnologia e cultura può risultare un po’ facile, se tutto quello che fai è tirare il pesce fuori dall’acqua per evidenziare la fisicità (ad esempio stampando i dati per mostrare la differenza tra materiale e immateriale). Quello proviamo a evitarlo. Per me la cosa più importante sono le relazioni interpersonali, che diventano abbastanza assurde. Se un sito ti nega l’accesso, per qualsiasi ragione, non ci puoi fare niente e nessun altro si accorge di questo rifiuto automatico. Ma se crei uno spazio dove questa decisione viene vissuta collettivamente – come in Hipster Bar, dove vedi già della gente dentro – all’improvviso le decisioni di questi agenti non-umani diventano più visibili anche in altri contesti. Penso sia interessante radunare la gente attorno a queste interazioni per studiarle e vedere che sono un po’ sciocche. Anche la pratica del live coding, per esempio, la gente che va a un algo-rave… hanno motivazioni diverse, ma sono modi di vivere sulla propria pelle il processo di lavoro in una cultura macchinica. È molto più produttivo ed enigmatico rispetto a creare l’ennesimo contenuto online. Credo ancora fermamente nel potenziale delle relazioni fisiche, e penso che la maggior parte della gente sia d’accordo. È lì che provo a situare la mia pratica artistica.

Nicola Bozzi: Penso questo abbia implicazioni anche in termini di categorie. C’è una comunità che ti riconosce istantaneamente: la gente che viene rifiutata, quelli che ridono della distinzione stessa, forse…

Max Dovey: C’è qualcosa di estremamente interessante nel modo in cui si formano delle comunità attorno al tagging e alla categorizzazione culturale. Divide la folla in tutti questi gruppi diversi… mi piace molto quello che Wendy Chun scrive sull’omofilia, il fatto che la gente voglia unirsi e affiliarsi a gente simile a loro. C’è una sovrapposizione tra l’uso di categorizzazione e tagging in piattaforme online che vogliono ottimizzare i flussi di informazione e la nostra natura umana.

Nicola Bozzi: Pensi che la tecnologia possa aiutarci a connetterci politicamente, anche in uno spazio sociale come le tue performance? Insomma, pensi ci sia un potenziale politico in questo tipo di omofilia? Ultimamente c’è un sacco di scetticismo riguardo alla tecnologia…

Max Dovey: Penso che quanto abbiamo visto negli ultimi anni in Europa e in occidente sia piuttosto ovvio. Una cosa divertente del mio lavoro è che penso non ci sia più niente da dire sulla sorveglianza che non sia già stato detto. Come artista a volte vuoi attirare l’attenzione su un problema, ma il messaggio in questo caso è stato già ampiamente ricevuto, è dominio comune. Facebook era sotto processo, i segreti sono stati rivelati. Invece di lavorare criticamente con la tecnologia voglio concentrarmi di più sulle comunità che ci stanno attorno.