Fondazione Prada presenta Training Humans, una mostra storica ideata da Kate Crawford, ricercatrice sull’intelligenza artificiale, artista e docente, e Trevor Paglen, artista e ricercatore, nella sede dell’Osservatorio di Milano. Training Humans è la prima grande mostra fotografica dedicata alle immagini di formazione: le collezioni di fotografie utilizzate per addestrare i sistemi di intelligenza artificiale (IA) su come “vedere” e classificare il mondo.
In questa mostra, Crawford e Paglen, rivelano l’evoluzione delle raccolte di immagini di formazione dagli anni Sessanta a oggi. Il loro lavoro evidenzia come le immagini vernacolari e funzionali vengono raccolte come materia prima per il riconoscimento facciale e la tracciabilità umana sia dal settore governativo che da quello commerciale.
Come affermato dagli artisti, «quando abbiamo iniziato a concettualizzare questa mostra più di due anni fa, volevamo raccontare una storia delle immagini usate per “riconoscere” l’uomo nella computer vision e nei sistemi di intelligenza artificiale. Non eravamo interessati né alla versione pubblicizzata dell’intelligenza artificiale, né alle storie di futuri robot distopici.
Piuttosto, volevamo impegnarci con la materialità dell’IA e prendere quelle immagini quotidiane seriamente come parte di una cultura visiva macchinica in rapida evoluzione. Questo ci ha richiesto di aprire le scatole nere e di guardare come funzionano attualmente questi motori della visione».
Il progetto si interroga sullo stato attuale dell’immagine nell’Intelligenza artificiale e nei sistemi algoritmici, dall’istruzione e dalla sanità alla sorveglianza militare, dalle forze dell’ordine e dal reclutamento, al sistema giudiziario penale.
Training Humans esplora in particolare due questioni fondamentali: come gli esseri umani sono rappresentati, interpretati e codificati attraverso raccolte di dati formativi; e come i sistemi tecnologici raccolgono, etichettano e utilizzano questo materiale. Man mano che le classificazioni degli esseri umani da parte dei sistemi di IA diventano più invasive e complesse, i loro pregiudizi e la loro politica diventano evidenti. All’interno della computer vision e dei sistemi di intelligenza artificiale, le forme di misurazione si trasformano facilmente, ma surrettiziamente, in giudizi morali.
La mostra è strutturata come un interrogatorio storico che inizia con le immagini utilizzate nei primi esperimenti di laboratorio di riconoscimento facciale computerizzato finanziati dalla Central Intelligence Agency (CIA) negli Stati Uniti dal 1963 in poi. Negli anni Novanta, una generazione più avanzata di sistemi di visione artificiale è stata sviluppata dal Department of Defense Counterdrug Technology Development Program Office negli Stati Uniti.
Per un database noto come Face Recognition Technology (FERET), hanno creato una raccolta di ritratti di 1.199 persone, per un totale di 14.126 immagini, al fine di avere un “parametro standard”, che permette ai ricercatori di sviluppare algoritmi su un database comune di immagini.