Seguici anche su

27 ottobre 2016

L’intelligenza artificiale è ancora senza regole

Londra e Washington hanno appena rilasciato le prime linee guida per lo sviluppo dei sistemi di intelligenza artificiale. Ma non danno alcuna regola

Paolo Bottazzini

Dal numero di pagina99 in edicola il 22 ottobre 2016

Intorno alla metà di ottobre i governi del Regno Unito e degli Stati Uniti hanno rilasciato i primi documenti di linee guida per la ricerca e lo sviluppo nel settore dell’intelligenza artificiale. A Londra, la Camera dei Comuni ha riconosciuto all’automazione del pensiero la maturità necessaria per diventare argomento di rilevanza sociale; negli Usa l’amministrazione Obama ha investito circa 1,1 miliardi dollari nel 2015, e altri 1,2 miliardi nel 2016 a sostegno del primato americano in questo settore. Gli inglesi sono preoccupati da due argomenti: la riorganizzazione del mercato del lavoro che seguirà l’adozione di massa di sistemi intelligenti e di robot; la trasparenza dei criteri di decisione che agiscono nelle macchine, e la rimozione dagli algoritmi dei pregiudizi che possono scavare altra disuguaglianza tra i cittadini del Regno.

Il finanziamento della ricerca su intelligenza artificiale e automi è governato dal progetto Ras 2020, che è stato finanziato all’80% da fondi dell’Unione europea. Nel 2016 il programma conta su 33,8 milioni di sterline per la gestione di otto centri focalizzati sull’ingegneria nei settori dei trasporti, della salute e delle manifatture; altri 19 milioni sono devoluti alle università di Edimburgo, Bristol, Oxford e Loughborough, per assegni di dottorato e ricerca.

 

I tre obiettivi di Obama

Il 12 ottobre i consiglieri di Obama nel settore di scienze e tecnologia hanno presentato un piano strategico per lo sviluppo dell’intelligenza artificiale che individua sette direzioni di intervento del governo federale, in vista di tre obiettivi. L’amministrazione pubblica deve adoperarsi negli ambiti in cui gli investimenti privati tendono a latitare per l’assenza di un profitto immediato: ricerca di lungo termine, metodi di collaborazione uomo-macchina, indagine sulle implicazioni etiche, legali e sociali della nuova tecnologia, sicurezza dei sistemi di Intelligenza artificiale, creazione di banche dati e test condivisi per la sperimentazione, elaborazione di standard per la misurazione e la valutazione dei futuri dispositivi, formazione di una comunità di ricercatori fedeli alla nazione. Gli obiettivi riguardano la crescita economica, l’estensione delle opportunità e della qualità della vita, il potenziamento della sicurezza militare.

Le 23 Raccomandazioni rivolte ai futuri governi federali insistono sulla generazione di risorse, più che sul controllo dei rischi. Cinque indicazioni mirano alle Agenzie pubbliche, affinché adottino tecnologie e processi centrati sull’Intelligenza artificiale; tre sono rivolte al dipartimento dei Trasporti per l’incentivo dei mezzi che si guidano da soli, altre tre al mondo accademico perché rafforzi la ricerca e l’offerta formativa nel settore; due riguardano i benefici militari – mentre solo una insiste sul monitoraggio del mercato del lavoro, e due sull’esame delle questioni etiche, delegate alle università e alle imprese. Obama e l’amministrazione Usa sono platonici: non cercano controllori, né specificano modalità di sorveglianza per verificare chi trasgredisce, e ancor meno si prospettano sanzioni. Ed evitano così di occuparsi del problema centrale dell’Intelligenza artificiale che sta cominciando a controllare le nostre vite.

Chi controllerà i controllori? Watchmen di Alan Moore ha reso popolare questa domanda; ma se si indaga meglio, si scopre il plagio da una fonte molto più antica, tormentata dai costumi delle donne più che dai problemi politici. Giovenale, nella VI Satira, ritiene la corruzione femminile addirittura capace di contagio: è inutile rinchiudere le ragazze in casa, perché «chi sorveglierà i sorveglianti? La moglie è astuta e comincerà da quelli».

 

Ozlo, l’assistente neutrale

Charles Jolley è fondatore e ceo di Ozlo, una startup di Palo Alto che ha sviluppato un assistente intelligente: dopo l’acquisto di Viv da parte di Samsung, vanta di essere l’ultimo marchio indipendente dal controllo dei giganti della tecnologia. Dal 5 ottobre Jolley ha innescato un dibattito sul tema della assistant neutrality – un’etica di autocontrollo che garantisca la trasparenza del servizio di ricerca rispetto alle fonti di informazioni. Ozlo è un dispositivo di intelligenza artificiale che sta ancora imparando a conoscere la realtà su cui viene interrogato: dal momento del lancio, a maggio, ha già appreso 250 milioni di fatti sul mondo di cui è competente, ristoranti e pub negli Stati Uniti. Il suo insegnante è la cerchia di diecimila individui con cui ha cominciato a conversare, tramite l’app per iPhone che è stata il suo incubatore e la sua culla.

Subito dopo aver messo al mondo la creatura, Jolley si è posto la stessa domanda di Giovenale: chi controlla i controllori? I fratelli maggiori di Ozlo sono soggetti difficili, come Google Assistant, Alexa di Amazon, Siri della Apple, Cortana di Microsoft. Mountain View ha collocato il 4 ottobre la sua tecnologia sul mercato insieme a Google Home, un robottino da conversazione di forma ovale, buono per l’arredamento del salotto, che negli Usa costa 129 dollari: ascolta e risponde in linguaggio naturale, esegue i compiti classici del motore di ricerca, coordina le componenti domotiche della casa (attraverso Chromecast e Nest), programma la diffusione della musica, regola il volume attraverso gli altoparlanti, elenca le notizie relative agli argomenti preferiti dall’utente, gestisce l’agenda degli appuntamenti, suggerisce i percorsi con meno traffico e i voli migliori.

 

Google si ispira a Star Trek

Sundar Pichai, Ceo di Google prima della costituzione del Gruppo Alphabet, aveva già descritto questa tappa nell’evoluzione che deve condurre dal formato desktop del motore di ricerca, a una configurazione paragonabile al computer di bordo di Star Trek. Il controllore diventa il vero signore della casa, che spedisce il proprietario ai suoi appuntamenti di affari, e conosce i segreti delle mogli meglio delle donne stesse. Jolley si dice preoccupato di questa tirannia degli assistenti intelligenti. Per questo insiste su una proposta di neutralizzazione dei consigli formulati dalle reti neurali: se il Capitano Kirk domanda in quale pizzeria portare la sua ragazza stasera, Google Assistant snocciola i ristoranti che possono essere raggiunti in meno di sette minuti da casa, estraendo le informazioni da Google Places, Knowledge Graph e Google Search.

Jolley non protesta contro l’avarizia del Capitano (con quello che guadagna a Hollywood, potrebbe permettersi una cena da Cracco), ma osserva che nessuna indicazione proviene da terze parti rispetto alla famiglia Alphabet, quali potrebbero essere Yelp, TripAdvisor, o Michelin. Certo, tutti questi marchi figurano tra i partner commerciali di Ozlo, e – fatto ancora più importante – questa obiezione è la stessa mossa dal commissario Ue, Margrethe Vestager, alla posizione dominante di Google. Ma Jolley denuncia la stessa strategia di chiusura anche nei dispositivi di Amazon e di Apple: il dominio dei suggerimenti degli assistenti intelligenti è universale, dai programmi tv agli ospedali, dalle offerte di lavoro ai trattamenti medici – quindi non ci si può rassegnare al predominio degli interessi commerciali dei loro produttori. Bisogna sorvegliare l’intelligenza che governa la nostra casa e la nostra vita.

La proposta di Jolley rimane rinchiusa entro i confini dell’etica delle imprese che sviluppano la tecnologia. Ozlo rivela siti e app da cui preleva i dati quando decide di cenare al ristorante nonostante la sua avidità. Non c’è bisogno di coinvolgere altri soggetti nella discussione della neutralità dei dispositivi. Jolley sembra richiamarsi a una fonte ancora più antica di Giovenale: nella Repubblica Platone attribuisce ad Adimanto la battuta «sarebbe ben buffo un guardiano che a sua volta ha bisogno di una guardia!». Il respiro politico, questa estensione oltre la sfera privata in cui agiscono gli agenti intelligenti, sarebbe necessaria anche oggi – se si considera che Google Assistant non si animerà solo sul dispositivo Home in salotto, ma seguirà il Capitano Kirk nei suoi spostamenti tramite Android, gli leggerà le (G)mail, gli sfoglierà i libri su Google Books mentre la Google Car, che si guida da sola, lo condurrà a destinazione in una smart city.

 

La tecnologia può autoregolarsi?

L’ideologia geek è convinta che l’innovazione digitale possa regolarsi da sola: lo crede anche Jolley. Secondo questa concezione, la Rete è destinata a disintermediare tutti i rapporti, da quelli personali a quelli professionali fino a quelli politici: forse stiamo per sbarazzarci dei parlamenti, dei broker della finanza, degli editori e degli insegnanti, dei commessi nei negozi, forse persino degli avvocati e dei medici. L’intelligenza collettiva, e la scienza annidata nei software che le permettono di esprimersi, assolvono le donne dallo scetticismo di Giovenale, e affrancano tutti noi dal controllo. Eppure la mediazione della tecnologia compare ovunque, con la pervasività degli assistenti intelligenti di Google, o con le pratiche di «prevenzione situazionale» teorizzate da David Garland.

La progettazione degli ambienti, delle opzioni di scelta, la profilazione e la personalizzazione, sono rivolte a ottenere dal Capitano Kirk (o a impedirgli) una serie di comportamenti, prefigurati dalle istituzioni o dalle imprese che le implementano. Controllando i tornelli del metrò, le social app di monitoraggio per la sicurezza di case e quartieri, il settaggio dei termostati, il consumo di energia, le opzioni delle polizze assicurative. Ancora una volta: chi controlla il controllore? E si sa, con tutto quello che Google Assistant sta imparando osservando la nostra vita, occorrerebbero guardiani ben più scaltri di Alan Moore per costringere la rumorosa famiglia della Silicon Valley nel perimetro legittimato dalla libertà e dal benessere di tutti.

[Fotografia in apertura di Getty Images

Altri articoli che potrebbero interessarti