Seguici anche su

6 dicembre 2017

Le nostre democrazie in balia di un algoritmo

Che succede Facebook e gli altri diventano anche i tutori della verità? Non solo nessuno si pone il problema, ma i decisori si affidano supinamente alle big tech

Michele Mezza

Dal numero del 7 dicembre in edizione digitale

Senza alcuna remora, anzi con evidente e compiaciuto orgoglio, due alti dirigenti di Facebook – Monika Bickert, responsabile della gestione della policy globale, e Brian Fishman, capo della policy antiterrorismo – hanno rivelato che già oggi «il 99% dei contenuti dello Stato islamico e di al Qaeda  vengono rimossi dal social network. I proclami degli islamisti – spiegano i due esponenti del social network – vengono riconosciuti tramite gli algoritmi di intelligenza artificiale (IA) prima di essere segnalati da altri utenti del social, e in alcuni casi prima della pubblicazione».

Una dichiarazione che, ovviamente, conforta rispetto all’incubo di una proliferazione islamista. Non per questo però possiamo evitare di interrogarci sulle sue conseguenze: questa contraerea di Facebook contro chi altri potrebbe puntare? Insomma i buoni e i cattivi chi li decide? Se in un prossimo futuro magari lo stesso Mark Zuckerberg decidesse di concorrere a una carica di vertice del suo Paese, o di una istituzione internazionale, quella contraerea contro chi sparerebbe? Chi sarebbero allora i buoni o i cattivi? E quando, e come, ce ne accorgeremmo che è cambiato il bersaglio?

Leggi l'articolo per 0,10 €

PAGA CON
Paga con Tinaba

 

Del male e del bene

Già sapere che Facebook ha una sorta di preview sui nostri post, in modo da valutarne preventivamente la congruenza, getta una luce completamente diversa sulla dinamica pulviscolare del social network, che diventa sempre più simile al “Cerchio” descritto da Dave Eggers solo tre anni fa nel suo libro intitolato appunto The Circle (da cui l’omonimo film). E renderebbe definitivamente i trasportatori di contenuti tutori degli autori.

Uno scenario che, paradossalmente, rende persino la scandalosa decisione della Casa Bianca di sovvertire la scelta di Obama a favore della net neutrality, in favore dei vecchi interessi delle telecom, solo la constatazione che la net neutrality era già stata confiscata da tempo dai grandi service provider.

 

Scienza e potere

Michel Foucault non avrebbe trovato laboratorio più efficace per analizzare con evidenza quel fenomeno che lui così descriveva nel suo celeberrimo saggio sulla Microfisica del potere (Einaudi, 1977): «Si tratta di sapere non quale potere dall’esterno pesi sulla scienza, ma quali effetti di potere circolino fra gli enunciati scientifici».

Siamo incontrovertibilmente di fronte a una transizione della sede del potere, che dalle istituzioni ormai si sta dirigendo verso i titolari del calcolo.

Di conseguenza non è nemmeno più una notizia il fatto che all’ultimo vertice del G7 di Ischia i leader dei governi occidentali abbiano portato al tavolo, alla pari, proprio i vertici del cosi detto Gafam (Google, Apple, Facebook, Amazon, Microsoft), chiedendogli esplicitamente la complicità nella “contro narrazione” sul terrorismo.

 

La sicurezza appaltata ai privati

Per la prima volta istituzioni pubbliche, stati democratici peraltro, appaltano a interessi privati una strategia geopolitica globale. E, per la prima volta, società di puro servizio, come sono appunto i service provider, si sentono abilitate a diventare editori e controllori dei contenuti che trasportano. Il tutto, naturalmente, date le dimensioni dello scenario, non può che avvenire automaticamente. Ossia mediante i propri algoritmi.

Siamo arrivati, quasi inconsapevolmente, al nodo centrale di tutta questa complessa e articolatissima partita: l’automatizzazione dei contenuti come unica soluzione per fronteggiare la viralità della rete.

Questo dato, apparentemente tecnico, sposta, automaticamente, è il caso di dire, sul versante di chi controlla appunto gli automatismi algoritmici ogni discrezionalità.

 

Il governo dell’algoritmo

L’algoritmo, il sistema di istruzioni semantiche che risolve un problema inducendo un comportamento, diventa il principio e lo strumento per riclassificare ogni soggetto e da domani, con l’Internet delle cose, anche ogni oggetto nella gerarchia della rete.

Il messaggio che ormai passa indiscusso è che solo sistemi di calcolo, peraltro centralizzati, possono fronteggiare e gestire un valore esponenziale che si espande in maniera del tutto incalcolabile ormai, che sfugge a qualsiasi approccio naturale.

Un fenomeno, questo delle relazioni sociali in rete, che oltre a essere incalcolabile, si afferma come “ingovernabile” nel senso che la sua natura liquida, continuamente evolutiva, che muta forma, rende il fenomeno non normabile, ossia non soggetto a leggi che devono basarsi, secondo la tradizione giuridica, su principi astratti e stabili.

Torna centrale a questo punto l’analisi di Nicholas Carr che nel suo saggio La gabbia di vetro (Cortina Editore, 2015) afferma che appunto «nella società automatica il potere è solo di chi controlla gli automatismi».

 

Le nuove gerarchie

Pensiamo a quanto sta accadendo nel mondo dell’informazione, con un’ormai totale controllo da parte dei sistemi algoritmici, sotto forma di bot che selezionano e misurano i singoli titoli di ogni notizia per assicurargli visibilità e remunerazione, o quanto si sta verificando nel mondo dell’economia e della finanza, dove prima con i bot dell’hi-frequency trading si è standardizzato l’intero sistema delle transazioni di borsa, e poi oggi, con la blockchain delle valute virtuali, sia stanno automatizzando i sistemi monetari.

La sanità è ormai il prossimo campo di algoritmizzazione, sia dei modelli terapeutici, che delle logiche assistenziali.

 

Chi crede ai contro-algoritmi?

Da questo punto di vista appare in Italia almeno sorprendente, oltre che del tutto inattuabile, l’indirizzo che stanno assumendo forze politiche e istituzioni nei confronti dello spettro della fake news, di affidarsi a contro-algoritmi.

Indicativa, da questo punto di vista, è la posizione di un personaggio chiave del settore in Italia, quale Marco Carrai, indubbiamente persona informata dei fatti, oltre che sicuramente il più stretto consigliere e collaboratore del segretario del Pd Matteo Renzi, che ha dichiarato: «Stiamo lavorando con uno scienziato di fama internazionale alla creazione di un algoritmo verità, che tramite artificial intelligence riesca a capire se una notizia è falsa». Una posizione che se non venisse , appunto, da chi è del mestiere, potrebbe suonare come un desidero vagamente naif.

L’idea infatti di modellizzare la verità ci riporta a suggestioni esoteriche, di antiche narrazioni teologiche. Ma, al di là dei principi filosofici, il nodo riguarda appunto la decisione di spostare sull’algoritmo tutta la battaglia per la bonifica della rete. E, di conseguenza, sui suoi proprietari, il potere di decidere.

 

Nella tana del lupo

Sarebbe come se ci si fosse affidati ad una grande banca internazionale per sanare l’annosa questione dei paradisi fiscali. Solo accordi con i soggetti istituzionali interessati, e l’impegno politico a una reciproca trasparenza, ha in qualche modo limitato lo spazio di manovra degli evasori.

Così il tema delle fake news andrebbe analizzato con attenzione e non usato per imporre scorciatoie.

Magari partendo dalla la mappa degli interessi politici ed economici che sta prendendo chiaramente forma anche grazie alle inchieste del New York Times e di BuzzFeed, che hanno mostrato con evidenza come, anche in Italia, ci siano ramificazioni di una rete ormai uniforme di professionisti della menzogna e dell’odio che puntano al bottino pubblicitario – stiamo parlando in certi casi di fatturasti di 10 mila euro giorno per la massa di contatti accumulati – e a espliciti fini politici, come la collusione con alcuni partiti italiani e la collaborazione di un’unica potenza estera, che nel nostro caso è sempre la Russia di Putin.

Il rischio che si profila è quello di usare alcuni miserabili fantasmi domestici, come l’apprendista stregone di Afragola, o il disoccupato di Terni, che sono stati identificati come gli strateghi delle fake italiane, per autorizzare alcuni monopolisti globali dell’algoritmo ad automatizzare la democrazia di questo Paese.

 

[Foto in apertura Discipula]

Altri articoli che potrebbero interessarti