Non abbiamo fallito nel governare Facebook e Google, non ci abbiamo neanche provato

In un’intervista alla BBC la scorsa settimana il vice presidente di Facebook Nick Clegg sorprese gli spettatori invocando nuove regole sulla privacy, la raccolta di dati e altre pratiche della company che negli scorsi anni avevano suscitato pesanti critiche. “Non spetta alle compagnie private… implementare queste regole” ha insistito, “Il compito spetta ai politici del mondo democratico”.

La risposta di Facebook sarebbe quindi quella di mostrare “maturità”, quindi  non “schivare” ma “invocare” le nuove regole. Venendo da una company che ha opposto una fiera resistenza alle nuove leggi, il messaggio di Clegg è finalizzato a persuaderci che si sia voltata una pagina. Affermazioni come queste suonano però come un nuovo linguaggio atto a nascondere fatti inaccettabili.

Poche settimane prima i capi di Facebook, Mark Zuckemberg e Sheryl Sanberg, avevano snobbato l’audizione chiesta dal Parlamento canadese che voleva porre loro delle domande. In quell’occasione Clegg utilizzò gli argomenti standard della Silicon Valley contro lo stato di Diritto, ammonendo sui rischi che qualunque tipo di restrizione comporterebbe rendendo “praticamente impossibile per le industrie tecnologiche fare vera innovazione, e paventando lo spettro dell’avanzata cinese. “Posso predire che… saremo sottoposti a dominio tecnologico di un paese con un impianto di valori completamente diverso.”

Sia Facebook che Google hanno per lungo tempo contato su questa formula manipolatoria per proteggersi dalla legge. Nel 2011, l’allora CEO di Google Erich Schmidt mise in guardia i governi contro sciocchi tentativi di regolamentare l’innovazione “Ci muoveremo molto più velocemente di qualsiasi governo”. Nel 2013 poi, il co-fondatore di Google Larry Page si lamentò del fatto che “vecchie istituzioni come la legge” sono di ostacolo alla libertà della company di “costruire cose veramente grandi”. Una retorica, questa, che ritorna dalla “Gilded Age” degli Stati Uniti di tardo Ottocento quando i baroni insistevano a dire che non c’era bisogno di legge, quando si avevano già a disposizione la “legge dell’evoluzione”, la “legge del capitale” e le “leggi della società industriale”. Come ha ben descritto lo storico David Nasaw, i milionari andavano allora predicando che “la democrazia aveva i suoi limiti, oltre i quali gli elettori e i loro rappresentanti non osavano spingersi, nel timore che la calamità economica colpisse la nazione.”

La retorica sull’innovazione delle company tecnologiche ha in effetti reso ciechi gli utenti e i legislatori per molti anni. Facebook e Google sono stati a lungo visti come company innovative che magari ogni tanto facevano qualche terribile errore a spese della nostra privacy. Da allora però, il quadro si è fatto più nitido. È facile ora vedere che quelli che abbiamo scambiato per errori erano invece le innovazioni – i Google glass, Facebook che passa le informazioni private agli sviluppatori, eccetera. Ognuno di questi era invece la manifestazione di una ben più grande innovazione: l’invenzione di quello che io definisco il capitalismo della sorveglianza.

Il capitalismo della sorveglianza non è la stessa cosa della tecnologia digitale. È una logica economica che ha dirottato la tecnologia digitale mettendola a servizio dei propri scopi. La logica del capitalismo della sorveglianza comincia con il dichiarare unilateralmente che la privata esperienza umana è materia prima utilizzabile liberamente per la produzione e la vendita. Questa logica vuole le tue passeggiate nel parco, i tuoi movimenti e comunicazioni in rete, la caccia di un parcheggio, o la voce al tavolo della colazione…

Tutte queste esperienze sono tradotte in dati comportamentali. Alcuni di questi dati potrebbero essere applicati per migliorare prodotti e servizi, il resto è valorizzato per il suo potere predittivo. Questo fiume di dati predittivi sono introdotti in prodotti computazionali che predicono il comportamento umano. Un documento sfuggito a Facebook nel 2018 descrive il suo sistema machine-learning che “ingerisce trilioni di dati ogni giorno” e produce “più di 6 milioni di predizioni al secondo”. Alla fine queste predizioni sono vendute a clienti business che operano nei mercati dove si commercializzano gli human futures.

Questa logica economica è stata inventata per la prima volta da Google nel contesto degli spot disegnati su misura, dove la “percentuale di click” è stato il primo prodotto predittivo di successo globale, e i mercati pubblicitari mirati sono stati i primi mercati a specializzarsi nei futures umani. Durante i primi anni di scoperte e invenzioni, dal 2000 al 20014, i guadagni di Google sono cresciuti del 3590%. Sin dall’inizio si comprese che l’unico modo di proteggere tali guadagni era quello di nascondere le operazioni necessarie a produrli, lasciando gli “utenti” all’oscuro con pratiche disegnate per essere non percepibili e indecifrabili.

Il capitalismo di sorveglianza migrò a Facebook, Microsft e Amazon – e divenne l’opzione automatica per gran parte del settore tecnologico. Ora avanza attraverso i settori economici assicurativi, commercio al dettaglio, finanziari, della salute, educazione e via così, includendo ogni prodotto “smart” e servizio “personalizzato”.

I mercati dei futures umani competono per la qualità delle predizioni. Questa competizione per vendere certezze produce gli imperativi economici che guidano le modalità del business. Oramai è chiaro che i dati più predittivi provengono dall’intervenire nelle nostre vite per modulare e condurre i nostri comportamenti nella direzione che crea più profitto. Gli esperti di data science descrivono questo come il passaggio dal monitorare all’azionamento. L’idea non è più solo di conoscere il nostro comportamento ma di plasmarlo in modo da garantire la realizzazione delle predizioni. Non è più questione di rendere automatico il flusso di informazioni sul nostro conto; l’obiettivo è di renderci automi. Come mi ha spiegato un esperto di data science:” Noi possiamo costruire il contesto intorno a un particolare comportamento e forzarne il cambiamento… Stiamo imparando a scrivere la musica, poi faremo in modo che la musica li faccia ballare”.

Questi imperativi economici erodono la democrazia dal basso e dall’alto. Alle radici, i sistemi sono disegnati per non suscitare coscienza individuale, minando l’iniziativa umana, eliminando il diritto di decidere, diminuendo l’autonomia e privandoci del diritto di combattere. Il quadro rivela una concentrazione enorme di potere e conoscenza. I capitalisti della sorveglianza sanno tutto di noi, ma noi di loro sappiamo poco. Il loro sapere è usato per soddisfare gli interessi di altri, non i nostri.

Il capitalismo di sorveglianza prospera in assenza di legge. In un certo senso questa è una buona notizia. Non è vero che sin qui abbiamo fallito nel governare questo capitalismo delinquenziale, non ci abbiamo neanche provato. Altre buone notizie: le nostre società sono già riuscite a fronteggiare forme distruttive di capitalismo nel passato, mettendo in campo nuove leggi che hanno legato il capitalismo ai reali bisogni delle persone. La Gilded Age terminò con l’affermarsi della democrazia. Abbiamo quindi tutte le ragioni per credere che possiamo farcela di nuovo.

La prossima grande strategia regolatoria sarà probabilmente disegnata da guerrieri pronti a lottare per la democrazia in pericolo: avvocati, cittadini e specialisti, alleati nella consapevolezza che solo la democrazia può imporre gli interessi generali attraverso leggi e regole.

Il punto è: che tipo di regole? Sono risposte utili quelle che provengono dai correnti approcci sulla privacy e dalle leggi antitrust? Entrambi sono critici ma nessuno è adeguato. Ne è prova ad esempio la questione della “proprietà dei dati” sollevata dalla legge sulla privacy. È un'idea fuorviante perché legittima la presa unilaterale dell'esperienza umana - il tuo viso, il tuo telefono, il tuo frigorifero, le tue emozioni - per la traduzione in dati al primo posto. Quand’anche ottenessimo la proprietà dei dati che abbiamo dato a una company come Facebook, non otterremmo la proprietà delle predizioni che ne sono derivate, o del destino di tali prodotti sui mercati delle predizioni.

La proprietà dei dati è una soluzione individuale in un contesto in cui sono richieste soluzioni collettive. Non saremo mai padroni di quei 6 milioni di predizioni prodotte ogni secondo. I capitalisti della sorveglianza lo sanno bene. È ben per questo che possono tollerare discussioni sulla proprietà dei dati e pronunciarsi pubblicamente in favore di regole sulla privacy.

Cosa dovrebbero fare i legislatori, dunque?

Per prima cosa interrompere e porre al bando i flussi di reddito e le entrate dei dati del capitalismo di sorveglianza. In altre parole serve la messa al bando del furto segreto dell'esperienza privata. Alla fine, possiamo interrompere le entrate mettendo al bando i mercati che commerciano nei futures umani sapendo che i loro imperativi sono fondamentalmente anti-democratici. Abbiamo già vietato ai mercati il ??traffico di schiavi o di organi umani.

La seconda cosa: le ricerche condotte nell’ultimo decennio mostrano che quando gli “utenti” sono informati sulle operazioni compiute dietro le quinte dal capitalismo di sorveglianza, cercano protezione e vogliono alternative. Abbiamo bisogno di leggi e regolamenti disegnati per avvantaggiare le company che rompono i ponti con il capitalismo di sorveglianza. Concorrenti allineati con i bisogni reali delle persone e un mercato democratico sarebbero in grado di attrarre come propri clienti praticamente ogni persona sulla Terra.

La terza cosa: i legislatori dovranno dare sostegno alle nuove forme di azione collettiva, così come circa un secolo fa i lavoratori conquistarono protezione legale per i propri diritti di organizzarsi, di contrattazione collettiva e di sciopero. I legislatori a loro volta hanno bisogno del supporto dei cittadini, e i cittadini della leadership dei loro rappresentanti.

I capitalisti di sorveglianza sono ricchi e potenti, ma non invulnerabili. Temono la legge e i legislatori. Temono i cittadini che insistono a muoversi su strade diverse. Entrambi sono legati dal lavoro da fare per riscattare il futuro digitale della democrazia. Signor Clegg, stia attento a ciò che desidera.

(articolo di Shoshana Zuboff
autore di Capitalismo di sorveglianza,
pubblicato sul quotidiano The Guardian il 02/07/2019)