La Cina mostra un lato oscuro dell’AI che potrebbe riguardarci più di quanto pensiamo
Al giorno d’oggi è difficile parlare di tecnologia e economia senza lanciare uno sguardo alla Cina. Sebbene una volta era vista solo come il posto dove fosse realmente assemblato tutto quello che le compagnie americane pensavano, la Cina è diventata un rivale dell'industria tecnologica statunitense e internazionale, specialmente nel campo dell’intelligenza artificiale. Allo stesso tempo arrivano in occidente storie inquietanti sul governo cinese che sfrutta la tecnologia per opprimere i cittadini. Al di là del sensazionalismo, tuttavia, il lato oscuro di tutto ciò potrebbe essere più vicino di quanto si pensi.
Secondo Kai-Fu Lee, esperto di intelligenza artificiale di fama mondiale ed ex presidente di Google Cina, gli Stati Uniti stanno per essere sorpassati dalla Cina nello sviluppo dell’AI. Parlando con TechCrunch, investitore di alto profilo, ha spiegato come, adottando la tecnologia inizialmente sviluppata negli Stati Uniti e sfruttando l'enorme patrimonio di dati della Cina, l'equilibrio del potere si stia spostando:
"Ora, la Cina, il più grande mercato con la più grande quantità di dati, usa l'intelligenza artificiale per avvantaggiare in ogni modo le imprese tradizionali, Internet, o tutti i tipi di spazi. L'ecosistema imprenditoriale cinese è enorme; le più importanti compagnie di AI nel riconoscimento vocale, computer vision, droni, ecc. sono tutte cinesi. "
È difficile pensare a cose come il riconoscimento facciale e droni in Cina senza che vengano in mente anche le storie recenti sull'orrore dell'oppressione nei confronti di dissidenti e minoranze. Oppressione resa tanto più efficiente dalla tecnologia.
L’AI e lo stato di polizia
La sorveglianza con il riconoscimento facciale e l'intelligenza artificiale ha avuto un boom in Cina e può vantare non pochi trionfi nel trovare e catturare criminali: ad esempio gli occhiali da sole con riconoscimento facciale indossati dalla polizia per scansionare i viaggiatori e le targhe nelle stazioni ferroviarie e nei posti di blocco altamente trafficati. Inizialmente erano stati limitati ad un'area di prova nella ferrovia orientale di Zhengzhou, nella provincia di Hanan, ora questi occhiali si stanno diffondendo a Pechino e in altre aree.
Ovviamente, a parte gli occhiali, le videocamere vecchio stile sono ancora popolari. La Cina conta circa 200 milioni di telecamere di sorveglianza, quattro volte di più rispetto agli Stati Uniti. In alcune città i display a dimensione cartellone mostrano i volti dei jaywalker (chi attraversa col rosso o fuori dalle strisce pedonali) e elencano i nomi dei debitori e dei fraudolenti per farli vergognare.
Sebbene attualmente i database e i sistemi di sorveglianza siano ancora limitati a particolari aree, la Cina sta lavorando a un sistema nazionale di riconoscimento facciale che mira a identificare tutti i suoi 1,3 miliardi di cittadini, uno per uno, entro tre secondi.
Sono veramente tanti dati da raccogliere, ma i sistemi di riconoscimento facciale funzionano per garantire l'accesso a Università, uffici e complessi residenziali, per autorizzare i pagamenti e, naturalmente, per sbloccare gli smartphone. Questo non vuol dire che la gente non apprezzi questa tecnologia o che non porti a miglioramenti nella qualità della vita. È assolutamente possibile. Il problema è che quando tutti i dati personali sui cittadini vengono raccolti e tracciati dallo Stato in questa maniera, ne risulta anche l’esistenza di uno stato di polizia hi-tech.
Ad esempio, nella regione di confine dello Xinjiang, un sistema di riconoscimento facciale che avverte le autorità quando gli obiettivi si allontanano più di 300 metri dalla loro abitazione o dal loro posto di lavoro sta avendo un ruolo fondamentale nel radunare minoranze musulmane uigure cinesi in campi. La Cina ha il record per trattamento disumano di dissidenti politici e gruppi religiosi, e, così facendo, la tecnologia consente solo di agire in modo più efficace.
Può succedere negli Stati Uniti o in Europa?
Potreste essere tentati di liquidare la situazione in Cina come qualcosa che potrebbe accadere solo in un regime apertamente autoritario come il Partito Comunista Cinese (PCC). Ma per farlo bisognerebbe ingenuamente ignorare l'insaziabile fame di dati dell'agenzia di intelligence degli Stati Uniti e la loro voglia di raccogliere questi dati di nascosto.
Nel 2013, l'ex consulente della CIA, Edward Snowden, ha scoperto un programma segreto di sorveglianza, da parte della NSA, che raccoglieva i dati personali e monitorava l'attività di decine di milioni di americani. Il programma Prisma della NSA ha attinto direttamente ai server di nove aziende Internet, tra cui Facebook, Google, Microsoft e Yahoo, per monitorare le comunicazioni online.
Mentre i livelli di sorveglianza della Cina possono sembrare una storia dell'orrore proveniente da una terra lontana, non dimenticate che quando si parla di crisi, anche le nazioni apparentemente libere sono pronte a sacrificare la libertà per la sicurezza. Il Patriot Act è passato nell'atmosfera di insicurezza che seguì l'attacco terroristico dell'11 settembre, e anche se quel livello di sorveglianza di stato è stato ufficialmente ritirato, ci vuole solo un altro momento di paura per creare un'altra apertura e far si che le autorità estendano i propri poteri.
La sorveglianza in Cina può essere mascherata da autorità e responsabilità sociale, ma è probabilmente anche molto di più. E non si tratta solo del governo. Affidiamo molti dei nostri dati personali a servizi commerciali come Facebook, Twitter e Google, ma quanto sono sicuri? È solo sulla scia dello scandalo di Facebook e Cambridge Analytica che la gente sta davvero iniziando a prendere sul serio il problema di come l'enorme quantità di dati che diamo senza riflettere alle aziende tecnologiche per accedere ai loro servizi venga gestita e come possa essere usata impropriamente.
Le questioni etiche dovrebbero essere sollevate sia per le società private che per le agenzie governative, perché le cose sono sempre connesse, sia col capitalismo, che nel comunismo o in qualsiasi altra via di mezzo. Nell'odierna economia globale, un'azienda tecnologica che possiede un grande magazzino di dati non è necessariamente legata al governo di una nazione.
Google, per esempio, ha trovato una sorta di coscienza quando ha deciso, sotto la pressione di alcuni membri dello staff, di interrompere Project Maven (il programma di droni militari) che sfrutta l'apprendimento automatico per il riconoscimento delle armi. Dall’altra parte la stessa azienda sta anche lavorando a Project Dragonfly, un motore di ricerca censurato, destinato alla Cina, che collega le ricerche ai numeri di telefono in modo da rendere più facile tracciare le persone che fanno ricerche online su argomenti considerati pericolosi.
In breve: le aziende americane stanno lavorando a progetti che apparentemente ci vendono esattamente le camicie che ci piacciono o che ci indirizzano a servizi adatti ai nostri gusti, ma che possono, con il giusto clima politico, essere rivolte contro di noi. Al momento la capacità di aziende e governi di raccogliere enormi quantità di dati ha superato di gran lunga le protezioni per le persone comuni, ed è questo che deve cambiare.
L'intelligenza artificiale può essere utilizzata a fin di bene, ma i nostri diritti devono essere garantiti
Non ho intenzione di spaventare o di dimenticare tutto mettendoci una pietra sopra. Sono un appassionato di tecnologia e credo che l'intelligenza artificiale in un prossimo futuro farà passi da gigante, non solo per rendere i prodotti di consumo più convenienti ma anche come strumento, per rendere più efficienti gli sforzi umanitari o caritatevoli, o per opprimerci in maniera più efficiente.
Progetti come AI for Humanitarian Action (che vede la collaborazione di Microsoft con le Nazioni Unite per aiutare le ONG umanitarie e gruppi per i diritti umani) sono lodevoli e mostrano un potenziale enorme e diverso per lo sviluppo dell'AI. Si tratta di dirigere lo sviluppo tecnologico in modo che sia utilizzato per il bene dell'umanità.
Il primo passo sarebbe quello di un più ampio riconoscimento dei diritti delle persone sui propri dati personali, e la garanzia di un certo controllo su quelli che consegniamo alle aziende hi-tech. Il GDPR (regolamento generale sulla protezione dei dati, in inglese General Data Protection Regulation) dell'Unione europea sarebbe un buon modello, ma al governo degli Stati Uniti, è cosa nota, non piace imporre tali restrizioni alle aziende, figuriamoci poi alle proprie agenzie di intelligence!
I social media e i giganti della tecnologia sono esaminati e controllati dal Congresso come mai prima d'ora, e questo potrebbe decretare la fine dell'età dell’oro dei titani dell'industria tecnologica. In questo frangente, è importante inviare un messaggio chiaro ai nostri leader mentre stanno ascoltando: i cittadini chiedono protezione, diritto alla privacy e la proprietà dei propri dati.
In conclusione, tutti i Paesi sono in un certo qual modo coinvolti e interconnessi nei pericoli dell'AI. Non sarà, quindi, una storia di fantascienza tipo Skynet, ma una di consolidamento e abuso di potere, antica quanto l’uomo stesso.
Tra i governi che chiedono "sicurezza" e le società che ci abbagliano con la "convenienza", riuscite a vedere una via d'uscita?
Fonte: TechCrunch, South China Morning Post
