banner
9 meses atrás
2660 Visualizações
2 0

China inventa o estado totalitário digital

Escrito por
Compartilhe:

As implicações preocupantes do projeto de crédito social

 

O romance “Super Sad True Love Story” de Gary Shteyngart, 2010, é definido sobre um futuro próximo quando o yuan Chinês é uma moeda global e todas as pessoas vestem um aparato em volta do pescoço que contêm a tecnologia RateMe Plus (algo como “Me Avalie Plus”).

Detalhes pessoais estão exibidos publicamente em Pólos de Créditos onipresentes, situados em esquinas com “pequenos LED’s ao nível dos olhos que registram sua classificação de crédito assim que passa por eles”. O protagonista é avaliado assim:

“Lenny Abramov. Renda média dos últimos cinco anos, $ 289.420 yuans agregados… Pressão arterial atual: 120 por 70. Tipo de sangue O… 39 anos, vida estimada em 83. Doenças: colesterol alto, depressão… Perfil Consumidor: Heterossexual, sedentário, sem habilitação, sem religião… Preferências Sexuais: pouca prática, Asiáticos/Coreanos… Indicador de abuso infantil: ligado… Últimas compras: artigo de mídia não transmissivo, impresso e limitado [i.e. livro].”

O romance é uma distopia ficcional sobre a destruição da privacidade. E o Partido Comunista da China pode estar a caminho de inventar tal dispositivo na realidade. Está planejando o que denominam de “sistema de crédito social”. Isto tem como objetivo não só auferir a solvabilidade financeira dos cidadãos, como acontece em vários lugares, mas também o seu comportamento social e, possivelmente, político. Ainda não está claro quão extenso será o sistema, nem se funcionará, nem até que ponto ele irá resistir às críticas contra na mídia controlada pelo estado. Mas um esboço está completo e alguns dos blocos de construção estão no lugar. Os primeiros sinais são de que a China irá começar a mais ambiciosa experiência em controle social digital no mundo.

Um esquema piloto no município de Suining, na província de Jiangsu, ao norte de Xangai, dá pistas sobre o que tal sistema pode significar na prática. Começado em 2010, o governo local premiou pessoas com pontos por bom comportamento (como ganhar uma honra nacional de algum tipo) e deduziu pontos para tudo, desde infrações de tráfico menores até “petições ilegais a autoridades superiores para obter ajuda”. Aqueles que pontuaram mais alto foram elegíveis para resgatar recompensas, como rápidas promoções no trabalho ou ganhar posições na fila para habitação pública.

O projeto foi um fracasso. Os dados em que se baseava eram desiguais. Em meio a uma reação pública, um relatório no China Youth Daily, um jornal estatal, criticou o sistema. Ele disse que os dados “políticos” (como petições) não deveriam ter sido incluídos, declarando que “as pessoas deveriam ter avaliado os funcionários do governo e, em vez disso, o governo avaliou as pessoas”. Outro jornal estatal, Beijing Times, comparou o esquema com os certificados de “bom cidadão” emitidos pelo Japão durante sua ocupação à China em tempos de guerra.

Mas o partido e o governo parecem destemidos, pois emitindo planos gerais para o sistema de crédito social de 2014 a 2016 com diretrizes mais detalhadas. Cerca de 30 governos locais estão coletando dados que o apoiariam. O plano parece extremamente ambicioso, visando explicitamente influenciar o comportamento de toda uma sociedade. Em 2020, dizem as autoridades chinesas, “permitirão que os confiáveis vagueiem em todos os lugares sob o céu, ao mesmo tempo em que torna difícil para os desacreditados dar um único passo”.

O projeto é uma resposta aos maiores problemas do partido: o colapso da confiança nas instituições públicas e a necessidade de acompanhar as mudanças de visão e os interesses da população da China (sem deixá-los votar). Procura coletar informações sobre a honestidade de cidadãos comuns, funcionários públicos e empresas.


Uma questão de Confiança

Apesar de anos de crescimento econômico, o descontentamento popular com a corrupção generalizada cresceu. Uma série de escândalos sobre tudo, desde habitação de má qualidade até vacinas desatualizadas, levou ao cinismo público sobre as empresas e a capacidade do governo de impor regras. A pontuação de crédito social tem como objetivo mudar isso, reprimindo os funcionários corruptos e as empresas que atormentam a vida chinesa. E visa manter um caminho mais próximo ao da opinião pública. Em uma sociedade com poucas possibilidades de expressão livre, grandes dados podem, paradoxalmente, ajudar a tornar as instituições mais responsáveis.

Mas também pode aumentar enormemente o controle social e a intromissão. Em outros países tem havido muitas histórias assustadoras sobre o Big Data levar ao Big Brother. A maioria provou ser falsa. Mas na China é diferente. Trata-se de um estado de partido único, com poucas verificações sobre o seu poder, com uma tradição de controle social e, no presidente Xi Jinping, um líder ainda mais propenso ao autoritarismo do que seus antecessores imediatos. A extensão da pontuação de crédito social dependerá do que o governo pretende, se a tecnologia funcionar e como o partido responderá às preocupações do público.

Comecemos com a intenção. O “esquema de planejamento” publicado em 2014 dizia que o governo “presta muita atenção à construção de um sistema de crédito social” – o projeto tem o imprimátur (termo latino que se refere à permissão ou autorização concedida por autoridades eclesiásticas) de Mr. Xi e Li Keqiang, o primeiro-ministro. O crédito social, declarou, “é um componente importante… do sistema de governança social”: por outras palavras, fazer parte do governo do país.

O documento não definiu como o sistema funcionaria, mas era claro sobre seus objetivos. Eles devem fortalecer a confiança no governo, melhorando sua eficiência através do Big data; Para reprimir as empresas que trapaceiam e vendem bens inseguros; e para “incentivar a confiança e punir a quebra de confiança … em toda a sociedade”. O crédito social, concluiu, seria “uma base importante para… construir uma sociedade socialista harmoniosa”.


Conhecendo você

Esse pensamento está de acordo com o longo registro do partido em usar ferramentas burocráticas para restringir a liberdade e invadir a privacidade em nome da ordem pública. Quase todo mundo tem um documento hukou (registro doméstico) que determina onde os cidadãos podem obter serviços públicos. A maioria das pessoas tinha um dang’an (arquivo pessoal) contendo relatórios de escola e de trabalho, com detalhes de salário. Ambos os controles foram relaxados, notadamente o dang’an. Mas ambos ainda existem.

Um número crescente de pessoas no governo, de empresas estatais e universidades são obrigadas a entregar os seus passaportes “para manter a segurança”. Os detentores de passaportes em algumas partes das regiões inquietas de Xinjiang e Tibete também foram instruídos a entregá-los à polícia.

Punições e recompensas por comportamento são tecidas nas atividades do governo. A política de um (agora dois) filhos continua sendo o exemplo extremo de um suposto pisoteamento maior sobre os interesses privados. Mas não é o único. A lei de idosos de 2013 exige que todos os filhos adultos, sob pena de multas ou prisão, visitem pais com mais de 60 anos “frequentemente” (os tribunais definem como muitas vezes). Algumas pessoas foram multadas sob a lei e um funcionário disse que suas ofensas podem ser inseridas em seu dang’an, embora não haja nenhum sinal de que isso tenha sido feito.

A China tem “um sistema de recompensas administrativas”, no qual centenas de milhares de pessoas recebem honras e títulos, como “quadro excepcional”, “indivíduo espiritualmente avançado” e “aldeia civilizada”. Os vencedores recebem dinheiro, uma pensão mais elevada, um melhor seguro de saúde e o direito de furar a fila para a habitação pública. O sistema de honras é valorizado pelo líderes políticos. No ano passado, todos os sete membros do mais alto órgão de decisão do país, o Comitê Permanente do Politburo, participaram da cerimônia de premiação do programa do Modelo Nacional de Trabalhadores.

A vigilância por atacado, cada vez mais do tipo digital, é um pilar central do governo comunista chinês. Um sistema de vigilância bloco a bloco, denominado “gerenciamento de grade”, está sendo implantado em várias partes do país: policiais e voluntários mantêm guias em grupos de algumas centenas de pessoas, supostamente para garantir que o lixo seja coletado e as disputas resolvidas. É parte de uma tradição de auto-policiamento que se estende de volta para a dinastia Song no século XI.

Novas formas de monitoramento envolvem o uso onipresente de câmeras de televisão de circuito fechado. Em 2009, a China tinha 2,7 milhões delas; agora pode ter ultrapassado a América como o país com o maior número de dispositivos de CCTV. De acordo com Jack Ma, chefe da Alibaba, a maior empresa de Internet da China, a cidade natal da empresa em Hangzhou tem mais câmeras de vigilância do que Nova York, uma cidade um pouco maior.

À medida que o uso da internet cresceu (veja o gráfico), os controles abrangentes da China no cyberespaço – do Great Firewall, o sistema que bloqueia o acesso a dezenas de milhares de sites (Economist.com entre eles); para o Golden Shield, um extenso sistema de vigilância on-line; e o Great Cannon, uma ferramenta para atacar sites hostis. Os cyber-censores da China podem suspender as contas de internet ou de mídia social se seus usuários enviarem mensagens contendo termos sensíveis como “independência tibetana” ou “incidente na Praça Tiananmen”.

A escala do esforço de coleta de dados sugere que o objetivo de longo prazo é manter o controle das transações feitas, sites visitados e mensagens enviadas por todos os 700 milhões de usuários da Internet na China. Isso seria muito ambicioso, mas provavelmente não impossível. De acordo com documentos vazados, a Agência de Segurança Nacional da América pode coletar 42 bilhões de registros de internet por mês e 5 bilhões de registros de localização de celulares por dia.

Para fazer esse trabalho de vigilância, o governo tem de igualar os proprietários de dispositivos com as pegadas digitais que eles deixam. Assim, as leis aprovadas em 2012 e 2016 exigem que as empresas de internet mantenham os nomes reais de seus clientes e outras informações pessoais. Mas há muitos registros falsos. E não está claro como os censores planejam combater as redes privadas virtuais, que mascaram o endereço IP de um usuário.


Quem é impertinente e agradável

O emergente sistema de crédito social baseia-se nesta história de monitoramento e controle da vida privada das pessoas. As listas são centrais para o projeto: você precisa de listas de identidades para ordenar os dados que você recolhe. E as listas são uma especialidade chinesa. A autoridade turística chinesa mantém uma lista de “no-fly” para viajantes mal-educados, que podem ser proibidos de ir para o estrangeiro por até dez anos. A administração do ciberespaço mantém uma “lista branca” de empresas de mídia favorecidas que podem vender seus artigos para outras lojas. E assim por diante.

A lista no centro do sistema de crédito social é chamada de “lista de inadimplentes de julgamento”, composta por aqueles que desafiaram uma ordem judicial. Se duas pessoas ou empresas têm uma disputa contratual, ou se os casais estão lutando por um divórcio ou guarda de criança, as partes podem ir a um tribunal civil para julgamento. Se a parte perdedora, em seguida, for inadimplente no pagamento acordado, ele ou ela é colocada na lista. Os nomes dos infratores são exibidos em um rastreamento eletrônico fora das casas da corte. De acordo com o tribunal supremo, haviam 3,1 milhões inadimplentes na lista no final de 2015.

Todos os países têm problemas em fazer julgamentos civis em casos financeiros, então a lista pode não parecer incomum. Mas isso é. É excepcionalmente longa e disponibiliza a dezenas de departamentos governamentais e organizações partidárias e todos os quais podem aplicar suas próprias sanções aos inadimplentes. As pessoas na lista podem ser impedidas de voar, andar de trem ou comprar bilhetes de trem de primeira classe ou de classe executiva; vender, comprar ou construir uma casa; ou matricular seus filhos em escolas caras. Há restrições para que os infratores se juntem ou sejam promovidos no partido e no exército, e em receber honras e títulos. Se o inadimplente é uma empresa, não pode emitir ações ou títulos, aceitar investimentos estrangeiros ou trabalhar em projetos governamentais. Em agosto de 2016 os inadimplentes tinham sido impedidos de comprar bilhetes de avião cerca de 5 milhões de vezes. Isso vai muito além das exigências legais normais.


Pecados com características chinesas

De colocar inadimplentes em uma lista negra, o sistema poderia ser expandido um pouco, digamos, para manter o controle de empresas que vendem leite envenenado ou construir casas de má qualidade. No entanto, orientações emitidas em maio e setembro sugerem que poderia ir muito mais longe. Eles chamam a lista de inadimplentes de “um componente importante da informação de crédito social”, implicando que ela faz parte de um sistema maior, e que ofensas financeiras são apenas uma categoria de transgressões. Outros tipos de “comportamentos não confiáveis” merecem atenção: “conduta que prejudica seriamente … a ordem social normal … minando seriamente a ordem das transmissões do ciberespaço”, bem como “se reunir para perturbar a ordem social [e] pôr em perigo os interesses da defesa nacional”. Tais categorias amplas implicam que o sistema poderia ser usado para avaliar e punir a dissidência, as expressões de opinião e ameaças percebidas à segurança.

Apesar de não serem claramente explicadas, as diretrizes poderiam permitir que o estado integrasse suas muitas bases de dados: todos os hukou e dang’an, informações da vigilância eletrônica, a lista negra de turistas, o programa nacional de modelos e mais. Mesmo os regulamentos sobre videogames publicados em dezembro dizem que empresas e jogadores que violam as regras podem ser colocados na lista negra e inscritos no banco de dados de crédito social. Na pior das hipóteses, o projeto de crédito social poderia se transformar em um pan-óptico [termo utilizado em 1785 para designar uma penitenciária ideal, concebida pelo filósofo e jurista inglês Jeremy Bentham, um dos principais defensores do utilitarismo] de vigilância digital.

Isso pode soar como alarmismo. Afinal de contas, o Google, o Facebook, os corretores de dados e as empresas de marketing nos países ocidentais – mesmo as campanhas presidenciais eleitorais americanas – mantêm vastas quantidades de informações pessoais sem causar danos graves às liberdades civis, pelo menos até agora.

Mas a China trata as informações pessoais de forma diferente do Ocidente. Nas democracias, as leis limitam o que as empresas podem fazer com ela e até que ponto os governos podem colocar as mãos sobre elas. Tais proteções são imperfeitas em toda parte. Mas na China estas limitações não existem. A lei de segurança nacional e a nova lei de segurança cibernética dão ao governo acesso irrestrito a quase todos os dados pessoais. Os defensores das liberdades civis que podem protestar estão cada vez mais sendo presos. E, de acordo com o Serviço de Pesquisa do Congresso dos Estados Unidos, as empresas que detêm dados, tais como Alibaba, Baidu (o maior motor de busca da China) e Tencent (que executa um popular aplicativo de mensagens sociais) rotineiramente obedecem às demandas governamentais de dados.

Os grandes sistemas de dados nas democracias não são projetados para o controle social. Os da China explicitamente seriam. E pelo fato de seus líderes considerarem que os interesses do partido e da sociedade serem o mesmo, os instrumentos de controle social podem ser usados ​​para fins políticos. No início deste ano, por exemplo, o partido pediu à China Electronics Technology Group, um dos maiores contratados da defesa do país, que desenvolvesse um programa para prever os riscos terroristas com base nos registros de trabalho das pessoas, em seus antecedentes financeiros, hábitos de consumo, passatempos e dados das câmeras de vigilância. Examinar minuciosamente dados para procurar terroristas pode facilmente transformar-se em busca de dissidentes. É notório que as agências de inteligência ocidentais tentaram usar esquemas de mineração de dados para identificar terroristas individuais, mas fracassaram devido a um excesso de “falsos positivos”.

Assim, pode um vasto sistema de crédito social funcionar? Os chineses enfrentam dois grandes obstáculos técnicos: a qualidade dos dados e a sensibilidade dos instrumentos para analisá-los. Grandes projetos de dados em todo o mundo – como a tentativa do Serviço Nacional de Saúde da Grã-Bretanha de criar um banco de dados médico nacional – tropeçaram no problema de como evitar que informações incorretas entupam o sistema (isso também prejudicou o experimento de Suining). Problemas com dados ruins seriam ainda mais oneroso em um país com 1,3 bilhões de pessoas. Vastas tesourarias de dados também dariam grandes incentivos para que os cibercriminosos roubassem ou mudassem informações.

Como analisar os dados seria igualmente problemático. A característica do sistema de crédito social que tem atraído mais atenção e alarme é a noção de atribuir “pontuação de crédito” (pontos) à atividade social e política. Aqui, o modelo parece ser a indústria de marketing da América. As empresas calculam pontuações de crédito que predizem os padrões de consumo das pessoas com base em questões como segurança no emprego, riscos a saúde e delinquência juvenil. Mas os erros abundam. O World Privacy Forum, uma organização sem fins lucrativos, diz que as pontuações de crédito são baseadas em centenas de pontos de dados sem padrões de precisão, transparência ou completude. Como o relatório concluiu, “taxas de erro e leituras falsas se tornam um grande problema”. Lixo entra, lixo sai.


O que pode dar errado?

O governo está ciente destas dificuldades. Permitiu uma quantidade incomum de discussão sobre elas na mídia estatal, sugerindo que pode estar testando as águas antes de decidir até onde mergulhar. Uma recente “cúpula de crédito social” de alto nível em Xangai, por exemplo, falou sobre como as pontuações podem ser verificadas e os erros corrigidos; muitos argumentaram que as proteções legais precisavam ser melhoradas. Zhang Zheng, diretor do Centro de Pesquisa de Crédito da China na Universidade de Pequim, disse que vários problemas permanecem sem solução e que a administração precisa ser controlada.

Um comentário no Beijing Times queixou-se sobre os planos para punir as pessoas que não pagam suas contas de eletricidade, limitando viagens no exterior e empréstimos bancários. “Nunca me opus ao estabelecimento e melhoria de um sistema de informação de crédito”, escreveu o autor, Yang Gengshen. “Só estou contra o uso do crédito para expandir o poder da força e comprimir ainda mais o espaço para os direitos civis”.

Muito sobre o sistema de crédito social permanece obscuro. O governo ainda não determinou se quer o sistema principalmente para reprimir os bandidos ou ir para o Big Brother completo. É incerto se quantidade de informação que o governo detém irá e se deve ser incorporada no sistema. A tecnologia de vigilância é amplamente não testada na vasta escala da China. E a fragmentação das agências de inteligência chinesas teria que ser superada.

Mas o governo está criando a capacidade para um regime de controle social de longo alcance. Muitos dos elementos estão prontos: as bases de dados; a vigilância digital; o sistema de recompensa e punição; e o paternalismo “nós-sabemos-melhor-pra-você”. O que resta é juntar as peças. Se e quando isso for feito, a China terá o primeiro estado totalitário digital do mundo. Como outro personagem em “Super Sad True Love Story” escreve a um amigo: “Isto é o que acontece quando há apenas uma festa e vivemos em um estado policial.”

 

Artigo original aqui (The Economist).
Tradução: Jean Pimenta.

Compartilhe:
Tags dos artigos:
· · · ·
Categorias dos artigos:
Notícias
banner

Espaço reservado para autores diversos.