Shoshana Zuboff sobre a ameaça do capitalismo de vigilância à democracia

 

 

O professor da Harvard Business School discute seu novo livro.

Por Noah Kulwin

Foto: Michael D. Wilson

Em 4 de fevereiro, o Google orgulhosamente anunciou que seu dispositivo anti-intrusão doméstico Nest Secure agora ofereceria suporte ao serviço Google Assistant ativado por voz. No entanto, havia um problema: ninguém sabia que o Nest Secure realmente tinha um microfone dentro . O Google afirma que o microfone "nunca foi concebido para ser um segredo" e "nunca foi ligado", mas é difícil afastar a sensação de que microfones ocultos são um passo natural para gigantes do Vale do Silício que desejam coletar o máximo de dados possível, não importa o custo para a privacidade do usuário.

Este episódio é uma encapsulação perfeita da ameaça digital delineada em um novo livro do crítico de tecnologia e professor da Harvard Business School Shoshana Zuboff, The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power . Publicado pela primeira vez como um ensaio em uma publicação alemã em 2014, o que Zuboff descreve equivale a uma nova lógica econômica nascida na América corporativa que visa extrair um valor surpreendente da vida privada dos usuários. Catalogando uma gama estonteante de sensores e software invasivo, Zuboff esboça uma visão do futuro econômico em que as empresas correm para coletar dados em busca de lucros como o do Facebook ou do Google.

Zuboff, que publicou seu primeiro livro em 1989 sobre o futuro da tecnologia e dos dados no local de trabalho, alerta em Surveillance Capitalism sobre uma "sétima extinção" que ameaça erradicar "o que foi considerado mais precioso na natureza humana". Dada a fragilidade da ordem política e econômica global, o capitalismo de vigilância equivale a um “golpe de cima”, argumenta Zuboff, um ataque à democracia por meio da subversão da própria ideia do que significa ser um indivíduo.

Falei recentemente com Zuboff sobre seu livro, o que constitui o capitalismo de vigilância, como funciona e o que o diferencia de outras mudanças históricas na economia. A entrevista a seguir foi editada e condensada para maior clareza e extensão.

Provavelmente vou segurar o gravador perto de você porque há muito ruído ambiente aqui. A primeira coisa que eu queria pedir era uma definição de capitalismo de vigilância para os não iniciados. Como você descreveria isso?
Você quer se aproximar? Snuggle up, snuggle up. Eu diria que o capitalismo de vigilância em muitos aspectos diverge da história do capitalismo de mercado, mas em um aspecto principal ele emula o padrão do capitalismo de mercado, e é assim: Os historiadores há muito reconheceram que o capitalismo evolui reivindicando coisas que vivem fora do dinâmica de mercado e trazê-los para a dinâmica de mercado para que possam ser transformados em commodities para venda e compra. De maneira tão famosa, por exemplo, o capitalismo industrial reivindicou a natureza para a dinâmica do mercado. A natureza vive em seu próprio espaço e tempo, reivindicando a natureza para a dinâmica do mercado, renasce como imóvel, como terreno que pode ser vendido e comprado. Da mesma forma, o capitalismo industrial reivindicou trabalho para a dinâmica do mercado, portanto, atividades que as pessoas faziam em seus campos, em seus jardins, em suas casas,

O capitalismo de vigilância segue esse padrão, mas com o que eu chamaria de uma espécie de torção sombria. E é isso que reivindica a experiência humana privada como fonte de matéria-prima gratuita, subordinada à dinâmica do mercado e renascida como dados comportamentais. Esses dados comportamentais são então combinados com recursos computacionais avançados para produzir previsões do comportamento humano. Então, todos esses dados comportamentais agora fluem para nossos obscuros moinhos satânicos do século 21, que são o que chamamos de inteligência de máquina, aprendizado de máquina, inteligência artificial, a fim de lançar previsões. Este é um novo tipo de produto.

Existem dados e informações coletadas sobre pessoas que são usadas especificamente para informar os produtos específicos que lhes são servidos, mas existem esses outros dados, o que você chamou de excedente comportamental, que são informações que não têm um uso imediato, mas são elas mesmas um tipo de controle e poder que essas organizações possuem que lhes dá uma vantagem sobre outras empresas. Por que o excedente comportamental é algo tão crítico no capitalismo de vigilância?
A ideia aqui é que o que está sendo produzido são previsões, previsões do comportamento humano futuro que são então vendidas a mercados de clientes empresariais que têm interesse no que as pessoas farão agora, em breve e mais tarde. Então essa é a sequência, os mecanismos do capitalismo de vigilância. Quando digo alegar experiência humana privada e, em seguida, traduzi-la em dados comportamentais, estou falando especificamente sobre aspectos da experiência humana privada que não são necessários para a melhoria de produtos e serviços. Assim, por exemplo, no mundo da pesquisa, onde esses mecanismos foram descobertos e inventados pela primeira vez, estava claro que as pessoas estavam pesquisando e navegando e você poderia usar os dados para melhorar o mecanismo de pesquisa e criar serviços auxiliares, como tradução. Mas havia dados colaterais que também eram produzidos nesses processos que não eram comportamentos que as pessoas entendiam que estavam compartilhando. Foi um desdobramento de sua experiência de pesquisa, de sua atividade de pesquisa, mas não algo que eles sabiam que estavam compartilhando. Da mesma forma, por exemplo, que você pode fazer uma postagem no Facebook para se encontrar com seus amigos e familiares para jantar, e o que se torna interessante do ponto de vista dos dados é se você diz “Te encontro mais tarde” ou se você diz , “Te encontro às 6:45.”

Portanto, o ponto é que há um metanível desses dados que tem um tremendo valor preditivo que você não sabe que está comunicando quando está postando ou quando está pesquisando ou quando está navegando ou todas essas coisas, e esses dados são mais do que o necessário para a melhoria de produtos e serviços. Esses dados extras inicialmente, no início de tudo isso, estavam por aí, sem uso, considerados exaustão de dados, material residual. Eventualmente, descobriu-se que eles tinham um valor preditivo significativo e foi isso que foi usado para criar o tipo de produto de previsão de onde as pessoas clicariam que se tornou a base para esses novos mercados de publicidade online. Portanto, a ideia aqui é que haja dados comportamentais que as empresas estão coletando sobre nós, que estão sendo usados ​​para melhorar o que eles nos fornecem, mas há muito mais informações comportamentais que estamos comunicando que não sabemos. E esse é o excedente que eles consideram seu valor preditivo, o transmitem por meio de seus processos de produção para criar esses produtos de previsão, e tudo isso está acontecendo sem nossa permissão, sem nosso conhecimento. Está acontecendo de uma forma projetada para contornar nossa consciência, está acontecendo de uma forma projetada para nos manter na ignorância.

Isso é o que chamo de texto de sombra. É o que eles podem tirar desses fluxos comportamentais que lhes dá um tremendo poder de previsão, e é diferente do que sabíamos que estávamos dando a eles. É por isso que hoje, de acordo com alguns dos novos regulamentos, por exemplo GDPR, diz, bem, você pode ir a uma empresa e pedir a eles os dados que eles têm sobre você. Mas quando você vai a uma empresa e pede a eles os dados que eles têm sobre você, o que você realmente está falando são os dados que você já forneceu. Mas os dados importantes que eles têm sobre você são esses metadados, essas coisas que eles foram capazes de extrair dos seus dados que você nem conhece. Por exemplo, se você usar pontos de exclamação ou se disser 6:45 ou mais tarde, se usar marcadores em vez de apenas um parágrafo geral. E um milhão de outras coisas.

Apenas para escolher uma vertente isolada desses dados, como o fato de eu preferir ou não usar pontos, elipses ou ponto-e-vírgulas se torna algo com poder preditivo valioso?
Então, há algo chamado modelo de personalidade de cinco fatores, onde você pode escolher pistas comportamentais de material online e analisá-las por meio desse modelo de personalidade de cinco fatores e chegar a avaliações de personalidade muito específicas. Tipo, esta é a raiz do trabalho da Cambridge Analytica. Você pode pegar dados comportamentais, pode executá-los por meio desse modelo e fazer previsões de alta granularidade. Como eles podem dizer, por exemplo, você sabe, se você é gay, ou se provavelmente votará alt-right, ou se provavelmente será um descontente político. Está correlacionado com todos os tipos de outras previsões comportamentais. Então, por exemplo, eles podem pegar todas as pessoas que usam elipses e fazer uma correlação cruzada com seus resultados nesses perfis de personalidade e, ao fazer isso, eles podem ver que, você sabe, pessoas que tendem a usar elipses são pessoas que têm incertezas ou não gostam de terminar as coisas. Esses são bancos de dados enormes que correlacionam todos esses pequenos sinais diferentes. Muitos deles organizados pelo modelo de personalidade de cinco fatores e, em seguida, existem outros modelos construídos sobre a personalidade de cinco fatores - como a IBM tem 12 fatores e outra pessoa tem 16 fatores. Existem essas correlações imensas que estão acontecendo o tempo todo, então alguém que usa marcadores, você sabe, eles correlacionam isso com uma tendência maior à precisão.

Você poderia, então, teoricamente organizar esses dados de tal forma e obter algo que seja útil para qualquer que seja o possuidor do propósito ou da agenda desses dados.
Você constrói detalhes reais sobre esses perfis, em detalhes psicológicos reais, para então começar a prever como uma pessoa com esse perfil detalhado provavelmente reagirá a estímulos, certo? Então essa pessoa com esse perfil e essas predileções e talvez esse senso de confusão ou o que seja, e então se eu trouxer um estímulo que diz “isso está acontecendo e você deve fazer isso” - seja “você deve comprar isso” ou “você deveria votar desta forma ”ou“ isso está acontecendo e você deveria ser contra ”- você construiu uma previsão muito robusta sobre como as pessoas com este perfil provavelmente reagirão a esse tipo de estímulo. E isso fica muito refinado, muito ajustado. Isso está acontecendo com processamento paralelo com milhões e milhões de pontos de dados e acaba sendo capaz de prever, como dizemos com Cambridge Analytica,

Por que o capitalismo de vigilância é tão diferente do capitalismo de antes? É algo que você aborda no livro até certo ponto, e como ele se afasta do capitalismo gerencial e outras tradições do capitalismo, mas estou curioso sobre qual é o valor de ter uma nomenclatura específica para descrever os capitalistas de vigilância?
Sim, é uma boa pergunta. Então, você sabe, os teóricos do capitalismo têm falado ao longo dos anos sobre o capitalismo como uma espécie de processo meta-econômico de fluxos de capital - certas necessidades de escala, crescimento econômico, produtividade, etc. Mas também foi reconhecido que cada era produz suas próprias formas de mercado únicas que estão participando desses princípios mais amplos do capitalismo, mas específicas para uma época e lugar. Isso é materialismo histórico, se você quiser. Portanto, a ideia é, por exemplo, Adam Smith contrastar o capitalismo mercantil, que era comércio e navios entre países e assim por diante, ao que se tornou o capitalismo industrial. Ele ficou fascinado com a fábrica de alfinetes, porque agora a fábrica de alfinetes tomava esses processos em grande escala de acumulação de capital, crescimento e produtividade, mas agora os trazia para uma forma de mercado diferente,

Portanto, mesmo no início da teorização do capitalismo, foi entendido que o capitalismo assume diferentes formas de mercado e diferentes épocas no contexto de diferentes tecnologias. Tivemos capitalismo mercantil e capitalismo de fábrica, capitalismo de produção em massa e capitalismo gerencial, capitalismo financeiro. E normalmente o que acontece nesses novos conceitos é esse modificador, como “produção em massa” ou, no meu caso, capitalismo de “vigilância”, o que esse modificador está fazendo é apontar o pivô da criação de valor nesta nova forma de mercado. Assim, por exemplo, o capitalismo de produção em massa: o que está criando o valor nesta nova forma de capitalismo é a ideia de que você tem uma divisão mínima do trabalho e padronização das partes. A separação entre execução e administração, o alto volume e o baixo custo unitário que resultou,

Uma das coisas que as grandes empresas do Vale do Silício provavelmente têm em comum, mais do que a forma como são capazes de fazer uso dos dados do consumidor, é que são capazes de construir plataformas de software e hardware às quais economias inteiras tiveram que se acomodar. Eles criam seus próprios tipos de jardins protegidos nos quais podem operar e discriminar. Estou curioso para saber como a natureza da plataforma é realmente o que informa o poder econômico e a ascensão na estrutura dessa nova forma de capitalismo.
Sim, bem, a plataforma é uma grande inovação tecnológica, mas o que estou distinguindo aqui é uma lógica econômica. Estou realmente fazendo um esforço para separar a tecnologia da lógica econômica E é possível imaginar o capitalismo de plataforma sem a forma de mercado de vigilância, mas assim como é possível imaginar a tecnologia digital sem capitalismo de vigilância, é impossível imaginar a vigilância capitalismo sem o digital. Portanto, estou fazendo uma distinção sobre uma forma de mercado específica que cresceu e não é uma necessidade de uma plataforma, embora tenha crescido em muitas plataformas.

Qual é um exemplo de plataforma sem capitalismo de vigilância? Há algum exemplo atual que lhe venha à mente?
Esta é uma situação muito dinâmica e não há nada puro. Vamos pegar a Amazon como exemplo. A Amazon sempre foi uma capitalista muito astuta e até implacável. E tem usado a plataforma para alcançar o monopólio em muitas dimensões, e tem usado enormes quantidades de dados comportamentais para realmente melhorar seus serviços. E assim usou a tecnologia de plataforma, o sistema de plataforma de uma forma muito poderosa. Mas só mais recentemente a Amazon parece ter mudado para o capitalismo de vigilância como uma forma de mercado, à medida que a Amazon mudou para serviços personalizados - a Alexa e todas as coisas que a acompanham. Ele saiu do reino de apenas fazer capitalismo de plataforma realmente astuto, até mesmo implacável, criando monopólios e assim por diante, para buscar essas cadeias de suprimento de excedente comportamental para personalizar, para criar previsões,

Esse capitalismo de vigilância é uma lógica econômica agora que está viajando não apenas pelo setor de tecnologia, mas também por setores da economia regular onde as plataformas não são a constelação proeminente. Portanto, no setor de seguros, no setor de saúde, as seguradoras estão usando telemática para que saibam como você está dirigindo em tempo real e possam recompensá-lo e puni-lo com prêmios cada vez mais baixos em tempo real pelo fato de você dirigir ou não custa-lhes mais ou menos dinheiro, ou quer sua alimentação lhes custe mais ou menos dinheiro ou não, ou seus padrões de exercícios lhes custem mais ou menos dinheiro. Prestadores de serviços de saúde que estão usando a telemática não apenas para alimentar esses mercados de previsão, mas também para coletar todos os tipos de dados auxiliares para vender a terceiros, e fazer parte de todos esses ecossistemas agora, são fornecedores de excedentes comportamentais. Você baixa um aplicativo de diabetes, leva seu telefone, seu microfone, sua câmera, seus contatos. Talvez ajude um pouco a controlar o diabetes, mas também é apenas uma parte de toda essa dinâmica da cadeia de suprimentos para os fluxos de excedentes comportamentais.

E essa é uma lógica econômica que só agora se torna possível por causa dos avanços tecnológicos dos últimos 20 anos.
Havia uma janela onde tínhamos a internet, tínhamos a World Wide Web, antes tínhamos o capitalismo de vigilância, onde imaginávamos a casa inteligente como um circuito fechado. Dispositivos na casa alimentavam dados para o ocupante da casa, o ocupante da casa decidia como os dados seriam usados, se eles seriam compartilhados, o que significavam, tudo isso. Sistema simples de malha fechada. Essa seria a casa inteligente. Isso também seria telemedicina. Loops fechados simples entre o médico, um servidor e o hospital, e o paciente em casa.

Avance 20 anos e agora esses circuitos fechados simples são coisas como o termostato Nest, onde a análise acadêmica indica que se você for um consumidor vigilante e instalar um termostato Nest em seu quarto, você deve revisar um mínimo de 1.000 contratos de privacidade, porque tudo está fluindo para terceiros, que está fluindo para terceiros, que está fluindo para terceiros. Ninguém se responsabiliza por terceiros e, a propósito, se você não concordar com cada política em cada etapa, começará a perder a funcionalidade do produto e o motivo pelo qual o comprou.

Em seu primeiro livro, In the Age of the Smart Machine , você descreve dois caminhos distintos para como o futuro pode se desdobrar e como a tecnologia pode evoluir. O que você acha que mudou desde aquela época - entre 1989 e os anos 2000 - que levou a essa situação?
Naquele livro eu falei sobre os dilemas do conhecimento, autoridade e poder, e falei sobre o que chamei na época de “texto eletrônico”, a textualização do mundo - a ideia de que tudo estava sendo digitalizado, sendo traduzido em informação , e que em situações onde não havia sanções ou constrangimentos, que essa informação estava sendo usada para pesquisar e controlar ao invés de capacitar e ensinar e aprender e crescer juntos. Mas, no século 20, quando escrevi aquele livro, essas questões de capital e digital eram voltadas para o domínio econômico. Eles foram direcionados para nossas funções como trabalhadores e, você sabe, funcionários.

Essa foi uma história sobre como, se não prestarmos atenção às oportunidades no que chamei de local de trabalho da informação, onde, você sabe, as pessoas precisam ser educadas para serem incluídas neste tipo de trabalho, e é um trabalho mais intelectual , e é menos hierárquico e todos podem fazer contribuições - se não prestarmos atenção, serão apenas informações de cima para baixo, e serão usadas para controle e vigilância, e isso é o que chamo de panóptico de informações, que foi o fim desse livro.

E eu falei sobre ir para um lado ou para outro, há neoliberalismo, reengenharia e maximização do valor para o acionista, e ninguém está dando a mínima para educar a força de trabalho e realmente tirar proveito dessas novas tecnologias. Era tudo sobre offshoring e terceirização e redução de custos e redução, redução, redução, redução. Então, é claro que tudo foi para as coisas de vigilância, de modo que agora os locais de trabalho realmente se tornaram os laboratórios para o capitalismo de vigilância, porque é onde habituamos os seres humanos à vigilância perpétua.

A Amazon é um bom exemplo de pioneira nisso, como você disse antes. Eles podem ter se atrasado com os consumidores, mas foram absolutamente pioneiros em termos de sua própria força de trabalho.
Oh sim, e quase todo mundo está. Quer dizer, eu estive em uma turnê do livro. Estamos entrando e saindo de prédios para entrevistas e você tem que - você tem a identidade, e você tem a coisa, e então você tem que passar por esta coisa e aquela coisa e aquela coisa e aquela coisa, e todos esses edifícios são vigilância agora. Se você for realmente um funcionário lá, tudo é supervisionado. Tudo está vigiado. E a profundidade da vigilância no local de trabalho agora excede qualquer coisa que eu sequer imaginei no final dos anos 80, quando publiquei aquele livro. Então tudo se tornou realidade.

Qualquer escuridão que eu previ passou e muito, muito mais. Mas agora, a questão é que estamos no século 21, e agora essas mesmas capacidades, essa textualização do mundo, a ideia de que tudo agora é informação - bem, isso se espalhou pelas paredes das fábricas e os escritórios e locais de trabalho. Se essas lutas foram entre capital e trabalho, as lutas hoje são entre capital e sociedade. Agora, essas coisas estão caindo sobre todos nós porque somos os usuários, você sabe. Não se trata de nossos papéis, nossos papéis econômicos como trabalhadores, como funcionários - agora, nossa interface com essas forças do capital é tão comum no curso de nossas vidas diárias. Somos chamados de usuários.

Portanto, o usuário do nosso aplicativo é como o novo proletariado - não quero ser simplista, mas parece que o que você está descrevendo é uma grande reconfiguração -
Não somos o novo proletariado, mas somos o novo, como , alvo do capital, e é por isso que comecei dizendo experiência humana privada. É nossa experiência humana, nossa experiência privada que é o novo alvo do capital para a matéria-prima que agora está transformando em produtos que está vendendo.

Então, os capitalistas vieram pelas árvores, depois vieram pelo trabalho, e agora estão vindo para a vida individual e privada. Você tem alguma ideia do que poderia vir a seguir?
Então, o que eu quero que você entenda sobre isso - porque eu sinto que não respondi uma pergunta que você fez anteriormente, e é por isso que eu chamo isso de capitalismo de vigilância e não de capitalismo de plataforma - vindo para nossa experiência humana ... Então, vamos reconhecer a estrutura dos mercados que eles criaram, porque estão vindo para nossa experiência humana, estão traduzindo em dados comportamentais, estão criando conhecimento preditivo a partir disso e estão vendendo esse conhecimento preditivo. Mas eles estão vendendo para outros, não para nós. Portanto, é o conhecimento sobre nós, mas não para nós. Essas são assimetrias inerentes, certo? As reciprocidades agora são entre os capitalistas de vigilância e seus clientes empresariais, que descobrem que é a melhor maneira de ganhar dinheiro agora, de onde virão suas margens,

Um contraponto: essas empresas são realmente ruins em prever o que seus consumidores farão no futuro. Um dos maiores lugares em que o investimento em publicidade da Amazon vai é para o retargeting - anúncios que mostram o que você já viu. E eles acreditam que mostrar o que você já viu é uma boa maneira de fazer com que você compre mais daquilo. E é aí que eles obtêm o maior valor agora, não é uma coisa preditiva, é apenas regurgitar o que você já comprou de volta. Essas empresas estão prestes a desenvolver poderes de previsão muito mais sofisticados que podem usar os dados que estão coletando?
Bem, olhe, a publicidade direcionada online foi o lugar onde isso começou, mas não é o lugar onde termina. É como dizer que a produção em massa só era relevante para torná-lo um modelo T. Essa lógica está se espalhando para todos esses contextos diferentes e todos esses mercados preditivos diferentes, então - vamos voltar ao Modelo T, por exemplo. Três ou quatro meses atrás, o CEO da Ford disse que há uma queda global no setor automotivo, é muito difícil vender carros, mas estamos sendo rebaixados nos mercados. Ele diz que queremos relações de preço / lucro como o Google e o Facebook. Como fazemos isso? Vamos nos tornar uma empresa de dados. Temos 100 milhões de pessoas dirigindo veículos Ford. E o que vamos fazer é descobrir como obter todos os dados dessa experiência de direção.

Então, essa é a telemática, essa é a coisa que, sabe, não podemos apenas saber como você está dirigindo e para onde está dirigindo, podemos conhecer o olhar dos seus olhos - e isso é muito importante para as seguradoras saberem se você estiver dirigindo com segurança. E podemos saber o que você está falando em seu carro, e, como a Amazon e o Google e assim por diante, já estão em um concurso para o painel do carro, porque essa é uma maneira de ouvir o que você está falando e saber onde você 'tá indo. Então, eles falam sobre, você sabe, comprar do volante. Portanto, agora o próprio automóvel se torna essa pequena bolha de vigilância. Podemos obter todas essas informações, desde sua conversa até suas compras, para onde você está indo, o que está fazendo e como está dirigindo. E isso tem valor preditivo para todos os tipos de clientes empresariais.

Também me parece, porém, estar dependente da capacidade dessas empresas de fazerem desenvolvimentos tecnológicos. Como sabemos que o capitalista de vigilância vai realmente ter poder no futuro? É assustador, e eles já estão fazendo uma coleta excessiva de dados que viola qualquer norma concebível, mas também parece que essas empresas estão lutando para desenvolver o poder de obter até mesmo os dados que afirmam querer no futuro.
Bem, como eu disse, isso é dinâmico. É aqui que estamos agora: para uma empresa de produtos dizer que nossas margens e nosso crescimento de receita não virão do nosso produto, virão dos dados que podemos extrair das pessoas que usam nosso produto, porque aqueles os dados serão valiosos e lucrativos nesses mercados secundários que querem saber onde vamos comprar, onde vamos fazer, o que vamos fazer ... É agora que o capital está se deslocando para criar esses novas capacidades, e é a telemática, e você lê sobre o que está acontecendo em seguros e outras coisas são muito reais. Você tem todas as consultorias alinhadas, aconselhando as seguradoras. Isso é o que é dinâmico, é o que está criando raízes agora e florescendo agora. Começou no mundo online, começou no setor de tecnologia,

O que você está vendo é uma mudança nessa ideia de, não é um produto, é um produto inteligente, não é um serviço, é um serviço personalizado. Esta é a mudança para o capitalismo de vigilância, é uma mudança para esse tipo de forma parasita que em vez de, "Estamos colocando todos os nossos esforços para fazer o melhor produto para você" ou o melhor serviço para você, e realmente resolver os problemas na sua vida e realmente melhorando a sua saúde, ajudando na sua situação financeira e criando mais oportunidades de emprego, sabe, é isso ...

Acho que parte do que acho curioso é que alguns negócios são muito bons nisso e outros, muito ruins. Você usa esses aplicativos e são todos terríveis. Eles não são ótimos. Você acha que esses retardatários no capitalismo de vigilância representam alguma ameaça à viabilidade dessa lógica econômica?
Não estamos nem perto do fim do jogo, sabe, e as pessoas me dizem o tempo todo, bem, é tarde demais e não podemos fazer nada a respeito, como vamos desfazer isso? E eu digo, não, não, não, não é onde estamos.

A produção em massa começou de forma muito violenta. E não havia lei para restringir ou impedir, e havia condições de trabalho inseguras e as pessoas recebiam salários de escravos e as crianças trabalhavam em fábricas. E levou décadas e disputas públicas e juntando recursos democráticos e, eventualmente, leis e regulamentos que moldaram e domesticaram e tornaram algo que era realmente palatável para a sociedade em um equilíbrio relativo que chamamos de democracia de mercado. E eu acredito que o capitalismo de vigilância foi muito longe em alguns setores e está se movendo em outros setores. É por isso que a Ford para mim é um exemplo tão icônico: isso é o que as empresas estão procurando, é aqui de onde virão as margens, esta será a nova solução de como lucramos na era da informação.

Então é por isso que é tão importante para nós entendermos isso, porque estamos no início dessa arte, não no fim dela. Isso se desenvolveu nos últimos 20 anos, quase sem qualquer impedimento da lei, quase sem qualquer impedimento da regulamentação. Ele se desenvolveu enquanto a democracia dormia. E eu dou - eu exploro 16 razões, em profundidade, incluindo algumas razões históricas por que esse é o caso, por que teve basicamente um ciclo gratuito de 20 anos para se desenvolver.

Mas meu argumento é, é por isso que agora, você sabe, chegou a hora em que o suficiente disso seja comprovado para que possamos entender, para que possamos ver como funciona. Podemos ver seus objetivos e seus objetivos e seus resultados. Quando escrevo sobre os experimentos de contágio do Facebook e Pokémon Go, escrevo sobre eles como uma espécie de experimentos em escala populacional sobre como fazer o capitalismo de vigilância no mundo real, em escala. Portanto, Pokémon Go é um teste para o Google City. Certo? Google City é um experimento em nível de população em como você reúne e sintoniza populações, modifica o comportamento das pessoas, para orientá-las em direção a resultados comerciais garantidos, de modo que o jogo seja realmente baseado no Niantic Labs de Pokémon Go que, é claro, é incubado pelo Google Operação. Ela está hospedando seus próprios mercados futuros comportamentais, tem estabelecimentos comerciais, McDonald's e assim por diante,

Mais do que os clientes do mercado Amazon pagam para jogar nessa plataforma -
isso mesmo. Mas agora estamos no mundo real, e estamos aprendendo como sintonizar e conduzir as pessoas através do mundo real, através de suas vidas reais, em suas cidades reais, para os lugares onde agora a Niantic Labs é paga porque você apareceu lá , e você comprou uma pizza, ou você comprou uma bebida, ou você comprou um hambúrguer, ou você ficou por quantas horas, e você jogou no ginásio Pokémon ou qualquer outra coisa, no banheiro.

Portanto, este é o modelo para o Google City, a cidade inteligente, onde toda a arquitetura digital se torna um meio global de modificação comportamental que usamos para sintonizar e agrupar as populações em direção a resultados comerciais garantidos na cidade. E é por isso que os cidadãos de Toronto agora estão contestando a ideia de o Google ter a orla marítima, porque a ideia agora é que esses sistemas computacionais substituam a política, e a ideia toda é que eles irão gentilmente, com um sorriso, sintonizar e agrupar pessoas em direção aos resultados que atendem às metas comerciais do Google e às metas comerciais de seus clientes empresariais nesses mercados de previsão.

Parece quase um meio de governança, como um algoritmo.
Substitui a política pela computação, então é pós-democracia. Ele substitui populações por sociedades, estatísticas por cidadãos e computação por política, então eu li muito sobre esta zona experimental, os experimentos de contágio do Facebook, onde outra zona experimental onde, quando eles escreveram esses experimentos em periódicos acadêmicos - pesquisadores de dados muito inteligentes do Facebook, combinado com acadêmicos muito inteligentes, gabaram-se de que agora sabemos que podemos usar o mundo online para criar contágio que muda o comportamento no mundo real. O primeiro caso foi uma votação, o segundo caso foi emocional. E eles se gabaram em seus artigos de que podemos fazer isso de uma forma que ignore a consciência do usuário. Certo? Sempre projetado para a ignorância. Porque você sabe, essa é a essência da vigilância, você não pode fazer isso pedindo permissão.

Acho que seria negligente se não mencionasse a China. Até que ponto você acha que a China oferece um modelo de como o futuro pode ser ou como ele é diferente dele?
Você fez a pergunta no momento perfeito de nossa conversa, porque estamos falando sobre a substituição da política pela computação, ou seja, pela democracia. Acabei de falar com você sobre como o capitalismo de vigilância comanda a infraestrutura digital como um meio global de modificação comportamental, e faço a pergunta: qual é o poder de modificar o comportamento da população em escala? Que poder é esse? E eu respondo a pergunta. Este não é um poder totalitário. Ninguém está vindo atrás de nós para nos matar, para nos colocar em campos de concentração, para nos jogar no gulag, para, hum, para nos controlar através do terror.

Não, eles só querem nosso dinheiro.
Na verdade, eles só querem nossos dados. Eles não se importam com o que acreditamos. Eles não se importam se estamos felizes, eles não se importam se estamos tristes. Eles não se importam se estamos com dor, eles não se importam se estamos apaixonados. Eles só se preocupam com o fato de que tudo o que somos e fazemos, fazemos de uma forma que tenha interface com suas cadeias de abastecimento. Para que eles obtenham seus fluxos de dados. Eles estão nessa estrutura, fundamentalmente indiferentes ao conteúdo de nosso comportamento. Eles só querem ter os dados de nosso comportamento.

Eu chamo isso de poder instrumentário, em contraste com o poder totalitário. Poder instrumentário. Dois motivos: um, depende da instrumentação do meio digital porque é por meio desse meio que estamos sendo sintonizados, guiados, desviados, treinados e modificados. Ninguém está vindo para gostar, você sabe, dar um tapa em você ou matar você ou machucar você ...

Parece um tanto totalitário, visto que as pessoas são simplesmente destituídas de agência.
Bem, isso é parte disso. Mas “totalitário” é uma coisa muito específica. É um poder totalitário centralizado que é especificamente entendido como funcionando por meio de mecanismos de terror e assassinato. Isso é o totalitarismo. O poder instrumentário quer controlar você, mas não se importa em machucar você. Ele quer controlá-lo em direção a seus resultados comerciais garantidos. Está fazendo com que você, como Noah, seja simplesmente instrumentalizado para os resultados de seus clientes empresariais, certo? Então você é um meio para os fins comerciais dos outros. Você está instrumentalizado e cercado por esse meio de instrumentação que é quase impossível. É sua máquina de lavar louça, seu aparelho de televisão, seu carro, a telemática e seu telefone. É todo esse ambiente digital que agora é o meio instrumentado que está produzindo o conhecimento que cria a oportunidade para o poder de modificar seu comportamento. Então, bem, tenho que voltar à pergunta que você acabou de fazer e que eu estava respondendo ...

China.
Oh, China, vamos para a China! China, China, China. Tudo certo. Então, o que eu disse é que esse é um tipo de poder que nunca existiu antes, assim como o totalitarismo, quando surgiu no século 20, era um tipo de poder que os estudiosos nunca tinham visto antes. Então nós temos esse poder instrumentário, e ele está vindo da esfera privada, da esfera comercial. É um poder extraordinário, sob os auspícios do capital privado. E uma das coisas que ele quer fazer, que visa fazer, é substituir a política pela computação.

Esse é o nosso pivô. Agora olhe para a China. O que é a China? A China é um estado autoritário, não um estado democrático. Então, estado autoritário. Dentro da China, essas empresas de internet que acumularam também enormes, enormes capacidades instrumentais, enormes assimetrias de conhecimento comportamental, poder preditivo, capacidade analítica, capazes de recompensar e punir o comportamento dessas formas muito refinadas. Compre isso, dê um desconto naquilo, e assim por diante. Um estado autoritário vê essas capacidades instrumentais e diz: “Isso é perfeito. Queremos levar isso, não o terror, não o assassinato, não o gulag. Queremos pegar essas capacidades instrumentais e agora direcioná-las aos resultados políticos e sociais que nós, como um governo autoritário, buscamos. É assim que queremos que nossa população se comporte e é assim que vamos disciplinar nossa população. E esses são os parâmetros que vamos dar a eles. E é assim que vamos restaurar a ordem em uma sociedade que caiu no caos por causa da destruição completa da confiança social na esteira de décadas do projeto maoísta. ” Então, o que você vê na China é o casamento do estado autoritário com o poder instrumentário. E esse é um final de jogo muito sombrio e perigoso.

Você o descreve como um fim de jogo, e eu não quero confundir as coisas, mas tendo descrito anteriormente o momento em que estamos como um estágio inicial do capitalismo de vigilância -
um estágio dinâmico.

Dinâmico.
Não inicial, necessariamente, mas dinâmico.

E a China representa um lugar onde a dinâmica pode mudar e onde -
E qual é a variável principal? A variável principal é a democracia. É por isso que a democracia é um conceito tão importante em toda essa conversa. Estávamos falando sobre a cidade inteligente, a substituição da política pela computação e, em última instância, pela democracia, e então você mencionou a China. Eu disse: “Você tocou no assunto no momento perfeito”, porque isso é muito importante. É aqui que essas peças se conectam. Porque se permitirmos que a computação substitua a política, e permitirmos que as estatísticas substituam os cidadãos, e permitirmos que as populações substituam as sociedades, estaremos destruindo a democracia como a conhecemos. E se destruirmos a democracia, tudo o que resta é esse tipo de governança computacional, que é uma nova forma de absolutismo, Noah. É uma nova forma de absolutismo, governança computacional.

Então, é isso que o capitalismo de vigilância representa. E é aqui que meu livro termina, e os capítulos finais representam uma profunda ameaça à democracia que vai além da missão de apenas mais um capitalismo que ganha muito dinheiro. Aumenta o consumo em massa, emprega muitas pessoas e dá aos consumidores o que eles desejam. Agora estamos falando sobre uma forma de capitalismo que, a fim de cumprir a si mesmo, seus próprios imperativos de escala, escopo e ação, seu próprio imperativo de previsão, a fim de cumprir seus próprios imperativos, em última análise, substitui a sociedade e substitui a política por esses princípios computacionais, que agora são voltados para resultados comerciais.

Mas esses princípios podem mudar facilmente.
E foi isso que Cambridge Analytica nos ensinou. Essas foram as pessoas que desenvolveram o modelo de personalidade de cinco fatores nos perfis do Facebook por anos e anos e compreenderam o enorme valor preditivo do excedente comportamental extraído dos perfis do Facebook. Agora, sob o novo regime de Robert Mercer, o bilionário que comprou Cambridge Analytica e possuía a campanha Trump, sob esses novos auspícios de plutocracia, Cambridge Analytica leva um dia na vida de qualquer capitalista de vigilância que se preze, apenas os mecanismos comuns que estão sendo usados ​​para fazer esse trabalho todos os dias, e apenas os transforma em alguns graus de resultados comerciais para resultados políticos e usa todas as mesmas metodologias para usar o meio online para afetar o comportamento no mundo real. Mas desta vez é o comportamento político do mundo real, não o comportamento comercial do mundo real. Assim,

A maneira como isso pode ser reaproveitado para fins políticos, não comerciais.
Que essas capacidades de modificação comportamental em massa, poder instrumentário que pode ser usado para sintonizar e agrupar populações em direção a resultados comerciais no mundo real, a serviço do crescimento das receitas de vigilância, podem ser reaproveitadas para fins políticos. Os chineses estão fazendo isso a serviço de um Estado autoritário, e o que já vimos na América é que qualquer pessoa com dinheiro suficiente, qualquer plutocrata ambicioso, pode comprar as habilidades e os dados para usar essas mesmas metodologias para influenciar resultados políticos.

E então, o que está sitiado aqui é a democracia, de duas direções. A estrutura criada sob os auspícios do capital privado que se baseia em assimetrias de conhecimento sem precedentes - conhecimento que diz respeito a nós, mas não para nós, que dá origem a assimetrias de poder sem precedentes, um poder que é capaz de moldar nosso comportamento, mas que opera fora de nossa consciência e é projetado para operar, sempre nos mantendo na ignorância. Projetado para nos manter na ignorância. Estamos entrando no século 21 neste cenário institucional que introduz um novo eixo de desigualdade social. Não apenas a desigualdade econômica agora, mas essas profundas desigualdades de conhecimento e o poder que advém do conhecimento comportamental que pode realmente influenciar nosso comportamento, influenciar o comportamento de nosso grupo, de nossa cidade, de nossa região, de nosso país, de nossa sociedade.

No nível individual, somos os chamados usuários cujo comportamento está sendo intervindo, tocado, persuadido, modificado, contatado, influenciado em todas essas formas que são projetadas para serem indetectáveis ​​para nós, para contornar nossa consciência. Portanto, esta é uma intervenção ao nível da agência humana, ao nível da autonomia humana, ao nível da soberania individual, ao nível onde esperamos ter uma ideia sobre o nosso futuro no qual agimos agora - vou conhecer Noah, então eu levanto cedo de manhã e faço um monte de coisas que vão me levar ao lugar onde, eventualmente, vou encontrar Noah, porque é isso que escolhi fazer. Essa é minha ação. Isso é o que chamamos de livre arbítrio, é o que chamamos de agência, e isso é o que chamamos de autonomia moral. Não podemos imaginar uma sociedade democrática sem seres humanos que possam agir dessa forma.

Agora estamos entrando no século 21 com essas ameaças à sociedade democrática vindas tanto do nível estrutural quanto do nível individual, o nível de nosso comportamento íntimo. E quando você coloca essas duas coisas juntas, isso se torna algo que é, você sabe, maior do que normalmente associamos ao capitalismo. Como dissemos no início de nossa conversa, Noé, aquele [era] um capitalismo que oprimia o domínio econômico e estava em nossos locais de trabalho e em nossos papéis econômicos. Agora, essa coisa, por causa de seu impulso para a totalidade, para a informação total, para a certeza total, para a escala, para o escopo, para a ação, esses imperativos que a impulsionam ... Está na sociedade, está em todos os aspectos.

Eu me lembro disso.
Eu citei isso porque me pareceu muito fecundo, porque “a nossa vez” significava algo diferente da vez da democracia, tipo, a vez da democracia acabou e agora é a nossa vez. A virada do capital privado, a virada do capital privado de vigilância. O que quero que nossos leitores saibam é que no arco da história humana, a ideia de democracia, o indivíduo autônomo, a soberania individual, o julgamento moral, essas ideias são ideias jovens, têm cinco minutos. E a humanidade se sacrificou, por muitos milênios, pela legitimidade, em última instância, dessas idéias. E para nós dizermos isso, sabe, o tempo da democracia acabou e agora é a vez do capitalismo de vigilância, é, para mim, uma abominação. Essa é uma ideia intolerável. O que deveríamos fazer agora é dobrar a democracia. Cada geração tem uma responsabilidade pela democracia.

O capitalismo de vigilância realmente, como dissemos antes, ele se move além do domínio econômico, para o domínio da sociedade, para dentro de nossas vidas, ameaçando a própria base de um sistema social democrático. E é aí que, para mim, agora reconhecemos que chegou a hora de nomearmos, de entendê-lo, de reconhecer que é uma lógica econômica que não é uma consequência necessária do mecanismo digital ou da plataforma e que isso é o tempo em que agora, por meio da compreensão e da nomenclatura, mudamos nossa consciência, nos voltamos para nossas instituições democráticas e reivindicamos a democracia como fonte da lei e as novas instituições reguladoras que vão intervir, interromper e proibir esses mecanismos, de modo que a era do capitalismo de vigilância acaba sendo uma era curta. Isso não é legítimo. E as escolhas com que nos deixou, como cidadãos do século 21, não são escolhas legítimas. Não deveríamos ter que escolher entre ter nossa experiência raspada para fins alheios e os requisitos básicos de uma participação social efetiva.

O que você acha das correntes políticas emergentes alinhadas contra esse tipo de empresa que segue essa lógica econômica?
Quer dizer, a boa notícia é que agora temos uma discussão política em andamento. E não tivemos isso porque houve muita captura política. O Google é o maior lobista, o Google tornou-se inestimável no processo eleitoral, na verdade elegendo as pessoas.

Também me dei conta de que essas pessoas eram populares na imaginação do público porque pagavam muito bem e ofereciam serviços gratuitos e assim por diante. Havia um cachê cultural que agora está se quebrando. O que você acha dos esforços para construir agendas políticas destinadas a desestabilizá-la ainda mais?
A política é o reino onde isso vai ser consertado. Não é surpreendente que as discussões políticas mais ruidosas estejam começando na esquerda. Acabei de voltar de várias semanas na Europa e há discussões em Bruxelas em que é claro que temos que confrontar o capitalismo de vigilância e isso vai além do GDPR, vai além da privacidade e vai além do antitruste, porque, você sabe, você pega um grande capitalista de vigilância como o Facebook ou o Google, você divide, e então você tem quatro capitalistas de vigilância menores. Antitruste e privacidade são extremamente importantes, mas também são paradigmas do século 20 que não nos levarão a intervir, interromper e banir essas novas operações. Portanto, a discussão política é fundamental.

Em última análise, vejo isso como uma discussão política que deve ser motivada por uma mudança radical na opinião pública. Porque aonde quer que eu vá, as pessoas estão cansadas disso, mas não sabem como dar um nome. É uma sensação de mal-estar, de ansiedade, de perda de controle, uma sensação de estar sendo manipulado, uma sensação de perda de liberdade. Uma sensação de poderes que não entendemos. E como eles são capazes de nomeá-lo, a sensação de sua intolerabilidade torna-se verdadeiramente palpável. Essas mudanças na opinião pública são o que, em última análise, forçarão os funcionários eleitos a prestar atenção. Esta será uma nova era do direito, uma nova era da regulamentação, e deve ser desenhada para esta situação do século 21, onde temos mecanismos econômicos sem precedentes que irão requerer recursos legais sem precedentes.

Ao mesmo tempo, também acredito que, assim que começarmos a dobrar a democracia e a democracia meio que despertar, o gigante adormecido da democracia despertará para realmente enfrentar essas coisas, estaremos criando espaço para novas soluções competitivas. Porque precisamos de diferentes tipos de empresas e diferentes tipos de capitalistas e diferentes tipos de ecossistemas e alianças que sejam realmente capazes de reivindicar o digital para o tipo de valores e funcionalidade que queríamos dele em primeiro lugar. Cada pesquisa, desde o início dos anos 2000, mostra que sempre que você expõe as pessoas ao que realmente está acontecendo nos bastidores com o capitalismo de vigilância, elas não querem ter nada a ver com isso. A única razão pela qual continuamos nos envolvendo é porque sentimos que não temos escolha. Assim, assim que houver uma escolha real para as pessoas que também podem fornecer uma ação eficaz, esses novos concorrentes têm a oportunidade de ter literalmente todas as pessoas na Terra como seus clientes. Quer dizer, é disso que se trata agora.

Outra maneira de ver o capitalismo de vigilância, do ponto de vista do mercado, é como uma falha colossal do mercado. Porque não é dar às pessoas o que elas querem. É dar aos clientes empresariais o que eles desejam, ser capazes de manipular as pessoas, mas não é dar às populações reais de pessoas o que queremos. Assim, cortou as reciprocidades tradicionais entre o capitalismo e suas sociedades, nas quais conta com sua sociedade como fonte de clientes e de funcionários, e se reorientou para esses mercados de previsão de clientes empresariais. Mas no processo, você sabe, nossos problemas não estão sendo resolvidos. Nossos problemas de saúde não estão sendo resolvidos. Nossos problemas climáticos não estão sendo resolvidos. Nossos problemas de emprego não estão sendo resolvidos. Como construir um carro melhor, como construir uma construção melhor, como fazer uma cidade melhor que seja democrática e ainda contenha poluição e todas essas outras coisas. Esses problemas não estão sendo resolvidos; o capitalismo de vigilância está extraindo dados para outros fins que não estão resolvendo nossos problemas centrais.

A desvantagem em que acreditamos é: "Bem, o preço que pago é que estou desistindo de um monte de merda que não conheço porque posso assistir Os Simpsons sempre que quiser com conveniência máxima. ” Nós meio que aceitamos implicitamente que já existe uma compensação. Nem mesmo tivemos que ser enganados, nem mesmo tivemos que ser apresentados com uma escolha, porque ela foi feita para nós e parecia que estávamos bem com ela. Quer dizer, essa é a imagem que é apresentada. Eu não acredito nisso.
Essa é a imagem que é apresentada, mas é porque tudo o que está dentro dessa escolha foi projetado para nos manter na ignorância.

Baixamos um aplicativo de diabetes. Apenas baixá-lo permite que x porcentagem dos aplicativos de diabetes leve todos os contatos do seu telefone, x porcentagem leve os contatos e o microfone, x porcentagem leve os contatos, o microfone e a câmera. O que eles estão tirando de você não tem nada a ver com a funcionalidade de diabetes para a qual você baixou o aplicativo. Absolutamente nada. É simplesmente desviar dados para terceiros para outras fontes de receita que fazem parte dos ecossistemas dos capitalistas de vigilância. Este é um mundo oculto que é construído ao nosso redor nessas elaboradas cadeias de suprimentos. Tudo o que tocamos e que é habilitado para a Internet é essencialmente uma interface da cadeia de suprimentos, mas tudo é projetado para ficar oculto.

Esta é uma conversa que ainda não aconteceu. E se há uma razão pela qual as pessoas estão realmente curtindo este livro que escrevi [para o qual] passei tanto tempo tentando discernir esses mecanismos, nomeá-los e apresentá-los para que as pessoas possam tê-los para pensar e falar sobre, é que, de repente, eis o que tenho sentido, esse problema que tenho sentido que não sabia realmente o que era e não tinha um nome para isso, e agora posso diga. E quando posso nomeá-lo, posso pensar sobre isso, e há uma linguagem. E uma vez que você tem isso, realmente, a paisagem muda e a dinâmica do poder muda. E não me refiro apenas ao meu livro. Existem muitas outras entradas para este processo. Mas conforme começamos a nomear, toda essa dinâmica de poder vai mudar, porque essas coisas não podem mais ser secretas, ele não pode mais ser vigilância. E quando o gabarito está pronto, então estamos cortando o centro de seu cordão umbilical econômico.