Shoshana Zuboff narra os
discursos ufanistas de três CEOs acerca do que a Microsoft, o Google e o
Facebook já fizeram e do que aquelas empresas pretendem fazer.
Por Fábio de Oliveira Ribeiro
-11/06/2020
Compartilhar
O nascimento da indústria
inteligente e do sindicalismo 2.0, por Fábio de Oliveira Ribeiro
Nos dois textos anteriores
desta série foram exploradas as primeiras considerações de Shoshana Zuboff
acerca do que ela chamou de instrumentarianismo, fenômeno que prefiro chamar de
‘auctoritas virtual’
https://jornalggn.com.br/artigos/a-nova-auctoritas-e-sua-verdade-o-nao-pertencimento/.
No capítulo 14, a autora trata da utopia da certeza. Mas antes de entrar no
tema, Shoshana Zuboff narra os discursos ufanistas de três CEOs acerca do que a
Microsoft, o Google e o Facebook já fizeram e do que aquelas empresas pretendem
fazer.
Satya Nadella (Microsoft) quer
mudar o mundo. Larry Page (Google) quer uma mudança revolucionária. Mark
Zuckerberg (Facebook) diz viabilizará a criação da humanidade global. As
palavras deles me fizeram lembrar de uma música inesquecível.
PUBLICIDADE
“Um piloto rouba um Mig
Gelo em Marte, diz a Viking
Mas, no entanto, não há galinha
em meu quintal”
O que diabos o fragmento da
letra de uma música de Raul Seixas está fazendo aqui? Isso nós veremos no
final.
Após usar a obra de Frank e
Fritizie Manuel para tecer alguns comentários sobre as utopias (tal como elas
eram concebidas no passado), Shoshana Zuboff afirma que:
“In this respect, the surveillance capitalist leaders are sui generis
utopianists. Marx grasped the world whit his thickly articulated theory, but
with only the power of his ideas could not implement his vision. Long after the
publication of Marx’s theories, men such as Lenin, Stalin and Mao applied them
to real life. Indeed the Manuels [Frank e Fritizie Manuel] describe Lenin as a
specialist in ‘applied utopistics’. In contrast, the surveillance capitalists
seize the world in practice. Their theories are thin – at least this is true of
the thinking that they share with the public. The opposite is ture of their
power, which is monumental and largely unimpeded.
When it comes to theory and practice, the usual sequence is that theory
is avaiable to inspect, interrogate, and debate before the action is initiated.
This allows observers and opportunity to judge a theory’s whortiness for
application, to consider unanticipated consequences of application, and
evaluate an application’s fidelity to the theory in which it originates. The
unavoidable gap between theory and practice creates a space for critical
inquiry. For example, we can question whether a law or governmental practice is
consistent with a nation’s constitution, charter of rights, and governing
principles because we can inspect, interpret, and debate those documents. If
the gap is too great, citizens act to close the gap by challenging the law or
pratice.
The surveillance capitalists reverse the normal sequence of theory and
practice. Their practices move ahead at high velocity in the absence of an
explicit and contestable theory. They specialize in displays of
instrumentarianism’s unique brand of shock and awe, leving onlookers dazed,
uncertain, and helpless. The absense of a clear articulation of their theory
leaves the rest of us to ponder its practical effects: the vehicular monitoring
system that shuts dwon your engine; the destination that appears with the
route; the suggeested purchase that flashes on your phone the moment your
endorphins peak; Big Other’s continuous tracking of your location, behavior,
and mood; and its cheerful herding of city dwellers toward surveillance
capitalists customers.” (The Age of Surveillance Capitalism, Shoshana Zuboff,
PublicAffairs, New York, 2019, p. 406)
Tradução:
“A esse respeito, os líderes
capitalistas da vigilância são utópicos sui generis. Marx compreendeu o mundo
com sua teoria fortemente articulada, mas apenas com o poder de suas ideias não
foi possível implementar sua visão. Muito tempo depois da publicação das
teorias de Marx, homens como Lenin, Stalin e Mao aplicaram-nas à vida real. De
fato, os Manuels [Frank e Fritizie Manuel] descrevem Lenin como um especialista
em ‘utopística aplicada’. Em contraste, os capitalistas da vigilância apreendem
o mundo na prática. Suas teorias são escassas – pelo menos isso é verdade
quanto ao pensamento que compartilham com o público. O oposto é a força de seu
poder, que é monumental e praticamente desimpedido.
Quando se trata de teoria e
prática, a sequência usual é que a teoria está disponível para inspecionar,
interrogar e debater antes que a ação seja iniciada. Isso permite ao observador
a oportunidade de julgar a totalidade da aplicação de uma teoria, considerando
as consequências imprevistas de sua aplicação, e avaliar a fidelidade de uma
aplicação à teoria em que ela se originou. A lacuna inevitável entre teoria e
prática cria um espaço para a investigação crítica. Por exemplo, podemos
questionar se uma lei ou prática governamental é consistente com a
Constituição, a carta de direitos e os princípios de governo de uma nação,
porque podemos inspecionar, interpretar e debater esses documentos. Se a
diferença é muito grande, os cidadãos agem para colmatar a lacuna desafiando a lei
ou a prática.
Leia também: Estado Profundo versus América Profunda, por
Rogério Mattos
Os capitalistas da vigilância
invertem a sequência normal da teoria e da prática. Suas práticas avançam em
alta velocidade na ausência de uma teoria explícita e contestável. Eles se
especializam em exibições da marca única de choque e reverência ao
instrumentarianismo, deixando os espectadores aturdidos, incertos e
desamparados. A ausência de uma clara articulação de sua teoria deixa o resto
de nós a ponderar sobre seus efeitos práticos: o sistema de monitoramento
veicular que desliga o motor; o destino que aparece com a rota; a compra
sugerida que pisca no seu telefone no momento em que suas endorfinas atingem o
pico; o rastreamento contínuo do Grande Outro de sua localização, comportamento
e humor; e seu alegre rebanho de moradores da cidade em direção a clientes
capitalistas de vigilância.”
A utopia dos capitalistas da
vigilância criaram depende de nós (fornecedores de excedentes comportamentais
que são expropriados de diversas maneiras utilizando recursos cada vez mais
invasivos), mas ela não foi criada para nós. Os consumidores dos produtos
comercializados pelo capitalismo de vigilância não são os usuários de internet
e sim os empresários interessados em maximizar suas vendas comprando previsões
no mercado comportamental futuro ou automatizar totalmente suas fábricas para
reduzir custos, eliminar erros e garantir resultados.
Zuboff detalha um
projeto-piloto desenvolvido pela Microsoft com uma empresa sueca:
“…Algotithmic uncontracts apply rules and substitute for social
functions such as supervision, negociation, communication, and problem solving.
Each person and piece of equipament takes plaece among an equivalence of
objects, each one ‘recognizable’ to ‘the system’ thorugh the AI devices
distributed acroos the site.
For example, each individual’s training, credentials, employment history
and other background information are instantly on display to the system. A
‘policy’ might declare that ‘only credentialed employeess can use jackhammers’.
If an employee who is not accredited for jackhammer use approaches that tool,
the possibility of an impendin violation istriggered, and the jackhammer
screans an alert, instantly disabling itself.” (The Age of Surveillance Capitalism,
Shoshana Zuboff, PublicAffairs, New York, 2019, p. 409)
Tradução:
“… Os algorítmico ‘não
contratos’ aplicam regras e substituem funções sociais como supervisão,
negociação, comunicação e solução de problemas. Cada pessoa e peça de
equipamento se destaca entre uma equivalência de objetos, cada um
‘reconhecível’ pelo ‘sistema’ através dos dispositivos de IA distribuídos em
todo o site.
Por exemplo, o treinamento de
cada indivíduo, credenciais, histórico de emprego e outras informações básicas são
instantaneamente exibidas no sistema. Uma ‘política’ pode declarar que ‘apenas
funcionários credenciados podem usar britadeiras’. Se um funcionário que não é
credenciado para britadeira usar a ferramenta, a possibilidade de uma violação
iminente é disparada e a britadeira grita um alerta, desativando-se
instantaneamente.”
Um pouco adiante, Shoshana
Zuboff disserta sobre a nova sociedade que está sendo criada:
“Microsoft’s patent return us to Planck, Meyer, and Skinner and the
viewpoint of the Other-None. In their physics-based representation of human
behavior, anomalies are the ‘accidents’ that are called freedom but actually
denote ignorance; they simply cannot yet be explained by the facts.
Planck/Meyer/Skinner belived that the forfeit of this freedom was the necessary
price to be paid for ‘safety’ and ‘harmony’ of an anomaly-free society in which
all processes are optimized for the greater good. Skinner imagined that with
the correct techonology of behavior, knowledege could preemptively eliminate anomalies,
driving all behavior toward preestablished parameters that align with social
norms and objectives. ‘If we could show that our members preferred life in
Walden Two’, says Frazier-Skinner, ‘it would be the best possible evidence that
we had reached a safe and productive social structure’.
In this template of social relations, behavioral modification operates
just beyond the threshold of human awareness to induce, reward, goad, punish
and reinforce behavior consisten with ‘correct policies’. Thus, Facebook learns
that it can predictably move the societal dial on voting patterns, emotional
states, or anything eles that it chooses. Niantic Labs and Google learn that
they can precictably enrich MacDonald’s bottom line or that of any other
customer. In each case, corporate objectives define the ‘policies’ toward which
confluent behavior harmoniously streams.
Leia também: Saem black blocs, entram os antifas: Guerra
Híbrida?, por Wilson Ferreira
The machine hive – the confluent mind created by machine learning – is
the material means to the final elimination of the caotic elements thar
interfere with guaranteed outcomes. Eric Schimidt and Sebastian Thrun, the
machine intelligence guru who directed Google’s X Lab and helped the
development of Street View and Google’s sel-driving car, make this point in
championing Alphabet’s autonomous vehicles. ‘Let’s stop freaking out about
artificial intelligence’, they write.” (The Age of Surveillance Capitalism,
Shoshana Zuboff, PublicAffairs, New York, 2019, p. 412/413)
Tradução:
“A patente da Microsoft nos
devolve a Planck, Meyer e Skinner e o ponto de vista do Outro-Nenhum. Na
representação física do comportamento humano, as anomalias são os ‘acidentes’
chamados liberdade, mas que na verdade denotam ignorância; eles simplesmente
ainda não podem ser explicados pelos fatos. Planck/Meyer/Skinner acreditavam
que a perda dessa liberdade era o preço necessário a ser pago pela ‘segurança’
e ‘harmonia’ de uma sociedade livre de anomalias, na qual todos os processos
são otimizados para o bem maior. Skinner imaginou que, com a tecnologia correta
do comportamento, o conhecimento poderia eliminar preventivamente anomalias,
levando todo o comportamento a parâmetros pré estabelecidos, alinhados com
normas e objetivos sociais. ‘Se pudéssemos mostrar que nossos membros preferiam
a vida em Walden Two’, diz Frazier-Skinner, ‘seria a melhor evidência possível
de que alcançamos uma estrutura social segura e produtiva’.
Nesse modelo de relações
sociais, a modificação comportamental opera um pouco além do limiar da
consciência humana para induzir, recompensar, instigar, punir e reforçar o
comportamento consistido nas ‘políticas corretas’. Assim, o Facebook aprende
que pode prever de maneira previsível a mudança social nos padrões de votação,
estados emocionais ou qualquer outra coisa que ele escolher. O Laboratório
Niantic e o Google descobrem que podem enriquecer de forma imprevisível os
resultados financeiros do MacDonald’s ou de qualquer outro cliente. Em cada
caso, os objetivos corporativos definem as ‘políticas’ em relação às quais o
comportamento confluente flui harmoniosamente.
A colmeia de máquinas – a
mente confluente criada pelo aprendizado de máquina – é o meio material para a
eliminação final dos elementos caóticos que interferem nos resultados
garantidos. Eric Schimidt e Sebastian Thrun, o guru da inteligência de máquinas
que dirigiu o X Lab do Google e ajudou no desenvolvimento do Street View e do
carro autônomo do Google, fazem questão de defender os veículos autônomos do
Alphabet. ‘Vamos parar de surtar sobre a inteligência artificial’ eles
afirmam.”
Ao comentar um dos textos
desta série, o internauta Jeremy Parker (ele mesmo um especialista em
computação que trabalha em projetos de expansão do capitalismo de vigilância na
Inglaterra), disse que:
“Science fiction has played with the idea of emotions as a commodity
many times. Once emotion is digitised I suppose the next aim will be to reduce
the soul itself, the spark of life, into a simulacrum of information. And then
we will become ghosts in the machine.”
https://twitter.com/not3bad/status/1267875847899435014
Tradução:
“A ficção científica brincou
com a ideia das emoções como uma mercadoria muitas vezes. Uma vez que a emoção
é digitalizada, suponho que o próximo objetivo será reduzir a própria alma, a
centelha da vida, em um simulacro de informações. E então nos tornaremos
fantasmas na máquina.”
Minha resposta a ele foi
curta:
“And then we will become ghosts for the machine.”
Tradução:
“E então nos tornaremos
fantasmas para a máquina.”
Dois comentários de Shoshana
Zuboff sobre o futuro que está sendo construído sugerem que ela concorda com a
tese de que nós estamos sendo transformados em fantasmas para as máquinas.
“… The machines mimic each other, and so must we. The machines move in
confluence, not many rivers but one, and so must we. The machines are each
structured by the same reasoning and flowing toward the same objective, and so
must we be structered.” (The Age of Surveillance Capitalism, Shoshana Zuboff,
PublicAffairs, New York, 2019, p. 414)
Tradução:
“… As máquinas se imitam, e
nós também devemos fazer isso. As máquinas se movem em confluência, não muitos
rios, mas um, e nós também devemos seguir esse padrão. Cada uma das máquinas é
estruturada pelo mesmo raciocínio e flui em direção ao mesmo objetivo, e,
portanto, assim nós devemos ser estruturados.”
“In this humam hive, individual freedom is forgeit to collective
knowledge and action. Nonharmonious elements are preemptively targed with high
doses of tuning, herding, and conditioning, including the full seductive force
of social persuasion and influence. We march in certainty, like the smart
machines. We learn to sacrifice our freedom to collective knowledege imposed by
others and for the sake of their guaranteed outcomes. This is the signature of
the third modernity offered up by surveillance capital as its answer to our
quest for effective life together.” (The Age of Surveillance Capitalism,
Shoshana Zuboff, PublicAffairs, New York, 2019, p. 414/415)
Leia também: A nova auctoritas e sua verdade: o não
pertencimento, por Fábio de Oliveira Ribeiro
Tradução:
“Nesta colmeia, a liberdade
individual é forjada para o conhecimento e a ação coletivas. Elementos
não-harmônicos são preemptivamente atacados com altas doses de afinação,
pastoreio e condicionamento, incluindo toda a força sedutora da persuasão e
influência social. Marchamos com certeza, como as máquinas inteligentes.
Aprendemos a sacrificar nossa liberdade ao conhecimento coletivo imposto por
outras pessoas e pelo bem de seus resultados garantidos. Essa é a assinatura da
terceira modernidade oferecida pelo capital de vigilância como resposta à nossa
busca por uma vida efetiva em conjunto.”
O que podem os fantasmas fazer
contra o circo de horrores que está sendo criado para transformá-los em
apêndices orgânicos de máquinas controladas por algoritmos capazes de gerenciar
todos os fatores humanos e produtivos de uma empresa? Eles podem tudo.
Suponhamos que cada empregado
só tenha acesso a um tipo de máquina e que cada máquina possa ser desligada
automaticamente quando alguém não autorizado tentar operá-la. Seria muito fácil
parar toda a produção fabril apenas organizando os operários para trocarem de
lugar com seus colegas a fim de que cada qual provocasse o desligamento remoto
automático de uma máquina para a qual não estaria credenciado a operar.
Qualquer sindicalista com
alguma experiência sabe que parar uma empresa com milhares de empregados
capacitados a operar diversos tipos de máquinas é uma tarefa difícil.
Funcionários com experiência em diversos setores podem ser remanejados para
manter a fábrica funcionando. Parar uma grande empresa altamente automatizada
que utiliza recursos de Inteligência Artificial como os descritos por Shoshana
Zuboff seria infinitamente mais fácil.
Nenhum sistema computacional é
invulnerável. E assim como o WikiLeaks vazou todos os segredos mais sórdidos da
diplomacia e dos militares dos EUA, o sindicalismo 2.0 pode acabar se
beneficiando do vazamento de vulnerabilidades das tecnologias da informação
utilizadas para transformar os empregados em escravos das máquinas num ambiente
fabril desumano e totalmente previsível. Um excesso de repressão algorítmica
também pode acarretar reações extremamente destrutivas https://edition.cnn.com/2020/06/05/us/amazon-redlands-fire-trnd/index.html.
O único resultado garantido
neste caso seria um evidente acréscimo de incerteza e, sem dúvida alguma, de
prejuízo econômico. Adotar o máximo de tecnologia nem sempre é a resposta
correta para manter as máquinas funcionando apesar da inconformidade de uma
parcela dos empregados. Um aumento de certeza nem sempre corresponde à
eliminação da possibilidade de declínio da rentabilidade empresarial em virtude
de conflitos trabalhistas previsíveis e potencialmente nocivos.
É nesse ponto que entra a
música de Raul Seixas. Durante a Guerra Fria, quando Raulzito compôs a música
citada, Washington e Moscou disputavam os corações e mentes do mundo inteiro.
Tanto os EUA como a URSS se apresentavam como utopias concretizadas.
Os norte-americanos diziam
representar a liberdade e a fartura capitalista, muito embora tivessem invadido
a Coreia e, depois, o Vietnã. Os soviéticos eram os campeões da igualdade, mas
a situação dos “camaradas” do Partido Comunista sempre foi melhor que a dos
demais cidadãos. Em sua música, Raul Seixas rejeita as duas utopias de uma
maneira irônica e genial.
Nenhum avanço tecnológico
norte-americano (como a sonda Viking) ou problema político soviético (defecção
do piloto que roubou um MIG) seria capaz de resolver o problema imediato mais
importante (a ausência de galinha no quintal de um brasileiro). A fome (ou a
vontade de comer algo diferente) é mais opressiva e importante do que qualquer
utopia ou disputa ideológica.
Quando a utopia de alguns é a
causa eficiente da insatisfação de muitos o resultado é quase sempre o mesmo. O
mundo é chacoalhado até mudar para melhor ou para pior. Pouco importa, desde
que ele se torne pior para aqueles que estavam numa situaçAs duas distopias em
curso e o renascimento do pensamento utópico, por Fábio de Oliveira Ribeiro
A sujeição imposta pelo
capitalismo de vigilância, como diz Shoshana Zuboff, não é natural nem
violenta. Ela foi criada por homens e pode ser desfeita pela ação humana.
Por Fábio de Oliveira Ribeiro
-12/06/2020
Compartilhar
As duas distopias em curso e o
renascimento do pensamento utópico, por Fábio de Oliveira Ribeiro
No capítulo precedente
Shoshana Zuboff introduziu o tema da utopia na discussão acerca do capitalismo
de vigilância e do poder sem precedentes (ou da “auctoritas”) que ele criou
https://jornalggn.com.br/artigos/o-nascimento-da-industria-inteligente-e-do-sindicalismo-2-0/.
No capítulo que vamos ver agora, a autora narra a trajetória de um cientista
que se tornou capitalista da vigilância e ideólogo do instrumentarianismo.
Alex Pentland é, sem dúvida
alguma, um utopista que trilhou o caminho aberto por Skinner.
PUBLICIDADE
“In a style reminiscent of Larry Page’s rejection of ‘old laws’,
Pentland is equaly critical of a range of concepts and frameworks inherited
from the Enlightemment and political economics. Pentland insist that the ‘old’
social categories of status, class, education, race, gender, and generation are
obsolete, as irrelevante as the enrgy, food, and water systems that he wants to
replace. Those categories describe societies throght the lens of history, power
and politics, but Pentland prefers ‘populations’ to societies, ‘statistics’ to
meaning, and ‘computation’ to law. He sees the ‘stratification of the population’
coded not by race, income, occupation, or gender but rhater by ‘behavior
patterns’ that can predict disease, financial risk, consumer preferences, and
political views with ‘between 5 and 10 times the accuracy’ of the standar
measures.
A final question urgently posed: ‘how to get humans in these systems to
participate in the plan?’ His answer do not lie in persuasion or education but
em behavioral modification. He says we need ‘new predictive theories of human
decision making’ as well as ‘incentive mechanism design’, an idea that is
coparable to Skinner’s ‘schedules of reinforcement’. Regarding how to get
humans to follow the plan, Pentland offers the principe of ‘social influence’
to explain the design mechanism through which milliions of humans beings can be
herded toward the guaranteed outcomes of safety, stability, and efficiency. He
refers to his own studies, in which ‘the problems of industry and government’
can largely be explained by the pattern of information transfer, especially how
people influence and mimic another.” (The Age of Surveillance Capitalism,
Shoshana Zuboff, PublicAffairs, New York, 2019, p. 428/429)
Tradução:
“Usando um estilo que lembra a
rejeição de Larry Page às ‘velhas leis’, Pentland é igualmente crítico a uma
série de conceitos e estruturas herdados do Iluminismo e da economia política.
Pentland insiste que as ‘velhas’ categorias sociais de status, classe,
educação, raça, gênero e geração são obsoletas, tão irrelevantes quanto os
sistemas de irrigação, comida e água que ele deseja substituir. Essas
categorias descrevem as sociedades através das lentes da história, do poder e
da política, mas Pentland prefere ‘populações’ a sociedades, ‘estatísticas’ ao
significado e ‘computação’ à lei. Ele vê a ‘estratificação da população’
codificada não por raça, renda, ocupação ou gênero, mas sim por ‘padrões de
comportamento’ que podem prever doenças, risco financeiro, preferências do
consumidor e opiniões políticas com ‘entre 5 e 10 vezes a precisão’ das medidas
padrão.
Uma pergunta final colocou com
urgência: ‘como levar as pessoas desses sistemas a participar do plano?’ Sua
resposta não está na persuasão ou na educação, mas na modificação do
comportamento. Ele diz que precisamos de ‘novas teorias preditivas da tomada de
decisão humana’, bem como ‘design de mecanismo de incentivo’, uma ideia que é
compatível com os ‘cronogramas de reforço’ de Skinner. Com relação a como levar
os humanos a seguirem o plano, Pentland oferece o princípio da ‘influência
social’ para explicar o mecanismo de design pelo qual milhões de seres humanos
podem ser agrupados em direção aos resultados garantidos de segurança,
estabilidade e eficiência. Ele se refere a seus próprios estudos, nos quais ‘os
problemas da indústria e do governo’ podem ser explicados em grande parte pelo
padrão de transferência de informações, especialmente como as pessoas
influenciam e imitam outras “.
Leia também: Enquanto o presidente ignora cientistas,
enfrentamos a pandemia, por Ergon Cugler
Um pouco adiante, Zuboff
esclarece que:
“Pentland insists thar ‘social phenomena area really aggregations of
billions of small transactions between individuals…’ This is a key point
because it turns that in order for social physics to replace the old ways of
thinking, total knowledege of these billions of small things is required: ‘Big
Data give us a chance to view society in all its complexity, through the
millions of networks of person-to-person exchanges. If we had a ‘god’s eye’, an
all seeing view, then we could potentially arive at a true understanding of how
society works and take steps to fix our problems.’” (The Age of Surveillance
Capitalism, Shoshana Zuboff, PublicAffairs, New York, 2019, p. 430)
Tradução:
“Pentland insiste que ‘a área
de fenômenos sociais realmente agrega bilhões de pequenas transações entre
indivíduos …’ Este é um ponto-chave, porque verifica-se que, para que a física
social substitua as velhas formas de pensar, o conhecimento total desses
bilhões de pequenas coisas é necessário: ‘O Big Data nos dá a chance de ver a
sociedade em toda a sua complexidade, por meio de milhões de redes de trocas
entre pessoas. Se tivéssemos um ‘olho de Deus’, uma visão que tudo vê,
poderíamos potencialmente chegar a um verdadeiro entendimento de como a
sociedade funciona e tomar medidas para corrigir nossos problemas’ “.
A seguir a autora compara as
propostas de Pentland às de Skinner levando em conta 5 questões cruciais:
comportamento em prol de um bem maior, planos que substituem política, pressão
social por harmonia, aplicação de utopias e morte da individualidade. Shoshana
Zuboff frisa que muito embora nunca use os mesmos termos que Skinner, Pentland
defende uma sociedade em que a computação ocupe o lugar central na construção,
aperfeiçoamento e controle social.
Num dos textos anteriores, nós
vimos como Skinner fez algo semelhante ao colocar sua própria ciência
comportamental no pedestal anteriormente ocupado pelo patriotismo e pela
divindade. Pentland imitou o mestre. O resultado, porém, é um pouco diferente.
“…In China the state vies with its surveillance capitalists for control.
In the US and Europe state works with and through the surveillance capitalistas
to accomplish its aims. It is the private companies who have scaled the rock
face to command the heights. They sit at the pinnacle of the dividion of
learning, having amassed unprecedented and exclusive wealth, information, and
expertise on the strength of their dispossession of our behavior. They are
making their dreams come true. Not even Skinner could have aspired to this condition.”
(The Age of Surveillance Capitalism, Shoshana Zuboff, PublicAffairs, New York,
2019, p. 443/444)
Tradução:
“… Na China, o estado compete
com seus capitalistas de vigilância pelo controle. Nos EUA e na Europa, o
estado trabalha com e através dos capitalistas de vigilância para atingir seus
objetivos. São as empresas privadas que escalaram a face da rocha para comandar
as alturas. Sentam-se no auge da divisão da aprendizagem, acumulando riqueza,
informações e conhecimentos sem precedentes e exclusivos com base na força de
sua desapropriação de nosso comportamento. Eles estão fazendo os seus sonhos se
tornarem realidade. Nem Skinner poderia ter aspirado a essa condição.”
Leia também: Moças e rapazes cuidam, também, no isolamento
social, por Paulo Fernandes Silveira
A física social já é uma
realidade. A aplicação prática da ciência computacional está realmente em
condições de realizar os sonhos ambiciosos dos capitalistas da vigilância. Mas
isso só poderá ser feito mediante uma crescente expropriação de excedente
comportamental, do consumo sustentável de produtos inteligentes, da modificação
do comportamento das vítimas da “auctoritas virtual” e da destruição dos sonhos
de liberdade, igualdade e privacidade de bilhões de pessoas.
“Surveillance capitalists work hard to camouflage their purpose as they
master the uses of instrumentariam power to shape our behavior while evading
our awareness. That why Google conceals the operations that turn us into the
objects of its search and Facebook distracts us from the fact that our beloved
connections are essential to the profit and power that flow from its network
uniquity and totalistic knoledge.
Pentland’s experimental work and theoretical analyses perform an
important political and social function in piercing this fog. They map the
tactical and conceptual pathways of instrumentariam society thar place the
means of behavior modification at the heart of this social system, fouded on
the scientific and technological control of collective behavior and administered
by a specialist class. In China the state appears determined to ‘own’ this
complex, but in the West it is largely owned and operated by surveillance
capital.” (The Age of Surveillance Capitalism, Shoshana Zuboff, PublicAffairs,
New York, 2019, p. 443)
Tradução:
“Os capitalistas da vigilância
trabalham duro para camuflar seus propósitos, pois dominam o uso do poder
instrumentário para moldar nosso comportamento enquanto evitam nossa
consciência. É por isso que o Google oculta as operações que nos transformam
nos objetos de sua pesquisa e o Facebook nos distrai do fato de que nossas
amadas conexões são essenciais para o lucro e o poder que decorrem de sua
singularidade de rede e conhecimento totalista.
O trabalho experimental e as
análises teóricas de Pentland desempenham uma importante função política e
social na penetração desse nevoeiro. Eles mapeiam os caminhos táticos e
conceituais da sociedade instrumentarista que colocam os meios de modificação
de comportamento no coração desse sistema social, concentrados no controle
científico e tecnológico do comportamento coletivo e administrados por uma
classe especializada. Na China, o estado parece determinado a ‘possuir’ esse
complexo, mas no Ocidente é amplamente detido e operado pelo capital de vigilância.”
Na primeira parte do livro,
Shoshana Zuvoff explicou como e porque o capitalismo de vigilância nasceu e
floresceu junto com o neoliberalismo. A utopia neoliberal (a produção ilimitada
de riqueza com a circulação internacional desregulada de capital provocaria
naturalmente uma maior distribuição de renda independentemente do Estado)
negava a existência de uma sociedade. A utopia de Pentland reconhece que a
sociedade existe, mas defende sua total despolitização e modificação com base
num poder sem precedentes que foi conquistado mediante a expropriação de
excedente comportamental. O aperfeiçoamento contínuo do comportamento humano
mediado pelo instrumentarianismo resolverá todos os problemas que a política
tem criado ou ele apenas criará um novo problema político?
Leia também: O instrumentarianismo como poder e como
auctoritas, por Fábio de Oliveira Ribeiro
Essas duas distopias
complementares, que paradoxalmente parecem ser mutuamente excludentes (negação
da existência sociedade pelo neoliberalismo x reconhecimento de que a sociedade
existe e deve ser remodelada pelo capitalismo de vigilância) certamente
provocarão o renascimento do pensamento utópico. O ciclo de expropriação deve
ser interrompido ou dominado pelos cidadãos comuns, para que eles possam voltar
a governar suas vidas obrigando todos (inclusive o Estado e os gigantes da
internet) a respeitar seus direitos.
A “auctoritas” que estruturou
as cidades-estado na Antiguidade deixou de existir há muito tempo. A que nasceu
com o capitalismo de vigilância é muito diferente. Todavia, não podemos
esquecer que aquilo que garantia a harmonia entre iguais (fossem eles
atenienses em Atenas, espartanos em Esparta ou tebanos em Tebas), também tinha
uma face oculta e desagradável: a imposição da força bruta sobre os escravos
que trabalhavam para abastecer as cidades-estados gregas.
No mundo Antigo os escravos
pertenciam aos cidadãos e às cidades, mas eles não podiam participar da vida
pública. Eles eram coisas. Em razão das novidades impostas ao mundo pelo Google,
Facebook, Microsoft, etc… nós também estamos sendo transformados em objetos.
Voluntariamente ou não, nós somos fornecedores de excedentes comportamentais e
destinatários de mudanças comportamentais discretamente sugeridas (ou impostas)
pelos capitalistas da vigilância.
“Instrumentarianism reimagines society as a hive to be monitored and
tuned for guaranteed outcomes, but this tell us nothing of the lived experience
of its members, What are the consequences of live lived in the hive, where one
is perceived as an ‘other’ to the surveillance capitalits, designers, and
tunners who impose their instruments and methods?” (The Age of Surveillance
Capitalism, Shoshana Zuboff, PublicAffairs, New York, 2019, p. 444)
Tradução:
“O instrumentarianismo
reimagina a sociedade como uma colmeia a ser monitorada e ajustada para obter
resultados garantidos, mas isso não nos diz nada da experiência vivida de seus
membros. Quais são as consequências da vida vivida na colmeia, onde cada um é
percebido como um ‘outro’ para os capitais de vigilância, designers e
afinadores que impõem seus instrumentos e métodos?”
Auctoritas, não pertencimento,
exploração econômica, sujeição às experiências comportamentais desenhadas por
outras pessoas para reforçar o poder que elas mesmas exercem sobre suas
vítimas, o instrumentarianismo pode ser considerado um fenômeno sem
precedentes. Mas ele também pode ser comparado ao chicote do mestre que
“cantava” no lombo daquele que havia perdido a guerra, sua autonomia política e
liberdade pessoal.
Aristóteles considerava a
escravidão algo absolutamente natural. Uma decorrência da derrota militar. A
sujeição imposta pelo capitalismo de vigilância, como diz Shoshana Zuboff, não
é natural nem violenta. Ela foi criada por homens e pode ser desfeita pela ação
humana.
O problema: o efeito deletério
do costume. No Mundo Antigo, as pessoas acostumadas à escravidão raramente se
rebelavam. Reduzidos à condição de fornecedores de excedente comportamental,
consumidores de produtos inteligentes e destinatários de experimentos de física
social, os cidadãos pós-modernos que se sentem acolhidos/escolhidos pelo
instrumentarianismo farão algo para romper seus grilhões? Shoshana Zuboff
acredita que sim. Portanto, do seu pensamento crítico uma nova utopia está a
nascer.ão muito melhor. E fim de papo!
As duas distopias em curso e o
renascimento do pensamento utópico, por Fábio de Oliveira Ribeiro
A sujeição imposta pelo
capitalismo de vigilância, como diz Shoshana Zuboff, não é natural nem
violenta. Ela foi criada por homens e pode ser desfeita pela ação humana.
Por Fábio de Oliveira Ribeiro
-12/06/2020
Compartilhar
As duas distopias em curso e o
renascimento do pensamento utópico, por Fábio de Oliveira Ribeiro
No capítulo precedente
Shoshana Zuboff introduziu o tema da utopia na discussão acerca do capitalismo
de vigilância e do poder sem precedentes (ou da “auctoritas”) que ele criou
https://jornalggn.com.br/artigos/o-nascimento-da-industria-inteligente-e-do-sindicalismo-2-0/.
No capítulo que vamos ver agora, a autora narra a trajetória de um cientista
que se tornou capitalista da vigilância e ideólogo do instrumentarianismo.
Alex Pentland é, sem dúvida
alguma, um utopista que trilhou o caminho aberto por Skinner.
PUBLICIDADE
“In a style reminiscent of Larry Page’s rejection of ‘old laws’,
Pentland is equaly critical of a range of concepts and f inherited from the
Enlightemment and political economics. Pentland insist that the ‘old’ social
categories of status, class, education, race, gender, and generation are obsolete,
as irrelevante as the enrgy, food, and water systems that he wants to replace.
Those categories describe societies throght the lens of history, power and
politics, but Pentland prefers ‘populations’ to societies, ‘statistics’ to
meaning, and ‘computation’ to law. He sees the ‘stratification of the
population’ coded not by race, income, occupation, or gender but rhater by
‘behavior patterns’ that can predict disease, financial risk, consumer
preferences, and political views with ‘between 5 and 10 times the accuracy’ of
the standar measures.
A final question urgently posed: ‘how to get humans in these systems to
participate in the plan?’ His answer do not lie in persuasion or education but
em behavioral modification. He says we need ‘new predictive theories of human
decision making’ as well as ‘incentive mechanism design’, an idea that is
coparable to Skinner’s ‘schedules of reinforcement’. Regarding how to get
humans to follow the plan, Pentland offers the principe of ‘social influence’
to explain the design mechanism through which milliions of humans beings can be
herded toward the guaranteed outcomes of safety, stability, and efficiency. He
refers to his own studies, in which ‘the problems of industry and government’
can largely be explained by the pattern of information transfer, especially how
people influence and mimic another.” (The Age of Surveillance Capitalism,
Shoshana Zuboff, PublicAffairs, New York, 2019, p. 428/429)
Tradução:
“Usando um estilo que lembra a
rejeição de Larry Page às ‘velhas leis’, Pentland é igualmente crítico a uma
série de conceitos e estruturas herdados do Iluminismo e da economia política.
Pentland insiste que as ‘velhas’ categorias sociais de status, classe,
educação, raça, gênero e geração são obsoletas, tão irrelevantes quanto os
sistemas de irrigação, comida e água que ele deseja substituir. Essas
categorias descrevem as sociedades através das lentes da história, do poder e
da política, mas Pentland prefere ‘populações’ a sociedades, ‘estatísticas’ ao
significado e ‘computação’ à lei. Ele vê a ‘estratificação da população’
codificada não por raça, renda, ocupação ou gênero, mas sim por ‘padrões de
comportamento’ que podem prever doenças, risco financeiro, preferências do
consumidor e opiniões políticas com ‘entre 5 e 10 vezes a precisão’ das medidas
padrão.
Uma pergunta final colocou com
urgência: ‘como levar as pessoas desses sistemas a participar do plano?’ Sua
resposta não está na persuasão ou na educação, mas na modificação do
comportamento. Ele diz que precisamos de ‘novas teorias preditivas da tomada de
decisão humana’, bem como ‘design de mecanismo de incentivo’, uma ideia que é
compatível com os ‘cronogramas de reforço’ de Skinner. Com relação a como levar
os humanos a seguirem o plano, Pentland oferece o princípio da ‘influência
social’ para explicar o mecanismo de design pelo qual milhões de seres humanos
podem ser agrupados em direção aos resultados garantidos de segurança,
estabilidade e eficiência. Ele se refere a seus próprios estudos, nos quais ‘os
problemas da indústria e do governo’ podem ser explicados em grande parte pelo
padrão de transferência de informações, especialmente como as pessoas
influenciam e imitam outras “.
Leia também: Enquanto o presidente ignora cientistas,
enfrentamos a pandemia, por Ergon Cugler
Um pouco adiante, Zuboff
esclarece que:
“Pentland insists thar ‘social phenomena area really aggregations of
billions of small transactions between individuals…’ This is a key point
because it turns that in order for social physics to replace the old ways of
thinking, total knowledege of these billions of small things is required: ‘Big
Data give us a chance to view society in all its complexity, through the
millions of networks of person-to-person exchanges. If we had a ‘god’s eye’, an
all seeing view, then we could potentially arive at a true understanding of how
society works and take steps to fix our problems.’” (The Age of Surveillance
Capitalism, Shoshana Zuboff, PublicAffairs, New York, 2019, p. 430)
Tradução:
“Pentland insiste que ‘a área
de fenômenos sociais realmente agrega bilhões de pequenas transações entre
indivíduos …’ Este é um ponto-chave, porque verifica-se que, para que a física
social substitua as velhas formas de pensar, o conhecimento total desses
bilhões de pequenas coisas é necessário: ‘O Big Data nos dá a chance de ver a
sociedade em toda a sua complexidade, por meio de milhões de redes de trocas
entre pessoas. Se tivéssemos um ‘olho de Deus’, uma visão que tudo vê,
poderíamos potencialmente chegar a um verdadeiro entendimento de como a
sociedade funciona e tomar medidas para corrigir nossos problemas’ “.
A seguir a autora compara as
propostas de Pentland às de Skinner levando em conta 5 questões cruciais:
comportamento em prol de um bem maior, planos que substituem política, pressão
social por harmonia, aplicação de utopias e morte da individualidade. Shoshana
Zuboff frisa que muito embora nunca use os mesmos termos que Skinner, Pentland
defende uma sociedade em que a computação ocupe o lugar central na construção, aperfeiçoamento
e controle social.
Num dos textos anteriores, nós
vimos como Skinner fez algo semelhante ao colocar sua própria ciência
comportamental no pedestal anteriormente ocupado pelo patriotismo e pela
divindade. Pentland imitou o mestre. O resultado, porém, é um pouco diferente.
“…In China the state vies with its surveillance capitalists for control.
In the US and Europe state works with and through the surveillance capitalistas
to accomplish its aims. It is the private companies who have scaled the rock
face to command the heights. They sit at the pinnacle of the dividion of
learning, having amassed unprecedented and exclusive wealth, information, and
expertise on the strength of their dispossession of our behavior. They are
making their dreams come true. Not even Skinner could have aspired to this
condition.” (The Age of Surveillance Capitalism, Shoshana Zuboff,
PublicAffairs, New York, 2019, p. 443/444)
Tradução:
“… Na China, o estado compete
com seus capitalistas de vigilância pelo controle. Nos EUA e na Europa, o
estado trabalha com e através dos capitalistas de vigilância para atingir seus
objetivos. São as empresas privadas que escalaram a face da rocha para comandar
as alturas. Sentam-se no auge da divisão da aprendizagem, acumulando riqueza,
informações e conhecimentos sem precedentes e exclusivos com base na força de
sua desapropriação de nosso comportamento. Eles estão fazendo os seus sonhos se
tornarem realidade. Nem Skinner poderia ter aspirado a essa condição.”
Leia também: Moças e rapazes cuidam, também, no isolamento
social, por Paulo Fernandes Silveira
A física social já é uma
realidade. A aplicação prática da ciência computacional está realmente em
condições de realizar os sonhos ambiciosos dos capitalistas da vigilância. Mas
isso só poderá ser feito mediante uma crescente expropriação de excedente
comportamental, do consumo sustentável de produtos inteligentes, da modificação
do comportamento das vítimas da “auctoritas virtual” e da destruição dos sonhos
de liberdade, igualdade e privacidade de bilhões de pessoas.
“Surveillance capitalists work hard to camouflage their purpose as they
master the uses of instrumentariam power to shape our behavior while evading
our awareness. That why Google conceals the operations that turn us into the
objects of its search and Facebook distracts us from the fact that our beloved
connections are essential to the profit and power that flow from its network
uniquity and totalistic knoledge.
Pentland’s experimental work and theoretical analyses perform an
important political and social function in piercing this fog. They map the
tactical and conceptual pathways of instrumentariam society thar place the
means of behavior modification at the heart of this social system, fouded on
the scientific and technological control of collective behavior and
administered by a specialist class. In China the state appears determined to
‘own’ this complex, but in the West it is largely owned and operated by
surveillance capital.” (The Age of Surveillance Capitalism, Shoshana Zuboff,
PublicAffairs, New York, 2019, p. 443)
Tradução:
“Os capitalistas da vigilância
trabalham duro para camuflar seus propósitos, pois dominam o uso do poder
instrumentário para moldar nosso comportamento enquanto evitam nossa
consciência. É por isso que o Google oculta as operações que nos transformam
nos objetos de sua pesquisa e o Facebook nos distrai do fato de que nossas
amadas conexões são essenciais para o lucro e o poder que decorrem de sua
singularidade de rede e conhecimento totalista.
O trabalho experimental e as
análises teóricas de Pentland desempenham uma importante função política e
social na penetração desse nevoeiro. Eles mapeiam os caminhos táticos e
conceituais da sociedade instrumentarista que colocam os meios de modificação
de comportamento no coração desse sistema social, concentrados no controle
científico e tecnológico do comportamento coletivo e administrados por uma
classe especializada. Na China, o estado parece determinado a ‘possuir’ esse
complexo, mas no Ocidente é amplamente detido e operado pelo capital de
vigilância.”
Na primeira parte do livro,
Shoshana Zuvoff explicou como e porque o capitalismo de vigilância nasceu e
floresceu junto com o neoliberalismo. A utopia neoliberal (a produção ilimitada
de riqueza com a circulação internacional desregulada de capital provocaria
naturalmente uma maior distribuição de renda independentemente do Estado)
negava a existência de uma sociedade. A utopia de Pentland reconhece que a
sociedade existe, mas defende sua total despolitização e modificação com base
num poder sem precedentes que foi conquistado mediante a expropriação de
excedente comportamental. O aperfeiçoamento contínuo do comportamento humano
mediado pelo instrumentarianismo resolverá todos os problemas que a política
tem criado ou ele apenas criará um novo problema político?
Leia também: O instrumentarianismo como poder e como
auctoritas, por Fábio de Oliveira Ribeiro
Essas duas distopias
complementares, que paradoxalmente parecem ser mutuamente excludentes (negação
da existência sociedade pelo neoliberalismo x reconhecimento de que a sociedade
existe e deve ser remodelada pelo capitalismo de vigilância) certamente
provocarão o renascimento do pensamento utópico. O ciclo de expropriação deve
ser interrompido ou dominado pelos cidadãos comuns, para que eles possam voltar
a governar suas vidas obrigando todos (inclusive o Estado e os gigantes da
internet) a respeitar seus direitos.
A “auctoritas” que estruturou
as cidades-estado na Antiguidade deixou de existir há muito tempo. A que nasceu
com o capitalismo de vigilância é muito diferente. Todavia, não podemos
esquecer que aquilo que garantia a harmonia entre iguais (fossem eles
atenienses em Atenas, espartanos em Esparta ou tebanos em Tebas), também tinha
uma face oculta e desagradável: a imposição da força bruta sobre os escravos
que trabalhavam para abastecer as cidades-estados gregas.
No mundo Antigo os escravos
pertenciam aos cidadãos e às cidades, mas eles não podiam participar da vida
pública. Eles eram coisas. Em razão das novidades impostas ao mundo pelo
Google, Facebook, Microsoft, etc… nós também estamos sendo transformados em
objetos. Voluntariamente ou não, nós somos fornecedores de excedentes
comportamentais e destinatários de mudanças comportamentais discretamente
sugeridas (ou impostas) pelos capitalistas da vigilância.
“Instrumentarianism reimagines society as a hive to be monitored and
tuned for guaranteed outcomes, but this tell us nothing of the lived experience
of its members, What are the consequences of live lived in the hive, where one
is perceived as an ‘other’ to the surveillance capitalits, designers, and
tunners who impose their instruments and methods?” (The Age of Surveillance
Capitalism, Shoshana Zuboff, PublicAffairs, New York, 2019, p. 444)
Tradução:
“O instrumentarianismo
reimagina a sociedade como uma colmeia a ser monitorada e ajustada para obter
resultados garantidos, mas isso não nos diz nada da experiência vivida de seus
membros. Quais são as consequências da vida vivida na colmeia, onde cada um é
percebido como um ‘outro’ para os capitais de vigilância, designers e
afinadores que impõem seus instrumentos e métodos?”
Auctoritas, não pertencimento,
exploração econômica, sujeição às experiências comportamentais desenhadas por outras
pessoas para reforçar o poder que elas mesmas exercem sobre suas vítimas, o
instrumentarianismo pode ser considerado um fenômeno sem precedentes. Mas ele
também pode ser comparado ao chicote do mestre que “cantava” no lombo daquele
que havia perdido a guerra, sua autonomia política e liberdade pessoal.
Aristóteles considerava a
escravidão algo absolutamente natural. Uma decorrência da derrota militar. A
sujeição imposta pelo capitalismo de vigilância, como diz Shoshana Zuboff, não
é natural nem violenta. Ela foi criada por homens e pode ser desfeita pela ação
humana.
O problema: o efeito deletério
do costume. No Mundo Antigo, as pessoas acostumadas à escravidão raramente se
rebelavam. Reduzidos à condição de fornecedores de excedente comportamental,
consumidores de produtos inteligentes e destinatários de experimentos de física
social, os cidadãos pós-modernos que se sentem acolhidos/escolhidos pelo
instrumentarianismo farão algo para romper seus grilhões? Shoshana Zuboff
acredita que sim. Portanto, do seu pensamento crítico uma nova utopia está a
nascer.
Nenhum comentário:
Postar um comentário