Do Colonialismo Histórico ao Colonialismo de Dados
reflexões sobre a relação entre Big Data e o sujeito
Fabiano Couto Corrêa da Silva[1]
Universidade Federal do Rio Grande do Sul
fabianocc@gmail.com
Thalia da Silva Pires[2]
Universidade Federal do Rio Grande do Sul
thaliapires98@gmail.com
Lucas George Wendt[3]
Universidade Federal do Rio Grande do Sul
lucas.george.wendt@gmail.com
______________________________
Resumo
A proposta central deste trabalho é refletir como a relação entre os grandes dados (big data) e o sujeito contemporâneo, explorando o conceito de Colonialismo de Dados. O estudo busca analisar as semelhanças entre as relações de dados na sociedade atual e o colonialismo histórico, examinando as implicações sociais, políticas e econômicas dessa dinâmica. Os autores argumentam que o colonialismo de dados envolve a extração e o gerenciamento universal de dados das pessoas, resultando em uma nova ordem social baseada no rastreamento constante. Tem como objetivo analisar como o colonialismo de dados envolve a extração de recursos, representados pelos dados pessoais das pessoas, que são coletados, armazenados e utilizados por empresas para diversos fins econômicos. Esse fenômeno é sustentado por uma ideologia que promove a coleta e o uso de dados como algo benéfico e necessário, criando um ambiente onde os indivíduos são incentivados a compartilhar seus dados sem compreender completamente as implicações. Além disso, o artigo discute o papel do capitalismo nas relações de dados, destacando como o capitalismo afirma a identidade do "eu" como um ponto de referência único, mas também elementos essenciais da continuidade e transformação do self ao instalar vigilância automatizada no espaço do self. O estudo aborda a importância da identidade pessoal como um elemento essencial, enfatizando a necessidade de abandonar a reivindicação de uma universalidade absoluta que caracteriza o colonialismo de dados.
Palavras-chave: Colonialismo De Dados. Vigilância Automatizada. Oligopólios Digitais. Assimetria de Poder. Impactos Sociais.
FROM HISTORICAL COLONIALISM TO DATA COLONIALISM
reflections on the relationship between Big Data and the subject
Abstract
The central proposal of this paper is to reflect on how the relationship between big data and the contemporary subject, exploring the concept of "data colonialism". The study seeks to analyze the similarities between data relationships in today's society and historical colonialism, examining the social, political, and economic implications of this dynamic. The authors argue that data colonialism involves the universal extraction and management of data from people, resulting in a new social order based on constant tracking. It aims to analyze how data colonialism involves the extraction of resources, represented by people's personal data, which are collected, stored, and used by companies for various economic purposes. This phenomenon is supported by an ideology that promotes the collection and use of data as something beneficial and necessary, creating an environment where individuals are encouraged to share their data without fully understanding the implications. Furthermore, the paper discusses the role of capitalism in data relationships, highlighting how capitalism affirms the identity of the self as a unique reference point, but also essential elements of the continuity and transformation of the self by installing automated surveillance in the space of the self. The study also addresses the importance of personal identity as an essential element, emphasizing the need to abandon the claim of an absolute universality that characterizes data colonialism.
Keywords: Data Colonialism. Automated Surveillance. Digital Oligopolies. Power Asymmetry. Social Impacts.
1 Introdução
O colonialismo de dados é um fenômeno emergente que reside na confluência de tecnologia, economia e sociologia, e é uma questão que demanda um exame crítico e uma reflexão profunda. Neste manuscrito, nosso objetivo é esclarecer a conexão entre a captura e o processamento de dados sociais e o paradigma do colonialismo histórico, analisando as implicações dessas práticas na exploração de indivíduos. O colonialismo de dados não é apenas uma extensão do capitalismo digital, mas uma redefinição fundamental da forma como a informação é controlada e manipulada em benefício das corporações.
Em primeiro lugar, devemos considerar a ascensão de oligopólios digitais como uma característica definidora deste novo colonialismo. A estrutura de mercado da internet é dominada por um pequeno número de empresas - os chamados "gigantes da tecnologia" - que exercem um controle monopolista sobre grandes quantidades de dados. Google, Facebook, Amazon e Apple são exemplos de corporações que centralizam e controlam o acesso à informação digital, criando um novo tipo de império baseado na posse e controle dos dados.
Essas corporações tornaram-se as novas potências coloniais, criando um sistema econômico digital no qual os dados dos usuários são a nova fronteira a ser explorada. Este novo colonialismo é, de muitas formas, semelhante ao colonialismo histórico. As corporações exploram a 'terra digital' por meio da extração de dados, semelhante à forma como as potências coloniais exploravam terras por recursos naturais. Esta exploração de dados não é apenas uma violação da privacidade individual, mas também uma forma de opressão econômica, onde a riqueza é criada para poucos à custa de muitos.
Além disso, é fundamental ressaltar o papel que os dados científicos desempenham neste contexto. Dados coletados para pesquisa e descoberta científica são frequentemente apropriados por empresas privadas para seu próprio uso comercial. Isso transforma a ciência em uma ferramenta de colonização de dados, onde o conhecimento é monopolizado em benefício de uma pequena elite. O capitalismo de dados, portanto, se baseia na apropriação e exploração de dados científicos, assim como o colonialismo histórico se baseava na exploração de recursos naturais.
Para entender completamente o colonialismo de dados, precisamos examinar a sua interseção com o capitalismo e o colonialismo histórico. Tal como as práticas coloniais do passado foram impulsionadas por motivações econômicas e justificadas por ideologias de superioridade e progresso, o colonialismo de dados é impulsionado pela busca de lucro e justificado por discursos de inovação e eficiência. A dinâmica do capitalismo contemporâneo, a centralização de poder nas mãos de oligopólios digitais e a exploração de dados sociais e científicos compõem a tríade central deste novo fenômeno. Nesse contexto, Manuel Castells (1999), em A Sociedade em Rede, afirma que "No mundo da economia da informação, o poder está concentrado naqueles que controlam as redes de informação". Castells está se referindo ao cenário atual da sociedade, caracterizado por uma economia em que a informação é a principal matéria-prima. Isso difere da economia tradicional, que se baseia na produção e troca de bens físicos. O poder, aqui, se refere à capacidade de influenciar ou controlar eventos, decisões, ou o comportamento de outras pessoas ou instituições. Quando falamos em concentração de poder, estamos nos referindo a uma situação em que tal capacidade está desigualmente distribuída, acumulada nas mãos de poucos. Portanto, Castells está expressando a ideia de que, na economia moderna da informação, o controle sobre as redes de informação equivale ao poder. Isso porque quem controla a informação pode influenciar a percepção e o comportamento das pessoas, bem como as decisões tomadas em todas as esferas da sociedade. Essa é uma das principais razões pelas quais questões de privacidade, controle de dados e monopólios de tecnologia são tão importantes hoje em dia.
A compreensão do colonialismo de dados e a reflexão sobre suas implicações são passos essenciais para desenvolver formas de mitigar seus efeitos prejudiciais. Em sua essência, o colonialismo de dados é uma questão de direitos humanos e de justiça social, pois envolve a apropriação e exploração de dados pessoais, a violação da privacidade e a perpetuação das desigualdades econômicas.
Adicionalmente, o colonialismo de dados representa uma ameaça ao desenvolvimento democrático e à participação cívica. A centralização de informações em grandes empresas cria um desequilíbrio de poder que pode comprometer o livre fluxo de informações e limitar a participação pública no espaço digital. Além disso, o uso indevido de dados pessoais por essas empresas pode resultar em manipulação de comportamentos, ampliando ainda mais as desigualdades e a segregação digital.
No contexto do colonialismo histórico, as potências coloniais exploravam os recursos naturais das colônias para obter lucro e poder. Da mesma forma, no colonialismo de dados, as empresas de dados coletam, armazenam e utilizam os dados pessoais das pessoas como uma valiosa matéria-prima. Nesse ponto, poderíamos adicionar uma citação de Gilberto Freyre (1933), no livro Casa-Grande & Senzala: "O colonialismo foi um sistema de exploração econômica que se caracterizou pela brutalidade e pela desconsideração dos direitos das populações colonizadas." Essas empresas usam os dados coletados para impulsionar o desenvolvimento de produtos, otimizando suas ofertas com base nos comportamentos e preferências dos usuários. Por exemplo, uma plataforma de streaming de música pode usar os dados de escuta de seus usuários para identificar tendências emergentes, informar recomendações personalizadas e até mesmo influenciar a produção de novas músicas. Este uso extensivo dos dados pode ser visto como um valor agregado para alguns, mas também levanta questões importantes sobre privacidade e consentimento informado. O objetivo é extrair valor econômico dos dados, de maneira análoga à exploração de recursos naturais no passado.
Além disso, assim como o colonialismo histórico era justificado por ideologias de superioridade e progresso, o colonialismo de dados é legitimado por discursos de inovação e eficiência. As empresas de dados argumentam que a coleta e o uso intensivo de dados são necessários para melhorar serviços, personalizar experiências do usuário e impulsionar a inovação tecnológica. Essa narrativa cria a percepção de que a coleta de dados é uma prática benéfica e inevitável para o avanço da sociedade.
No entanto, é importante destacar que essa dinâmica está inserida no contexto do capitalismo contemporâneo. O capitalismo é um sistema econômico baseado na propriedade privada dos meios de produção e na busca pelo lucro. No capitalismo digital, os dados tornaram-se um recurso fundamental, e as empresas de dados exercem um papel central na economia digital. A centralização de poder nas mãos de oligopólios digitais, como Google, Facebook, Amazon e Apple, é uma característica definidora desse novo fenômeno.
Essas empresas dominantes acumulam grandes quantidades de dados por meio de suas plataformas e serviços amplamente utilizados, estabelecendo um controle monopolista sobre o acesso à informação digital. Essa concentração de poder reforça a dinâmica de exploração no colonialismo de dados, uma vez que as empresas têm o controle desproporcional sobre os dados e a capacidade de manipulá-los em benefício próprio.
Por fim, o colonialismo de dados tem implicações significativas para a ciência e a pesquisa. A monopolização de dados científicos por empresas privadas pode limitar a liberdade de pesquisa e inovação, restringindo a capacidade dos cientistas de contribuir para o conhecimento coletivo. Isso pode levar à comercialização da ciência, em que a pesquisa é dirigida não pela busca do conhecimento, mas pelas demandas do mercado.
Em sentido amplo, o colonialismo de dados, uma consequência direta do capitalismo digital, é uma realidade perturbadora de nosso tempo. Através da exploração e manipulação de dados sociais e científicos, as empresas poderosas tornaram-se os novos colonizadores. A compreensão desta dinâmica é fundamental para formular respostas eficazes a este desafio. Neste artigo, vamos explorar a fundo a natureza do colonialismo de dados, suas semelhanças com o colonialismo histórico, e suas implicações para a sociedade contemporânea.
2 Capitalismo e Identidade Digital: Erosão do “Eu” e Vigilância Automatizada
O capitalismo, em sua essência, é um sistema econômico baseado na propriedade privada dos meios de produção e na livre competição. Na era digital, esses "meios de produção" estendem-se além das fábricas e máquinas físicas para incluir a propriedade e controle dos dados. O capitalismo desempenha um papel fundamental nas relações de dados, moldando a maneira como interagimos com a informação e como a informação interage conosco. Especificamente, o capitalismo digital está moldando a construção do 'eu' na era da informação.
Dentro do paradigma do capitalismo digital, a identidade do "eu" é frequentemente afirmada como um ponto de referência único. Em outras palavras, o "eu" é reconhecido como um indivíduo distinto com suas próprias preferências, comportamentos e características únicas. Essa ênfase na singularidade é parte integrante do modelo econômico capitalista, que valoriza e promove a individualidade como meio de segmentação de mercado e personalização de produtos e serviços. Por exemplo, grandes empresas coletam enormes quantidades de dados sobre cada cliente para fornecer experiências online personalizadas, desde anúncios direcionados até recomendações de conteúdo.
No entanto, ao mesmo tempo em que o capitalismo digital afirma a identidade única do "eu", também erode elementos essenciais da continuidade e transformação do "eu". Isso ocorre por meio da instalação de sistemas de vigilância automatizados que rastreiam, registram e analisam constantemente nossas ações online. Esses sistemas de vigilância digital, alimentados por algoritmos sofisticados e aprendizado de máquina, têm a capacidade de criar perfis detalhados de usuários individuais.
Esses perfis digitais, embora possam realçar a singularidade do "eu", também podem restringir a evolução e a transformação do "eu". Cada interação online é registrada e usada para refinar ainda mais o perfil do usuário, criando uma imagem estática e limitada do "eu". Isso pode restringir nossa capacidade de explorar novas identidades e de se transformar ao longo do tempo, pois somos constantemente confrontados com um reflexo digital de nós mesmos baseado em nossas ações passadas. Nesse sentido, a vigilância automatizada do capitalismo digital pode erodir a continuidade do "eu", enraizando-nos em uma versão codificada e potencialmente desatualizada de nós mesmos.
Além disso, a constante coleta e análise de dados podem levar à perda de privacidade e à sensação de estar sendo constantemente observado, o que pode levar à autocensura e à conformidade. Isso pode limitar ainda mais nossa capacidade de expressar nosso "eu" autêntico e explorar novas identidades.
Figura 1: Capitalismo digital e vigilância automatizada
Fonte: os autores (2023)
A figura 1 ilustra a interação entre o capitalismo digital e a identidade do "eu" na era da informação. O capitalismo digital, representado por processos como coleta de dados, personalização de serviços e vigilância automatizada, influencia a identidade do "eu". A coleta de dados e a personalização de serviços reforçam a singularidade do "eu", ao permitir experiências personalizadas com base nas preferências individuais. No entanto, a vigilância automatizada e a coleta de dados podem levar à erosão da continuidade do "eu", criando uma imagem estática do usuário baseada em interações online passadas, limitando a evolução e transformação do "eu". Além disso, a vigilância constante pode levar à autocensura, onde os usuários limitam sua expressão devido à sensação de estarem sempre sendo observados.
O capitalismo digital é uma extensão do sistema econômico capitalista para o domínio digital, onde os dados são considerados o principal insumo. As empresas coletam, armazenam e analisam dados para obter significado sobre os comportamentos, preferências e características dos usuários. Este processo de coleta de dados é fundamental para a personalização de serviços, permitindo que as empresas ofereçam produtos e serviços que atendam às necessidades e preferências individuais dos usuários. No entanto, a coleta de dados também alimenta a vigilância automatizada, onde as atividades online dos usuários são constantemente monitoradas e analisadas. Esta vigilância pode criar uma imagem estática do usuário, baseada em suas interações online passadas, limitando a capacidade do usuário de evoluir e se transformar ao longo do tempo. Além disso, a constante sensação de estar sendo observado pode levar à autocensura, onde os usuários limitam sua expressão devido à sensação de estarem sempre sendo observados. Portanto, enquanto o capitalismo digital pode reforçar a singularidade do "eu" através da personalização, também pode erodir a continuidade do "eu" e levar à autocensura através da vigilância automatizada.
Nessa discussão, é importante lembrar a obra distópica de George Orwell, 1984, que apresenta uma sociedade sob o controle do Big Brother (ORWELL, 1949). O cenário traçado por Orwell sugere uma analogia ao colonialismo de dados, onde o controle exercido por estas corporações assemelha-se à figura onisciente do Big Brother.
A obra de Orwell estabelece uma analogia muito próxima com o colonialismo de dados na sociedade contemporânea. Assim como o Big Brother no romance, as grandes corporações exercem um controle onisciente sobre os dados e informações pessoais das pessoas. Elas coletam uma infinidade de informações por meio de dispositivos digitais, redes sociais, aplicativos e outros meios, criando perfis detalhados e abrangentes de cada indivíduo.
Essa vigilância constante e o controle dos dados têm implicações profundas na vida das pessoas. As empresas de dados utilizam essas informações para direcionar anúncios personalizados, tomar decisões comerciais estratégicas, influenciar comportamentos e até mesmo manipular processos políticos e sociais. Assim como no romance de Orwell, há uma sensação de invasão de privacidade e falta de controle sobre nossas próprias informações pessoais.
O cenário distópico de 1984 ressalta a importância de examinar o poder e o controle exercidos pelas empresas de dados no contexto do colonialismo de dados. Essas corporações detêm um poder significativo, pois possuem acesso a um volume massivo de dados e recursos tecnológicos para analisá-los. Elas têm a capacidade de moldar e influenciar nossas experiências online, direcionando conteúdos, produtos e serviços de acordo com seus interesses e objetivos comerciais.
A narrativa de Orwell (1949) também destaca a preocupação com a concentração de poder e a falta de transparência no uso dos dados pessoais. Assim como no romance, as grandes corporações de tecnologia se tornaram entidades onipresentes e dominantes, capazes de exercer influência significativa sobre a sociedade e a economia. Essa concentração de poder pode levar a consequências negativas, como a perpetuação de desigualdades, a falta de diversidade de perspectivas e a limitação da liberdade individual.
Byung-Chul Han, em sua obra Sociedade do Cansaço (2015), apresenta uma crítica contundente à sociedade contemporânea, na qual a pressão constante pelo desempenho e pela produtividade se tornou uma característica dominante. Han argumenta que vivemos em uma sociedade que valoriza excessivamente o trabalho, a eficiência e a busca incessante por resultados, o que ele chama de "sociedade do desempenho".
No contexto do colonialismo de dados, as reflexões de Han (2015) são especialmente relevantes. O colonialismo de dados é impulsionado pela busca de eficiência e lucro por meio da coleta e análise incessante de dados. As empresas de dados buscam maximizar a eficiência em suas operações, oferecendo serviços personalizados, direcionando anúncios e tomando decisões com base nas informações coletadas. Essa busca pela eficiência, muitas vezes, não leva em consideração o impacto negativo que pode ter na vida das pessoas.
Ao analisar a sociedade do desempenho em relação ao colonialismo de dados, podemos perceber que a incessante coleta e análise de dados contribuem para a intensificação da pressão por desempenho em todas as esferas da vida. A necessidade de fornecer resultados e informações cada vez mais precisas e relevantes alimenta um ciclo de busca constante por dados e informações, sem pausas ou descanso.
Essa pressão constante pode levar ao esgotamento e à exaustão. O indivíduo se vê constantemente sob vigilância, sentindo-se obrigado a se adaptar aos padrões impostos pelo colonialismo de dados. A coleta massiva de dados pessoais e a busca incessante pela eficiência podem levar a uma sensação de sobrecarga, perda de privacidade e controle, e até mesmo à perda da própria identidade.
A alegoria proposta por Han (2015) entre o esgotamento na sociedade do desempenho e o colonialismo de dados ressalta como o processo de coleta e análise de dados pode contribuir para um ambiente opressivo, onde os indivíduos são constantemente submetidos a expectativas e demandas cada vez mais altas. Essa dinâmica intensifica as pressões sociais e pessoais, gerando um ciclo autossustentável de busca por desempenho e resultados, em detrimento do bem-estar e da qualidade de vida.
Ao considerarmos as preocupações de Han (2015) no contexto do colonialismo de dados, é necessário refletir sobre a necessidade de equilíbrio e autodeterminação na sociedade digital. Devemos questionar a cultura de vigilância constante e o imperativo de maximizar a eficiência a todo custo, a fim de preservar a saúde mental, a privacidade e a autonomia individual. O esgotamento provocado pela incessante coleta e análise de dados é um alerta para a importância de repensar os limites e as consequências dessa busca por desempenho, e buscar uma abordagem mais ética e sustentável no uso dos dados pessoais.
Zuboff (2019), em sua obra The Age of Surveillance Capitalism, oferece uma análise profunda do fenômeno do capitalismo de vigilância, destacando como os dados pessoais são coletados, armazenados e utilizados pelas grandes empresas para prever e influenciar o comportamento humano. Ao fazer isso, ela fortalece as críticas de Orwell (1949) sobre o controle e a manipulação da informação.
Zuboff (2019) expõe como as empresas de vigilância capitalista transformaram os dados pessoais em uma nova forma de capital, buscando extrair valor econômico por meio da coleta massiva de informações pessoais. Essas empresas buscam não apenas entender o comportamento dos usuários, mas também antecipar e moldar suas ações futuras. Ao analisar e interpretar os dados, elas criam perfis detalhados dos usuários, usando algoritmos e técnicas de aprendizado de máquina para prever suas preferências, necessidades e até mesmo suas intenções.
Essa capacidade de previsão e influência comportamental é o cerne do colonialismo de dados. Assim como no livro 1984, de Orwell, onde o Big Brother tinha controle totalitário sobre a informação e manipulava a realidade para controlar a população, o colonialismo de dados reflete a manipulação de informações e o controle exercido pelas grandes corporações no mundo digital.
Ao antecipar os comportamentos e as preferências dos usuários, as empresas de vigilância capitalista têm o poder de influenciar suas escolhas, direcionando-os a tomar determinadas ações ou consumir determinados produtos. Isso vai além da simples personalização de anúncios, envolvendo a criação de experiências personalizadas e a manipulação sutil das percepções e comportamentos dos indivíduos.
Essa manipulação e controle da informação têm implicações significativas na autonomia e na liberdade individual. A capacidade de prever e influenciar comportamentos cria uma assimetria de poder entre as empresas e os usuários, onde as primeiras têm um conhecimento profundo dos desejos e necessidades dos indivíduos, enquanto os últimos podem se tornar vítimas de um ambiente altamente manipulado e direcionado.
Além disso, o colonialismo de dados levanta preocupações éticas e morais sobre a privacidade e o consentimento. A coleta massiva de dados pessoais sem o conhecimento ou o consentimento adequado das pessoas viola sua privacidade e os expõe a riscos de manipulação e abuso. Essa exploração dos dados pessoais em benefício das empresas coloca em xeque a integridade e a autonomia individual.
Ao destacar a manipulação de informações e o controle exercido pelas grandes corporações, Zuboff (2019) fortalece as críticas de Orwell sobre o uso e abuso do poder no mundo digital. Ela nos convida a refletir sobre o impacto desse colonialismo de dados na nossa sociedade, questionando as implicações éticas e morais dessa prática e buscando formas de preservar a privacidade, a liberdade e a dignidade dos indivíduos em um mundo cada vez mais dominado pela vigilância e pelo controle.
Morozov (2011) critica a visão utópica da tecnologia, que vê a internet e as tecnologias digitais como uma panaceia para todos os problemas sociais. Essa visão otimista, segundo ele, ignora as complexidades e os perigos inerentes à tecnologia. Por exemplo, enquanto a internet pode permitir uma maior liberdade de expressão, ela também pode ser usada para disseminar desinformação e propaganda, e para monitorar e controlar as pessoas de formas sem precedentes.
A "comercialização da vida social na era digital" refere-se à forma como nossas interações e comportamentos online são monetizados pelas empresas de tecnologia. Por exemplo, as redes sociais coletam dados sobre nossas preferências e comportamentos, que são usados para direcionar anúncios personalizados. Morozov (2011) vê isso como uma forma de exploração, em que as empresas de tecnologia lucram com nossa vida social.
A referência ao "colonialismo de dados" diz respeito à crítica feita por Orwell e Han à prática de coleta massiva de dados pelas grandes corporações tecnológicas. Esse fenômeno é muitas vezes comparado ao colonialismo, na medida em que implica a exploração e o controle de um recurso - neste caso, os dados - por um poder dominante. Tal como o colonialismo histórico, o colonialismo de dados é visto como uma forma de opressão, que beneficia as corporações em detrimento da privacidade e da autonomia dos indivíduos.
No geral, as ideias de Morozov desafiam a noção de que a tecnologia é inerentemente boa ou má. Ele argumenta que a forma como usamos a tecnologia, e o contexto social e econômico em que ela é implementada, são fatores essenciais que determinam seu impacto na sociedade.
Lanier (2013) critica essas empresas, como Google e Facebook, por coletar e usar dados de seus usuários sem oferecer uma compensação adequada em troca. Ele argumenta que, ao monetizar as informações pessoais dos usuários para direcionar publicidade, essas empresas estão explorando seus usuários.
Esse modelo de negócios, que Lanier (2013) se refere como "siren servers" (servidores sereia), concentra o poder e a riqueza nas mãos de um pequeno número de empresas de tecnologia. Além disso, esse sistema prejudica a economia em geral, pois as pessoas que produzem os dados - que são uma parte importante do valor dessas empresas - não são devidamente recompensadas.
A visão de Lanier (2013) ecoa as críticas de Zuboff (2019) e Morozov (2011). Zuboff (2019), em particular, com sua teoria do capitalismo de vigilância, argumenta que as empresas de tecnologia lucram explorando os dados de seus usuários. Morozov (2011) também critica o modelo de negócios baseado em dados, argumentando que ele resulta em uma forma de exploração e controle.
No entanto, Lanier (2013) vai além das críticas e propõe uma solução potencial para esse problema. Ele sugere que os usuários devem ser pagos pelos seus dados. Se as empresas de tecnologia precisam de dados para impulsionar seus modelos de negócios, então as pessoas que produzem esses dados devem ser compensadas de maneira justa. Lanier (2013) acredita que essa abordagem poderia ajudar a corrigir o desequilíbrio de poder entre as grandes empresas de tecnologia e os usuários individuais, e promover uma distribuição mais justa da riqueza na era digital.
A personalização online é uma prática em que plataformas de mídia social e mecanismos de busca usam algoritmos para mostrar conteúdo baseado no histórico de navegação do usuário e em seus dados pessoais. Enquanto isso pode tornar a experiência online mais relevante e conveniente, Pariser (2011) argumenta que ela também pode criar o que ele chama de "bolhas de filtro".
Bolhas de filtro são câmaras de eco digitais que isolam as pessoas de informações e pontos de vista que discordam ou desafiam suas crenças preexistentes. Essas bolhas são o resultado de algoritmos que favorecem conteúdos que são mais prováveis de serem agradáveis ou interessantes para o usuário, com base em seu comportamento passado.
O problema, segundo Pariser (2011), é que isso pode limitar a nossa exposição a diferentes pontos de vista, restringir o nosso aprendizado e o nosso crescimento e reforçar os preconceitos existentes. Isso é especialmente problemático no contexto político, onde a falta de exposição a opiniões divergentes pode polarizar ainda mais as sociedades.
As críticas de Pariser (2011) à personalização online alinham-se com as visões de George Orwell e Byung-Chul Han. Orwell alertou sobre os perigos de um estado totalitário que controla e manipula a informação. Han discute a ideia do "inferno da mesmice", onde a saturação de informações semelhantes e a falta de diferenças levam a uma espécie de tortura psicológica.
Assim, embora a personalização online possa trazer conveniência e relevância, ela também tem o potencial de limitar nossa exposição a diferentes ideias e perspectivas, restringindo a diversidade de nosso entendimento e reforçando os preconceitos existentes.
Os algoritmos são conjuntos de regras ou instruções que as máquinas seguem para realizar tarefas ou tomar decisões. Embora os algoritmos possam ter muitos usos benéficos, O'Neil argumenta que eles também podem se tornar "armas de destruição matemática" quando são opacos, escaláveis e prejudiciais.
A opacidade refere-se à falta de transparência sobre como os algoritmos funcionam e tomam decisões. Muitos algoritmos são proprietários e seus funcionamentos internos são mantidos em segredo pelas empresas que os criam. Isso torna difícil para os indivíduos e a sociedade como um todo entender, questionar ou responsabilizar esses algoritmos.
A escalabilidade refere-se à capacidade dos algoritmos de afetar um grande número de pessoas. Por exemplo, um algoritmo usado para avaliar candidatos a empregos pode influenciar as oportunidades de emprego de milhares ou mesmo milhões de pessoas.
O dano ocorre quando esses algoritmos perpetuam ou amplificam as desigualdades sociais. Por exemplo, um algoritmo de contratação que usa a educação como um fator pode discriminar contra candidatos de baixa renda que não puderam pagar por uma educação de alta qualidade.
O'Neil argumenta que precisamos de mais transparência e regulamentação dos algoritmos para evitar esses problemas. Ela pede uma maior conscientização sobre o papel dos algoritmos na sociedade e uma discussão mais ampla sobre como eles devem ser usados e regulados.
Essas ideias dialogam com as visões de Morozov (2011) e Lanier (2013), que também criticaram o poder desproporcional das empresas de tecnologia e o uso opaco e não regulamentado dos dados dos usuários. Todos eles pedem uma reconsideração de como a tecnologia e os dados são usados na sociedade e uma maior responsabilização das empresas que criam e usam esses algoritmos.
De forma ampla, todos esses pensadores e suas obras dialogam entre si, iluminando diferentes aspectos do colonialismo de dados e suas consequências na sociedade contemporânea.
3 O Colonialismo de Dados: Exploração, Poder e Impacto Social
O colonialismo de dados revela a exploração dos recursos digitais das pessoas, com a coleta e uso de dados pessoais como uma matéria-prima de grande valor (ZUBOFF, 2019). Essa prática é sustentada por uma ideologia que promove a coleta de dados, resultando em um ambiente onde as empresas têm controle sobre os dados pessoais dos indivíduos (ZUBOFF, 2019). A concentração de lucros nas mãos de poucas empresas dominantes é evidente, assim como a despossessão dos indivíduos em relação ao controle de seus próprios dados (SRNICEK, 2017). Existe uma assimetria de poder entre empresas e indivíduos, com os primeiros exercendo controle desproporcional (ZUBOFF, 2019). O colonialismo de dados também resulta em uma exploração e dependência dos indivíduos em relação às empresas de dados. Além disso, há impactos sociais e culturais, incluindo segmentação, limitação da privacidade e influência nos processos políticos e sociais (BEATON; ROBSON, 2018). Diante desse diagnóstico, é importante abordar questões éticas, regulatórias e de proteção de dados para garantir a preservação dos direitos digitais e uma sociedade mais justa no âmbito digital.
Figura 2: Colonialismo de Dados: Exploração, Poder e Impacto Social
Fonte: Os autores (2023)
1. Extração de recursos: A extração de recursos no contexto do colonialismo de dados refere-se à coleta de dados pessoais das pessoas pelas empresas. Assim como no colonialismo histórico, em que os colonizadores exploravam os recursos naturais das colônias para obter lucro, as empresas de dados coletam, armazenam e utilizam os dados pessoais das pessoas para diversos fins. Isso inclui coletar informações sobre os hábitos de consumo, preferências, localização, histórico de navegação na internet e outros dados pessoais importantes (BEATON; CAMPBELL, 2013).
Essa extração de recursos é uma atividade econômica lucrativa para as empresas de dados, pois os dados pessoais podem ser monetizados de várias formas, como direcionar anúncios personalizados, vendê-los para empresas de marketing e realizar análises de mercado. Assim como no colonialismo histórico, em que os recursos naturais eram explorados em benefício dos colonizadores, no colonialismo de dados, os dados pessoais são explorados em benefício das empresas que os coletam.
2. Ideologia e controle: O colonialismo de dados é sustentado por uma ideologia que promove a coleta e o uso de dados como algo benéfico e necessário. Essa ideologia cria um ambiente em que as pessoas são incentivadas a compartilhar seus dados e aceitar os termos de serviço das empresas, muitas vezes sem compreender completamente as implicações (BEATON; ROBSON, 2018).
Essa ideologia é construída em torno da noção de que a coleta de dados é essencial para o desenvolvimento econômico e tecnológico. As empresas de dados argumentam que a coleta e o uso intensivo de dados são necessários para melhorar serviços, personalizar experiências do usuário e impulsionar a inovação. Essa ideologia influencia tanto as empresas de dados quanto os indivíduos, que muitas vezes internalizam a crença de que compartilhar seus dados é parte inevitável e até mesmo desejável da vida moderna.
No entanto, essa ideologia de coleta e uso de dados como algo positivo mascara as preocupações relacionadas à privacidade, segurança e poder desigual. As pessoas podem ser levadas a acreditar que estão fazendo uma escolha consciente ao compartilhar seus dados, mas muitas vezes as implicações completas e os riscos envolvidos não são devidamente divulgados ou compreendidos.
3. Concentração de lucros: O colonialismo de dados também envolve a concentração de lucros nas mãos de poucas empresas dominantes. Essas empresas, como o Google, o Facebook e algumas outras gigantes da tecnologia, acumulam enormes quantidades de dados por meio de suas plataformas e serviços amplamente utilizados (SRNICEK, 2017).
Essas empresas têm a capacidade de extrair valor desses dados e monetizá-los de várias maneiras. Elas podem segmentar anúncios de forma altamente direcionada com base nas informações coletadas, vender acesso a esses dados a terceiros, desenvolver produtos e serviços baseados em dados e usar informações derivadas dos dados para obter vantagens competitivas no mercado.
Essa concentração de lucros nas mãos de poucas empresas contribui para a desigualdade econômica e de poder. Elas se tornam gigantes dominantes em seus respectivos setores e podem exercer influência significativa
4. Assimetria de poder: O colonialismo de dados é caracterizado por uma significativa assimetria de poder entre as empresas de dados e os indivíduos. As empresas possuem recursos e conhecimentos técnicos para coletar, processar e analisar grandes quantidades de dados, enquanto os indivíduos muitas vezes têm uma compreensão limitada sobre como seus dados são coletados e usados (BEATON; ROBSON, 2018).
Essa assimetria de poder resulta em uma relação desigual, em que as empresas têm o controle e a capacidade de manipular os dados em seu benefício. Elas podem utilizar os dados para influenciar o comportamento dos usuários, direcionar anúncios personalizados, tomar decisões comerciais estratégicas e até mesmo influenciar processos políticos.
5. Exploração e dependência: Assim como no colonialismo histórico, o colonialismo de dados envolve a exploração dos recursos dos territórios colonizados. No caso do colonialismo de dados, os dados pessoais são a matéria-prima que as empresas exploram para obter vantagens comerciais e financeiras. Essa exploração muitas vezes ocorre sem o consentimento informado e livre dos indivíduos, que muitas vezes não têm escolha a não ser fornecer seus dados em troca do acesso a serviços digitais essenciais, criando uma relação de dependência, em que os indivíduos se tornam cada vez mais dependentes das empresas de dados para acessar serviços, informações e se conectar com outras pessoas. Essa dependência pode reforçar ainda mais o poder das empresas, tornando-as ainda mais dominantes no mercado e dificultando a competição e a diversidade (BEATON; CAMPBELL, 2013).
6. Impactos sociais e culturais: O colonialismo de dados tem implicações significativas para a sociedade e a cultura. A coleta massiva de dados pessoais pode levar à criação de perfis detalhados e à categorização das pessoas com base em suas características e comportamentos. Isso pode levar à segmentação e discriminação de certos grupos, reforçando desigualdades existentes Por exemplo, esses dados podem ser usados para influenciar as decisões políticas, como evidenciado pelo escândalo do Facebook-Cambridge Analytica em 2018 (CADWALLADR; GRAHAM-HARRISON, 2018). Além disso, a coleta de dados pode reforçar desigualdades e injustiças existentes, ao permitir a segmentação e discriminação baseada em dados (NOBLE, 2018). Desse modo, o colonialismo de dados pode impactar a privacidade e a autonomia dos indivíduos. O constante monitoramento e coleta de dados podem limitar a liberdade de expressão e a liberdade de escolha, uma vez que as pessoas podem se sentir vigiadas e condicionadas a comportamentos específicos para evitar consequências negativas.
Em sentido amplo, os mecanismos do colonialismo de dados incluem a extração de recursos (dados pessoais), uma ideologia que promove sua coleta e uso, concentração de lucros, disposição e despossessão dos indivíduos, assimetria de poder, exploração e dependência, e impactos sociais e culturais significativos. Esses mecanismos sustentam o poder e a dominação das empresas de dados, que moldam nossas interações digitais e têm um impacto profundo em nossas vidas.
Os algoritmos desempenham um papel central na atualidade, atuando como arquitetos silenciosos de nossas vidas digitais. Eles são responsáveis por uma infinidade de tarefas e decisões, desde a escolha das músicas que ouvimos até a seleção das notícias que lemos. São conjuntos de regras ou instruções que as máquinas seguem para realizar tarefas, tornando-se instrumentos fundamentais na era digital. Contudo, por mais benéficos que possam ser, os algoritmos também têm potencial para se transformar em "armas de destruição matemática", quando apresentam características de opacidade, escalabilidade e prejuízo.
Primeiramente, a opacidade dos algoritmos diz respeito à falta de transparência em seu funcionamento, tornando-os caixas-pretas para a maioria dos usuários. Essa opacidade pode levar a uma série de problemas, como a impossibilidade de responsabilizar ou controlar decisões fundamentais tomadas por esses algoritmos. A falta de visibilidade sobre como os algoritmos funcionam e tomam decisões gera uma questão de responsabilidade: quando um algoritmo falha ou causa danos, é difícil atribuir responsabilidade sem entender completamente como ele funciona.
Em segundo lugar, a escalabilidade dos algoritmos, sua capacidade de influenciar um grande número de pessoas, aumenta seu potencial para causar danos. Algoritmos usados por plataformas de mídia social e mecanismos de busca têm o poder de moldar percepções, comportamentos e até mesmo sociedades inteiras. O alcance desses algoritmos amplia o potencial de seus impactos, para o bem ou para o mal.
Finalmente, os algoritmos podem ser prejudiciais quando reforçam ou perpetuam as desigualdades sociais existentes. Algoritmos treinados em dados tendenciosos podem incorporar e amplificar essas tendências, levando a resultados discriminatórios. Por exemplo, um algoritmo de contratação treinado em um conjunto de dados que favorece candidatos de uma determinada classe social ou etnia pode perpetuar essa discriminação ao favorecer candidatos semelhantes no futuro. Dessa forma, os algoritmos podem se tornar "armas de destruição matemática" que exacerbam as desigualdades sociais e perpetuam a injustiça.
Embora os algoritmos tenham trazido muitas conveniências e avanços para a sociedade moderna, é fundamental considerar os riscos que eles apresentam. A opacidade, escalabilidade e potencial prejudicial dos algoritmos tornam-se preocupações sérias em um mundo cada vez mais dominado pela tecnologia. Para enfrentar esses desafios, é necessário um esforço colaborativo que envolva não apenas cientistas de computação, mas também reguladores, filósofos, sociólogos e o público em geral.
Além disso, precisamos fomentar uma alfabetização digital mais ampla, permitindo que os indivíduos entendam melhor como os algoritmos funcionam e como eles afetam nossas vidas. Uma compreensão mais aprofundada do funcionamento dos algoritmos pode ajudar os indivíduos a navegar mais efetivamente no mundo digital e a tomar decisões mais informadas.
Regulamentações e políticas também devem ser desenvolvidas para garantir a transparência e a justiça no design e implementação dos algoritmos. As organizações devem ser responsabilizadas pela criação de algoritmos que perpetuam ou amplificam as desigualdades sociais. Além disso, deve haver um mecanismo para auditar e corrigir algoritmos problemáticos.
Os algoritmos também precisam ser projetados com uma consideração cuidadosa das implicações éticas. Isso pode incluir a inclusão de salvaguardas para evitar danos e a consideração ativa de como evitar reforçar as desigualdades existentes. Por exemplo, os engenheiros podem trabalhar para garantir que seus algoritmos não sejam apenas eficientes, mas também justos e transparentes.
Referências
BEATON, B.; CAMPBELL, P. Settler Colonialism and First Nations E-Communities in Northwestern Ontario. World Social Science Forum, Montreal, QC, Canada. Outubro 2013. Disponível em: http://firstmile.ca/wp-content/uploads/2015/03/2013-Beaton-Campbell-WSSF-Paper.pdf . Acesso em: 28 ago. 2023.
BEATON, M. E.; ROBSON, B. Data colonialism: Critiquing consent and control in "Tech for Social Good". In: Proceedings of the 1st ACM SIGCAS Conference on Computing and Sustainable Societies (COMPASS). ACM, 2018. Disponível em: https://modelviewculture.com/pieces/data-colonialism-critiquing-consent-and-control-in-tech-for-social-change. Acesso em: 28 ago. 2023.
CADWALLADR, C.; GRAHAM-HARRISON, E. Revealed: 50 million Facebook profiles harvested for Cambridge Analytica in major data breach. The Guardian, 17 mar. 2018. Disponível em: https://www.theguardian.com/news/2018/mar/17/cambridge-analytica-facebook-influence-us-election. Acesso em: 28 ago. 2023.
CASTELLS, Manuel. A Sociedade em Rede. São Paulo: Paz e Terra, 1999.
FREYRE, Gilberto. Casa-Grande & Senzala: formação da família brasileira sob o regime da economia patriarcal. Rio de Janeiro: Maia & Schmidt, 1933.
HAN, Byung-Chul. Sociedade do Cansaço. Petrópolis: Vozes, 2015.
LANIER, Jaron. Who Owns the Future? New York: Simon & Schuster, 2013.
MOROZOV, Evgeny. The Next Delusion: The Dark Side of Internet Freedom. New York: PublicAffairs, 2011.
O'NEIL, Cathy. Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. New York: Crown, 2016.
ORWELL, George. 1984. London: Secker & Warburg, 1949.
PARISER, Eli. The Filter Bubble: What the Internet is Hiding from You. New York: Penguin Press, 2011.
P-FLORES, A. I. Settler Colonialism. In: The SAGE Encyclopedia of War: Social Science Perspectives. [S.l.]: SAGE Publications, [s.d.]. Disponível em: https://doi.org/10.4135/9781483359878. Acesso em: 28 ago. 2023.
ZUBOFF, Shoshana. The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. New York: PublicAffairs, 2019.