GESTÃO DE ALGORITMOS PELAS PLATAFORMAS DE REDES SOCIAIS ONLINE
uma análise dos termos de uso do Facebook e sua interface com a ética
Regina Rossetti[1]
Universidade Municipal de São Caetano do Sul
regina.rossetti@online.uscs.edu.br
Kethly Garcia[2]
Universidade Municipal de São Caetano do Sul
kethly.garcia@online.uscs.edu.br
______________________________
Resumo
O artigo a seguir baseia-se em uma pesquisa de mestrado profissional, intitulada “Gestão e comunicação ética do uso dos algoritmos pelas redes sociais on-line”, e tem como principais objetivos apresentar, sintetizar e discutir os Termos de Uso do Facebook (uma das redes sociais que está entre as mais utilizadas no mundo, pertencente à empresa Meta Platforms, Inc.) e a maneira como os algoritmos são visibilizados aos usuários através desses documentos. A análise realizada nesse trabalho se dá no sentido de relacionar as principais cláusulas dos documentos que compõem o aceite da criação de conta de novo usuário com os principais desafios relacionados à algoritmos encontrados na literatura consultada para a dissertação, assim como, discutir sua interface com a ética e relacionar os princípios que devem estar presentes na comunicação de algoritmos com os usuários a partir desses Termos de Uso. Esse estudo foi realizado por meio de uma pesquisa bibliográfica e documental. A pesquisa bibliográfica foi feita no referencial conceitual da pesquisa, tomando vinte artigos como base de acordo com alguns critérios selecionados e a pesquisa documental foi realizada nos Termos de Uso do Facebook e documentos correlatos. O resultado final da pesquisa de mestrado profissional elencou os princípios éticos que são minimamente necessários para uma gestão e comunicação ética dos algoritmos aos usuários de redes sociais online. Considerando autores que discutem sobre a comunicação de interesse público, foram identificados cinco princípios éticos, sendo eles: transparência, beneficência, não maleficência, responsabilidade e justiça.
Palavras-chave: redes sociais online; algoritmos; comunicação; ética.
MANAGEMENT OF ALGORITHMS BY ONLINE SOCIAL NETWORK PLATFORMS
an analysis of Facebook terms of use and its interface with ethics
Abstract
The following article is based on professional master's research, entitled “Management and ethical communication of the use of algorithms by online social networks”, and its main objectives are to present, summarize and discuss the Terms of Use of Facebook (one of the most used social networks in the world, belonging to the company Meta Platforms, Inc.) and the way in which visibility of algorithms is given to users through these documents. The analysis carried out in this work aims to relate the main clauses of the document that make up the creation of a new user account with the main challenges related to the algorithms found in the literature consulted for the dissertation, as well as discussing their interface with ethics and list the principles that must be present in the communication of algorithms with users based on these terms of use. This study was carried out through bibliographic and documentary research. The bibliographical research was carried out in the conceptual framework of the research, taking twenty articles as a basis according to some selected criteria and the documentary research was carried out in the terms of use of Facebook and related documents. The final result of the professional master's research listed the ethical principles that are minimally necessary for ethical management and communication of algorithms to users of online social networks. Considering authors who discuss communication in the public interest, five ethical principles necessary for communicating algorithms through terms of service were identified, namely: transparency, beneficence, non-maleficence, responsibility and justice.
Keywords: online social networks, algorithms, communication, ethics.
GESTIÓN DE ALGORITMOS MEDIANTE PLATAFORMAS DE REDES SOCIALES EN LÍNEA
un análisis de las condiciones de uso de Facebook y su interfaz com la ética
Resumen
El siguiente artículo está basado en una investigación de maestría profesional, titulada “Gestión y comunicación ética del uso de algoritmos por las redes sociales en línea”, y tiene como principales objetivos presentar, resumir y discutir los términos de uso de Facebook (una de las redes sociales más utilizadas en el mundo, perteneciente a la empresa Meta Platforms, Inc.) e forma en que los algoritmos se hacen visibles para los usuarios a través de estos documentos. El análisis realizado en este trabajo tiene como objetivo relacionar las principales cláusulas de los documentos que componen la aceptación de la creación de una nueva cuenta de usuario con los principales desafíos relacionados con los algoritmos encontrados en la literatura consultada para la tesis, así como discutir sus interactuar con la ética y enumerar los principios que deben estar presentes en la comunicación de los algoritmos con los usuarios en base a estos términos de uso. Este estudio se realizó a través de una investigación bibliográfica y documental. La investigación bibliográfica se realizó en el marco conceptual de la investigación, tomando como base veinte artículos según algunos criterios seleccionados y la investigación documental se realizó en los términos de uso de Facebook y documentos relacionados. El resultado final de la investigación de maestría profesional enumeró los principios éticos que son mínimamente necesarios para la gestión ética y la comunicación de algoritmos a los usuarios de redes sociales en línea. Considerando a los autores que discuten la comunicación de interés público, se identificaron cinco principios éticos, a saber: transparencia, beneficencia, no maleficencia, responsabilidad y justicia.
Palabras clave: redes sociales en línea;
algoritmos; comunicación; ética.
1 INTRODUÇÃO
As redes sociais online podem ser definidas como os espaços digitais que tem como principal objetivo promover interações e relações organizadas, que resultam na construção de laços sociais e que conforme sua evolução, passaram a apresentar outras funcionalidades, como por exemplo, o oferecimento de serviços (Zenha, 2018).
Os espaços das redes sociais online geralmente são geridos ou se enquadram no conceito de plataformas, por sua vez, mais abrangente, que conforme Dijck (2013), são as constituições voltadas a organizar interações seja entre usuários, entidades corporativas ou órgãos públicos. Ainda, de acordo com Stroppa (2021), essas plataformas se enquadram em atividades diversas, como por exemplo: circulação de conteúdos informativos, comércio, trocas de bens e serviços, redes sociais, entre outros. Essas plataformas assumem o papel de intermediários nas informações circulantes da rede (Gillespie, 2018a).
Essas redes apresentaram um crescimento exponencial nas últimas décadas e é possível observar nessas plataformas de serviço uma preocupação inerente com a inovação, seja adaptando os espaços já existentes às novas demandas de mercado e novidades tecnológicas, ou trabalhando até mesmo em novas plataformas, com funcionalidades cada vez mais atrativas para os usuários. A tendência é que esse crescimento e evolução permaneça. Conforme dados do site We Are Social (2022), o número de usuários de redes sociais online triplicou nas últimas décadas e supera o número de utilizadores da internet do mesmo período, enquanto o tempo de uso das redes sociais online durante o dia aumenta a cada ano.
As redes sociais online trabalham com uma imensa quantidade de dados que são gerados a cada dia, acumulados entre logins, cliques, demonstrações de interesse e novas conexões estabelecidas. Conforme a gestão e análise de dados se tornou mais complexa, foram sendo implementados recursos que auxiliassem nesse processo, dentre eles, os algoritmos e a inteligência artificial. Ambos desempenham papel fundamental, sendo a inteligência artificial o nível macro, que envolve diversos subconjuntos e categorias de algoritmos que lhe dão subsídio.
Essa intermediação que ocorre entre plataformas, algoritmos e usuários muitas vezes levanta pontos de discussão importantes em relação aos desafios encontrados no uso desses recursos nas redes. Essa discussão se estende desde a concepção de algoritmos, seu funcionamento e a comunicação desses recursos com o usuário de redes sociais online. Não é incomum que usuários desconheçam os recursos responsáveis por intermediar suas relações e geralmente essa visibilização se dá através dos Termos de Uso e seus documentos correlatos.
Esses termos são documentos jurídicos, uma espécie de contrato ou leis das plataformas, e independem de um aceite verbal ou escrito por parte do usuário, sendo que a utilização dos serviços já implica no aceite. Conforme Venturini et al. (2018), esses documentos são elaborados de forma generalista, e são oferecidos a toda a classe de usuários da mesma maneira. Importante ressaltar que esse contrato não está aberto ao diálogo e interposições por parte de seus usuários, as organizações assumem, portanto, uma posição de poder com sua atuação feita de forma unilateral (Stroppa, 2021).
Para Zuboff (2019), esses termos online são do tipo “pegar ou largar”, pois para fazer parte desses espaços, não resta ao usuário outra opção além do aceite. Ainda conforme a autora, esses contratos também são conhecidos como ‘click wrap’, pois são fechados e complexos, fazendo que os usuários se enrolem nos documentos, sem sequer compreendê-los.
Considerando essas questões, o desconhecimento dos usuários em relação aos sistemas técnicos e algoritmos utilizados por essas plataformas, bem como todos os problemas e desafios relacionados a esses recursos, tomou-se como base a revisão da literatura consultada para uma dissertação de mestrado , intitulada “Gestão e comunicação ética do uso dos algoritmos pelas redes sociais on-line” (Garcia, 2024), e a análise documental de uma das redes sociais mais utilizadas no mundo, o Facebook (We Are Social, 2022). A análise documental foi feita nas principais cláusulas que compõem o aceite dos usuários, visando identificar como é feita a comunicação dos algoritmos aos usuários, sua relação com os desafios identificados na revisão da literatura, quais princípios éticos são considerados nessa comunicação e quais são necessários para uma gestão da comunicação de interesse público mais responsável.
A comunicação de interesse público (CIP) pode ser definida como a comunicação que tem como um dos principais objetivos o bem comum e os benefícios a sociedade. É essa comunicação que tem o cidadão e sociedade como os endereços de suas ações e visa a construção de um mundo melhor, e pode ser realizada nas esferas pública ou privada (Costa 2006). Para Mattelart (Paulino; Latorre, 1999), a comunicação deve ser pensada para as demandas que vão além do entretenimento e muito além de atingir as lógicas mercantis. A comunicação de interesse público deve ser pensada pelos meios e os profissionais a fim de atingir a criação de valor e a fim de representar diversas necessidades sociais. Conforme Hanah Arendt (2003), a ideia do que é público tem relação com as coisas que fazem parte da realidade, em que os indivíduos interagem e partilham a mesma possibilidade de ver as coisas. Trata-se da visibilização de temas importantes. É com essas bases e através desses preceitos que a gestão da comunicação de interesse público através dos termos de serviço será analisada.
2 DESAFIOS RELACIONADOS A ALGORITMOS
Através da revisão bibliográfica foi possível identificar os principais desafios relacionados aos algoritmos que são discutidos na literatura consultada. Muitos autores tratam de conceitos semelhantes usando termos diversos, por isso foram identificados os termos-chave e os respectivos conceitos correlatos. A revisão bibliográfica foi feita com base em vinte artigos, em português, inglês e espanhol, todos publicados entre 2010 e 2023. Os principais desafios serão apresentados no Quadro 1, juntamente à uma síntese de seu significado.
|
Quadro 1 – Desafios relacionados a algoritmos. |
|
|
|
Desafio |
Conceitos Correlatos |
Síntese |
|
Modulação |
Formação de perfil, profiling, antecipação do usuário, filtragem de conteúdo, algoritmos de relevância pública, identificação de relevância, algoritmos de personalização, influência algorítmica, influência política, controle e manipulação algorítmicos. |
A modulação se dá em quatro etapas principais, em que 1) há a identificação do agente modulável; 2) forma-se seu perfil; 3) acompanham-se os processos atuantes sobre o agente e 4) algoritmos atuam sobre o agente afim de conduzir seu comportamento. |
|
Arrogância Epistêmica |
Filtros-bolha e câmaras de eco, polarização. |
Esse é um conceito que explica a situação do agente que tem seu ambiente personalizado de tal forma que apenas conteúdos supostamente relevantes e que estão de acordo com seu perfil são oferecidos. Esses fenômenos podem causar distorções da realidade. |
|
Opacidade |
Algoritmos de caixa preta (ou apenas caixa preta) e inescrutabilidade. |
Os algoritmos são recursos geralmente fechados e inescrutáveis. Isso se dá por serem propriedade de grandes empresas privadas e devido à sua complexidade. Os agentes condicionados às suas ações geralmente desconhecem sua natureza. |
|
Interesses Privados |
Uso de dados para marketing, marketing predatório |
Redes sociais e plataformas de maneira geral possuem relação direta com anunciantes, que oferecem seus serviços para usuários. O interesse financeiro das grandes empresas de tecnologia nessas relações em rede podem ser um desafio, a partir do momento que os dados se tornam fonte de receita. |
|
Capitalismo de Vigilância |
Invasão à privacidade, visibilidade e monitoramento, risco à privacidade e proteção de dados. |
A vigilância e o controle por trás da coleta de informações desenfreada das redes online tratam-se de uma lógica utilizada para atingir fins financeiros específicos, nem sempre claros aos usuários. |
|
Data Mining |
Mineração de dados. |
A mineração de dados é o ponto de partida para grande parte das atividades que se desenrolam nas redes online. Configura-se como um desafio a partir do ponto em que é realizado de maneira desenfreada, nem sempre com consentimento e para fins ilegítimos. |
|
Falibilidade |
Imprevisibilidade e erros, processamento limitado, volatilidade. |
A imensa quantidade de dados para análise e uso dos algoritmos, assim como a falta de acompanhamento dos recursos pode gerar erros que podem ter consequências consideráveis. |
|
Viés |
Ausência de neutralidade, imparcialidade. |
Algoritmos não são neutros, uma vez que dependem de humanos para traduzir ações e comportamentos, e por isso podem carregar posicionamentos e ideologias. |
|
Segregação |
Discriminação, preconceito e desigualdades. |
A segregação consiste no distanciamento entre usuários. Uma vez que algoritmos atuam enviesados, podem acentuar problemas sociais já existentes. |
|
Pós-verdade |
Fake news, deep fakes, golpes e falsificações, disseminação de desinformação. |
Não é incomum que algoritmos sejam utilizados para formação de sistemas que colaborem com falsificações e disseminação de desinformação de forma geral. |
Fonte: dados da pesquisa
Um dos pontos da análise dos Termos de Uso do Facebook, se dará no sentido de relacionar as cláusulas dos documentos com os principais desafios relacionados à algoritmos encontrados na literatura consultada para a pesquisa de mestrado. Portanto, esses conceitos serão melhor explorados nos tópicos a seguir.
3 TERMOS DE USO
A análise documental foi feita nos termos de serviço e nos demais documentos inclusos no aceite do novo usuário do Facebook, plataforma pertencente à empresa Meta Platforms, Inc.
Foram analisadas as versões dos termos referentes à data de 10 de julho de 2023, sendo importante destacar que esses documentos sofrem alterações constantes, que podem ser mínimas ou muito relevantes. Para realizar o acesso aos documentos principais, foi criado um e-mail teste e foi feita a simulação de criação de uma nova conta na rede. Após simular a criação da conta, há quatro links para documentos, que são: 1) saiba mais, 2) termos, 3) política de privacidade e 4) política de cookies.
Durante a análise, foram comentadas as cláusulas que comunicam de forma direta o uso de algoritmos com mais ênfase, e de forma geral, algumas cláusulas que comunicam os recursos de forma indireta, geralmente ligadas ao processamento de dados e personalização do ambiente. A estratégia de escolher as principais cláusulas para análise se dá por conta da grande extensão dos documentos, que possuem muitas páginas e um grande número de hiperlinks.
3.1 LINK 1 – SAIBA MAIS (INFORMAÇÕES PARA PESSOAS QUE NÃO USAM OS PRODUTOS DA META)
O primeiro link, 'saiba mais', direciona o usuário ao documento 'Informações para pessoas que não usam os produtos da Meta'. Nesse documento, os algoritmos não são citados diretamente, mas, ao tratar de dados que alimentam o funcionamento dos algoritmos e com um conhecimento prévio, é possível identificar menções indiretas a esses recursos. O documento aborda a gestão de dados das pessoas que não aderiram aos serviços da empresa, mas que foram introduzidas sob suas regras através do aceite de terceiros.
Para elucidar: diversas cláusulas nesses documentos afirmam que, quando um usuário faz o carregamento ou a sincronização de contatos na rede em questão e em outras redes da empresa, como citado no primeiro parágrafo do documento (Facebook, Messenger ou Instagram), essas informações são processadas pela Meta mesmo sem o consentimento desses contatos e independentemente de terem ou não uma conta.
Na sociedade atual e dentro das configurações em rede que ocorrem no ambiente virtual, os dados são considerados ativos e, por isso, há interesse na coleta por parte das plataformas. O conhecimento e o saber afloram um exercício de poder, que, conforme afirma Bruno (2013), ocorre na sociedade da vigilância, na formação de perfis e de padrões definidos por algoritmos. No decorrer do documento, a empresa afirma que essa coleta de dados se atém a nome, celular e e-mail. Esses dados são transferidos tanto internamente quanto externamente, com diversos parceiros da empresa, e essa transferência utiliza como base as cláusulas contratuais padrão aprovadas pela Comissão Europeia e por outras autoridades relevantes.
Ainda dentro do documento, a Meta evidencia a Lei Geral de Proteção de Dados (LGPD), que dispõe sobre o tratamento de dados pessoais no país (Brasil, 2018) e oferece links para que não usuários possam exercer seus próprios direitos em relação ao uso de seus dados. Com a exposição dessa informação, pode-se identificar princípios éticos presentes. Os princípios éticos, conforme Comparato (2006), podem ser definidos como os fundamentos abstratos e genéricos que servem como orientação para que os indivíduos ajam com interesses compartilhados em relação à comunidade. Os princípios éticos se relacionam aos valores humanos e sociais de convivência, sendo a forma como esses se manifestam. Os princípios, ainda, podem se desdobrar em diversas regras e estão em constante otimização. Nessa cláusula, são considerados princípios como a garantia de privacidade, a proteção da informação pessoal ou privada, a confidencialidade, a transparência e a contestabilidade, a dignidade e os direitos humanos, assim como o princípio da beneficência, que visa ações que tragam benefício, bem-estar e o bem social e comum. Esses princípios conscientizam os usuários e cidadãos sobre seus direitos e garantem a interpretabilidade, comunicação, divulgação e apresentação da informação.
No entanto, vale ressaltar aqui que embora princípios éticos sejam considerados, não necessariamente são feitos de forma voluntária, mas sim devido a imposições legislativas e consequentes obrigatoriedades em que as empresas se inserem frente às legislações pertinentes.
3.2 LINK 2 – TERMOS (TERMOS DE USO)
A seguir, serão destacadas algumas cláusulas importantes desse documento. No segundo parágrafo, a empresa Meta discorre sobre o uso de dados de usuários para determinação da exibição de anúncios. Embora esse parágrafo não se refira explicitamente ao uso de algoritmos, toda a personalização e conteúdos nesses espaços é feita através desses recursos, que atuam de forma estratégica afim de atingir interesses individuais. Essas ações alimentam o que Caribé (2017) chamou de marketing predatório, utilizando dados para fins de marketing. Essa abordagem, baseada exclusivamente em interesses privados, que contrariam o bem coletivo e o interesse público, configura-se como um dos principais desafios relacionados aos algoritmos. Ao longo de outras seções e suas cláusulas, são citados mais alguns exemplos de personalização de conteúdo dentro das plataformas.
Mais à frente, na seção “promover a segurança, a proteção e a integridade dos nossos serviços, combater as condutas nocivas e proteger a nossa comunidade de usuários”, a empresa afirma que trabalha no desenvolvimento de sistemas técnicos que fazem análises sobre o uso indevido de produtos e serviços da plataforma, condutas prejudiciais a terceiros e análise de denúncias feitas por usuários. Embora o termo algoritmos não seja usado explicitamente, essa cláusula se refere à sistemas automatizados ou de inteligência artificial e consequentemente, aos algoritmos. Essas avaliações feitas por algoritmos, muitas vezes não consideram aspectos subjetivos e, por tratar de probabilidades, estão sujeitos a falibilidade, um dos principais desafios relacionados a esses recursos. Conforme afirmou Gillespie (2018a), as associações feitas nem sempre estão corretas e podem existir erros de processamento devido à enorme quantidade de dados para análise.
Além disso, a volatilidade de seu funcionamento gera incertezas. Pant (2022), em seu estudo com os desenvolvedores de IA e sua relação com a ética no desenvolvimento de sistemas e na profissão, menciona a imprevisibilidade dos sistemas que atuam sem intervenção humana e com alto número de dados.
Ainda dentro do documento “Termos de Serviço”, na seção de título “usar e desenvolver tecnologias avançadas para prestar serviços seguros e funcionais para todos”, a empresa cita o uso de algoritmos, mencionando-os como tecnologias avançadas, sistemas de aprendizado de máquina, realidade aumentada e inteligência artificial, alegando que esses recursos são utilizados para trazer segurança aos usuários.
Embora os recursos sejam citados, o princípio da transparência não é explorado em sua totalidade, quando faltam informações sobre a operação desses sistemas, sua construção e atuação. Embora o usuário consinta com o uso desses sistemas, não tem pleno entendimento de sua abrangência. Esses recursos apresentam o desafio da opacidade. Segundo Pedrosa e Junior (2021), Silva, Aragão e Pretto (2021) e Silveira (2019), esses recursos tecnológicos são incógnitos e inescrutáveis. Mesmo que princípios como a transparência fossem considerados na gestão e comunicação desses recursos pelas plataformas, a compreensão por parte do público geral, sem um conhecimento prévio das áreas que os fundamentam, seria difícil. As regras e instruções opacas por trás desses recursos, conforme afirmado por Ramírez e Jiménez (2020), representam uma estratégia das grandes corporações para se manterem seguras e protegerem segredos comerciais que fomentam a competitividade no mercado de tecnologia.
No sexto parágrafo da seção “promover a segurança, a proteção e a integridade dos nossos serviços, combater as condutas nocivas e proteger a nossa comunidade de usuários”, são citados sistemas técnicos que avaliam o uso indevido de produtos e serviços da plataforma, condutas prejudiciais a terceiros e análises de denúncias feitas por usuários. Não é oferecido nenhum detalhamento do funcionamento desses sistemas e justificativa sobre a tomada de decisão por parte da plataforma. Não é incomum que usuários de diversas categorias, sejam eles pessoas físicas ou jurídicas, tenham suas atividades, posts ou contas suspensas, muitas vezes de forma indevida. Essa tomada de decisão individual e unilateral envolve um exercício de poder político, econômico e social. Conforme Mittelstadt (2016), quando os algoritmos processam informações e chegam a uma conclusão, seria razoável esperar que esse caminho fosse acessível aos agentes que estabelecem algum tipo de relação com a tomada de decisão, mas nem sempre essas conexões são feitas de forma óbvia, evidenciando a inescrutabilidade dos algoritmos.
No oitavo parágrafo da seção “usar e desenvolver tecnologias avançadas para prestar serviços seguros e funcionais para todos”, a empresa cita o uso de tecnologias avançadas, especificando-as como sistemas de aprendizado de máquina, realidade aumentada e inteligência artificial, ou seja, tecnologias que envolvem o uso de algoritmos.
Além de desafios como opacidade e falibilidade já apresentados e relacionados às cláusulas anteriores, podemos destacar também os interesses privados como um ponto de desafio na relação de plataformas e usuários. Conforme Ramírez e Jiménez (2020), grandes empresas de tecnologias, como as Big Techs Google e Meta, por exemplo, não delineiam regras e instruções relacionadas a algoritmos para que possam manter suas vantagens. Isso permite, inclusive, a tomada decisões unilateralmente, sem poder de contestação pelos demais.
Apenas quatro menções diretas são identificadas no documento “Termos de Serviço”, com os termos: “sistemas técnicos avançados”, “inteligência artificial, sistemas de aprendizado de máquina e realidade aumentada” e “sistemas automatizados”. Outras cláusulas desse documento irão se referir aos algoritmos nas demais seções e parágrafos, porém de forma indireta.
Na seção 4, “Disposições Adicionais”, há uma cláusula que, embora não mencione os sistemas da empresa, é relevante na discussão por tratar dos limites de responsabilidade. A Meta afirma que trabalha para oferecer produtos seguros para seus clientes, mas não pode dar nenhuma garantia de que estão livres de erros e imperfeições. Há muitas discussões na literatura acerca da falta de responsabilização em erros decorrentes de algoritmos, uma vez que esses processos envolvem a concepção, a aprendizagem autônoma (que muitas vezes, inclusive, foge ao controle dos programadores) e envolvem inclusive a atuação do usuário na rede, que, através de suas ações, influencia o aprendizado e novas relações feitas por esse recurso. A empresa, logo em seguida, se isenta da responsabilidade sobre ações de terceiros. Gillespie (2018a) afirma que as plataformas se apresentam como intermediários dos processos que ocorrem nas redes, assumindo um posicionamento neutro. No entanto, grande parte das decisões sobre o que deve ser acessado geralmente são feitas por algoritmos, que são propriedade das plataformas.
3.3 LINK 3 – POLÍTICAS DE PRIVACIDADE
No documento “Políticas de Privacidade”, a palavra “sistemas” é mencionada seis vezes, sendo que em cinco delas é mencionada atrelada ao tratamento automático de dados e em uma delas não há referência direta a sistemas automatizados.
A primeira menção a algoritmos é identificada no tópico “como usamos suas informações?”. A empresa afirma que toda experiência é personalizada na rede, ou seja, ações são direcionados de acordo com cada perfil de usuário. A empresa afirma que esses dados e todas essas informações para personalização são tratadas de forma automática pelos sistemas. Essa personalização envolve, inclusive, o acesso a serviços e produtos. Conforme Zuboff (2019), essa coleta de informações age em prol de determinados objetivos individuais, estabelecendo uma lógica específica nas redes. De acordo com a autora, o capitalismo de vigilância determina uma nova forma de poder, o instrumentarismo, que analisa e adapta o comportamento humano em prol das finalidades de terceiros, que o usarão para receita.
Ainda no documento, no tópico “por que e como tratamos suas informações”, há mais quatro menções aos sistemas algorítmicos usados pela empresa. A Meta afirma que faz uso de sistemas automatizados para (1) tratar informações coletadas dos usuários para compreender interesses, (2) processar informações para fornecer anúncios, (3) processar dados coletados e armazenados para oferecer relatórios para parceiros que auxiliam na medição da eficácia de distribuição de anúncios e clientes, sendo que essa etapa pode ter interferência humana e (4) tratar informações coletada e armazenadas sobre usuários para identificá-los quando acessam anúncios em outros sites, mostrados pela Audience Network da Meta. [3]
Um dos intuitos desse processamento de dados e personalização de ambientes tem como intuito definir o usuário para que seu comportamento possa ser modulado em momento oportuno. Conforme Silveira (2019), a modulação se dá em 4 etapas principais, que consistem em identificação, formação de perfil, processos de acompanhamento, e atuação sobre o comportamento. Nesse conceito, o usuário tem seu perfil formado (profiling) (Vries, 2010), e antecipado (Gillespie, 2018b; Vries, 2010) e todo esse processo é feito com base em suposições estatísticas, sem necessariamente considerar questões racionais e subjetivas.
3.4 LINK 4 – POLÍTICAS DE COOKIES
O documento “Política de Cookies” é o último documento apresentado na tela principal de criação de conta de novos usuários e, nesse documento, não há citação direta ao uso de algoritmos. Considerando que os cookies são ferramentas de rastreamento e responsáveis por armazenar e correlacionar dados, eles mantêm relação com os recursos.
Segundo a definição do próprio documento, os cookies são pedaços de texto que armazenam informações de usuários em navegadores e plataformas (Facebook, s/d). Geralmente, essas ferramentas têm nomes curtos que definem suas funcionalidades. Há vários cookies, e cada empresa detentora usa suas devidas nomenclaturas. Na Meta, por exemplo, existe o c_user;xs, o cookie que autentica o usuário e o mantém “logado”. Há também o Csrf, um cookie usado para segurança da conta e fora esses, muitos outros (Facebook, s/d). Conforme citado pela empresa, esses recursos são usados em produtos da Meta, empresas da Meta e aplicativos (apps) que incorporam tecnologias da Meta.
Ferramentas como cookies são usadas dentro de uma arquitetura de rastreamento que ocorre nas redes. Dados e registros vão sendo acumulados e acabam servindo a um propósito de delineamento importante. Muitos dos usuários que fazem partes das redes sociais online ignoram ou desconhecem essas ferramentas e consequentemente não se importam com as possibilidades de personalização dessas ferramentas (Lessig, 2006). Para se sentir parte da sociedade, tentam se adequar ao sistema da sociabilidade em que o se tornar visível é ser parte do espaço social. Por isso, consente-se que sejam monitorados em troca de serem vistos (Bruno, 2013).
Esses recursos evidenciam os desafios do capitalismo de vigilância (Zuboff, 2019), que envolve conceitos de invasão à privacidade, visibilidade e monitoramento e o risco à privacidade e proteção de dados. O data mining, ou a mineração de dados, pode ser um risco a partir do momento que diminui a autodeterminação informacional de cada indivíduo, uma vez que não é incomum que seja utilizado sem prévio aviso, para fins não mencionados ou não tão transparentes (Doneda, 2019).
4 CONSIDERAÇÕES FINAIS
Os documentos estudados podem ser acessados em algumas versões, como a versão para download ou impressão, a versão mobile e a versão web. A navegação varia de acordo com a versão escolhida. Uma das principais diferenças entre a versão para download ou impressão e as versões mobile e web é a apresentação de hiperlinks. Enquanto as versões mobile e impressa contam com recursos de programação e permitem abrir links e outras abas até mesmo em boxes dentro dos documentos e da url acessada, a versão para download, por ser acessível em extensões de arquivos de textos, apresenta todos os direcionamentos feitos através de hiperlinks.
Os termos são extensos e ao total, são 55 páginas que contabilizam, em média, uma hora para leitura. Na versão impressa, são identificados 282 hiperlinks que contém ainda outros hiperlinks inseridos. Alguns direcionamentos às vezes se repetem, o que faz com que o usuário acesse conteúdos repetidos diversas vezes durante a análise dos documentos.
É compreensível a tentativa da empresa de sintetizar a enorme quantidade de informações que regem sua utilização e sua tentativa de oferecer uma quantidade de informações adequadas ao usuário, no entanto, muitas vezes essas informações não se aprofundam em pontos importantes e tornam a leitura confusa. Como foi visto, há poucas cláusulas que se referem diretamente aos algoritmos e diversas que podem se relacionar de forma indireta, porém isso só é identificado pelo usuário que tem um conhecimento prévio do tema.
A comunicação, exposição e detalhamento sobre o que são os algoritmos e como atuam é um tema exposto com superficialidade nos termos de serviço. É necessário que as plataformas atuem com responsabilidade na gestão da comunicação de interesse público e podemos considerar como minimamente necessários para essa comunicação que os princípios da transparência, não maleficência, beneficência, dignidade e justiça sejam considerados nessa comunicação.
A comunicação transparente deve ser pautada no princípio da auditoria, explicabilidade e prestação de contas. As informações devem ser facilmente interpretadas, trabalhando com confiança, integridade e veracidade. O princípio da não maleficência consiste em uma comunicação realizada com o intuito de evitar danos aos usuários em curto e longo prazo, com informações que tragam segurança, confiabilidade, proteção, precaução, prevenção e integridade, sendo sempre realizada, portanto, com prudência e responsabilidade. Torna-se fundamental a aplicação do princípio da beneficência, que visa benefício, bem-estar, paz, bem social e bem comum, considerando o interesse público nesse processo. A dignidade também se torna fundamental, uma vez que, ao comunicar os algoritmos aos usuários, deve-se considerar os direitos humanos, o direito à informação, assim como a formação e educação humana. A comunicação desses sistemas técnicos deve ser feita pautada na justiça, a fim de promover equidade, igualdade, consistência, inclusão e acessibilidade aos usuários de redes sociais online.
Conforme Mittelstadt (2016), aplicar os princípios éticos nem sempre pode ser uma tarefa simples, encontrando desafios e resistências. Geralmente, equipes envolvidas na área de tecnologia são grandes, multidisciplinares e até multinacionais. Muitas vezes, deixar que os profissionais traduzam esses princípios éticos conforme acharem adequado, pode se tornar ineficiente.
Por esse motivo, é importante, portanto, que exista incentivo aos profissionais para a implementação desses princípios. Isso pode ocorrer por programas específicos por partes das plataformas, reformulação de currículos profissionais, departamentos especializados nas empresas de tecnologia e até mesmo o feedback por parte dos usuários. A implementação de princípios éticos como método norteador estabelece mudanças de antigos valores e a conciliação da visão de mercado com a ética da comunidade, o que se torna cada vez mais essencial na sociedade atual com a evolução progressiva das tecnologias que mediam nossas vidas.
REFERÊNCIAS
ARENDT, H. A condição humana. Rio de Janeiro: Forense Universitária, 2003.
BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados. Brasília, DF: Presidência da República, 2018. Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em: 20 fev. 2024.
BRUNO, F. Máquinas de ver, modos de ser: vigilância, tecnologia e subjetividade. Porto Alegre: Sulina, 2013. 190 p.
CARIBÉ, J. C. R. Ética na sociabilização mediada por algoritmos. PPGCI: IBCT – UFRJ, Rio de Janeiro, 2017.
COMPARATO, F. K. Ética: direito, moral e religião no mundo moderno. São Paulo: Companhia das Letras, 2006.
COSTA, J. R. da (org). Comunicação de Interesse Público. Ideias que movem pessoas e fazem um mundo melhor. São Paulo: Jaboticaba, 2006.
D’ANDREA, C. Pesquisando Plataformas Online: conceitos e métodos. Salvador: Coleção Cibercultura, 2020.
DIJCK, J. V.; POELL, T. Understanding Social Media Logic. Media and Communication, v. 1, n. 1, p. 2-14, 2013. Disponível em: https://doi.org/10.12924/mac2013.01010002. Acesso em: 20 ago. 2024.
DONEDA, D. Da privacidade à proteção de dados pessoais: fundamentos da Lei Geral de Proteção de Dados. 2. ed. São Paulo: Revista dos Tribunais, 2019.
FACEBOOK. Saiba como o Facebook mostra anúncios em outros apps e sites. s/d. Disponível em: https://www.Facebook.com/help/119468292028768/?helpref=search. Acesso em 12 abr. 2024.
GARCIA, K. Gestão e comunicação ética do uso dos algoritmos pelas redes sociais on-line. Orientadora: Regina Rossetti. 2024. 127 f. Dissertação. Mestrado em Comunicação de Interesse Público. Universidade Municipal de São Caetano do Sul, São Caetano do Sul, 2024.
GILLESPIE, T. A relevância dos algorítmos. Parágrafo, São Paulo, v. 6, n. 1, p. 95-121, jan./abr. 2018a
GILLESPIE, T. Plataforms are not intermediaries. Georgetown Law Technology Review. 2018b. Disponível em: https://georgetownlawtechreview.org/wp-content/uploads/2018/07/2.2-Gilespie-pp-198-216.pdf. Acesso em 12 abr. 2024.
HABERMAS, J. Comunicação política na sociedade mediática: o impacto da teoria normativa na pesquisa empírica. Líbero. Ano XI, n.21, jun. 2008.
LESSIG, L. Code 2.0: Code and other laws of cyberspace. 2. ed. Basic Books, 2006.432 p.
McQUAIL, D. Atuação da mídia: comunicação de massa e interesse público. Porto Alegre: Penso, 2012.
MITTELSTADT, B. D.; ALLO, P.; TADDEO, M.; WACHTER, S.; FLORIDI, L. The ethics of algorithms: Mapping the debate. Big Data & Society. jul./dez. 2016. Disponível em: https://doi.org/10.1177/2053951716679679. Acesso em: 20 ago. 2024.
PANT, A; HODA, R.; TANTITHAMTHAVOR, C.; TURHAN, B. Ethics in AI through the Developer's Prism: A Socio-Technical Grounded Theory Literature Review and Guidelines. ArXiv, 2022. Disponível em: https://arxiv.org/abs/2206.09514. Acesso em 12 abr. 2024.
PAULINO, Roseli Aparecida Fígaro; LATORRE, Alberto Efendy Maldonado Gómez de. Comunicação e interesse público (Entrevista com Armand Mattelart). Comunicação & Educação, São Paulo, n. 16, 1999. Disponível em: http://dx.doi.org/10.11606/issn.2316-9125.v0i16p63-74. Acesso em: 20 ago. 2024.
PEDROSA, C. B.; JÚNIOR, J. A. O. B. de. Algoritmos, bolha informacional e mídias sociais: desafios para as eleições na era da sociedade da informação. Revista Thesis Juris, Minas Gerais, v. 10, n. 1, jan./jun. 2021. Disponível em: https://periodicos.uninove.br/thesisjuris/article/view/18159. Acesso em: 20 ago. 2024.
RAMÍREZ, D. G.; JIMÉNEZ, D. V. Los Impactos De La Ideología Técnica Y La Cultura Algorítmica En La Sociedad: Una Aproximación Crítica. Revista De Estudios Sociales, Bogotá, n.71, 2020. Disponível em: https://revistas.uniandes.edu.co/index.php/res/article/view/6121. Acesso em: 20 ago. 2024.
SILVA, L. B. S.; ARAGÃO, C. A. de.; PRETTO, N. L. de. Relatório Macbride: Releitura à luz de ameaças ao direito à comunicação nas plataformas digitais. Ambitos Revista Internacional de Comunicação, n. 51, p. 98-115, 2021. Disponível em: https://doi.org/10.12795/Ambitos.2021.i51.07. Acesso em: 20 ago. 2024.
SILVEIRA, S. A. da. A noção de modulação e os sistemas algorítmicos. PAULUS: Revista de Comunicação da FAPCOM, São Paulo, v. 3, n. 6, 2019. Disponível em: https://revista.fapcom.edu.br/index.php/revista-paulus/article/view/111. Acesso em: 20 ago. 2024.
STROPPA, Tatiana. Plataformas Digitais e Moderação de Conteúdos: por uma regulação democrática. Belo Horizonte: Editora Fórum Ltda, 2021.
VENTURINI, J.; LOUZADA, L.; MACIEL, M. F.; ZINGALES, N.; STYLIANOU, K.; BELLI, L. Termos de uso e direitos humanos: uma análise dos contratos das plataformas online. Rio de Janeiro: FGV, 2019. Disponível em: https://bibliotecadigital.fgv.br/dspace/handle/10438/28510. Acesso em: 20 ago. 2024.
VRIES, K. Identity, profiling algorithms and a world of ambient intelligence. Ethics and Information Technology, v. 12, p. 71 – 85, jan. 2010. Disponível em: https://link.springer.com/article/10.1007/s10676-009-9215-9. Acesso em 12 abr. 2024.
WE ARE SOCIAL. Digital 2022: Another Year of Bumper Growth. 26 de janeiro de 2022. Disponível em: https://wearesocial.com/uk/blog/2022/01/digital-2022-another-year-of-bumper-growth-2/#:~:text=Facebook%20is%20still%20the%20most%2Dused%20platform&text=However%2C%20active%20user%20numbers%20still,to%20understanding%20a%20platform's%20momentum. Acesso em 12 abr. 2024.
ZENHA, L. Redes sociais online: o que são as redes sociais e como se organizam? Caderno de Educação, ano 19, n. 48, v.1, p. 1-23, 2018. Disponível em: https://revista.uemg.br/index.php/cadernodeeducacao/article/view/2809/0. Acesso em: 20 ago. 2024.
ZUBOFF, S. A Era do Capitalismo de Vigilância: a luta por um futuro humano na nova fronteira do poder. Rio de Janeiro: Intrínseca, 2019.
ANEXOS
ANEXO A – Informações para pessoas que não usam os produtos da Meta:
https://revista.ibict.br/p2p/article/view/7023/6837
ANEXO B – Termos de serviço:
https://revista.ibict.br/p2p/article/view/7023/6838
ANEXO C – Políticas de Privacidade:
https://revista.ibict.br/p2p/article/view/7023/6839
ANEXO D – Políticas de Cookies:
https://revista.ibict.br/p2p/article/view/7023/6840
[1] Pós-Doutorado e Doutorado em Filosofia pela Universidade de São Paulo, Mestrado e Graduação em Filosofia
pela Pontifícia Universidade Católica de São Paulo, Especialista em Direito Digital pela Escola Brasileira de
Direito. Atualmente é docente e gestora do Programa de Pós-Graduação em Comunicação da Universidade
Municipal de São Caetano do Sul - USCS. Tem experiência na área de Comunicação com ênfase em Ética,
Epistemologia e Filosofia da Comunicação. Atua na investigação interdisciplinar entre direito, comunicação e
filosofia contemporânea, pesquisando os seguintes temas: Comunicação e Inovação, Esfera Pública, Comunicação
de Interesse Público, Ética e Tecnologia, Direito e Inteligência Artificial.
[2] Mestrado em Inovação na Comunicação de Interesse Público pela Universidade Municipal de São Caetano do Sul.
[3] Esse mecanismo permite que anunciantes apareçam fora do Facebook, em apps de terceiros que costumam oferecer espaços para anúncios por meio de leilões de lances em tempo real. Portanto, um usuário pode ter acesso a anúncios fora da plataforma (Facebook, s/d).