No segundo episódio da primeira temporada da série Black Mirror (ep. “Fifteen Million Merits”), Bing, o personagem principal, vive trancado em um quarto branco cercado por telas que nunca se apagam. Ele pedala para gerar “méritos”, uma moeda digital, enquanto é bombardeado por publicidade, programas de auditório e conteúdos vazios que ele não escolheu de verdade. Cada gesto, cada segundo em que ele não desvia o olhar vira dado, vira pontinho em um gráfico que ele nunca verá. A vida dele inteira é medida, segmentada e revendida como audiência. Bing acha que está apenas “passando o tempo” entre vídeos e jogos, mas, na verdade, é esse sistema que passa por cima dele.

A ficção exagera nos cenários, mas acerta no essencial: o poder real não está só em quem grita mais alto, mas em quem programa o que chega aos nossos olhos e ouvidos.

Hoje, esse quarto branco do Bing é o nosso celular. A tela está no ônibus, na cama, na sala, na fila do banco, na pausa do trabalho. Cada rolagem infinita, cada vídeo que deixamos tocando “só mais 30 segundos”, cada stories que nós abrimos sem nem pensar, cada comentário indignado numa postagem política entra na conta da nossa própria versão de “méritos”: cliques, impressões, dados e perfis que nós também nunca veremos.

O nome que se dá a isso é bonito: “personalização”, “conteúdo sob medida”, “experiência do usuário”. Na prática, é perfilamento e economia da atenção: uma arquitetura digital desenhada para capturar, prolongar e monetizar o nosso tempo de tela.

E, nesse processo, as Big Techs assumem um poder que vai muito além da publicidade: um poder cognitivo, capaz de moldar o que as pessoas veem, sentem, acreditam e consomem. Tal como o personagem Bing faz em Black Mirror, é como se a gente pedalasse o dia inteiro para alimentar um feed que nunca fomos nós que escrevemos.

+ A câmara escura digital: Marx, Lênin e a consciência algoritmicamente modulada

Como o algoritmo entra na nossa cabeça

O ponto de partida desse poder cognitivo é prosaico: dados. Muitos dados. Cada curtida, pausa em um vídeo, link que você ignora, hashtag que você segue entra em bases gigantescas, que serão processadas em data centers e laboratórios espalhados pelo Vale do Silício e por outras regiões do mundo. Esses dados alimentam modelos de inteligência artificial que, por sua vez, refinam os mecanismos de recomendação de conteúdo, aquilo que chamamos de forma simplificada de “o algoritmo”.

Tecnicamente, o algoritmo é um conjunto de regras e modelos estatísticos que observam padrões de comportamento: que tipo de vídeo te faz ficar mais tempo, que tipo de post gera mais comentários, que linguagem provoca compartilhamentos, que gatilhos emocionais ligam sua atenção. A lógica que governa essas regras é simples e brutal: maximizar o tempo de permanência na plataforma. Quanto mais tempo você fica, mais anúncios vê. Quanto mais anúncios vê, mais receita publicitária a empresa registra. E assim se fecha o círculo da chamada economia da atenção.

O problema é que a atenção humana não é neutra. Ela responde mais rápido a estímulos ligados a medo, raiva, choque moral, indignação. Conteúdos que acionam esse circuito moral-emocional tendem a gerar mais cliques, mais comentários, mais compartilhamentos. Como observa Renata Mielli, coordenadora do Comitê Gestor da Internet no Brasil (CGI.br), e outros estudiosos do tema, isso cria um viés estrutural: os sistemas passam a privilegiar pânico moral, sensacionalismo, narrativas de guerra cultural, desinformação e teorias da conspiração, não porque “odeiam a verdade”, mas porque esse tipo de conteúdo rende mais engajamento e, portanto, mais lucro.

Não se trata de uma hipótese abstrata. Um estudo do NetLab/UFRJ mostrou que o algoritmo do YouTube leva usuários, a partir de buscas neutras ou até científicas sobre temas climáticos, para vídeos de desinformação climática, negacionismo e teorias conspiratórias. O usuário entra querendo entender o aquecimento global e sai, alguns cliques depois, ouvindo que tudo não passa de uma farsa controlada por “globalistas”. A plataforma age como uma esteira rolante que vai empurrando o olhar para conteúdos mais extremos, mais polarizadores, mais sensacionalistas, porque é isso que faz as pessoas ficarem grudadas na tela.

Esse fenômeno não é marginal. Ele reorganiza ecossistemas inteiros de informação e sociabilidade. Uma pesquisa que coordeno identificou mais de 2,5 milhões de usuários ativos em comunidades brasileiras de teorias conspiratórias no Telegram. Não estamos falando de pequenos grupos exóticos, mas de verdadeiras metrópoles conspiratórias, onde circulam “explicações alternativas” sobre vacinas, política, pandemias, clima, religião, violência, sempre embaladas em narrativas emocionalmente inflamadas. A porta de entrada para esse tipo de ambiente, na maioria das vezes, são justamente as grandes plataformas: um vídeo recomendado aqui, um link encaminhado ali, um conteúdo “polêmico” que o algoritmo empurra porque percebe que isso te “engaja”.

Quando o alvo é a juventude, a questão ganha contornos ainda mais graves. Estudo do Think Twice Brasil mostra evidências preocupantes de que o algoritmo do TikTok estaria direcionando conteúdos relacionados à automutilação e sofrimento psíquico para jovens, a partir de interações aparentemente triviais com material de tristeza, solidão ou insegurança. O que aparece como “apoio” ou “identificação” com o sofrimento pode rapidamente se transformar em um corredor de estímulos nocivos, que intensificam vulnerabilidades emocionais em vez de acolhê-las.

Não é por falta de conhecimento interno. O escândalo dos Facebook Papers (milhares de documentos vazados por uma ex-funcionária da Meta) revelou que a própria empresa sabia que suas plataformas contribuem para agravar distúrbios alimentares em adolescentes, aumentar exposição a discursos de ódio e incentivar conteúdos polarizadores. E mesmo sabendo, tomaram a decisão de manter os conteúdos porque estavam rendendo faturamento e lucro para a plataforma.

Pesquisas internas da Meta mostravam que o Instagram, por exemplo, piorava a autoimagem de jovens, especialmente meninas. Mesmo assim, a lógica de produto seguiu orientada ao engajamento e ao lucro, não ao bem-estar. É o lucro que decide a arquitetura da experiência, não a saúde mental coletiva.

Cria-se, assim, um ciclo de retroalimentação tóxica. Quanto mais a plataforma nos vicia, mais dados coleta sobre nós. Quanto mais dados coleta, mais consegue prever nossos gatilhos emocionais. Quanto mais acerta nos gatilhos, mais tempo permanecemos. Quanto mais tempo permanecemos, mais publicidade é vendida. O objetivo central não é informar, educar ou entreter: é reter, viciar e monetizar. Toda a retórica de “conectar pessoas” encobre um desenho de produto voltado para extrair atenção, dados e comportamento até a última gota.

Esse é um cenário clássico de alienação, no sentido mais concreto do termo. Como em Tempos Modernos, de Charles Chaplin, o trabalhador apertava parafusos sem ver a forma final da mercadoria. Hoje, o usuário desliza o dedo na tela sem enxergar o produto final que está ajudando a construir. A diferença é que, agora, a mercadoria são os próprios dados e o próprio comportamento. Por vezes sequer sabemos que, ao passar meia hora rolando o feed, estamos fornecendo material valioso para treinar modelos de inteligência artificial que vão prevê-lo melhor do que nós mesmos.

Nesse contexto, ocorre um processo intenso de fetichização da mercadoria. Os aplicativos, as redes, os vídeos, os filtros, os memes se apresentam como objetos neutros, divertidos, “inovadores”. O fato de que cada curtida, cada mensagem, cada foto vira insumo em uma cadeia produtiva global de dados é invisibilizado.

O consumo em si (abrir o app, conferir o feed, “não perder nada”) vira um fim em si mesmo. As plataformas só existem enquanto o consumo continuar ocorrendo de forma irracional, compulsiva, automatizada. A mercadoria não é mais um produto isolado: é o próprio ciclo infinito de consumo, travestido de conexão e entretenimento.

+ Fetiche algorítmico: da mercadoria de Marx à ilusão digital da comunicação

A consequência política disso é profunda. Quando poucas empresas privadas controlam os filtros através dos quais grande parte da população acessa informação, entretenimento e até relações afetivas, elas passam a ter um poder cognitivo estrutural: definem os temas que ganham visibilidade, as narrativas que parecem “naturais”, os corpos que são desejáveis, os conflitos que são enquadrados como “polêmicos” e os que são simplesmente apagados. O feed se torna um currículo invisível, ensinando todos os dias, sem que ninguém tenha votado nisso, o que é “normal”, “aceitável”, “inevitável”.

Desfetichizar o feed, recolocar o cérebro no centro

Se o poder cognitivo das Big Techs se constrói sobre dados, atenção e opacidade, romper esse ciclo exige respostas que não cabem no campo da culpa individual. Não adianta dizer a cada usuário “use menos redes” enquanto uma arquitetura inteira de incentivo econômico empurra na direção oposta. A chave está em deslocar o foco: do indivíduo distraído para as estruturas que lucram com a distração.

Do ponto de vista regulatório, já não basta falar de “fake news” ou de moderação de conteúdo caso a caso. É preciso enfrentar o modelo de negócios que organiza o sistema: a economia da atenção como motor principal. Uma regulação democrática das plataformas precisa incluir transparência algorítmica efetiva: acesso independente a dados sobre funcionamento de sistemas de recomendação, impactos sobre grupos vulneráveis, critérios de priorização de conteúdos. Não para revelar “segredos industriais” em detalhes, mas para permitir auditorias públicas que limitem a manipulação encoberta da percepção coletiva.

Além disso, é urgente discutir limites para práticas de design viciantes, especialmente em produtos voltados a crianças e adolescentes. Recursos como autoplay infinito, notificações constantes, métricas comparativas de popularidade (curtidas, visualizações, rankings públicos) não são neutros, são ferramentas desenhadas para capturar e prender atenção. Políticas públicas podem, sim, restringir ou proibir determinados mecanismos, como alguns países já começam a fazer, e estimular alternativas de plataformas não orientadas exclusivamente ao lucro publicitário.

+ ECA Digital: ponto a ponto da lei que protege crianças e adolescentes na internet

Há também espaço para criar obrigações de diversificação de conteúdo e de “freios de emergência” em trajetórias de radicalização. Se os algoritmos conseguem identificar em segundos quem tem maior potencial de comprar um tênis, também podem e devem identificar dinâmicas de espiral conspiratória ou de exposição repetida a autodepreciação e automutilação. A diferença está em quem tem o controle e qual é a finalidade. Uma regulação a serviço do interesse público pode obrigar plataformas a implementar mecanismos de proteção e de contraposição, com supervisão externa, em vez de deixar isso ao sabor da conveniência corporativa.

No plano coletivo, é preciso fortalecer ecossistemas de mídia independentes, públicos e comunitários, que não dependam exclusivamente de modelos de negócios baseados em engajamento tóxico. Quanto mais alternativas existirem fora do oligopólio algorítmico das Big Techs, mais espaço teremos para narrativas plurais, jornalismo comprometido com o interesse público e produção cultural que não seja refém da lógica do “vídeo de 30 segundos que prende”. Isso passa por financiamento público, políticas de fomento, e também por regras que garantam visibilidade mínima a conteúdos de relevância social nos ambientes digitais.

Por fim, há um campo indispensável de educação crítica. Não se trata de ensinar crianças a “usar bem o tablet”, mas de construir alfabetização midiática e digital que ajude a reconhecer como funcionam os sistemas de recomendação, como se produz desinformação, como operam as estratégias de pânico moral e guerra cultural. Uma sociedade que entende o jogo é mais difícil de ser conduzida por ele. Isso não elimina o poder cognitivo das plataformas, mas reduz sua capacidade de operar na sombra.

+ Tarefas da juventude: Lenin, Gramsci e a disputa pela consciência na era algorítmica

No limite, a disputa pelo poder cognitivo é disputa por quem escreve o roteiro do nosso cotidiano informativo e afetivo. Vamos seguir delegando esse roteiro a umas poucas corporações sediadas a milhares de quilômetros de distância, guiadas por métricas de engajamento e lucro trimestral? Ou vamos recolocar o cérebro (individual e coletivo) no centro da conversa, exigindo que o feed deixe de ser um espelho distorcido e volte a ser, no mínimo, um espaço de escolha consciente?

+ Série especial destrincha cinco poderes das Big Techs
Econômico: Big Techs se tornaram mais poderosas que países
Político: Big Techs já mandam mais na democracia que o nosso voto
Cognitivo: Como as Big Techs transformaram nosso cérebro em produto
Burocrático: Você sabia que os dados do SUS estão em data centers das Big Techs nos EUA?
Militar: As Big Techs estão testando mira balística com IA em crianças na Faixa de Gaza

Ergon Cugler de Moraes Silva é Conselheiro da Presidência da República no Conselho de Desenvolvimento Econômico Social Sustentável (CDESS), o Conselhão do Governo Federal. Graduado e pós-graduado pela USP, mestre em administração pública e governo pela FGV e cientista de dados pós-graduado pela Universitat de Barcelona. Pesquisador CNPq do Laboratório de Estudos sobre Desordem Informacional e Políticas Públicas (DesinfoPop/FGV). Autor dos livros IA-Cracia: Como enfrentar a ditadura das Big Techs (Kotter Editorial, 2024) e O Fim da Realidade: um mundo fora de nós (Kotter Editorial, 2025), integra também o Centro de Estudos da Mídia Alternativa Barão de Itararé.

*Este é um artigo de opinião. As ideias expressas pelo autor não necessariamente refletem a linha editorial da Fundação Maurício Grabois.