11. Validação social como recompensa

O botão que seria só um atalho

Em fevereiro de 2009, uma gerente de produto do Facebook chamada Leah Pearlman publicou uma nota curta no site, intitulada "I like this", anunciando um botão novo. Era um polegar azul. Clicar nele significava, simplesmente, que você tinha gostado daquilo. O Facebook já tinha comentários, mas comentar dá trabalho: é preciso pensar numa frase, digitar, decidir o tom. O botão eliminava o esforço. Segundo o relato que a imprensa de tecnologia reconstruiu nos anos seguintes, a ideia circulava dentro da empresa desde 2007, com o nome provisório de "botão do incrível" (awesome button), e a equipe que a desenvolveu incluía Pearlman e o engenheiro Justin Rosenstein.

A motivação, pelo que os dois contaram depois, era quase doméstica. Os comentários de apoio ("que lindo!", "parabéns!") entulhavam as publicações, e um gesto de um clique resolveria isso e ainda traria um pouco de positividade para a rede. O botão cumpriu o que prometia. As pessoas passaram a reagir mais, e a reagir mais rápido.

O que ninguém na sala tratou como o ponto central é que o botão fazia uma segunda coisa, além de poupar digitação. Ele transformava aprovação social em número. Antes, a atenção dos outros chegava como texto, desigual e difícil de comparar. Depois, chegava como contagem: sete, quarenta, trezentos. Uma contagem pública, ao lado do seu nome, visível para todo mundo que olhasse.

Anos mais tarde, ambos os criadores falaram do assunto com desconforto. Em 2017, Rosenstein deu entrevistas dizendo, em linhas gerais, que as curtidas funcionam como pequenos estalos de pseudoprazer (a expressão em inglês que circulou foi "bright dings of pseudo-pleasure", e a cito como paráfrase do que a imprensa registrou). Segundo a cobertura, ele passou a limitar o próprio uso de redes e a evitar alguns aplicativos. Pearlman, por sua vez, instalou uma extensão de navegador para apagar o feed de notícias do Facebook e passou a deixar a administração da sua página nas mãos de outra pessoa. Os dois sustentam que o botão fez muita coisa boa e que as consequências foram imprevistas. Não há motivo para duvidar disso. Mas a trajetória deles resume o assunto do capítulo: uma funcionalidade pensada como atalho virou um sistema de pontuação social, e quem a criou passou a evitar o próprio resultado.

Este capítulo trata do que acontece quando a recompensa deixa de ser uma fruta, uma moeda ou uma luz piscando e passa a ser a opinião dos outros. É a recompensa mais antiga que existe, muito anterior a qualquer tela. O que a tela mudou foi a medição, a frequência, o público e a comparação. Aqui estão cinco perguntas. Por que métricas públicas mudam o comportamento de quem posta. O que a Meta descobriu, e escondeu, sobre o próprio produto. O que o teste de esconder curtidas provou e o que não provou. O que as pessoas fazem com um sistema de status que podem comprar. E o que o caso de uma adolescente britânica, documentado num inquérito oficial, ensina e não ensina.

O que você vai levar deste capítulo

Curtida, seguidor e visualização são placares públicos de aprovação social, e placar público muda o comportamento de quem joga: a pessoa passa a produzir para o número.

A teoria da comparação social tem setenta anos e explica por que o feed machuca algumas pessoas e não outras: o que pesa é com quem você se compara, não quanto tempo passa na tela.

O teste de esconder curtidas do Instagram não mostrou ganho claro de bem-estar, e a empresa tornou a opção facultativa. Isso é uma informação honesta, mas não encerra o assunto.

Os documentos internos da Meta, revelados em 2021, mostram uma empresa que media o que fazia, via parte do dano e deixou a decisão para a métrica de engajamento. Também mostram os limites do que essas pesquisas provavam.

Quando a aprovação vira número, ela vira mercadoria, e o algoritmo passa a ser o juiz do status. Quem constrói tem de decidir que placar publica, e quem se defende tem de saber qual placar está jogando.

O velho jogo de ser visto

Antes de qualquer botão, o mecanismo. Em 1954, o psicólogo social Leon Festinger publicou na revista Human Relations um artigo chamado "A theory of social comparison processes". A tese é simples e vale ainda hoje: as pessoas têm uma necessidade de avaliar as próprias opiniões e capacidades, e, quando não existe um critério objetivo, elas se avaliam comparando-se com os outros. Festinger acrescentou um detalhe importante. A comparação é mais forte com quem é parecido conosco. Ninguém se mede contra um campeão olímpico para saber se corre bem no parque; mede-se contra o colega de trabalho, o vizinho, o primo.

Esse detalhe explica uma coisa que a conversa pública costuma errar. O problema da comparação nas redes não é a existência de gente famosa, que sempre existiu. O problema é que a rede coloca a vida editada do primo, da colega e da ex-colega de escola no mesmo fluxo, na mesma tela, com o mesmo formato, e acrescenta um número ao lado. A comparação ascendente (olhar para quem parece estar melhor) deixou de ser um episódio e virou o clima do ambiente.

Convém registrar o que a pesquisa diz e o que não diz. A literatura sobre comparação social e uso de redes encontra associações entre uso passivo, isto é, rolar sem postar nem conversar, e piora de humor em alguns grupos, e encontra associação mais fraca ou nenhuma com uso ativo e conversa direta. Mas os efeitos médios são pequenos, a maior parte dos estudos é correlacional, e quase todos medem autorrelato. O capítulo 16 trata da briga sobre saúde mental de adolescentes e do que se pode afirmar com segurança. Para este capítulo, basta guardar a versão modesta e defensável: a comparação social é um mecanismo real e antigo, as redes o intensificaram, e a intensidade do efeito varia muito de pessoa para pessoa.

Há um segundo mecanismo, menos citado e mais útil para quem constrói, que é o efeito de ser medido. Quando você posta e sabe que o resultado vai aparecer como número, a pessoa que posta muda. Isso é visível em qualquer plataforma. A foto que antes era "uma foto que eu gosto" vira "uma foto que vai funcionar". A legenda é escolhida pelo que costuma render. O horário é escolhido pelo que costuma render. A pessoa se torna, sem querer, um pequeno editor do próprio canal, com uma métrica na frente. Esse é o ponto que liga validação social ao resto do livro: o número é a recompensa, a postagem é a alavanca, e a incerteza do resultado (quantos vão curtir desta vez?) é o que dá ao ciclo a forma de uma razão variável. Os capítulos 2 e 3 explicaram por que a incerteza amplifica o querer. Aqui o sorteio é social: ninguém sabe se o público vai aparecer.

Uma observação sobre dopamina, porque ela vai aparecer em conversa de bar. O capítulo 2 já tratou do estudo de Sherman e colegas, de 2016, que mostrou adolescentes vendo fotos com muitas curtidas e atividade em áreas cerebrais ligadas a recompensa. O estudo é interessante e pequeno, e a ideia de que "uma curtida libera dopamina como uma droga" é divulgação ruim. A aprovação social ativa circuitos de recompensa porque somos animais sociais e isso é assim com um elogio ao vivo também. O que as redes acrescentam é a quantidade, a medição e a ausência de saciedade. Não precisa de neurotransmissor para entender isso.

Fora da tela: o auditório que aplaude e a buzina

Quem cresceu vendo televisão brasileira conhece o placar social ao vivo. Nos programas de calouros, que tiveram em Silvio Santos, em Raul Gil e em Chacrinha alguns dos nomes mais conhecidos, o participante subia ao palco para ser julgado diante de um auditório. O resultado era imediato e público: o gongo, a buzina de Chacrinha, as notas de um júri, o aplauso medido pelo olho do apresentador. O candidato sabia exatamente, em segundos, quanto valia naquela noite. O programa transformava talento amador em espetáculo de aprovação e de rejeição, e o público em casa assistia tanto ao desempenho quanto à humilhação possível.

A comparação com a rede social é direta, com duas diferenças que contam. No auditório, o julgamento era raro: a pessoa subia uma vez, e depois voltava para casa. Na rede, o palco é permanente e o aplauso é contínuo, de modo que a nota nunca fecha. E o auditório tinha uma hora de acabar, um ponto de parada, o que o capítulo 1 chamou de stopping cue. A rede devolve o placar de manhã, de tarde e de noite.

O concurso de beleza é outro exemplar. O Miss America nasceu em Atlantic City, em 1921, como atração para esticar a temporada de verão. Desde cedo, o concurso unia dois elementos que a rede também une: um padrão estético comparável e um ranking público. No Brasil, há uma lenda conhecida de que Martha Rocha, representante da Bahia, teria perdido o título de Miss Universo em 1954 por "duas polegadas" a mais de quadril. A história é contada há setenta anos como piada nacional e eu a trato como folclore, não como fato verificado, porque o que a lenda mostra é outra coisa: o país inteiro discutindo, em público, uma medida do corpo de uma mulher julgada por um júri. Para o argumento do capítulo, o que importa é que o julgamento de aparência diante de uma plateia é uma instituição social antiga, e a rede apenas a universalizou.

Há ainda a coluna social. Nos jornais de grande circulação, o colunista social decidia, por meio de notas, quem estava "em alta", quem era visto com quem, quem frequentava qual festa. Aparecer na coluna era um ativo, e o colunista era um porteiro de status. Ibrahim Sued, no Rio, é o exemplo clássico da profissão no Brasil, e a lógica era inconfundível: poucos juízes, escolhidos por critério opaco, e uma plateia que aprendia o código. A rede social democratizou o julgamento, mas manteve a opacidade e criou um juiz novo, o algoritmo, de que falo mais adiante.

Um terceiro exemplo, sem nome próprio, é o quadro de vendedores na parede. Em muitos escritórios de venda, o desempenho de cada vendedor é exposto num quadro, com o primeiro lugar em destaque. Cenário ilustrativo: numa loja com doze vendedores, o quadro mostra o total mensal e muda toda segunda-feira. Quem está nas últimas posições aprende a olhar o quadro antes de olhar o cliente. A empresa ganha motivação e perde alguma coisa também: o vendedor passa a preferir a venda que conta no ranking à venda que fideliza o cliente. É a mesma estrutura de uma métrica pública, e traz os mesmos efeitos colaterais, bons e ruins. Quem já trabalhou em vendas sabe que o quadro funciona para quem está no topo e piora quem está embaixo, e quem gerencia sabe que não basta decidir se o placar existe: é preciso decidir o que ele mede.

A métrica pública e a pessoa que posta

O botão de curtir tem uma propriedade técnica que vale nomear: ele é uma métrica pública e permanente sobre um comportamento pessoal. Cada uma dessas palavras importa.

Pública: qualquer pessoa vê. Isso cria a comparação de que Festinger falava. Quem posta não compete só com o seu passado, mas com o que viu no feed minutos antes.

Permanente: a contagem fica abaixo da foto. Uma conversa na mesa de bar some quando termina. Uma publicação com quatro curtidas fica registrada com quatro curtidas. Para muita gente, o dado mais cruel não é o número em si, mas a prova arquivada de que ninguém apareceu.

Sobre um comportamento pessoal: não se está medindo um produto, e sim uma foto sua, uma opinião sua, a sua festa de aniversário. O sistema transforma a aprovação de uma publicação em um juízo sobre a pessoa. E há ainda o efeito de arredondamento social: uma pessoa que recebe doze curtidas não sabe se doze é muito ou pouco, e vai calibrando pela vizinhança.

Para quem constrói, a lição de design é sobre quem enxerga o quê. O Facebook e depois o Instagram escolheram mostrar a contagem a todos, por padrão. Era uma escolha, não uma fatalidade. Outras plataformas fizeram escolhas diferentes: mostram a contagem só ao autor, mostram só para quem segue, ou nem mostram. A pergunta de projeto é qual placar você publica, para quem e com que permanência. Cada resposta muda o comportamento de quem posta. O capítulo 19 volta a isso do lado do design honesto.

Na tela: o teste de esconder curtidas no Instagram

O melhor experimento natural sobre esse assunto foi conduzido pela própria empresa, e foi público. Em maio de 2019, o Instagram começou a testar, no Canadá, a ocultação da contagem de curtidas nas publicações vistas por outras pessoas. O autor continuava vendo a própria contagem. Em julho do mesmo ano, o teste chegou a outros países: Austrália, Brasil, Irlanda, Itália, Japão e Nova Zelândia. Em novembro, Adam Mosseri, então chefe do Instagram, anunciou que o teste chegaria a alguns usuários americanos. A justificativa pública, nas palavras que a imprensa registrou, era diminuir a pressão e fazer com que as pessoas se concentrassem menos nos números e mais nas fotos e nos vídeos.

O resultado foi menos dramático do que a retórica. Em abril de 2021, Mosseri contou que o teste ajudou algumas pessoas e que outras ainda queriam ver as contagens, sobretudo para saber o que estava em alta. Em maio de 2021, o Instagram e o Facebook anunciaram uma opção para que cada pessoa escolhesse esconder ou mostrar as curtidas, tanto as que via quanto as de suas próprias publicações. A explicação que a empresa deu, segundo a cobertura, foi que os testes não tinham produzido uma mudança clara no bem-estar das pessoas, e que a reação ao esconder as curtidas dividia opiniões. Registro tudo isso como paráfrase da cobertura, porque não li o anúncio original do Instagram nem a fala de Mosseri na íntegra.

Como interpretar isso. Há três leituras honestas, e nenhuma é a que o público costuma ouvir.

A primeira: o teste mostra que esconder curtidas não é uma cura. Se a hipótese era "o número é a causa do sofrimento", o teste não a confirmou de forma clara. Quem quiser usar o episódio como prova de que as redes são inocentes está apoiado no que a empresa disse sobre os seus próprios resultados, e sem acesso a dados abertos.

A segunda: o teste mostra que a métrica pública é só um dos mecanismos. A comparação continua no que se vê na foto, nos corpos, nas viagens, no estilo de vida. Tirar a contagem não tira a comparação, porque a comparação nunca precisou do número, apenas foi quantificada por ele. Esconder a curtida remove um placar. Não remove o auditório.

A terceira: a opção facultativa é um desfecho típico de produto. Quando um teste mostra um efeito misto, a decisão racional para a empresa é a que preserva a métrica de engajamento e atende a quem reclama. Esconder por padrão poderia reduzir o volume de reações, e as reações alimentam o ciclo de volta para quem posta. Deixar como opção é um meio-termo sensato do ponto de vista de produto e, ao mesmo tempo, convenientemente de baixo custo. A quem se defende, a opção importa de qualquer jeito: ela existe, e vale a pena usar se o número incomoda. Quem se interessa pelo assunto deve ler o desfecho como a prova de que a questão é mais complexa do que os dois lados querem, e não como derrota de ninguém.

Os documentos internos: o que a Meta sabia e o que provava

Em setembro de 2021, o Wall Street Journal começou a publicar uma série chamada The Facebook Files, baseada em documentos internos do Facebook. A fonte, que se revelou semanas depois, era uma ex-gerente de produto chamada Frances Haugen. Ela entregou milhares de páginas a jornalistas e a reguladores americanos, apareceu no programa 60 Minutes no início de outubro e prestou depoimento no Senado dos Estados Unidos em 5 de outubro de 2021. O que se segue é o que esses documentos mostraram sobre validação social, com o cuidado de separar o que eles dizem do que a imprensa e a política fizeram deles.

Na tela: o slide de uma em cada três

A reportagem mais citada da série tratou do Instagram e de meninas adolescentes. Os documentos incluíam apresentações de pesquisadores da própria empresa, que estudavam o efeito do aplicativo em adolescentes, com pesquisa de campo, entrevistas e questionários. Um slide de uma apresentação de 2019 trazia a frase, traduzida, de que a empresa piora os problemas de imagem corporal de uma em cada três meninas adolescentes. Outro material, de março de 2020, registrava que, entre as adolescentes que disseram se sentir mal com o próprio corpo, 32% afirmaram que o Instagram as fez se sentir pior. Uma conclusão de pesquisa, segundo a cobertura, dizia que a comparação social é pior no Instagram do que em outras plataformas.

Convém ler o número com o cuidado que ele exige, porque as duas versões dele circulam como se fossem a mesma coisa. A frase de "uma em cada três" resume uma pesquisa em que o universo é o das meninas que já têm problemas com imagem corporal, e a base da conta é a parcela delas que disse que o aplicativo piora o quadro. Não significa que uma em cada três adolescentes sofre por causa do Instagram. A diferença é grande: o denominador é um grupo já vulnerável, e a medida é o autorrelato sobre o efeito do aplicativo.

A Meta respondeu em duas frentes. A primeira foi dizer que o jornal tinha escolhido um conjunto limitado de achados e os apresentado de forma negativa. A segunda foi apontar outros números da mesma pesquisa: a empresa disse que, em onze das doze áreas de bem-estar estudadas, mais meninas relataram que o Instagram as ajudava do que as prejudicava, e que a imagem corporal era a exceção. A diretora de pesquisa do Facebook disse que não era correto afirmar que a pesquisa demonstrava que o Instagram é tóxico para adolescentes. Mosseri chegou a descrever o efeito sobre o bem-estar de adolescentes como bastante pequeno em média.

Quem tem razão? Os dois lados dizem coisas verdadeiras, e a melhor leitura é a que mantém ambos. A pesquisa interna era séria o bastante para a empresa a fazer e a circular internamente, o que já é informação: houve gente competente estudando o problema. Os achados mostravam um dano concentrado em um subgrupo e em um tipo de conteúdo, e não um dano universal. E é aí que mora o ponto desconfortável. Num produto cuja receita depende da média de engajamento, um dano concentrado em um subgrupo é exatamente o tipo de dano que a métrica média não capta. A média pode estar boa enquanto uma minoria vulnerável piora. Essa é a mesma estrutura que o capítulo 15 vai tratar para o jogo: a receita e o dano não se distribuem de forma uniforme.

Outro ponto de honestidade. A pesquisa era feita com amostras limitadas, com questionários de autorrelato, sem grupo de controle randomizado. Não prova causalidade, e a própria empresa nunca a apresentou assim. Prova, no máximo, que a empresa tinha sinais internos de que uma parcela das usuárias adolescentes se sentia pior. O que os documentos acrescentaram à discussão pública não foi um resultado científico novo, e sim um fato sobre conhecimento: a empresa sabia disso, tinha estudado e tinha discutido possíveis respostas. O capítulo 14 trata disso com o tabaco, onde a lição foi que as indústrias sabem antes e documentos de processo são a melhor fonte. Cuidado, porém, com o paralelo: no tabaco o dano era direto e inequívoco, aqui ele é parcial e contestado.

A mudança de 2018 e o preço da indignação

Os mesmos documentos trataram de uma decisão com efeito social diferente, e talvez mais importante do que a questão da imagem corporal. Em janeiro de 2018, Mark Zuckerberg anunciou uma mudança no feed do Facebook para priorizar as chamadas interações sociais significativas (meaningful social interactions) entre amigos e familiares, em detrimento de conteúdo de páginas e de veículos. A justificativa pública era devolver a rede ao seu propósito, depois de um período em que o vídeo passivo e as notícias tinham tomado conta do feed. Era, também, uma resposta a um sinal que a empresa via: o tempo gasto e as interações pessoais vinham caindo.

Segundo reportagens do Wall Street Journal a partir dos documentos, a mudança teve o efeito oposto ao anunciado em parte do ecossistema. Para medir uma "interação significativa", o sistema atribuía pontos a ações: comentar, compartilhar, reagir. Publicações que provocavam comentários e compartilhamentos subiam. E o que mais provoca comentários e compartilhamentos, como qualquer pessoa que já viu uma discussão numa postagem sabe, é conteúdo que irrita. Segundo o jornal, cientistas de dados da empresa concluíram que o peso grande dado a conteúdo compartilhado novamente deu mais voz a quem estava com raiva. No outono de 2018 (hemisfério norte), Jonah Peretti, presidente do BuzzFeed, escreveu a um executivo do Facebook atribuindo à mudança de feed um empurrão em direção a conteúdo mais negativo e polarizador, conforme o jornal descreveu o conteúdo da mensagem. Uma reportagem do Washington Post, também baseada em documentos, afirmou que, desde 2017, as reações com emojis tinham peso cinco vezes maior que a curtida simples. Há uma divergência sobre esse detalhe: críticos observaram que o peso cinco valia para todas as reações novas e não apenas para a de raiva, e que o peso da reação de raiva foi reduzido depois. Registro a divergência em vez de escolher um lado, porque não li os documentos primários.

A lição para este capítulo é a seguinte. A curtida tem a vantagem de ser fácil e quase sempre positiva. Quando o sistema muda a recompensa de "o que as pessoas gostam" para "o que as pessoas respondem", a validação social passa a premiar o conteúdo que mais provoca reação, e a raiva provoca muita reação. Quem posta aprende. A pessoa, o partido, a marca, o veículo de notícias descobrem rapidamente o que o feed recompensa e ajustam o que produzem. O sistema não precisou querer a indignação. Bastou medir a reação e premiar a quantidade. É um exemplo limpo de como uma métrica, aplicada a milhões de produtores, remodela o conteúdo sem que ninguém a tenha escolhido como objetivo.

O Facebook respondeu que usava as pesquisas internas justamente para corrigir esses problemas e que mudou os pesos ao longo do tempo. Isso também é verdade, e vale a leitura equilibrada: a empresa tinha equipes que identificavam o dano e pediam mudança, e as propostas esbarravam em custo de engajamento. Segundo a reportagem do jornal, Zuckerberg resistiu a algumas propostas de correção por receio de reduzir o engajamento. Não tenho como afirmar o conteúdo exato das conversas, e sigo a reportagem como reportagem.

Na tela: os intocáveis do XCheck

Há um terceiro item dos documentos que interessa ao tema do status. Um sistema interno chamado XCheck, ou cross-check, tinha sido criado, segundo a empresa, como controle de qualidade para decisões de moderação sobre contas de alto perfil, em que um erro podia gerar grande repercussão. A reportagem do Journal de setembro de 2021 mostrou que o sistema tinha crescido a ponto de proteger milhões de contas: o número divulgado foi de cerca de 5,8 milhões de usuários em 2020. Para uma parte deles, segundo os documentos, as regras de conteúdo praticamente não se aplicavam ou eram aplicadas com atraso, depois de revisão humana. O título da matéria resumia o ponto: o Facebook diz que suas regras valem para todos, mas os documentos revelam uma elite secreta que está isenta.

O Conselho de Supervisão (Oversight Board) do Facebook criticou depois a empresa por não ter sido transparente com ele sobre o programa. A empresa disse que o programa existia por razões legítimas e que estava sendo reformado.

Por que isso interessa a um capítulo sobre validação social? Porque o status online não é distribuído apenas por curtidas. Ele é também uma hierarquia de tratamento: quem tem seguidores tem regras diferentes, atendimento diferente, verificação diferente. O selo azul, a conta verificada, o contato direto com a plataforma, a proteção contra denúncias em massa. A validação social, em escala, vira classe social dentro do produto, e a classe superior fala com a empresa de maneira diferente da classe inferior. Quem quer saber como funciona uma economia de status precisa olhar para essa camada, e não só para o número embaixo da foto.

Filtros de beleza e o rosto como produto

Voltemos à imagem corporal, que é onde o tema de status mais cruzou com a estética. Os filtros de rosto, que embelezam, afinam, suavizam a pele e aumentam os olhos, começaram como brincadeira de aplicativo (cachorro, coroa de flores) e viraram, para muita gente, o rosto padrão em fotos e vídeos. A pessoa vê a sua imagem com o filtro, e o filtro passa a ser o que ela tem de comparar com o espelho.

A discussão pública sobre o dano dos filtros tem duas partes, uma sólida e outra frágil. A parte sólida é a de que os filtros fixam um padrão e o aproximam do que é impossível sem edição, e que isso se soma à comparação social. A parte frágil são os estudos sobre o efeito: são pequenos, correlacionais, e muitos medem a intenção de fazer cirurgia ou o desconforto, e não o comportamento. Um fenômeno ligado ao tema, que a imprensa especializada descreveu, é a procura de procedimentos estéticos por pessoas que querem se parecer com a própria versão filtrada. Reporto como relato, não como medida.

Sobre a resposta das plataformas, o que consegui confirmar é o seguinte. Em outubro de 2019, o Instagram, por meio do Spark AR (o kit de ferramentas para criar filtros), anunciou a retirada de efeitos associados à cirurgia plástica, e as regras foram revistas depois, de modo a vedar só os efeitos que promovem procedimentos estéticos. Em 2024, a Meta anunciou o fim da plataforma Spark para criadores externos, com encerramento em 14 de janeiro de 2025, e os efeitos próprios da empresa continuaram disponíveis. Isso retirou do Instagram, do Facebook e do Messenger os filtros de terceiros distribuídos pela plataforma. Não consegui confirmar que a decisão tenha sido motivada por saúde mental, nem que a empresa tenha tratado especificamente de filtros de beleza, de modo que a descrevo como o que foi: uma decisão de plataforma que reduziu a oferta de filtros de terceiros, sem ligação provada com o tema. Os usuários continuam podendo aplicar filtros de aplicativos externos, e a Meta mantém os próprios.

Na prática do design, a pergunta honesta é outra. Um filtro que muda o rosto é uma ferramenta, e uma ferramenta que melhora a foto pode ser inofensiva. O que cruza a linha é o desenho que torna o filtro o padrão invisível: aplicado por padrão, sem rótulo, em contas de adolescentes, e seguido de uma métrica que recompensa a versão filtrada com mais curtidas. Quando o sistema premia a imagem editada e mostra a contagem, o filtro deixa de ser opcional na prática. O que importa, aqui, é o ciclo, e não o efeito de câmera: editar, postar, receber número, comparar, editar de novo.

Quando o status vira mercadoria

Todo sistema de pontuação pública gera um mercado para fabricá-la. Se a curtida e o seguidor são a moeda, alguém vai vender curtida e seguidor. Isso aconteceu desde cedo, e hoje é uma economia à parte, com camadas.

A primeira camada é a compra de números. Em janeiro de 2018, o New York Times publicou uma investigação sobre uma empresa chamada Devumi, que vendia seguidores falsos no Twitter para celebridades, políticos e marcas. Em outubro de 2019, a Federal Trade Commission dos Estados Unidos fechou um acordo com a Devumi e seu dono, num caso que o próprio órgão apresentou como o primeiro sobre a venda de indicadores falsos de influência em redes sociais. O dono concordou em pagar US$ 2,5 milhões, dos quais US$ 250 mil imediatamente e o resto suspenso, e a empresa ficou proibida de vender influência social. A FTC disse que a Devumi tinha atendido dezenas de milhares de pedidos de seguidores falsos no Twitter, além de assinantes e visualizações no YouTube. Para o argumento do capítulo, o que o caso mostra é que o número tinha preço, e que alguém considerou razoável pagar por ele.

A segunda camada é a econômica. Influenciadores vendem espaço publicitário com base em números de seguidores e engajamento. Uma marca que paga por uma publicação quer saber quantos viram e quantos reagiram. Se os números são inflados, o anunciante paga por uma audiência que não existe. Por isso parte do trabalho de agências é auditar perfis, comparar curtidas com comentários e olhar a origem geográfica dos seguidores, procurando sinais de bots. Cenário ilustrativo, com contas que fecham: um perfil com 200 mil seguidores e uma média de 400 curtidas por foto tem taxa de engajamento de 0,2% (400 dividido por 200.000). Se o mesmo perfil, em outras fotos, tem 8.000 curtidas, a taxa dá 4%, vinte vezes maior. A variação enorme, sem explicação, é sinal de compra ou de grupos de engajamento. O auditor não prova fraude com isso; levanta suspeita.

A terceira camada é a dos grupos de engajamento, em que criadores combinam curtir e comentar as publicações uns dos outros para sinalizar atividade ao algoritmo. É uma prática de comunidade e uma forma de fraude branda, pois produz o sinal de interesse sem o interesse. Algumas plataformas dizem combatê-la e não há dado público confiável sobre a escala.

O capítulo 7 mostrou outra face dessa economia, a dos influenciadores que divulgavam o jogo do tigrinho com contas demonstrativas. Era prova social fabricada a serviço de um produto de risco. A diferença aqui é de foco: no capítulo 7, o influenciador vendia uma aposta. Neste capítulo, ele vende a si mesmo, e o produto é o próprio número.

Uma ressalva para não cair na moralização. Quase todo mundo que posta publicamente quer ser visto, e isso não é patologia. O artista que divulga o trabalho, o pequeno comerciante que anuncia, o professor que explica um conteúdo. Uma economia de atenção que funciona é um benefício real para esses usos. O ponto crítico é outro: quando o número vira o objetivo, e não o indicador, o criador começa a otimizar o indicador. É a velha lei de Goodhart, que diz que uma medida usada como meta deixa de ser uma boa medida. O curioso é que o próprio criador sente isso: muita gente relata cansaço, ansiedade com o desempenho e a sensação de estar trabalhando para a máquina.

O algoritmo como juiz do status

Na era do feed cronológico, o seu círculo decidia quem via a sua publicação: quem o seguia, via. Na era do feed algorítmico, que o capítulo 9 descreveu, existe um intermediário. O sistema decide quem vê o quê, e a decisão depende de uma previsão de reação. Isso muda a natureza do status. A validação deixa de vir apenas de pessoas e passa a vir de duas fontes: as pessoas que reagem e o sistema que decide quantas pessoas terão a chance de reagir.

O criador percebe a existência do juiz e passa a tentar entendê-lo. Surgem teorias, e a maioria delas é folclore: que o algoritmo gosta de vídeos com mais de tal duração, que "pune" links externos, que "castiga" quem posta pouco, que existe um "shadowban" para contas que incomodam. Algumas dessas crenças correspondem a práticas reais das plataformas, algumas não, e quase nenhuma pode ser verificada de fora, porque os sistemas não são abertos. A opacidade é parte do desenho. O resultado é uma relação quase religiosa com o algoritmo: o criador interpreta sinais, faz oferendas (um gancho nos três primeiros segundos, um tipo de legenda), e culpa o juiz quando a publicação não vai bem. É um comportamento que o capítulo 3 reconheceria: sob reforço imprevisível, as pessoas desenvolvem superstições.

Do ponto de vista de quem constrói, há um problema de incentivo bem formulado. Quando um juiz algorítmico recompensa o que gera reação, a produção de conteúdo converge para o que gera reação. O criador de culinária descobre que o vídeo com uma briga na cozinha vai melhor. O comentarista descobre que o tom mais agressivo vai melhor. A conta pequena descobre que copiar o que funciona funciona. A diversidade encolhe, e o conteúdo mais estridente ganha. Nada disso exige má-fé de ninguém.

Convém lembrar que o juiz algorítmico é tão parcial quanto os humanos que o treinaram. Se os dados de treino refletem preferências estéticas ou sociais enviesadas, o sistema as amplifica. Há controvérsias, documentadas na imprensa, sobre favorecimento de certos padrões de aparência, e as plataformas negam o desenho intencional. Não vou afirmar algo que não consegui verificar. O que posso dizer é a estrutura: um juiz opaco, treinado com a reação do público, distribuindo atenção entre milhões de criadores, é um mecanismo que concentra. Poucos recebem muito, e muitos recebem pouco, e o ganho é cumulativo, porque quem aparece mais ganha mais seguidores e aparece mais. Essa dinâmica de "o vencedor leva muito" é típica de mercados de atenção e é a razão de por que a promessa de que "qualquer um pode viver de criar conteúdo" é verdadeira para poucos.

Do outro lado: Molly Russell

Tudo que foi dito até aqui poderia ser lido como discussão abstrata de produto. Existe um caso, documentado em um procedimento oficial, que obriga a pensar no que está em jogo. Aviso: esta seção trata de suicídio de uma adolescente. Não há detalhe de método. Se o assunto lhe pesa, pule para o fim da seção, onde estão os contatos de apoio.

Molly Russell tinha 14 anos e morava em Londres quando morreu, em novembro de 2017. Em setembro de 2022, depois de um inquérito (inquest), o legista sênior Andrew Walker concluiu, em 30 de setembro, que Molly morreu de um ato de automutilação enquanto sofria de depressão e dos efeitos negativos de conteúdo online. A conclusão foi registrada de forma narrativa, e o legista disse que não seria seguro classificar a morte simplesmente como suicídio. Ele também disse que o material que Molly viu provavelmente afetou sua saúde mental de modo negativo e contribuiu para a morte de maneira mais que mínima. Pelas notícias do inquérito, cerca de 2.100 dos aproximadamente 16.300 conteúdos com que ela interagiu no Instagram nos seus últimos seis meses (curtir, salvar, compartilhar) tratavam de depressão, automutilação ou suicídio. Representantes da Meta e do Pinterest pediram desculpas pelo conteúdo a que ela teve acesso. O caso foi descrito por uma organização de proteção à infância como a primeira decisão desse tipo no mundo, e registro essa fala como a avaliação de uma entidade com posição, não como fato jurídico.

O que o caso mostra e o que não mostra. Mostra que o legista, depois de ouvir peritos, empresas e família, considerou provável uma contribuição do conteúdo online, num caso concreto. Mostra também que o sistema de recomendação, ao responder a um padrão de interesse, pode continuar a oferecer mais do mesmo a uma pessoa em sofrimento, porque a métrica de interesse não distingue o que a pessoa quer do que lhe faz mal. Esse ponto é coerente com a lógica de reforço dos capítulos anteriores.

Não mostra, e quem trabalha com o tema precisa dizer isso, que as redes causam depressão ou suicídio em adolescentes em geral. É um caso, com um desfecho oficial específico, e não uma estatística. A pesquisa populacional é mais incerta, e o capítulo 16 discute os dois lados, de Haidt a Odgers. Tampouco mostra que a causa foi a validação social em si; o caso gira mais em torno de conteúdo e recomendação do que de curtidas. Ele entra neste capítulo porque ilustra o desfecho extremo de um sistema em que o interesse medido substitui o interesse bom: o produto não perguntou à pessoa se queria aquilo, apenas viu que ela ficava.

Se você ou alguém que você conhece está pensando em se machucar, procure ajuda agora. No Brasil, o Centro de Valorização da Vida atende pelo telefone 188, a qualquer hora, de graça, e também por chat. Os Centros de Atenção Psicossocial (CAPS) atendem pelo SUS. Em situação de risco imediato, ligue para o 192 (SAMU).

O que quem constrói faz com isso

O mecanismo de validação social é legítimo e tem usos positivos. Reconhecimento é motivação, e um sistema que dá feedback a quem contribui, num fórum de ajuda, numa comunidade de código aberto ou numa plataforma de aprendizado, funciona melhor do que um que não dá. A questão é desenho.

A primeira decisão é qual placar publicar. Um placar público e permanente cria comparação e competição. Um privado dá feedback sem exibir hierarquia. Muitos produtos mostram a contagem só ao autor, ou escondem o número até certo patamar. Isso reduz a comparação sem tirar a motivação.

A segunda é o que a recompensa premia. O caso de 2018 mostra que premiar reação atrai raiva. Se o sistema precisa medir interação, deve perguntar quais interações significam valor: respostas úteis, compartilhamentos com comentário, tempo de leitura. E precisa testar o efeito sobre a distribuição do conteúdo, não só sobre o total.

A terceira é como o produto trata o dano concentrado. A lição do slide de uma em cada três é que a média engana. Se há um subgrupo que piora, a métrica de bem-estar tem de ser olhada por subgrupo, com adolescentes e pessoas em sofrimento em destaque. Isso é prática de produto, não moralismo, e custa menos que um processo.

A quarta é a honestidade sobre o que o sistema sabe. A Meta tinha pesquisas, discutiu respostas e, em parte, as adotou. O que se critica é a lentidão e a assimetria entre o dano medido e a ação tomada. Quem constrói deve decidir de antemão o que fará quando a pesquisa interna encontrar um efeito ruim, e não depois.

Verdades desconfortáveis

A validação social é a recompensa mais forte que existe, e não é um defeito do produto. O desejo de aprovação é humano, e as redes não o inventaram. Quem diz que o problema é o botão simplifica, e quem diz que o botão é inocente também.

O teste de esconder curtidas não deu a resposta que os críticos queriam, e isso deve ser dito. Sem ganho claro de bem-estar no teste que a própria empresa conduziu, a hipótese mais simples ("é o número") perde força. Quem pede regulação baseada nela deve ter outro argumento.

A Meta fez pesquisa séria sobre seus próprios efeitos, e isso é mais do que muitas indústrias fizeram. O que a torna criticável não é ter pesquisado, e sim o que fez depois: manteve o desenho que gerava o dano para um subgrupo porque a média do engajamento continuava boa.

O sistema de status online é desigual desde o desenho. O XCheck mostra que, em escala, a validação vira privilégio institucional. Isso vale para qualquer plataforma que tenha contas "especiais".

O influenciador que compra seguidores e o usuário que posta com filtro respondem ao mesmo sistema. Culpar o indivíduo é fácil, e o incentivo explica mais do que o caráter.

Por fim, a evidência sobre dano em massa é mais fraca do que o debate público sugere, e a evidência de dano em casos concretos é mais forte do que os céticos admitem. As duas frases são verdadeiras ao mesmo tempo.

Para quem constrói

Perguntas e sinais para revisar o seu produto:

• Qual placar de aprovação o produto publica, para quem e por quanto tempo? Existe versão privada que dê o mesmo feedback?
• O que o ranking premia: reação em geral ou valor? Teste o efeito do peso de cada tipo de reação sobre o tipo de conteúdo que sobe.
• Você mede bem-estar por subgrupo (adolescentes, usuários noturnos, quem posta pouco e recebe pouco), ou só a média?
• A opção de esconder contagens existe e é fácil de achar? Ela é padrão para menores?
• O que acontece quando o sistema detecta interesse repetido em conteúdo de automutilação ou de transtorno alimentar? Existe quebra de recomendação, aviso e encaminhamento?
• Os filtros de imagem são rotulados e opcionais, ou aplicados por padrão?
• Existem contas com regras diferentes? Documente a regra, o motivo e quem audita.
• Métrica que denuncia: proporção do conteúdo promovido que é de alta reação negativa; concentração de alcance nos 1% maiores; taxa de remoção de seguidores falsos.

Para quem se defende

• Pergunte-se com quem você está se comparando. Se a resposta for "gente que eu não conheço e que só mostra o melhor", reduza esse fluxo.
• Prefira uso ativo (conversar, postar, comentar com alguém) a rolar em silêncio. É o padrão que a pesquisa associa a pior humor.
• Use a opção de esconder curtidas, se o número incomoda. É grátis e está nas configurações do Instagram e do Facebook.
• Desconfie de métricas de terceiros. Se você contrata um influenciador, peça dados de audiência e veja a taxa de engajamento por foto.
• Em contas de adolescentes: converse sobre filtros e edição, mostre como a foto é feita, e combine horários sem tela, em vez de apenas bloquear.
• Observe mudança de humor depois de usar a rede, sobretudo se vem acompanhada de isolamento ou perda de interesse. Procure ajuda profissional se persistir.
• Se você está em sofrimento intenso, ligue para o CVV (188) ou procure o CAPS da sua cidade.

Exercícios

1. Escolha uma rede e anote, durante três dias, cada vez que você abre o aplicativo logo depois de postar. Conte quantas vezes você checou o placar nos primeiros dez minutos e como se sentiu. Entrega: uma tabela de uma página e uma frase sobre o que você mudaria.

2. Redesenhe o placar. Pegue um produto que você conhece e proponha três alternativas ao contador público de curtidas (privado, agregado, adiado). Para cada uma, escreva o efeito esperado sobre quem posta e sobre a receita. Entrega: meia página por alternativa.

3. Auditoria de influenciador. Pegue um perfil público e calcule a taxa de engajamento de vinte publicações (curtidas dividido por seguidores). Aponte as que fogem muito da média e levante hipóteses para a diferença. Entrega: a tabela e uma conclusão com ressalvas.

4. Uma métrica, dois efeitos. Escolha uma métrica de interação (comentários, compartilhamentos, tempo de visualização) e escreva dois parágrafos: um sobre o conteúdo bom que ela premia e outro sobre o conteúdo ruim que também premia. Entrega: os dois parágrafos e uma proposta de correção.

5. Fora da tela. Descreva um ambiente de trabalho ou escolar onde exista um placar público (ranking de vendas, mural de notas). Quem se beneficia, quem sofre e o que o placar deixa de medir? Entrega: uma página.

Prompt de estudo

Atue como pesquisador de design de produto. Explique, com ressalvas sobre qualidade da evidência, o que a literatura diz sobre o efeito de métricas sociais públicas (curtidas, seguidores) no comportamento de quem posta. Separe estudos experimentais de correlacionais, aponte os limites de cada um e diga quais afirmações populares não se sustentam. Termine com três perguntas que um time de produto deveria responder antes de publicar um contador.

Eu trabalho num app com feed e quero testar esconder as contagens de reação por padrão. Monte um plano de teste A/B: hipóteses, métricas primárias e secundárias (incluindo bem-estar por subgrupo), tamanho de amostra aproximado, riscos e critérios de decisão. Aponte onde o teste do Instagram de 2019 a 2021 pode ter enganado.

Fontes e leituras

• Festinger, L. (1954). A theory of social comparison processes. Human Relations, 7(2).
• Pearlman, L. (fev. 2009). "I like this", nota no Facebook anunciando o botão de curtir; e a cobertura retrospectiva em matérias de 2017 sobre o arrependimento dos criadores (The Guardian, Alphr, The Hill).
• Sherman, L. E. et al. (2016). The power of the Like in adolescence. Psychological Science (discutido no capítulo 2).
• Wall Street Journal (set. 2021). The Facebook Files, série baseada em documentos fornecidos por Frances Haugen, em especial as reportagens sobre Instagram e adolescentes, sobre a mudança do feed de 2018 e sobre o XCheck.
• Washington Post (out. 2021). Reportagem sobre o peso das reações com emojis no ranking do Facebook.
• Depoimento de Frances Haugen ao Senado dos Estados Unidos, 5 de outubro de 2021.
• Cobertura do teste de esconder curtidas do Instagram: Mosseri no WIRED25 (nov. 2019); anúncio da opção facultativa (maio de 2021).
• Federal Trade Commission (2019). Acordo com a Devumi e German Calas Jr. sobre venda de indicadores falsos de influência; e a investigação do New York Times (jan. 2018).
• Meta (2024). Anúncio do encerramento da plataforma Spark AR para criadores externos, com data de 14 de janeiro de 2025.
• Inquérito sobre a morte de Molly Russell (Reino Unido, North London Coroner's Court), conclusão de 30 de setembro de 2022; relatório de prevenção de mortes futuras (Regulation 28).
• Goodhart, C. (1975), sobre a lei que leva seu nome, e Strathern, M. (1997), para a formulação mais popular.
• Capítulos relacionados: 2 (dopamina e o estudo de Sherman), 3 (reforço), 9 (feed), 10 (notificação e FOMO), 15 (concentração), 16 (adolescentes), 19 (design honesto).