Skip to content
Áudio do capítulo
0:000:00

3. Esquemas de reforço: Skinner foi para o cassino ​

O gesto de um rapaz de vinte e poucos anos ​

Em 2008, um programador chamado Loren Brichter escreveu sozinho um aplicativo para ler o Twitter no iPhone. Chamava-se Tweetie. O aplicativo era bom por muitos motivos, e um deles virou uma pequena revolução de interface: quando você queria saber se havia mensagens novas, em vez de apertar um botão de atualizar, puxava a lista para baixo com o dedo, soltava, e a lista se recarregava. O gesto ficou conhecido como pull-to-refresh, em português, puxar para atualizar. Em poucos anos estava em praticamente todo aplicativo que mostrava uma lista de coisas novas. O Twitter comprou o Tweetie em 2010, e uma patente do gesto, com Brichter como inventor, foi concedida ao Twitter em maio de 2013 (patente americana 8.448.084). Quase ninguém que usa o gesto hoje sabe que ele teve autor.

Em outubro de 2017, o jornalista Paul Lewis publicou no jornal britânico The Guardian uma reportagem sobre ex-engenheiros do Vale do Silício que se diziam arrependidos do que ajudaram a construir. Brichter estava lá. Segundo o que a reportagem relata, ele tinha então trinta e dois anos e dois filhos pequenos, e dizia que se arrependia de cada minuto em que não prestava atenção neles porque o celular o havia sugado. Dizia também que nunca pretendeu que o gesto fosse viciante, que na época era jovem demais para pensar nesses efeitos, e que hoje achava o gesto viciante e, no fundo, dispensável, já que as notificações atualizam os aplicativos sozinhas. Comparava-o ao botão de fechar a porta do elevador: muita gente aperta porque gosta de apertar. Para reduzir o próprio uso, ele contava que bloqueava sites, desligava notificações e deixava o telefone carregando na cozinha à noite.

Repare no que essa história tem de curioso e no que ela não tem. Ela não tem um vilão. Não há uma reunião em que alguém decide fisgar o usuário. Há um programador de vinte e poucos anos que queria uma interface agradável, e há um gesto que, por acaso ou por instinto de designer, tem a forma exata de uma coisa que a psicologia estuda desde a primeira metade do século vinte: você faz um esforço pequeno e repetível, e o mundo responde, às vezes com algo, às vezes com nada, sem que você saiba qual das duas vai acontecer. Os críticos do gesto o comparam à alavanca de uma máquina caça-níquel. Vale registrar que essa comparação vem dos críticos. Pelo que consegui verificar nas fontes públicas, não há uma declaração de Brichter dizendo que se inspirou em cassino, e a própria matéria que resume o depoimento dele deixa claro que o paralelo com a alavanca é um enquadramento de quem escreve, não uma frase dele.

Este capítulo trata do que está debaixo desse gesto. A tese é que, em muitos produtos que prendem, a coisa que prende não é o prêmio. É a regra pela qual o prêmio chega. Dois produtos podem pagar exatamente a mesma quantidade de recompensa ao longo de um mês e produzir comportamentos completamente diferentes, porque a regra de pagamento é diferente. Essa regra tem nome na psicologia, esquema de reforço, e foi mapeada em laboratório, com pombos, por B. F. Skinner. O caça-níquel é o esquema de Skinner com um gabinete de luz e som em volta. O feed, o gesto de Brichter e uma boa parte do que o mundo digital chama de engajamento são parentes dele.

O que você vai levar deste capítulo ​

Um esquema de reforço é a regra que decide quando um comportamento recebe recompensa. A regra importa mais que o tamanho do prêmio, e a regra que mais prende é a que paga de forma imprevisível depois de um número imprevisível de tentativas, a razão variável.

O que a razão variável produz de mais característico é a resistência à extinção: o comportamento continua por muito tempo depois que o pagamento parou. É por isso que quem aprendeu em uma máquina que paga de vez em quando demora a perceber que perdeu.

O cassino aprendeu a desenhar os detalhes em volta da regra: a quase-vitória que parece progresso, a perda que toca música de vitória, o som que vira prêmio por si só, o botão que dá sensação de controle. O rolo virtual, patenteado em 1984, tornou a quase-vitória fabricável em escala.

A passagem para o celular existe, mas é uma analogia e não uma prova. Puxar para atualizar tem a estrutura de uma razão variável. Que isso aumente o uso de um aplicativo é plausível e mal medido.

O modelo Hooked, de Nir Eyal, é a versão de manual dessa ponte. Ele é útil para quem constrói, é frágil como ciência, e sua parte mais honesta é a que diz que quem usa essas técnicas precisa se perguntar se usaria o próprio produto.

Skinner e as quatro regras de pagamento ​

Burrhus Frederic Skinner, psicólogo de Harvard, passou boa parte da vida pesquisando uma pergunta que parece simples: o que determina se um animal repete um comportamento? A resposta dele, desenvolvida a partir dos anos 1930 e consolidada em 1938 no livro The Behavior of Organisms, foi que o comportamento é moldado pelas suas consequências. Se uma ação é seguida de algo que o animal procura, como comida, a ação tende a se repetir. Skinner chamou esse tipo de comportamento de operante, porque o animal opera sobre o ambiente, e a consequência que aumenta a repetição de reforço. A ideia lembra a lei do efeito, de Edward Thorndike, do começo do século, mas Skinner a transformou em método: câmaras controladas, em que um pombo ou um rato apertava uma barra ou bicava um disco e um aparelho registrava cada resposta com precisão. A caixa em que isso acontecia ficou conhecida como caixa de Skinner, nome de que ele próprio não gostava.

A descoberta que importa para este livro vem de um trabalho posterior, o livro Schedules of Reinforcement, de 1957, escrito por Charles Ferster e Skinner. Eles perceberam que o comportamento do animal não depende só de receber ou não a recompensa. Depende da regra que governa a entrega. E essa regra pode ser descrita com duas perguntas. A primeira: o que conta para liberar a recompensa, um número de respostas ou a passagem do tempo? Se conta o número de respostas, o esquema é de razão. Se conta o tempo, desde a última recompensa, é de intervalo. A segunda pergunta: esse número, ou esse tempo, é sempre o mesmo ou muda a cada vez? Se é sempre o mesmo, o esquema é fixo. Se muda em torno de uma média, é variável. Dois eixos, duas respostas cada, quatro combinações. Vamos percorrê-las por extenso, porque a tabela que vem a seguir serve só de resumo.

No esquema de razão fixa, o animal recebe a recompensa a cada tantas respostas, digamos a cada dez bicadas. É o pagamento por peça produzida, o carimbo do cartão de fidelidade que completa na décima compra. O comportamento que Ferster e Skinner observaram é um padrão de trabalho e pausa: o pombo bica rápido até receber, faz uma pausa depois do prêmio, e recomeça. A pausa existe porque, logo depois de receber, a recompensa seguinte está longe.

No esquema de intervalo fixo, a recompensa fica disponível depois de um tempo fixo, desde que o animal responda uma vez ao fim desse tempo. É o contracheque no quinto dia útil, ou o ônibus que passa de meia em meia hora. O padrão observado é um aumento gradual das respostas à medida que o fim do intervalo se aproxima, quase nenhuma resposta logo depois de receber. Quem trabalha com prazo conhece: o ritmo sobe na véspera.

No esquema de intervalo variável, a recompensa fica disponível depois de tempos que variam em torno de uma média, e o animal não sabe quando. É a verificação do e-mail que pode ou não ter mensagem nova, o pescador que lança a linha esperando que algo morda. O padrão observado é uma taxa de resposta moderada e muito estável, sem as grandes pausas do esquema fixo, porque a recompensa pode estar disponível a qualquer instante.

E no esquema de razão variável, a recompensa chega depois de um número de respostas que varia em torno de uma média, sem que o animal saiba qual. Às vezes na terceira bicada, às vezes na quadragésima. O padrão que Ferster e Skinner descreveram é uma taxa de resposta alta e constante, quase sem pausa depois do prêmio, porque o prêmio seguinte pode estar na próxima bicada. É o caça-níquel. É também o vendedor de porta em porta, o pescador de truta que só fisga uma em vinte lançamentos, o jogador de loteria que compra cartela atrás de cartela.

Aqui está a tabela prometida. Lida em voz alta, ela diz o seguinte: a razão conta respostas e o intervalo conta tempo; o fixo é previsível e o variável não; e o padrão de comportamento mais acelerado e sem pausas aparece na razão variável.

EsquemaO que libera a recompensaPadrão típico de comportamentoExemplo cotidiano
Razão fixaNúmero fixo de respostasCorre e pausa depois do prêmioCartão de fidelidade, pagamento por peça
Intervalo fixoTempo fixoAcelera perto do fim do intervaloContracheque, prazo de entrega
Intervalo variávelTempo que variaRitmo moderado e estávelConferir o e-mail, pescar
Razão variávelNúmero de respostas que variaRitmo alto e sem pausasCaça-níquel, raspadinha

Uma observação de honestidade antes de seguir. Quase tudo isso foi mostrado com pombos e ratos, em condições de laboratório extremamente controladas, com animais que passavam fome para aumentar o valor da comida. Com seres humanos, a história é mais bagunçada. A pesquisa sobre esquemas em pessoas mostra que instruções verbais, expectativas e a compreensão da regra mudam o comportamento de um jeito que o pombo não tem como mudar. Uma pessoa que sabe que a máquina é aleatória e uma que acredita que ela está esquentando se comportam diferente, mesmo diante de um esquema idêntico. Então a leitura correta é esta: os esquemas descrevem uma tendência real e útil, mas o jogador humano é um pombo com opiniões, e as opiniões também fazem parte do mecanismo, como veremos na seção sobre ilusão de controle. Tratar o ser humano como um pombo grande é a caricatura que Skinner recebeu em vida e que parte da divulgação sobre design viciante repete.

Extinção: o jogador que não desiste ​

Existe um fenômeno que Skinner e seus alunos documentaram com precisão e que é, talvez, o mais importante para entender por que a razão variável prende: a resistência à extinção. Extinção, em psicologia do comportamento, é o que acontece quando o reforço para de vir. O pombo bica o disco e a comida não aparece mais. O que se observa é que a taxa de bicadas cai com o tempo até quase desaparecer. A pergunta prática é quanto tempo isso leva.

A resposta depende do esquema que vigorava antes. Um pombo treinado com reforço contínuo, em que cada bicada recebia comida, desiste rápido quando a comida deixa de vir. A mudança é óbvia: antes, toda bicada pagava; agora nenhuma paga. Já um pombo treinado em razão variável persiste muito mais. A mudança para ele é difícil de detectar, porque já estava acostumado a longas sequências sem prêmio. Para o animal, silêncio total e uma sequência ruim de sorte têm a mesma aparência por muito tempo. Esse resultado, chamado pelos psicólogos de efeito da resistência à extinção após reforço parcial, é um dos mais robustos da área e vale para muitas espécies, humanos incluídos em condições adequadas.

Traduzido para o cassino, a lição é cruel e simples. Uma máquina que paga de vez em quando treina um jogador que não sabe distinguir "ela parou de pagar" de "ela está em um momento ruim". Esse jogador tem a crença, nunca falsificável por uma única sessão, de que a próxima rodada pode ser a boa. A máquina de razão variável não precisa convencer ninguém de nada. Basta que o histórico de reforço do jogador deixe a ausência de prêmio ter a cara do normal.

Há uma consequência de design que merece ser dita. Quem constrói um sistema de recompensas para reter pessoas tem a escolha entre um pagamento previsível e um imprevisível, e a escolha tem custo. O pagamento previsível gera comportamento que acaba quando o pagamento acaba, o que é bom para quem quer que a pessoa pare quando o objetivo foi cumprido, e ruim para quem quer retenção. O imprevisível gera persistência, que pode ser uma virtude, na prática de um instrumento, num esporte, num aprendizado difícil, e pode ser uma armadilha, quando o que persiste é o gasto sem retorno. Aprender uma habilidade difícil também é um esquema de reforço parcial: você tenta muitas vezes, acerta algumas, e a persistência é exatamente o que é desejável. O que separa os casos não é o mecanismo. É o que fica no fim, e quem controla a saída, o mesmo critério que o capítulo 1 usou para separar fluxo de zona.

A quase-vitória: o erro que parece quase acerto ​

Imagine que você está numa máquina de três rolos e que dois deles param no símbolo premiado, o sete, e o terceiro para um centímetro acima da linha onde o sete deveria estar. O sete está lá, visível, a uma fração de giro de distância. Você perdeu, exatamente como perderia se os três rolos tivessem parado em símbolos sem nenhuma relação. Do ponto de vista financeiro e estatístico, não existe diferença. Do ponto de vista de quem está sentado, existe e é grande. A sensação não é de derrota: é de quase. A isso a literatura dá o nome de near-miss, em português, quase-vitória, ou quase-acerto.

A ideia de que a quase-vitória pode manter o comportamento de jogar tem uma data de nascimento na literatura de psicologia do jogo: um artigo de R. L. Reid, da Universidade de Exeter, publicado em 1986 no Journal of Gambling Behavior, com o título The psychology of the near miss. Reid começa com uma observação: muita gente supõe que a quase-vitória estimula a jogar de novo, ainda que, em jogos de azar, a probabilidade de ganhar seja a mesma em cada tentativa. Ele aponta que sistemas comerciais, como loterias instantâneas e caça-níqueis, parecem desenhados para produzir mais quase-vitórias do que o acaso produziria. E levanta uma hipótese comportamental: a quase-vitória pode ter, em alguma medida, o mesmo efeito de condicionamento que o sucesso. É um artigo teórico e de argumentação, não um experimento que prove tudo isso, e a literatura posterior o trata como ponto de partida.

Passaram-se mais de duas décadas até que alguém colocasse a pergunta no scanner. Em 2009, Luke Clark, Andrew Lawrence, Frances Astley-Jones e Nicola Gray publicaram na revista Neuron o estudo Gambling near-misses enhance motivation to gamble and recruit win-related brain circuitry. O desenho era uma tarefa simplificada de caça-níquel, aplicada a quarenta voluntários saudáveis no experimento comportamental e, em outra etapa, a participantes que jogavam dentro de um aparelho de ressonância magnética. Em parte das tentativas, o símbolo premiado parava uma posição antes da linha: a quase-vitória. O que os autores encontraram foi, ao mesmo tempo, intuitivo e estranho. As pessoas diziam que a quase-vitória era menos agradável que uma derrota completa. E também diziam que ela aumentava a vontade de continuar jogando. O desagradável e o motivador, juntos. No cérebro, a quase-vitória ativava regiões ligadas à recompensa, como o estriado ventral, que também responde a ganhos, embora a pessoa tivesse perdido. E a resposta da ínsula, uma região associada a sensações corporais e à percepção de risco, acompanhava a vontade declarada de jogar e também a medida de propensão ao jogo medida por questionário.

Um detalhe do resultado merece atenção, porque desmonta a ideia simplista de que quase-vitória é só um truque de ilusão visual. O efeito motivacional apareceu quando o participante tinha controle sobre a jogada, quando escolhia onde o jogo ia parar, e não nas tentativas em que o computador decidia por ele. A quase-vitória parece funcionar melhor quando a pessoa sente que errou por pouco, e não que a máquina errou por ela. Uma quase-vitória sem o sentimento de habilidade perde parte da força. Isso será útil quando chegarmos à ilusão de controle e ao botão de parar.

O próprio artigo de Clark e colegas lembra um resultado anterior: a frequência de quase-vitórias influencia a persistência de forma curva, com um pico em algo como trinta por cento das tentativas e queda depois disso. É a lógica de qualquer tempero: pouco, e não se nota; demais, e o jogador percebe que a máquina está lhe vendendo sempre o mesmo susto. Quem desenha a máquina quer o ponto doce.

Agora o que não se pode concluir. Os participantes eram voluntários saudáveis em laboratório, jogando com dinheiro pequeno numa tarefa simplificada, não pessoas com transtorno do jogo em um cassino. A relação entre a resposta da ínsula e a propensão a jogar é uma correlação. E há uma literatura contrária ou nuançada: alguns experimentos não encontram aumento de persistência em todas as condições, e revisões mais recentes tratam o efeito como real em laboratório e de magnitude incerta no mundo. Dizer que a quase-vitória faz o jogador de máquina continuar jogando é compatível com as evidências. Dizer que ela é a causa do jogo problemático não é.

Fora da tela: a raspadinha ​

A quase-vitória não nasceu no caça-níquel. Reid já apontava as loterias instantâneas, e o produto que todo brasileiro reconhece é a raspadinha. A cartela de três símbolos iguais que paga prêmio mostra, em boa parte das perdas, dois símbolos premiados e um diferente. A pessoa raspa, vê duas figuras iguais, a terceira diferente, e a leitura imediata é de que faltou pouco. Não sei, e não vou afirmar, quanto de cada lote de uma loteria brasileira é desenhado para isso, porque a distribuição dos bilhetes é informação do operador. O que o argumento de Reid e a lógica do produto permitem dizer é que, se ela é desenhada para ter muitas quase-vitórias, o custo para quem imprime é zero: o bilhete que perde custa o mesmo que o bilhete que perde por pouco.

Essa é a propriedade econômica que torna a quase-vitória tão atraente para quem desenha. Ela é um reforço de graça. A vitória de verdade custa dinheiro: cada real pago é um real que sai do caixa. A quase-vitória custa nada, e em alguns casos o que ela dá ao jogador, uma sensação de progresso e de proximidade, tem efeito semelhante ao do prêmio. É a diferença entre um brinde caro e um brinde que se fabrica na hora.

Do outro lado: quem sente a quase-vitória como convite ​

Uma coisa que os estudos de Clark sugerem, e que os relatos de jogadores problemáticos confirmam em linguagem comum, é que as pessoas não reagem todas do mesmo jeito. A resposta ligada ao desejo de jogar acompanhava a propensão ao jogo medida por questionário. Isso não significa que quem tem essa propensão seja fraco ou ingênuo. Significa que o mesmo estímulo, o símbolo que para uma posição antes, é um incômodo passageiro para uma pessoa e um convite insistente para outra. E o produto não escolhe: mostra a quase-vitória a todos, e quem responde mais é quem mais perde. Esse padrão, de um desenho neutro na aparência que cobra mais de quem é mais sensível, vai reaparecer no capítulo 15, quando o livro olhar para quem sustenta a receita.

Perdas disfarçadas de vitória ​

Em 2010, a revista Addiction publicou um artigo que mede um fenômeno que a indústria sempre conheceu e a pesquisa demorou a registrar. Mike Dixon, Kevin Harrigan, Rajwant Sandhu, Karen Collins e Jonathan Fugelsang, pesquisadores canadenses, publicaram Losses disguised as wins in modern multi-line video slot machines, em português, perdas disfarçadas de vitória em máquinas modernas de vídeo com várias linhas.

O fenômeno funciona assim. Nas máquinas antigas de uma linha, você apostava uma moeda e ganhava ou perdia. Nas máquinas modernas de vídeo, você aposta em várias linhas ao mesmo tempo, cada uma com uma fração do valor total. Se uma dessas linhas paga, a máquina anuncia vitória, com luzes e música, mesmo que o total pago seja menor que a aposta somada de todas as linhas. Imagine, num cenário ilustrativo, que você aposta R$ 2,00 distribuídos em vinte linhas, dez centavos em cada, e que uma linha paga seis vezes o que apostou nela. Você recebe R$ 0,60. A máquina toca o som de vitória, as luzes piscam, o visor mostra o prêmio. Mas você pagou R$ 2,00 e recebeu R$ 0,60: perdeu R$ 1,40. É o que a literatura chama de perda disfarçada de vitória, em inglês loss disguised as a win, abreviada LDW. O capítulo 1 já mostrou a mecânica com outro exemplo numérico, dentro da discussão sobre zona. Aqui interessa o que a pesquisa mediu.

Dixon e colegas puseram quarenta pessoas inexperientes para jogar numa máquina de várias linhas e mediram a condutância da pele e a frequência cardíaca, sinais de ativação fisiológica que não dependem do que a pessoa diz. Compararam três tipos de resultado: vitória verdadeira, perda disfarçada de vitória e perda comum. O resultado central: a ativação da pele nas perdas disfarçadas foi parecida com a das vitórias verdadeiras, e as duas foram maiores que a das perdas comuns. Os autores interpretaram que as luzes e os sons da máquina disparavam a excitação nas perdas disfarçadas, mesmo quando o valor recebido era menor que a aposta. Eles também observaram, na análise do desenho das máquinas, que as perdas disfarçadas ocorrem com frequência razoável e que essa frequência cresce à medida que o jogador aposta em mais linhas.

O que o estudo prova, e o que não prova. Prova que o corpo de pessoas sem experiência reagiu à perda disfarçada como a uma vitória, o que sugere que a pessoa pode classificar mal o resultado. Não prova que jogadores experientes sejam enganados da mesma forma, porque eles podem aprender a distinguir, e a literatura posterior discute isso com resultados mistos. Não prova que a perda disfarçada leve a jogar mais, porque o estudo mediu a reação do corpo e não a duração do jogo. É uma medida de mecanismo, não de efeito sobre o comportamento. A conclusão que o texto de Dixon permite, e que repito com esse limite, é que a máquina de várias linhas tem um canal por onde a perda é vestida de ganho, e que esse canal ativa o corpo.

Para o argumento do livro, a perda disfarçada mostra uma coisa em particular. O reforço não precisa de dinheiro. A luz, o som e a mensagem de parabéns são o reforço, e o dinheiro, quando existe, vem junto como pretexto. Quando a máquina paga trinta centavos por uma aposta de dois reais e festeja, o que ela está reforçando é o ato de apostar. Isso conecta com a seção seguinte.

Som e luz: o reforço que não paga nada ​

Skinner distinguia reforçadores primários, aqueles de que o organismo precisa por natureza, como comida, e reforçadores condicionados, estímulos que ganharam poder de reforço por terem sido associados a um primário. O exemplo clássico: um som que sempre precede a comida passa, com o tempo, a funcionar como recompensa em si, e o animal passa a trabalhar para ouvi-lo. A ficha de pôquer, o cartão de ponto, o dinheiro em si são reforçadores condicionados. Ninguém come dinheiro.

O caça-níquel moderno é uma fábrica de reforçadores condicionados. A cada resultado, tocam sons, acendem luzes, a tela dá voltas e brilha. Nas perdas disfarçadas, o mesmo conjunto aparece em escala menor. A pesquisa de Dixon aponta que luz e som estão entre o que produz a ativação do corpo diante da perda disfarçada. A lógica do produto é simples: se o som de vitória está associado à vitória, e se o som toca também em situações que não são vitória, o som passa a reforçar o comportamento em geral. O jogador aprende a gostar da música, e a música toca com mais frequência que o dinheiro.

Há um corolário que designers conhecem bem: o som pode mudar a percepção do tempo e do ritmo. O capítulo 1 já tratou da ergonomia e do ritmo da máquina. O ponto novo é conceitual: no vocabulário de Skinner, o som é o dispositivo que permite entregar reforço sem pagar. Quanto mais barato o reforçador, mais rodadas podem ser reforçadas, e mais o produto se parece com o ideal do capítulo 1: ciclos rápidos com reforço quase contínuo, entregue sem custo.

Isso aparece fora do cassino. O pequeno som de confirmação de um aplicativo de pagamento, a animação de confete quando você completa uma tarefa, o "ping" de uma notificação. Cada um desses estímulos foi associado, por design, a algo que a pessoa quer, e depois passa a funcionar por conta própria. O mesmo mecanismo, em doses mínimas, é o que torna um aplicativo de idiomas agradável de usar. A diferença entre uma coisa e outra, de novo, é quem paga a conta: no aplicativo de idiomas, o som reforça um comportamento que a pessoa quer ter. No caça-níquel, reforça um comportamento que custa dinheiro a cada repetição.

Ilusão de controle e o botão de parar ​

Jogos de azar puro têm uma propriedade que seus jogadores raramente aceitam por inteiro: nada do que você faz altera o resultado. Mas a mente humana é uma máquina de buscar relação entre ação e consequência, e quando a ação está disponível, ela tende a atribuir poder a ela. Essa tendência tem nome desde a década de 1970: ilusão de controle.

A referência clássica é a psicóloga Ellen Langer, hoje professora em Harvard, em um artigo de 1975 no Journal of Personality and Social Psychology, intitulado The illusion of control. Em um dos experimentos mais citados, funcionários de escritórios receberam bilhetes de uma loteria de cartões com a figura de um jogador de futebol americano. Alguns escolheram o próprio bilhete, outros receberam um. Depois, foi proposto a todos vender o bilhete. Quem tinha escolhido pediu um preço médio em torno de oito dólares e sessenta e sete centavos. Quem tinha recebido pediu cerca de um dólar e noventa e seis. O bilhete era idêntico e a chance de ganhar também. A escolha, que não alterava nada, fez as pessoas valorizarem o bilhete mais de quatro vezes.

A literatura de ilusão de controle cresceu muito desde então, e o resultado de Langer foi contestado. Em 2021, Klusowski, Small e Simmons argumentaram que o efeito do experimento original pode não ser ilusão de controle, e sim preferência: quem escolheu o bilhete escolheu o que lhe agradava, e pode ter simplesmente achado seu bilhete melhor. Os mesmos autores relataram réplicas conceituais, com mais de dez mil participantes ao todo, que não encontraram o efeito de escolha. Isso não derruba a ilusão de controle como categoria, que tem outras evidências, mas corrige o uso preguiçoso do resultado de Langer como prova de que escolher faz o azar parecer habilidade. O estudo mais citado do campo é mais frágil do que o mundo da divulgação costuma dizer.

Existe um achado antigo, menos citado, que ilustra o mesmo fenômeno no mundo físico. O sociólogo James Henslin, em um artigo de 1967 no American Journal of Sociology, estudou jogadores de dados e relatou que eles tendiam a lançar suavemente quando queriam números baixos e com força quando queriam números altos, como se a força do arremesso mandasse no resultado. É observação de campo e não experimento, mas diz uma coisa que os designers sabem de cor: se você der à pessoa algo para fazer com as mãos, ela vai acreditar que aquilo importa.

Na tela: o botão de parar ​

O caça-níquel mecânico clássico tinha uma alavanca. A alavanca dava ao jogador um gesto de início, mas o gesto não influenciava o resultado, que era determinado pela posição dos rolos no instante do impulso. As máquinas eletrônicas substituíram a alavanca por um botão e, em alguns modelos, introduziram um botão que permite parar os rolos individualmente, o chamado botão de parar. A impressão de quem aperta é de habilidade: você escolhe o instante em que o rolo congela, como se tivesse domínio sobre o tempo. O fato técnico, conforme descrito em qualquer explicação de como funcionam as máquinas modernas, é que o resultado de uma jogada em uma máquina com gerador de números aleatórios já está decidido no momento em que o jogo começa. O botão de parar encurta a animação. Não muda o que a máquina vai mostrar.

A combinação com o que vimos antes é onde o desenho fica elegante. Lembre que o estudo de Clark encontrou efeito motivacional da quase-vitória sobretudo quando o participante tinha controle sobre a jogada. O botão de parar fabrica exatamente esse sentimento. Se o rolo para um centímetro antes do sete e foi você quem apertou, a leitura mais natural é "eu errei o tempo". O erro é seu, a correção é possível, a próxima vez será melhor. Em outras palavras, o controle ilusório converte uma quase-vitória aleatória em uma quase-vitória pessoal, e quase-vitórias pessoais são as que mais convidam a repetir. Essa é uma inferência minha, juntando duas peças de evidência, não um resultado comprovado em conjunto.

O mesmo princípio aparece em produtos que não são jogo de azar: a escolha de qual caixa abrir num jogo, o momento de tocar na tela para "girar" uma roleta de brindes, o instante em que se solta o dedo num raspa-raspa digital. O gesto dá ao usuário a sensação de autoria sobre um resultado que o servidor já decidiu. Quem constrói produtos honestos também usa o princípio, e isso é legítimo: dar controle real e reforçar a sensação de que o usuário está no comando é bom design. O problema surge quando o controle é falso e a consequência é financeira.

O rolo virtual: como a quase-vitória virou fabricável ​

Até aqui, a quase-vitória apareceu como um fenômeno psicológico. A engenharia entra com uma patente. Em 15 de maio de 1984, o escritório de patentes dos Estados Unidos concedeu a patente de número 4.448.419 a Inge Telnaes, com o título, em tradução livre, de dispositivo eletrônico de jogo que usa um gerador de números aleatórios para selecionar as posições de parada dos rolos. A descrição que consegui verificar, inclusive em uma decisão judicial americana sobre disputa de patentes entre fabricantes, resume a invenção como uma máquina que diminui a probabilidade de ganhar mantendo a aparência externa de um caça-níquel mecânico tradicional. As máquinas desse tipo passaram a ser chamadas de máquinas de rolo virtual.

Para entender o que isso muda, é preciso lembrar como funcionava um caça-níquel mecânico. Cada rolo tinha um número finito de posições, digamos vinte e duas, cada uma com um símbolo ou um espaço vazio. A probabilidade de o sete parar na linha de pagamento era um sobre vinte e dois, por rolo, se cada posição tivesse a mesma chance. A máquina era honesta de um jeito bruto: o que você via era o que existia. Se o sete aparecia acima da linha, a chance de ele aparecer acima da linha era a mesma de ele aparecer na linha, e ambas dependiam do número de posições físicas do rolo.

O rolo virtual separa o que você vê do que o computador sorteia. Dentro da máquina existe uma tabela maior, o rolo virtual, com, por exemplo, duzentas e cinquenta e seis posições. O gerador de números aleatórios sorteia uma posição virtual e uma tabela mapeia essa posição virtual para uma posição física do rolo, aquela que o motor vai mostrar. O ponto crucial é que o mapeamento não precisa ser uniforme. Muitas posições virtuais podem apontar para o mesmo espaço vazio ou para a posição imediatamente ao lado do símbolo premiado, e uma única posição virtual pode apontar para o próprio símbolo premiado. A máquina continua com rolos que giram e param com ruído, e a aparência é de roleta mecânica. Mas as probabilidades foram transferidas para dentro do software, e o designer pode moldá-las.

Cenário ilustrativo: um sete que quase sempre aparece, quase nunca paga ​

Vamos fazer a conta com números inventados, mas que fecham. Suponha uma máquina de três rolos cujo prêmio máximo exige o sete nos três rolos, na linha de pagamento. Em uma máquina mecânica honesta com vinte e dois pontos de parada por rolo, a chance do sete em um rolo é de um sobre vinte e dois, e nos três é de um sobre vinte e dois ao cubo, ou seja, um sobre dez mil seiscentos e quarenta e oito. Agora imagine uma máquina de rolo virtual com duzentas e cinquenta e seis posições virtuais por rolo, em que apenas uma delas leva o sete à linha de pagamento. A chance do prêmio máximo cai para um sobre duzentos e cinquenta e seis ao cubo, que é um sobre dezesseis milhões setecentos e setenta e sete mil duzentos e dezesseis. O prêmio ficou mais de mil e quinhentas vezes mais raro. E o jogador, olhando os rolos, não tem como saber.

Agora o desenho da quase-vitória. Suponha que as posições físicas imediatamente antes e depois do sete, aquelas que o deixam à vista logo acima ou logo abaixo da linha, recebam vinte posições virtuais cada. A chance de, em um dado rolo, o sete aparecer a uma posição da linha é de quarenta em duzentos e cinquenta e seis, ou cerca de quinze vírgula seis por cento. A chance de ele aparecer exatamente sobre a linha é de um em duzentos e cinquenta e seis, cerca de zero vírgula quatro por cento. Ou seja, no rolo virtual deste exemplo, o sete aparece quase em cima da linha quarenta vezes mais do que em cima dela. No rolo mecânico honesto, essa razão seria de dois para um: duas posições vizinhas contra uma central. A máquina de rolo virtual pode então mostrar dois sete na linha e o terceiro sete a uma posição de distância com uma frequência que não tem relação com a probabilidade verdadeira do prêmio. Nesse exemplo, a combinação "dois sete na linha e um quase" aparece cerca de uma vez em quatrocentos e vinte mil giros, e o prêmio verdadeiro, uma vez em dezesseis milhões. A quase-vitória está quarenta vezes mais presente que a vitória, e a diferença foi fabricada em software.

Repito: os números acima são ilustrativos, escolhidos para a conta ser fácil, e não descrevem nenhuma máquina real. O que eles mostram é o princípio. O rolo virtual dá ao projetista uma alavanca para ajustar a frequência com que o prêmio máximo aparece quase na linha, independentemente da frequência com que ele paga. A quase-vitória, que Reid tinha identificado como algo que as máquinas pareciam ter em excesso, passa a ser um parâmetro.

A resposta regulatória, e o que não consegui confirmar ​

A pergunta natural é o que os reguladores fizeram. Aqui o chão fica menos firme, e prefiro dizer o que as fontes sustentam e o que não. Pesquisas acadêmicas sobre a regulação de Nevada, o estado americano onde o jogo é mais regulado e imitado, afirmam que a Junta de Controle de Jogos aprovou os rolos virtuais em 1983, depois de audiências em que fabricantes maiores levantaram objeções. Essas fontes dizem também que em 1988 e 1989 houve um episódio em que a Comissão de Jogos de Nevada considerou inaceitável o algoritmo próprio de um fabricante que produzia muitas quase-vitórias sobre a linha de pagamento, mas que o mapeamento virtual que gera quase-vitórias acima e abaixo da linha seguiu permitido e se tornou padrão. Por serem relatos de segunda mão, de pesquisadores e não das atas originais, os detalhes de datas, nomes e fundamentos ficam registrados como pendentes de verificação, e a frase que posso sustentar é mais curta: pelo que consegui conferir, a quase-vitória fabricada por rolo virtual não foi proibida no mercado americano de caça-níqueis, e a regulação se concentrou em outras formas de enganar o jogador. Quem for usar esse ponto para argumentar, em artigo ou em processo, precisa ir às atas.

O que a história mostra, mesmo com essa cautela, é um padrão que reaparece em outros capítulos: a tecnologia de desenho avança mais depressa que a regra, e quando a regra chega costuma proibir a versão mais descarada e deixar a versão elegante. A engenharia do rolo virtual é um caso de livro de como se fabrica um estímulo psicológico dentro dos limites formais da lei.

Puxar para atualizar: a razão variável no bolso ​

Voltemos ao Tweetie. O que acontece quando você puxa uma lista de mensagens para baixo e solta? A lista pergunta ao servidor se há algo novo. Se houver, aparecem posts novos no topo. Se não houver, a lista continua igual. Você fez um esforço pequeno e rápido, e o resultado é incerto: às vezes uma recompensa, às vezes nada. Se a probabilidade de haver novidade varia ao longo do dia, e o número de puxões entre novidades varia, o formato se parece com uma razão variável, o esquema que Ferster e Skinner associaram a taxas altas e constantes de resposta.

Por isso a comparação com a alavanca é tentadora, e tem uma parte verdadeira. Mas é preciso separar três afirmações que costumam andar juntas. A primeira: o gesto tem a estrutura de um esquema de razão variável. Isso é uma descrição, e é razoável. A segunda: gestos com essa estrutura aumentam o uso do aplicativo. Isso é plausível e, tanto quanto sei, mal medido: não conheço um experimento sólido que isole o efeito do puxar para atualizar sobre o tempo de uso. A terceira: o gesto foi desenhado para viciar. Isso as fontes públicas não sustentam. O depoimento de Brichter, o que existe, diz que a intenção não era essa, e a matéria que o resume mostra que a comparação com o caça-níquel é de quem o analisa depois. É possível criar algo que funcione como uma alavanca sem ter pensado em alavanca.

Há ainda uma limitação do próprio mecanismo, e ela é instrutiva. A razão variável só prende enquanto a recompensa existe de vez em quando. Se o feed ficasse vazio por horas, o comportamento extinguiria. Por isso os produtos que dependem desse tipo de esquema têm um interesse estrutural em garantir que sempre haja algo novo: mais contas para seguir, mais recomendações, mais notificações que lembram de voltar. O conteúdo novo não é só o produto, é o suprimento do esquema. E por isso o capítulo seguinte da história, o feed que se atualiza sozinho, pode ser visto como uma forma de remover o esforço: se o próprio aplicativo busca a novidade, o gesto some e sobra apenas o reforço. É o que o capítulo 9 vai examinar, com o scroll infinito.

Hooked, Fogg e o método que transformou isso em manual ​

Em 2014, o empreendedor e escritor Nir Eyal, com a colaboração de Ryan Hoover, publicou Hooked: How to Build Habit-Forming Products, em português algo como "Fisgado: como construir produtos que formam hábitos". O livro se tornou uma das leituras de cabeceira da cultura de startups de produto. A promessa vinha no subtítulo: ensinar a construir produtos que as pessoas usam sem que seja preciso gastar dinheiro com publicidade, porque o hábito faz o resto. O núcleo é o que Eyal chama de modelo Hooked, um ciclo de quatro etapas.

A primeira etapa é o gatilho, que pode ser externo, como uma notificação, ou interno, como o tédio, a solidão, a curiosidade. A segunda é a ação, o comportamento mais simples feito em antecipação a uma recompensa, como abrir o aplicativo, puxar a lista. A terceira é a recompensa variável, e aqui Eyal faz referência direta à tradição de Skinner: recompensas imprevisíveis, de tipo social, de caça ou de domínio, motivam mais que as previsíveis. A quarta é o investimento, em que o usuário coloca algo no produto, como dados, conteúdo, seguidores, reputação, o que aumenta o valor do produto para ele e a probabilidade de um próximo gatilho. O ciclo recomeça.

Eyal reconhece a dívida intelectual com B. J. Fogg, pesquisador de Stanford que fundou, em 1998, o laboratório que passou a se chamar Persuasive Technology Lab, dedicado ao estudo de como computadores podem mudar atitudes e comportamentos. Fogg propôs um modelo de comportamento em que uma ação acontece quando três elementos se encontram no mesmo instante: motivação suficiente, capacidade, isto é, a ação ser fácil o bastante, e um gatilho. Na formulação popular, comportamento é função de motivação, capacidade e gatilho. O modelo é útil por ser simples e testável na prática: se uma ação não acontece, ou falta motivação, ou está difícil demais, ou não houve gatilho no momento certo. A notificação é o gatilho, o botão grande é a capacidade, a curiosidade é a motivação. Eyal emprestou a palavra gatilho e a lógica do modelo de Fogg e acrescentou o componente de reforço variável, vindo de Skinner, e o de investimento.

O que o modelo tem de bom ​

Seria desonesto tratar o modelo Hooked como vilão. Ele descreve, em linguagem acessível, coisas que equipes de produto já faziam sem nomear. Pedir ao usuário um investimento pequeno que melhora a experiência futura, como montar uma lista de contatos ou configurar preferências, é razoável. Entender que um hábito começa com um gatilho e uma ação fácil é útil para construir produtos que as pessoas de fato querem usar, de um aplicativo de meditação a um serviço de saúde. Eyal costuma defender que o método serve para formar hábitos bons, e há quem o aplique assim. Em livros posteriores, como Indistractable, de 2019, ele passou a escrever também sobre como as pessoas podem se proteger da distração, o que parece uma resposta às críticas. E ele propôs um teste ético, a chamada matriz da manipulação, em que o criador pergunta se usaria o produto e se ele ajuda os usuários a melhorar de vida. Essa parte, a que pergunta quem tem a coisa a perder, é a mais aproveitável do pacote.

O que o modelo tem de frágil ​

As críticas são de três tipos. A primeira é científica. A recompensa variável é apresentada como ingrediente central, mas críticos de formação comportamental apontam que a literatura de esquemas é bem mais complexa que a versão do livro: reforço contínuo importa, especialmente no início, quando o hábito ainda não existe, e a mistura de tipos de recompensa costuma funcionar melhor que a variável isolada. Há também o problema de que muitos produtos com forte retenção não usam recompensa variável nenhuma, e a explicação deles precisa vir de outro lugar, como utilidade, rede de contatos ou conveniência. Hábito, em segundo lugar, não é compulsão, e o livro usa os dois conceitos de forma elástica: uma rotina de abrir o aplicativo de banco toda manhã é hábito, e uma tela que se abre sozinha na mão toda vez que há um minuto livre é outra coisa.

A segunda crítica é de método. O modelo é uma generalização feita a partir de exemplos de produtos bem-sucedidos escolhidos depois do fato, sem grupo de comparação. Isso é típico do gênero dos livros de negócios: o que o autor chama de explicação costuma ser uma narrativa plausível. Não é um defeito exclusivo dele, mas quem usa o modelo como se fosse ciência experimental está dando mais peso do que ele aguenta.

A terceira crítica é ética, e é a mais relevante para este livro. Resenhas do modelo observam que o objetivo declarado do desenho é criar uma compulsão no usuário, e que a discussão ética aparece separada da mecânica, em vez de integrada a ela. O leitor aprende a construir o ciclo antes de saber se deve. Quem tem algum treino em psicologia clínica sabe que o ponto de partida do desenho de produtos que formam hábito é o mesmo de qualquer técnica poderosa: a mesma ferramenta cura e machuca, e a responsabilidade pelo uso é de quem a segura. O modelo de Fogg tem um mérito nesse aspecto, o de nunca ter escondido que se tratava de tecnologia de persuasão. A pergunta que fica, para o leitor construtor, é onde o método sai do campo da ajuda e entra no da exploração, e a resposta passa, outra vez, pelo ponto de parada: o usuário sabe quando acabou, e quem decide?

Verdades desconfortáveis ​

A primeira é que o essencial dos esquemas de reforço é conhecido há quase setenta anos e é ensinado em qualquer curso de psicologia. Não há segredo sombrio por trás do caça-níquel. Há um conhecimento público e um mercado que decidiu aplicá-lo em escala, porque ele rende. Quem diz que a manipulação é sofisticada demais para ser entendida está errado, e isso é, ao mesmo tempo, bom e ruim: bom porque você pode entender, ruim porque ninguém precisa inventar nada para fazê-lo.

A segunda é que a diferença entre um esquema que prende e um que ensina é de objetivo e de custo, e não de mecanismo. A aula com avaliações imprevisíveis, o esporte em que a vitória é rara, o instrumento que exige mil repetições com poucos momentos de acerto: todos usam reforço parcial. Quem tenta proibir o mecanismo em si não entendeu o problema, e quem o defende com o argumento de que "tudo é reforço" também não.

A terceira é que a ciência da quase-vitória e da perda disfarçada de vitória é mais fraca do que a retórica sugere. São achados de laboratório, com voluntários saudáveis, a maioria jovem, que mostram reações do corpo e do cérebro. A ligação entre essas reações e o jogo problemático de pessoas reais é plausível e apoiada por relatos, mas não está provada a ponto de sustentar uma proibição sozinha. Quem a usa assim, seja um regulador, seja um advogado, vai ouvir objeções razoáveis.

A quarta é que o mundo digital herdou os mecanismos sem herdar as regras. O caça-níquel está sob licença, auditoria e limite de idade. O feed que usa estrutura semelhante, em boa parte do mundo, não está. Uma criança de dez anos puxando uma tela para atualizar não encontra um funcionário do cassino na porta. Isso não prova que o feed seja tão danoso quanto o caça-níquel, porque a evidência de dano é muito mais forte no segundo. Prova que a assimetria de regras não corresponde a uma assimetria de conhecimento.

Para quem constrói ​

Esquemas de reforço não são proibidos nem malignos, mas pedem perguntas. Um checklist curto:

  • Identifique o esquema do seu produto. Para cada recompensa (curtida, ponto, item, mensagem), anote o que a libera: número de ações ou tempo, e se é fixo ou variável.
  • Pergunte o que o esquema reforça: a tarefa que a pessoa quer cumprir ou o simples ato de voltar e repetir.
  • Procure reforço sem valor real. Sons, luzes e mensagens de parabéns em situações em que o usuário não ganhou nada concreto são o equivalente da perda disfarçada de vitória.
  • Dê controle verdadeiro, não decorativo. Um botão que parece mudar o resultado mas não muda, quando há dinheiro envolvido, é risco jurídico e reputacional.
  • Se algo é fabricado para parecer quase-acerto, pergunte quem ganha com a impressão de proximidade.
  • Mantenha ponto de parada. Depois da recompensa, ofereça um fim natural que o usuário possa reconhecer.
  • Métricas que denunciam: sessões muito longas à noite, repetição de ação sem entrega de valor, receita concentrada em poucos usuários que repetem a mesma ação centenas de vezes, queda de satisfação declarada quando o uso sobe.

Para quem se defende ​

  • Pergunte, diante de qualquer produto que o prende: o que me faz voltar, o prêmio ou a regra? Se a resposta é a regra, desconfie.
  • Quase ganhar é perder. Quando a tela diz que faltou pouco, lembre que o resultado foi o mesmo de uma derrota completa e que o sistema não aprende nada com a sua proximidade.
  • Perca de verdade antes de comemorar. Se a máquina festeja, olhe o saldo, não a música.
  • Botão que dá sensação de controle em jogo de azar não dá controle. Desconfie especialmente de quem diz que existe técnica para parar no momento certo.
  • Reduza o esforço de sair, não o de entrar: desligue notificações de recompensa, remova atalhos, deixe o aplicativo de jogo longe da tela inicial.
  • Em casa, converse sobre a regra do jogo e não sobre o tempo de tela. Um filho que entende que a caixa de recompensa é um sorteio com probabilidades escondidas defende-se melhor que um que só ouviu "para de jogar".
  • Se você ou alguém próximo sente que não consegue parar de apostar, procure ajuda. No Brasil, o CVV atende no 188 e os Centros de Atenção Psicossocial, os CAPS, oferecem atendimento gratuito pelo SUS.

Exercícios ​

  1. Escolha três produtos que você usa toda semana (um aplicativo, um jogo ou rede e um serviço físico, como um cartão de fidelidade). Para cada recompensa, classifique o esquema entre os quatro estudados e escreva em um parágrafo qual é o ponto de parada de cada um. Entrega: uma página com a tabela e os três parágrafos.
  2. Calcule um rolo virtual seu. Invente uma máquina de três rolos com cem posições virtuais por rolo, escolha quantas posições virtuais levam o símbolo premiado à linha e quantas o deixam à vista a uma posição dela, e calcule a chance do prêmio e a frequência de dois símbolos na linha mais um quase. Entrega: as contas, por extenso, e uma frase dizendo quantas vezes mais frequente é a quase-vitória que a vitória.
  3. Passe um dia contando quantas vezes você puxa uma lista para atualizar, abre um aplicativo sem gatilho externo ou confere notificações. Anote em quantas houve algo novo. Entrega: a proporção e um parágrafo dizendo se o seu padrão de comportamento corresponde a uma razão variável.
  4. Leia o artigo de Dixon e colegas de 2010 ou o resumo dele e escreva meia página explicando a um colega sem formação em psicologia por que uma perda disfarçada de vitória é diferente de uma derrota comum, citando o que o estudo mediu e o que não mediu.
  5. Pegue um produto que você constrói ou conhece e escreva uma crítica de uma página ao modelo Hooked aplicado a ele, respondendo: o hábito é o que o usuário quer ter, e como saberíamos?

Prompt de estudo ​

Atue como um psicólogo experimental e me ajude a estudar esquemas de reforço. Explique as diferenças de comportamento entre razão fixa, intervalo fixo, razão variável e intervalo variável em animais e em humanos, indicando o que está bem estabelecido e o que é contestado. Depois proponha três hipóteses testáveis sobre o efeito do gesto de puxar para atualizar no tempo de uso de um aplicativo, com o desenho do experimento, a métrica, o tamanho de amostra aproximado e os riscos éticos. Diga quando você não tiver certeza e não invente referências.

Seja um advogado de defesa e um promotor, nessa ordem. Sobre a prática de máquinas de rolo virtual produzirem quase-vitórias com frequência muito maior que a probabilidade do prêmio, monte o melhor argumento de cada lado, citando apenas estudos que você tenha certeza de que existem, e marque o que dependeria de prova que não temos.

Fontes e leituras ​

Livros e artigos de base:

  • Skinner, B. F. The Behavior of Organisms (1938).
  • Ferster, C. B.; Skinner, B. F. Schedules of Reinforcement (1957).
  • Reid, R. L. The psychology of the near miss. Journal of Gambling Behavior, 2, 32–39 (1986).
  • Langer, E. J. The illusion of control. Journal of Personality and Social Psychology, 32, 311–328 (1975).
  • Klusowski, J.; Small, D. A.; Simmons, J. P. Does choice cause an illusion of control? (2021).
  • Henslin, J. M. Craps and magic. American Journal of Sociology, 73 (1967).
  • Clark, L.; Lawrence, A. J.; Astley-Jones, F.; Gray, N. Gambling near-misses enhance motivation to gamble and recruit win-related brain circuitry. Neuron, 61(3), 481–490 (2009). Acesso aberto no PubMed Central.
  • Dixon, M. J.; Harrigan, K. A.; Sandhu, R.; Collins, K.; Fugelsang, J. A. Losses disguised as wins in modern multi-line video slot machines. Addiction, 105(10), 1819–1824 (2010).
  • Telnaes, I. S. Electronic gaming device utilizing a random number generator for selecting the reel stop positions. Patente americana 4.448.419, concedida em 15 de maio de 1984.
  • Eyal, N. (com Hoover, R.). Hooked: How to Build Habit-Forming Products (2014); Indistractable (2019).
  • Fogg, B. J. Persuasive Technology: Using Computers to Change What We Think and Do (2003); A behavior model for persuasive design (2009).
  • Lewis, P. Our minds can be hijacked: the tech insiders who fear a smartphone dystopia. The Guardian, 5 de outubro de 2017; e o resumo de Catherine Cusick no Longreads (10 de outubro de 2017).
  • Schüll, N. D. Addiction by Design (2012), para o contexto dos capítulos 1 e 3.

Estado até outubro de 2026. A parte regulatória de Nevada vem de pesquisas acadêmicas secundárias e deve ser conferida nas atas originais antes de ser citada.