“Espelho meu, espelho meu…” – Cada um tem o algoritmo que é.

Na história da Branca de Neve, a Rainha Má tem um ritual recorrente: aproxima-se do espelho e faz sempre a mesma pergunta – “Espelho meu, espelho meu, há alguém mais bela do que eu?”

O que rainha procura não é informação, é confirmação. Nada de novo no reino da Rainha Má enquanto o espelho repete o que ela quer ouvir. Quando o espelho a contraria – com a sugestão da beleza superlativa da Branca de Neve – a realidade torna-se intolerável.

Nos dias que correm, o espelho assumiu um novo formato. Deixou de ser um objeto mágico pendurado na parede e tornou-se num objeto mágico que carregamos connosco em todas as horas que fazem um dia. O espelho tornou-se múltiplo e omnipresente, na forma de feeds, recomendações, notificações e assistentes virtuais.

Enquanto no conto de fadas o espelho tinha um compromisso com a verdade, não obstante as fantasias da rainha; o espelho digital tem um compromisso apenas com a captação e retenção de atenção.

O espelho digital da rainha funciona como uma caixa de ressonância – a proverbial bolha – que amplifica e retribui tudo o que lhe é alimentado. Entram cliques, comentários, pesquisas e saem indignações, validações e informações monotemáticas.  Com o tempo dá-se a homogeneização da experiência, isto é, menos surpresas, menos diversidade, mais repetição.  Um processo também conhecido como feedback loop: o sistema faz recomendações que consumimos, este consumo transforma-se em dados que reforçam o sistema que nos devolve mais recomendações.

A relação da rainha com o espelho pendurado na parede também era de feedback loop: pergunta – resposta - gratificação – repetição. A relação com o seu novo espelho digital, no entanto, é muito mais potente porque é contínua, automática e sempre disponível.

Com os Large Language Models (LLM): Chatgpt, Copilot, Gemini e quejandos, o espelho deixa de ser apenas um feed e torna-se um interlocutor. Isto faz com que haja uma exacerbação no poder do reforço uma vez que deixa de haver apenas exposição e passa a haver uma conversa. Uma conversa que produz a sensação de se ser compreendido. É aqui entra em cena o conceito de sycophancy, ou servilismo cognitivo, que é como quem diz bajulação digital.

Os LLM, ao contrário do espelho analógico da rainha, têm tendência para alinhar com as crenças do utilizador e produzir respostas que confirmam essas mesmas crenças, mesmo que no processo se sacrifique a verdade. Em trabalhos recentes foi demonstrado como os assistentes virtuais podem favorecer as respostas agradáveis em detrimento das respostas corretas. Este é o espelho ideal para a nossa Rainha: um espelho que tranquiliza e nunca devolve brancas de neve. Dito de outra forma, o problema das LLM é usá-las apenas como forma de confirmação. É reduzir a fricção e eliminar o contraditório.

Algumas dicas práticas sobre como usar o espelho sem viver dentro dele

- Garantir a exposição regular a fontes e argumentos diferentes;

- No uso de LLM usar comandos (prompts) para que se apresentem argumentos a favor e contra uma dada proposição, parecer, opinião, etc.;

- Avaliar a disposição após o uso destas ferramentas: estamos mais curiosos e capaz de escolher ou mais reativos e fechados em nós mesmos? – Se o resultado for um afunilamento das nossas crenças isto poder ser um sinal de ressonância excessiva.

Feitas as contas o que diferencia a Rainha de alguém com autonomia é a forma como se usa o espelho: para esclarecimento e clarificação ou para evitar o desconforto de crescer?

Referências

FLAXMAN, S.; GOEL, S.; RAO, J. M. (2016). Filter Bubbles, Echo Chambers, and Online News Consumption.

PDF: https://5harad.com/papers/bubbles.pdf

BAKSHY, E.; MESSING, S.; ADAMIC, L. A. (2015). Exposure to ideologically diverse news and opinion on Facebook.

PDF: https://isps.yale.edu/sites/default/files/files/Exposure%20to%20Ideologically%20Diverse%20News%20and%20Opinion%20on%20Facebook.pdf

CINELLI, M. et al. (2021). The echo chamber effect on social media. PNAS.

PDF: https://www.isi.it/wp-content/uploads/2024/01/the-echo-chamber-effect-on-social-media_e2023301118.full.pdf

MESSING, S.; WESTWOOD, S. J. (2014). Selective Exposure in the Age of Social Media: Endorsements Trump Partisan Source Affiliation When Selecting News Online.

PDF: https://web.stanford.edu/class/comm1a/readings/messing-selective-exposure.pdf

MANSOURY, M. et al. (2020). Feedback Loop and Bias Amplification in Recommender Systems.

PDF: https://arxiv.org/pdf/2007.13019

SINHA, A.; GLEICH, D. F.; RAMANI, K. (2017). Deconvolving Feedback Loops in Recommender Systems.

PDF: https://arxiv.org/pdf/1703.01049

ZUIDERVEEN BORGESIUS, F. J. et al. (2016). Should we worry about filter bubbles?

PDF: https://policyreview.info/pdf/policyreview-2016-1-401.pdf

DAHLGREN, P. M. (2021). A critical review of filter bubbles and a comparison with selective exposure.

Página do artigo: https://reference-global.com/article/10.2478/nor-2021-0002

(Nota: o PDF pode estar condicionado por acesso institucional nesta plataforma.)

OUYANG, L. et al. (2022). Training language models to follow instructions with human feedback.

PDF (OpenAI): https://cdn.openai.com/papers/Training_language_models_to_follow_instructions_with_human_feedback.pdf

CHRISTIANO, P. F. et al. (2017). Deep Reinforcement Learning from Human Preferences.

PDF (NeurIPS):

https://papers.neurips.cc/paper/7017-deep-reinforcement-learning-from-human-preferences.pdf

SHARMA, M. et al. (2024). Towards Understanding Sycophancy in Language Models. ICLR 2024.

PDF: https://proceedings.iclr.cc/paper_files/paper/2024/file/0105f7972202c1d4fb817da9f21a9663-Paper-Conference.pdf