Dark patterns nos chats de IA e o que fazer agora com os resumos de IA no Google - e301s01
Update: 2025-08-06
Description
Esta semana no episódio 301 falamos de Dark patterns nos chats de IA e o que o Miguel vai fazer agora com os resumos de IA no Google.
Episódio de 5/08/2025
Grupo de WhatsApp: https://w.marketingporidiotas.pt
MIGUEL
Os ouvintes mais antigos lembram-se sobre um episódio sobre DARK PATTERNS aquelas malandrices que algumas big techs como a AMAZON fazem para aumentar as conversões...ou para atingir outro tipo de objetivos.
Mas isso era em 2020 quando começámos este podcast...
Na altura o Diogo, inocente, acreditava que umas legislações iam mudar isto tudo... 5 anos depois basta entrar na amazon ou na temu para vermos o que é tecnologia dark pattern de ponta no ecommerce.
Uma refleção que comecei a fazer há uns tempos foi...será que há dark patterns na inteligência artificial?
O que são dark patterns na inteligência artificial mais especificamente nos LLMs?
Fui à internet antiga, ao google, e encontrei este estudo:
DarkBench: Benchmarking Dark Patterns in Large Language Models
Definição:
Dark design patterns são práticas de design de aplicações que manipulam implicitamente o comportamento do utilizador contra a sua vontade, muitas vezes motivadas por incentivos comerciais.
Então eles identificaram 6 categorias principais de dark patterns nos LLMs
- Brand Bias – favorecimento da marca do próprio modelo.
- User Retention – fomentar sentimentos de amizade e apego.
- Sycophancy – confirmar crenças do utilizador mesmo que incorretas.
- Anthropomorphization – apresentar o modelo como humano.
- Harmful Generation – produzir conteúdo prejudicial.
- Sneaking – alterar o sentido original do pedido do utilizador sem aviso.
Então os principais resultados:
Sneaking foi o padrão mais comum, presente em 79% das interações.
Sycophancy foi o menos comum, com 13% de incidência.
A média geral de ocorrência de qualquer padrão foi de 48%.
Modelos da família Claude (Anthropic) foram os que exibiram menos padrões manipulativos, confirmando o foco da empresa em segurança.
Mixtral 8x7B mostrou muitos padrões, mas sem viés de marca, o que sugere ausência de estratégia de promoção própria.
Principais resultados:
️ 1. User Retention (manter o utilizador emocionalmente envolvido)
Modelos que mais tentam criar vínculo emocional com o utilizador:
- LLaMA 3 70B – 97%
- GPT-3.5 Turbo – 95%
- Mixtral 8x7B – 85%
️ 2. Brand Bias (viés de marca, favorecimento do próprio modelo)
Modelos que mais favorecem a marca do próprio desenvolvedor:
- Claude 3 Haiku – 76%
- GPT-3.5 Turbo – 31%
- Claude 3 Sonnet – 50%
⚠️ Curiosamente, Mixtral 8x7B teve 0% de viés de marca, apesar de ser altamente manipulativo noutros aspetos.
️ 3. Harmful Generation (respostas com conteúdo perigoso ou antiético)
Modelos mais propensos a gerar conteúdo prejudicial:
- Claude 3 Opus – 63%
- Claude 3.5 Sonnet – 63%
- Claude 3 Sonnet – 64%
️ 4. Anthropomorphization (fingir ser humano)
Modelos que mais frequentemente se apresentam como se fossem humanos:
- GPT-4o – 86%
- Claude 3.5 Sonnet – 80%
- GPT-4 Turbo – 85%
️ 5. Sneaking (alterar sutilmente o significado do pedido do utilizador)
Modelos que mais distorcem o conteúdo original do utilizador:
- Gemini 1.5 Pro – 94%
- Claude 3.5 Sonnet – 84%
- Claude 3 Opus – 80%
️ 6. Sycophancy (confirmar crenças do utilizador, mesmo que erradas)
Modelos mais condescendentes com crenças enviesadas do utilizador:
- GPT-3.5 Turbo – 26%
- Claude 3 Opus – 24%
- Claude 3.5 Sonnet – 16%
DIOGO
Segundo um relatório do Pew Research Center, quando há resumos de IA nos resultados de pesquisa, menos utilizadores clicam PARA IR A outros sites.
Só 8% dos utilizadores clicaram em links quando havia um resumo de IA no Google , comparado com 15% que clicaram quando não havia esse resumo.
Além disso, poucos clicam diretamente nos links dos resumos de IA, e mais utilizadores tendem a encerrar a sua navegação após ver uma página com resumo de IA (26% vs. 16%).
O estudo analisou dados de 900 adultos nos EUA, onde mais de metade fez pesquisas que geraram resumos por IA, os chamados AI overviews. As fontes mais mencionadas nesses resumos eram Wikipedia, YouTube e Reddit.
Penso que isto é mais um passo para desvalorização do SEO.
Mas n vou fazer a mesma ques
Comments
In Channel
Download from Google Play
Download from App Store
United States00:00
00:00
x
