Conteúdo atualizado há 4 anos
É minha gente, a tecnologia é muito maravilhosa, mas também pode se tornar um pesadelo! Um exemplo recente foi o chatbot mal programado da Decolar, que foi descoberto por usuários mal-intencionados e fez a empresa publicar ofensas e xingamentos.
Para quem desconhece, chatbot é uma tecnologia bastante usada para automatizar o atendimento em canais digitais (mídias sociais, e-mails, chats etc.), simulando uma conversa humana seguindo regras preestabelecido. Quando uma marca tem uma audiência muito grande e comercializa produtos, a demanda por atendimento é absurdamente alta, então vale a pena sim recorrer aos robôs para agilizar tudo. Mas, quando a configuração não é bem feita, pode gerar muita dor de cabeça.
Chatbot mal programado da Decolar.com
No dia 06 de agosto de 2020 (vale registrar pois não sei quando você está lendo esse post… hihih), alguns usuários começaram a mudar o nome de suas contas no Twitter, com palavras e frases bem estranhas, para fazer perguntas à Decolar. A coisa ficou feia! Porque o chatbot incluía o nome das pessoas nas respostas automáticas, para tentar ser mais “humano”, sabe? Olha só o que aconteceu, printei alguns exemplos:
Até ofensa ao presidente Jair Bolsonaro acabou aparecendo. E repare também no número de interações em cada um dos tweets. Além desses, tinha muitos outros, pois essa falha aconteceu durante horas, até a equipe responsável perceber e arrumar a bagunça. Tudo isso aconteceu à noite, entre 20h e 22h, o que pode ter dificultado bastante a tomada de ação, pois o horário padrão de expediente já havia encerrado.
Quando percebeu o estrago do chatbot mal programado, a Decolar.com optou por desligar o robô. Depois ele já foi reativado, mas com mensagens bem diferentes, que não citam os nomes dos usuários.
Cuidado com automações!
A lição que fica disso tudo é exatamente essa, tenha cuidado ao utilizar automações. Além de configurar tudo muito bem e acompanhar sempre para antecipar falhas, é preciso ter um plano de ação rápido e eficiente.Essa brincadeira poderia ter provocado uma crise muito maior à empresa.
Então lembre-se: não está utilizando mais alguma mídia social? Desative para evitar problemas. Vai usar tecnologia? Planeje muito bem, faça muitos testes e acompanhe sempre para não ser pego de surpresa!