Um caso recente registrado no exterior chama a atenção para os riscos e as falhas operacionais na implementação de inteligências artificiais em estabelecimentos comerciais. A adoção de sistemas automatizados para atendimento ao cliente tem gerado debates sobre a real eficácia dessas ferramentas no suporte diário ao consumidor.
O que aconteceu
Um cliente que utilizava o sistema de autoatendimento em um restaurante no formato drive-thru conseguiu interromper o funcionamento da ferramenta digital após fazer questionamentos diretos. O episódio ocorreu quando o motorista perguntou à voz sintetizada na tela se o sistema se tratava de uma inteligência artificial e, na sequência, exigiu a aplicação de um desconto de 50 por cento no pedido.
Diante da solicitação fora do padrão programado, o sistema entrou em colapso momentâneo e permaneceu em silêncio por aproximadamente trinta segundos. Sem obter retorno da máquina, o consumidor precisou chamar novamente até que uma funcionária humana assumisse o atendimento para concluir o pedido na janela de retirada.
A gravação da interação rapidamente alcançou grande repercussão internacional, acumulando mais de vinte milhões de visualizações e milhares de comentários de usuários divididos sobre a substituição de equipes humanas por softwares de atendimento.
