Opinião: o caso do chatbot da Air Canada não precisava de julgamento

Conforme relatado em 17 de fevereiro, o chatbot de inteligência artificial (IA) da Air Canada apresentou por engano informações falsas a um cliente. Isto levou o viajante a reservar um bilhete sob a falsa suposição de que o reembolso seria possível dadas as circunstâncias. Quando a Air Canada negou o pedido e, em vez disso, ofereceu um voucher de voo para viagens futuras, o cliente recusou e, em vez disso, apresentou uma reclamação de pequenas causas no Tribunal de Resolução Civil (CRT) da Colúmbia Britânica (BC) (Canadá).

A companhia aérea defendeu-se em tribunal, afirmando que não poderia ser responsabilizada pelas informações fornecidas por um chatbot. É estranho que uma companhia aérea tome tal posição, considerando que as transportadoras de todo o mundo assumem mesmo a responsabilidade pelos produtos e serviços fornecidos por entidades externas.

O julgamento e o veredicto

Depois que Jake Moffat perguntou sobre as taxas de luto, a ferramenta de atendimento ao cliente de IA que representa a Air Canada respondeu com o seguinte:

Esta orientação revelou-se imprecisa e não alinhada com a política real da Air Canada.

Foto: Air Canadá

Moffatt discutiu com a companhia aérea durante meses, insistindo que lhe era devido um reembolso devido às instruções fornecidas pelo chatbot. Depois de recusar a oferta inicial da Air Canada de um voucher de voo de US$ 200 e a promessa de atualizar o chatbot, Moffatt entrou com uma reclamação de pequenas causas no Tribunal de Resolução Civil de BC.

O tribunal apoiou Moffatt, decidindo que a Air Canada deveria emitir o reembolso descrito pelo chatbot. Também foi decidido que a Air Canada teria que pagar danos adicionais e custas judiciais.

A ousada defesa da Air Canada

A equipe jurídica da Air Canada parece ter tomado uma atitude muito ousada na tentativa de se defender e economizar algumas centenas de dólares para a empresa. A companhia aérea argumentou que Moffatt nunca deveria ter confiado no chatbot, dizendo que não deveria ser responsável pelas informações enganosas. Argumentou também que o cliente deveria ter verificado novamente as informações com a parte do seu site que descreve a política tarifária de luto, que continha a orientação correta.

Conforme relatado porO Sol de Vancouver, o membro do Tribunal, Christopher Rivers, resumiu as razões da decisão e, ao fazê-lo, explicou a posição da companhia aérea, dizendo:

Foto: Vincenzo Pace | Voo Simples

Rivers também observou que “não há razão para que o Sr. Moffatt saiba que uma seção da página da Air Canada é precisa e outra não”.

Leitura recomendada:Air Canada pagará indenização ao passageiro que foi enganado pelo chatbot

Ao examinar os argumentos apresentados neste caso, parece bastante claro que a Air Canada deveria ter admitido discretamente que o seu chatbot cometeu um erro e fornecido o reembolso parcial esperado pela Moffatt. Por que?

• O argumento de que o chatbot era responsável pelas suas próprias ações era fraco. O recurso foi hospedado no site da companhia aérea e atuou como um de seus representantes. Afinal, o recurso de chatbot com tecnologia de IA tem como objetivo principal auxiliar e até mesmo substituir representantes humanos contratados pela empresa. Como afirma Rivers, o chatbot "ainda é apenas uma parte do site da Air Canada. Deveria ser óbvio para a Air Canada que ela é responsável por todas as informações em seu site".
• Somando-se à defesa aparentemente fraca está o fato de que as companhias aéreas são muitas vezes responsabilizadas por muitos serviços que às vezes são prestados por entidades externas: O manuseio de bagagens e o catering são duas das áreas mais comuns onde as frustrações dos clientes são atribuídas à companhia aérea. A terceirização geralmente ocorre em aeroportos externos, onde os serviços são contratados a outras empresas.
• A companhia aérea ofereceu inicialmente US$ 200 em crédito de viagem. Moffatt então levou o caso ao tribunal para solicitar um reembolso parcial de US$ 880. Pode ter sido uma quantia significativa de dinheiro para o demandante, mas uma quantia minúscula para a maior transportadora do Canadá. O tempo gasto no caso, os honorários advocatícios e a atenção negativa da mídia superam em muito a diferença de algumas centenas de dólares.

Foto: Joe Kunzler | Voo Simples

Configuração de precedência?

À medida que a IA continua a ser integrada em cada vez mais facetas da vida quotidiana, situações como estas podem acontecer ocasionalmente. Como observado porArs Técnica, parecia ser “a primeira vez que uma empresa canadense tentou argumentar que não era responsável pelas informações fornecidas por seu chatbot”.

Embora a decisão tomada pelo Tribunal de Resolução Civil do BC possa não ser considerada um precedente vinculativo, o caso ainda pode ser usado como precedente persuasivo – isto é, usado como um guia por juízes de outras jurisdições ao decidirem sobre casos semelhantes. Em última análise, considerando a grande atenção internacional que esta história já atraiu, deveria servir como um aviso claro às companhias aéreas (ou a qualquer empresa) de que a tecnologia de IA ainda tem os seus problemas.

Foto: Tero Vesalainen | Shutterstock.com

“Se uma área é muito espinhosa ou complicada, ou não é suficientemente baseada em regras, ou depende muito da discrição individual, então talvez os bots precisem ficar longe”, -Ira Parghi, advogado com experiência em informações e direito de IA via The Vancouver Sun

Embora o tempo e os recursos do Sr. Moffatt e da equipe jurídica da Air Canada possam parecer ter sido desperdiçados em um caso tão simples, foi um caso que tem significado nos dias de hoje. Conforme observado por Sakchi Khandelwal deQuebra de BNN, a decisão “marca um divisor de águas na intersecção entre tecnologia, lei e atendimento ao cliente, [e] reafirma o princípio de que as empresas são responsáveis, em última instância, pelas informações fornecidas através de seus canais de atendimento ao cliente, incluindo aqueles operados por inteligência artificial”.

O que você acha do caso? Como observador, existe algum argumento sólido que a Air Canada pudesse ter usado em sua defesa? Compartilhe suas idéias deixando um comentário!