Fique informado com atualizações gratuitas
Basta se inscrever no Inteligência artificial MEFT Digest – entregue diretamente à sua caixa de entrada.
As seguradoras da Lloyd’s of London lançaram um produto para cobrir as empresas por perdas causadas por ferramentas de inteligência artificiais com defeito, pois o setor pretende lucrar com preocupações sobre o risco de alucinações e erros dispendiosos por chatbots.
As políticas desenvolvidas pela Armilla, uma start-up apoiada pelo Y Combinator, cobrirão o custo de reivindicações judiciais contra uma empresa se for processada por um cliente ou outro terceiro que sofreu danos por causa de uma ferramenta de IA com baixo desempenho.
O seguro será subscrito por várias seguradoras de Lloyd e cobrirá custos como pagamentos de danos e honorários legais.
As empresas se apressaram em adotar a IA para aumentar a eficiência, mas algumas ferramentas, incluindo bots de atendimento ao cliente, enfrentaram erros embaraçosos e caros. Tais erros podem ocorrer, por exemplo, devido a falhas que fazem com que os modelos de idioma da IA “alucine” ou inventem as coisas.
A Virgin Money pediu desculpas em janeiro, depois que seu chatbot de IA repreendeu um cliente por usar a palavra “Virgin”, enquanto o DPD do Grupo Courier no ano passado desativou parte de seu bot de atendimento ao cliente depois que jurou aos clientes e chamou seu proprietário de “pior empresa de serviços de entrega do mundo”.
No ano passado, um tribunal ordenou que a Air Canada honrasse um desconto que seu chatbot de atendimento ao cliente havia inventado.
Armilla disse que a perda da venda dos ingressos a um preço mais baixo teria sido coberta por sua apólice de seguro se o Chatbot da Air Canada tivesse um desempenho pior do que o esperado.
Karthik Ramakrishnan, executivo -chefe da Armilla, disse que o novo produto pode incentivar mais empresas a adotar a IA, uma vez que muitas são atualmente impedidas por medos de que ferramentas como chatbots quebrem.
Algumas seguradoras já incluem perdas relacionadas à IA nos erros gerais de tecnologia e políticas de omissões, mas geralmente incluem limites baixos aos pagamentos. Uma política geral que cobre até US $ 5 milhões em perdas pode estipular um sublimito de US $ 25.000 para passivos relacionados à IA, disse Preet Gill, corretor da Lockton, que oferece produtos da Armilla a seus clientes.
Os modelos de idiomas da IA são dinâmicos, o que significa que eles “aprendem” com o tempo. Mas as perdas de erros causadas por esse processo de adaptação normalmente não seriam cobertas por erros de tecnologia típicos e políticas de omissões, disse Logan Payne, corretor da Lockton.
Um erro de uma ferramenta de IA não seria suficiente para desencadear uma política de pagamento em Armilla. Em vez disso, a capa entraria se a seguradora julgasse que a IA havia se apresentado abaixo das expectativas iniciais.
Por exemplo, o seguro da Armilla poderia pagar se um chatbot desse aos clientes ou funcionários corretos informações corretas apenas 85 % das vezes, depois de fazê -lo inicialmente em 95 % dos casos, informou a empresa.
“Avaliamos o modelo de IA, nos sentimos confortáveis com sua probabilidade de degradação e depois compensamos se os modelos se degradarem”, disse Ramakrishnan.
Tom Graham, chefe de parceria da Chaucer, seguradora da Lloyd’s que está subscrevendo as políticas vendidas por Armilla, disse que seu grupo não assinaria políticas que cobrem sistemas de IA que julgam excessivamente propensos a quebrar. “Seremos seletivos, como qualquer outra companhia de seguros”, disse ele.
