EXCLUSIVO – A inteligência artificial está no centro das discussões do ITC Vegas e também na maioria dos expositores da feira que acontece simultaneamente. Nos 12 palcos que compõem o evento, o debate agora são aplicações capazes de hiperpersonalizar os produtos e serviços. Todos querem precificar mais precisamente e regular os sinistros simples sem a interação humana.
No terceiro dia do ITC Vegas, realizado em Las Vegas, essa evolução tecnológica colocou uma nova pergunta diante da indústria de seguros: como avaliar, precificar e assumir riscos quando a tecnologia começa a interferir diretamente na tomada de decisão? Se nos primeiros momentos da IA generativa o debate estava concentrado em produtividade e eficiência, a discussão agora avança para responsabilidade, governança, acumulação de riscos e capacidade de identificar quem deverá responder por uma decisão equivocada.
Durante o painel sobre a gestão dos riscos relacionados à inteligência artificial em responsabilidade profissional, representantes de seguradoras, resseguradoras, consultorias e especialistas jurídicos mostraram que simplesmente excluir IA das apólices não parece ser uma resposta sustentável para o setor.
Uma das ideias apresentadas no painel ajuda a dimensionar a velocidade dessa transformação. Nos primeiros estágios, a IA podia ser comparada a um bom assistente. Com o avanço dos modelos, ganhou capacidade para desempenhar atividades mais sofisticadas e, agora, com os agentes de IA, sistemas começam a executar sequências de tarefas e participar mais diretamente dos processos decisórios.
É nesse caminho que surge a discussão sobre sistemas cada vez mais autônomos e, no limite dessa evolução, a superinteligência. Enquanto uma ferramenta auxilia uma pessoa, existe uma cadeia de responsabilidade relativamente conhecida. Quanto maior a autonomia da tecnologia, porém, mais difícil pode ser estabelecer onde ocorreu a falha: no modelo, nos dados utilizados para treiná-lo, nas informações fornecidas pelo usuário, na programação, na empresa que adotou o sistema ou no profissional que aceitou sua recomendação.
O painel apresentou exemplos simples, mas capazes de mostrar o tamanho do problema. Em uma situação envolvendo um escritório de advocacia que utiliza agentes de IA, o sistema incorporou ao documento informações confidenciais pertencentes a outro cliente. O texto parecia correto e acabou sendo aprovado pelo advogado, como mostrou Sherif Zakhary, CEO, Strategy and Technology Group Aon.
Em outro caso, a inteligência artificial indicou uma data incorreta para uma obrigação. A documentação original continha o prazo correto, mas o profissional não conferiu a fonte antes de utilizar a resposta produzida pelo sistema. Nos dois casos, a tecnologia era semelhante. Os riscos, entretanto, eram diferentes.
Uma das discussões mais importantes do painel foi sobre a possibilidade de as seguradoras adotarem exclusões amplas para riscos relacionados à inteligência artificial. A conclusão predominante entre os participantes foi de que esse caminho pode ser insuficiente.
Primeiro porque definir exatamente o que é IA já representa um desafio. Tecnologias que hoje são tratadas como inteligência artificial vêm sendo incorporadas às atividades profissionais há anos, desde sistemas de pesquisa e análise até ferramentas automatizadas utilizadas no cotidiano das empresas. Michael Byrne, sócio do escritório McDermott Will & Schulte, chamou atenção para uma questão anterior à própria tecnologia: o quanto a seguradora conhece efetivamente a gestão de riscos da empresa segurada.
Para ele, antes de perguntar apenas se uma companhia utiliza IA, será necessário compreender como ela utiliza a tecnologia, quais controles mantém, quem revisa os resultados e como funciona sua governança. Ou seja, a inteligência artificial pode não criar necessariamente um risco totalmente novo. Em muitos casos, ela potencializa riscos que já existiam.
Um profissional poderia cometer um erro antes da IA. A diferença é que sistemas automatizados podem reproduzir esse erro em escala e velocidade muito maiores. Essa característica deverá exigir uma subscrição mais detalhada.
Outro conceito discutido foi o de silent AI, ou exposição silenciosa à inteligência artificial. O raciocínio é semelhante ao que o mercado já enfrentou com o risco cibernético: uma apólice pode não mencionar explicitamente determinada exposição e, mesmo assim, acabar respondendo por ela.
Riscos associados à IA podem aparecer em diferentes carteiras, entre elas cyber, responsabilidade profissional, D&O, E&O e responsabilidade trabalhista. Por isso, os participantes defenderam que simplesmente criar exclusões abrangentes não elimina o problema. Será necessário compreender onde está a exposição, qual era o objetivo da utilização da inteligência artificial e se o sistema efetivamente se comportou da maneira para a qual foi projetado.
Um mesmo modelo de inteligência artificial pode ser utilizado simultaneamente por milhares de empresas e profissionais. “Uma falha sistêmica, portanto, teria potencial para produzir perdas em diferentes segurados, linhas de negócios e regiões ao mesmo tempo”, ressaltou Ali Shahkarami, head RDS Insurance Risk Data Solutions da Swss Re.
Para seguradoras e resseguradoras, entender essas interdependências será tão importante quanto analisar o risco individual.
Velocidade muda a equação
O seguro sempre acompanhou o surgimento de novos riscos. Foi assim com grandes catástrofes naturais, cyber e diferentes transformações tecnológicas, mas, o que é muda agora é a velocidade.
Lynn Thompson, Head os Strategy and Partnerships da QBE Ventures, lembrou que a indústria aprendeu e desenvolveu capacidade de subscrição para riscos emergentes ao longo do tempo. Com a inteligência artificial, entretanto, esse intervalo está sendo comprimido.
Para subscrever adequadamente, será preciso saber qual tecnologia está sendo utilizada, em quais processos, qual a criticidade dessas atividades, quais consequências uma falha pode produzir e quais mecanismos de governança existem dentro da organização.
Entre os pontos destacados estão a existência de salvaguardas, mecanismos capazes de interromper decisões inadequadas e profissionais preparados para verificar se a IA está executando aquilo para o qual foi originalmente implementada. O desafio aumenta à medida que os agentes de inteligência artificial começam a entrar nas operações das empresas. O próprio painel antecipou que esse deverá ser um tema ainda mais presente nas discussões do mercado no próximo ano.
Agora, o mercado começa a discutir como controlar sistemas capazes de executar atividades com crescente independência e como atribuir responsabilidade quando alguma coisa dá errado. A superinteligência amplia ainda mais essa questão. O conceito projeta um estágio em que sistemas artificiais possam ultrapassar a capacidade humana em uma ampla gama de atividades intelectuais. Não se trata de afirmar que esse estágio já foi alcançado, mas de reconhecer que a trajetória de desenvolvimento da IA está obrigando diferentes setores a discutir antecipadamente seus impactos.
Kelly Lubiato, de Las Vegas
The post ITC Vegas: A próxima era será da Superinteligência appeared first on Revista Apólice.
]]>
