Solomon Philip é o diretor de inteligência de mercado da Shift Technology
Na inovação tecnológica, onde cada avanço traz novas oportunidades, um lado sombrio fica oculto aguardando para explorar as fraquezas destes avanços. A Inteligência Artificial (IA) generativa surgiu como uma ferramenta poderosa com inúmeras aplicações positivas, mas é essencial reconhecer seu possível uso indevido por indivíduos mal-intencionados. Neste artigo, vamos nos aprofundar no mundo em transformação em que os recursos de IA, exemplificados pelo ChatGPT, são utilizados para fins maliciosos. Também veremos como a parceria com especialistas no espaço da IA, usando a GenAI para o bem, pode ser usada para combater os usos prejudiciais dessa tecnologia.
Casos de uso para maus atores
A flexibilidade e a sofisticação do conteúdo criado pela IA generativa o tornam um candidato ideal para várias atividades negativas.Impostores encontraram maneiras criativas de explorar a IA em seu benefício, incluindo
Construção de identidades falsas:
A sofisticação da IA geradora permite que os agentes mal-intencionados fabriquem identidades convincentes, mas totalmente fictícias, uma ferramenta cada vez mais explorada para fraudes em seguros. Nesse contexto, um fraudador pode usar a IA generativa para criar uma identidade enganosa, aproveitando detalhes de vários perfis de mídia social ou roubando informações pessoais de vítimas desavisadas, como números de CPF ou CNPJ. A identidade fabricada poderia envolver a fabricação de detalhes de indivíduos falecidos, explorando a falta de vigilância após uma tragédia. Essa identidade fraudulenta é, então, estrategicamente empregada para enviar solicitações de seguro falsas, utilizando a credibilidade estabelecida pela combinação de detalhes roubados ou fabricados. Para combater essa ameaça em evolução, o setor de seguros deve aprimorar os mecanismos de detecção que distinguem entre identidades genuínas e geradas artificialmente, fortalecendo assim as defesas contra práticas enganosas que visam manipular os processos de seguro para obter ganhos ilícitos.
Fabricação de boletins de ocorrência e depoimentos de testemunhas:
A sofisticação da IA generativa facilita a fraude de seguros ao criar documentação e evidências falsas complexas, incluindo relatórios e boletins policiais e depoimentos de testemunhas com aparência autêntica. Os indivíduos mal-intencionados podem aproveitar a IA generativa para replicar a caligrafia humana e fabricar imagens convincentes de acidentes em locais reconhecíveis, com detalhes do local e dia do ocorrido, , como por exemplo,condições climáticas. Essa fraude elaborada aumenta a credibilidade das alegações fraudulentas. No campo do crime, a IA generativa é explorada para criar documentos legais falsos, o que traz graves consequências para o sistema judiciário e possíveis condenações injustas. Notavelmente, imagens manipuladas, como as que retratam uma explosão no Pentágono que afetou o mercado de ações ou a imagem do Papa usando um casaco de grife, destacam a luta da sociedade com as implicações sombrias do uso indevido da IA generativa. Devido às profundas repercussões jurídicas e financeiras, o setor de seguros deve fortalecer as defesas contra essas práticas enganosas.
Fabricação de faturas, pedidos e relatórios médicos de aparência real:
No seguro saúde, a crescente ameaça de fraude financeira e médica é agravada pelo uso malévolo da IA generativa. Os indivíduos exploram essa tecnologia e criam documentos de saúde enganosos, como relatórios médicos convincentes que detalham diagnósticos fictícios. Por exemplo, um fraudador pode gerar um relatório enganoso sugerindo a necessidade de um procedimento caro, o que leva a pedidos de indenização de seguro ilegítimos e à pressão financeira sobre os prestadores de serviços de saúde. A IA generativa também pode criar faturas fabricadas, contribuindo para inflar os valores dos pedidos de indenização e perturbar o ecossistema financeiro das operadoras de planos de saúde. A tecnologia se torna uma ferramenta para orquestrar sistematicamente fraudes médicas e apresentar pedidos de indenização fraudulentos. A urgência para o setor de seguros de saúde está no aprimoramento dos mecanismos de detecção para diferenciar entre documentos autênticos e fabricados, o que é fundamental para a proteção contra o impacto disruptivo e oneroso das atividades fraudulentas.
Aplicativos de spam para infiltrar-se nos sistemas de fraude de apólices:
Os aplicativos de spam inundam os sistemas projetados para fornecer assistência genuína aos seus clientes. Ao implantar conteúdo criado por IA generativa em aplicativos, os agentes mal-intencionados podem congestionar esses sistemas, dificultando o acesso imediato de quem precisa legitimamente de ajuda. Se as redes de corretagem fantasmas podem atingir uma seguradora com 10 a 100 apólices novas, imagine quantos aplicativos mais uma ferramenta como a IA generativa pode fazer e com que severidade. A velocidade da fraude está fadada a aumentar, o que, por sua vez, impulsionará os volumes e, junto com eles, a gravidade do impacto nos negócios de uma seguradora.
Como a IA pode ser utilizada para detectar esses esquemas
À medida que os recursos da IA geradora para atividades mal-intencionadas aumentam, também aumentam os esforços para combatê-los. Várias estratégias podem ser empregadas:
Recursos de detecção de fraudes em documentos:
A IA pode ser treinada para reconhecer padrões consistentes com documentos falsos. Os algoritmos de detecção de fraudes em documentos podem analisar detalhes minuciosos, como irregularidades de fontes, manipulações de imagens e inconsistências na formatação para identificar possíveis falsificações. Alterações e incongruências de metadados podem ser detectadas por recursos de detecção de fraudes em documentos com IA que vão além do conhecimento e das habilidades humanas. Por exemplo, uma companhia de seguros que implementa a detecção de fraudes em documentos orientada por IA, pode descobrir um relatório médico fabricado durante o envio de um pedido de indenização. O sistema poderia identificar inconsistências no layout do documento, uso de fontes e metadados, ajudando as seguradoras a evitar um pedido de indenização potencialmente fraudulento.
Dados externos para sinalizar incongruências de forma eficiente:
A integração de fontes de dados externas aos sistemas de detecção de fraudes pode aumentar sua eficácia. A referência cruzada do conteúdo gerado pela IA com bancos de dados estabelecidos ajuda a identificar inconsistências e contradições despercebidas. Por exemplo, considere um fraudador que tenta registrar um pedido de seguro de automóvel com uma identidade falsa. Usando informações disponíveis nas mídias sociais, ele cria uma carteira de motorista falsa e envia um pedido de indenização para um acidente encenado. No entanto, uma seguradora que emprega a detecção de fraude aprimorada por IA faz uma referência cruzada dos documentos enviados com bancos de dados externos. O sistema de IA detecta rapidamente incongruências entre as informações da suposta carteira de motorista e os registros oficiais, acionando um alerta para investigação ou solicitação adicional de documentos. Essa abordagem proativa evita o processamento de um sinistro potencialmente fraudulento, protegendo a seguradora de perdas financeiras.
Detecção em tempo real de aplicativos gerados por bots:
O monitoramento em tempo real é fundamental para combater o envio automatizado de solicitações fraudulentas por meio de bots. As seguradoras que empregam o monitoramento de IA em tempo real estão mais bem preparadas para perceber um aumento repentino nas solicitações de apólices on-line. Ao detectar rapidamente padrões e comportamentos incomuns, o sistema pode identificar tentativas de inundar o sistema da seguradora com apólices falsas. Essa intervenção oportuna evita o aumento da fraude de apólices e protege os recursos da seguradora.
A necessidade de parcerias qualificadas de IA
Na batalha contra a malícia alimentada por IA, as seguradoras devem reconhecer a necessidade de parcerias sólidas com especialistas em IA. Veja por quê:
Conhecimento especializado em tecnologia de IA:
O combate eficaz aos impactos adversos do uso indevido da IA generativa em seguros exige uma compreensão abrangente da tecnologia, incluindo o reconhecimento óptico de caracteres (OCR) e o processamento de linguagem natural (NLP). Os especialistas em IA são fundamentais na identificação de vulnerabilidades e no desenvolvimento de estratégias proativas contra fraudes conduzidas por humanos e máquinas. À medida que as fraudes por meio da IA generativa se tornam globalmente acessíveis, aumenta a necessidade de especialização em OCR e PNL. A capacidade dos cenários de IA de acessar esquemas populares aceleraram seu aprendizado, permitindo a detecção hábil de padrões usados pela IA generativa. Aproveitar os recursos de detecção de rede é fundamental para descobrir operações clandestinas em massa e detectar redes criminosas com as habilidades e o financiamento para o uso malicioso da IA geradora. A colaboração de especialistas em IA, juntamente com a detecção avançada de rede, permite que os provedores de seguros implementem mecanismos de detecção robustos, mantendo-se à frente das táticas em evolução, protegendo-se contra as consequências onerosas de atividades fraudulentas e garantindo a integridade dos processos de seguro.
Personalização para ameaças específicas:
As ameaças baseadas em IA generativa, que abrangem golpes de seguro de saúde, possíveis fraudes no setor automotivo e esquemas específicos da região, como os testemunhados no litoral paulista após fortes chuvas ou a fraude relacionada vendavais e situações climáticas no sul do pais., são diversas e estão em constante evolução. Aprender lições com imagens típicas de IA geradora usadas para fraudar seguradoras, como as que apareceram após um terremoto no Japão, torna-se fundamental para detectar possíveis esquemas de fraude esperados após um terremoto nos EUA. O conhecimento especializado de um parceiro de IA é crucial para calibrar os mecanismos de detecção adaptados a ameaças específicas implementadas por agentes mal-intencionados. Isso garante uma defesa mais direcionada e eficaz contra táticas em evolução, protegendo contra os desafios múltiplos apresentados pelo cenário em constante mudança das atividades fraudulentas.
Adaptação contínua:
Os agentes mal-intencionados continuarão a refinar suas táticas à medida que a tecnologia de IA evolui. A calibração e o ajuste constantes dos cenários para acompanhar a evolução da IA geradora podem ser um desafio para as seguradoras gerenciarem de forma independente. Essa necessidade de adaptação constante é agravada por mudanças legais e regulatórias, mudanças na percepção e sensibilidade do cliente, tratamento diferenciado de casos devido a mudanças geopolíticas e, é claro, a evolução implacável da tecnologia. A parceria com especialistas em IA, especialmente com um fornecedor de IA com experiência no negócio de fraudes, torna-se crucial. Esse fornecedor pode se adaptar e desenvolver mecanismos de defesa com facilidade e rapidez de acordo com o cenário em constante mudança. Isso garante que as organizações permaneçam na vanguarda e mantenham uma postura proativa contra ameaças novas e sofisticadas no reino em constante evolução das atividades mal-intencionadas orientadas por IA generativa.
Conclusão
A IA generativa, embora seja uma ferramenta poderosa para a inovação, tem o potencial de ser explorada por agentes mal-intencionados para obter ganhos pessoais. A construção de identidades falsas, a criação de documentos fraudulentos e a manipulação de vários sistemas ressaltam a urgência de lidar com essas ameaças. Aproveitando a IA para fins de detecção e formando parcerias estratégicas com especialistas em IA, as organizações podem se defender melhor contra o potencial insidioso da malevolência impulsionada pela IA. Somente por meio de um esforço conjunto é que a promessa da IA pode ser totalmente cumprida sem sucumbir às suas implicações mais sombrias.
Para obter mais informações sobre como a Shift pode ajudá-lo a adotar a IA para combater esquemas de fraude em constante evolução, entre em contato conosco hoje mesmo
Sobre o autor
Head of Sales Enablement & Market Intelligence, Shift Technology
