Brasileiro cria IA para proteger diagnósticos médicos de hackers

Um avanço significativo na segurança cibernética aplicada à medicina foi recentemente alcançado por um pesquisador brasileiro. Erikson Júlio de Aguiar, doutorando do Instituto de Ciências Matemáticas e de Computação da Universidade de São Paulo (ICMC-USP), desenvolveu uma ferramenta de inteligência artificial (IA) chamada Radar-Mix, capaz de detectar e prevenir ataques hackers em sistemas de análise de imagens médicas.

O Radar-Mix surge como resposta ao crescente uso de IA na medicina, especialmente em sistemas de análise de imagens médicas, que se tornaram alvos frequentes de ataques cibernéticos. Esses ataques podem comprometer a precisão dos diagnósticos, colocando em risco a saúde dos pacientes. A inovação de Aguiar não apenas identifica tentativas de invasão, mas também fornece uma análise detalhada de como e onde os ataques ocorrem.

O projeto, financiado pela FAPESP e orientado pela professora Agma Juci Machado Traina, do ICMC-USP, já recebeu reconhecimento internacional. Em junho de 2024, Aguiar foi premiado com o "Best Student Paper" no 37º Simpósio Internacional de Sistemas Médicos Baseados em Computador (CBMS), realizado em Guadalajara, México. O trabalho continua a ganhar destaque, com apresentações previstas em eventos científicos de renome.

Funcionamento e impacto do Radar-Mix na segurança médica

O Radar-Mix utiliza tecnologias avançadas como Grad-CAM e SHAP para fornecer uma análise visual detalhada dos ataques. Diferentemente de soluções existentes, a ferramenta não apenas detecta a ocorrência de um ataque, mas também explica onde e como ele aconteceu. Isso permite uma proteção mais eficiente e uma compreensão mais profunda das vulnerabilidades dos sistemas de IA médicos.

Segundo Aguiar, os ataques hackers geralmente inserem pequenas alterações ou ruídos em imagens médicas, como raios X e ressonâncias magnéticas, com o objetivo de confundir os sistemas de IA e levar a diagnósticos incorretos. O Radar-Mix foi projetado especificamente para identificar essas sutis manipulações, garantindo a integridade das análises médicas baseadas em IA.

A professora Agma Traina destaca o potencial do Radar-Mix para implementação direta em sistemas médicos. A ferramenta foi desenvolvida de forma modular, facilitando sua adaptação a diferentes contextos e oferecendo uma camada adicional de segurança e controle. Isso é particularmente crucial em um cenário onde ataques cibernéticos a instituições de saúde têm aumentado significativamente.

Sistemas de IA na medicina enfrentam novos desafios de segurança. (Imagem: Reprodução/Canva)

Impacto e reconhecimento internacional da tecnologia

O reconhecimento internacional do Radar-Mix reforça a importância da pesquisa brasileira no campo da segurança cibernética aplicada à saúde. A premiação no CBMS 2024 e a participação prevista no SPIE Medical Imaging, evento promovido pela Sociedade Internacional de Óptica e Fotônica na Califórnia, Estados Unidos, demonstram o alto nível de inovação e relevância do projeto.

Aguiar enfatiza que, nos Estados Unidos, por exemplo, um ataque cibernético pode afetar severamente a reputação de um hospital, levando a grandes prejuízos financeiros e operacionais. O Radar-Mix, portanto, não apenas protege contra ataques, mas também ajuda a manter a confiança nos sistemas de IA médicos, aspecto crucial tanto para profissionais de saúde quanto para pacientes.

A disponibilização do código-fonte do Radar-Mix em formato aberto representa um passo importante para a comunidade científica. Isso permite que outros pesquisadores possam reproduzir os resultados, contribuir com melhorias e adaptar a ferramenta para diferentes cenários de aplicação, potencializando seu impacto global na segurança de sistemas médicos baseados em IA.

Perspectivas futuras para a segurança em IA médica

O desenvolvimento do Radar-Mix abre novas perspectivas para a segurança em IA aplicada à medicina. A crescente sofisticação dos ataques cibernéticos exige soluções cada vez mais avançadas, e a abordagem inovadora de Aguiar estabelece um novo padrão na proteção de sistemas de diagnóstico por imagem.

Especialistas preveem que ferramentas como o Radar-Mix se tornarão essenciais em hospitais e centros de diagnóstico, integrando-se aos protocolos de segurança cibernética. A capacidade de detectar e prevenir ataques em tempo real, aliada à explicabilidade dos resultados, pode revolucionar a forma como instituições de saúde lidam com a segurança de dados e a integridade dos diagnósticos baseados em IA.

O futuro da medicina está intrinsecamente ligado à segurança dos sistemas de IA. Com o avanço de tecnologias como o Radar-Mix, pacientes e profissionais de saúde podem esperar um ambiente digital mais seguro e confiável para diagnósticos e tratamentos. O trabalho pioneiro de Aguiar não apenas protege sistemas atuais, mas também pavimenta o caminho para inovações futuras na interseção entre inteligência artificial, medicina e segurança cibernética.