Com o aumento do uso de inteligência artificial (IA) na medicina, sistemas de análise de imagens médicas vêm se tornando alvos frequentes de ataques cibernéticos, o que ameaça a precisão dos diagnósticos e a segurança dos pacientes. Diante desse cenário, o doutorando Erikson Júlio de Aguiar, do Instituto de Ciências Matemáticas e de Computação (ICMC) da USP, em São Carlos, criou o RADAR-MIX, uma inovadora ferramenta capaz de detectar e analisar ataques externos em sistemas de IA médica. A relevância da pesquisa rendeu a Erikson o prêmio de Best Student Paper no prestigiado 37º Simpósio Internacional de Sistemas Médicos Baseados em Computador (CBMS), realizado no México.
O RADAR-MIX foi projetado para identificar mudanças sutis introduzidas por hackers em imagens médicas, como ruídos inseridos em exames de raios-X e ressonância magnética, que podem levar sistemas automatizados a diagnósticos incorretos. "A IA tem sido uma grande aliada no diagnóstico de doenças, mas, ao mesmo tempo, hackers têm encontrado maneiras de comprometer esses sistemas", afirma Erikson. "O RADAR-MIX não apenas detecta esses ataques, mas também revela onde e como eles ocorrem, o que é crucial para a segurança dos diagnósticos".
Para aumentar a precisão na identificação de ataques, o modelo utiliza ferramentas de visualização avançadas como Grad-CAM e SHAP, que evidenciam as áreas da imagem que foram alteradas. Com essa abordagem, o RADAR-MIX proporciona uma análise completa e detalhada, superando outras soluções existentes no mercado.
A conquista do prêmio Best Student Paper no CBMS 2024 sublinha o impacto global da pesquisa. "Ver o trabalho do Erikson premiado em um dos principais fóruns mundiais de computação e medicina reflete a qualidade do que estamos desenvolvendo no ICMC", afirma Agma Traina, orientadora do doutorando.
Além do reconhecimento internacional, o RADAR-MIX possui potencial de implementação direta em hospitais e centros de diagnóstico, oferecendo uma camada extra de segurança contra ataques cibernéticos. “O sistema foi estruturado como um filtro entre o acesso aos serviços e os servidores de dados, o que facilita sua adaptação a diferentes contextos e garante maior proteção”, explica Agma.
Em um momento em que o número de ataques a instituições de saúde está em crescimento, o RADAR-MIX oferece uma solução robusta para preservar a integridade dos sistemas de IA e a confiança de médicos e pacientes. "Nos Estados Unidos, por exemplo, um ataque pode prejudicar a reputação de um hospital e acarretar enormes prejuízos financeiros. O RADAR-MIX ajuda a manter essa confiança, essencial para a medicina moderna”, reforça Erikson.
O código-fonte da ferramenta está disponível em repositório aberto no GitHub, incentivando a colaboração com outros pesquisadores:
Após o sucesso no CBMS 2024, Erikson já prepara uma nova versão do RADAR-MIX, que será apresentada no SPIE Medical Imaging, evento de destaque internacional, em fevereiro de 2025 na Califórnia, EUA. O doutorando também está em estágio sanduíche na Universidade da Flórida, com apoio da Fundação de Amparo à Pesquisa do Estado de São Paulo (Fapesp), onde trabalha ao lado de especialistas em segurança de IA.
“A experiência internacional e a colaboração com grandes nomes da área vão contribuir muito para o desenvolvimento profissional do Erikson”, comenta Agma. “Ele é um aluno extremamente dedicado, e tenho certeza de que essa premiação é apenas o início de uma trajetória acadêmica promissora.”
Via - ICMC-USP
Comments