As redes neurais podem ser seguras e robustas por design para que sejam seguras de usar?

Ciência / Ciência da Computação

Ataques adversariais constroem e introduzem pequenas perturbações aos dados a fim de induzir redes neurais a cometerem erros e gerarem resultados incorretos. Assim, podem comprometer a segurança de sistemas que dependem de redes neurais causando perdas financeiras e colocando vidas em risco. Nesse contexto, trabalhos recentes sugerem que é possível definir redes neurais usando equações diferenciais ordinárias (ordinary differential equations – ODEs) e satisfazer as condições de estabilidade de sistemas dinâmicos, de modo que ataques adversariais não comprometam redes baseadas em neural ODEs. No entanto, esses ainda são estudos preliminares que apresentam várias limitações. O objetivo deste projeto é combinar redes neurais com sistemas dinâmicos para projetar e desenvolver redes neurais de nova geração que, através de equações diferenciais, sejam robustas contra perturbações adversariais e seguras para uso por design.

Recursos investidos

Grant Serrapilheira: R$ 600.000,00 (R$ 450.000,00 + R$ 150.000,00 de bônus opcional destinados à integração e formação de pessoas de grupos sub-representados na ciência)

Instituições

  • Universidade Federal Rural de Pernambuco

Chamadas

Chamada 7
  • Temas
  • equações diferenciais ordinárias
  • redes neurais
  • sistemas dinâmicos