O recém-graduado Jumpei Ukita e o professor Kenichi Ohki, do Departamento de Fisiologia da Faculdade de Medicina da Universidade de Tóquio, desenvolveram e testaram uma nova maneira de melhorar a defesa de redes neurais artificiais – o que deixou um sistema de inteligência artificial (IA) mais seguro.
Para quem tem pressa:
Ukita e Ohki são cientistas que não exploraram apenas a computação. Eles também estudaram o cérebro humano – e isso os inspirou a usar um fenômeno que conheceram numa rede neural artificial (RNA).
A pesquisa, publicada na revista Neural Networks e divulgada pela Universidade de Tóquio, destaca a natureza dinâmica da batalha em curso entre algozes e defensores no campo da IA.
IA e cérebro
Redes neurais, inspiradas nos neurônios biológicos do cérebro, formam a espinha dorsal da maioria dos sistemas de IA. Essas redes processam informações por meio de camadas, com entradas chegando em uma ponta e saídas emergindo na outra. Elas são essenciais para tomar decisões automáticas, como em veículos autônomos.
No entanto, essas redes não são infalíveis. Elas podem ser induzidas ao erro, intencional ou acidentalmente, levando-as a interpretar erroneamente as entradas. Essa vulnerabilidade é preocupante, especialmente em aplicações cruciais como diagnósticos médicos e carros autônomos.
Normalmente, estratégias de defesa se concentram na camada inicial de entrada, deixando as camadas internas suscetíveis. Mas os pesquisadores aplicaram um fenômeno observado no cérebro às redes neurais artificiais.
Eles introduziram ruído aleatório nessas camadas internas para reforçar a resistência da rede. Essa abordagem vai além das técnicas convencionais, resultando num sistema mais robusto. Ao adicionar ruído não apenas à camada de entrada, mas também às camadas mais profundas, eles aumentaram a adaptabilidade sem comprometer o funcionamento normal.
Sua abordagem, testada em um ataque adversarial simulado, provou ser eficaz, reduzindo significativamente a vulnerabilidade da rede. No entanto, os pesquisadores estão ansiosos para refinar e expandir esse método para proteger contra uma gama mais ampla de ataques.
Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!
Fonte: Olhar Digital
Comentários