Adversarial Machine Learning: Aprendizado de Máquina em Contextos Inseguros
Résumé
The ubiquity of Machine Learning (ML) applications in a wide range of computing systems raises worrying questions about the resilience of ML models and algorithms in the face of malicious actions.Such questions concern a sub-area of cybersecurity called Adversarial Machine Learning (AML) -a name that refers to ML in adversarial contexts, that is, in which there are attackers.The number of publications on AML has grown significantly in the last five years, a fact that is indicative of the importance and the number of open questions in the area.This proposal details some of the reasons why these open questions will constitute research challenges for the next decade and highlights the reasons why traditional cybersecurity fails when applied to ML. Resumo.A ubiquidade de aplicações de Machine Learning (ML) nos mais variados sistemas computacionais suscita questões concernentes à resiliência dos modelos e algoritmos de ML frente às ações maliciosas.Questões desse tipo inserem-se numa subárea da cibersegurança denominada Adversarial Machine Learning (AML) -nome que faz referência a ML em contextos adversariais, i.e., em que há atacantes.O número de publicações sobre AML cresceu significativamente nos últimos cinco anos, fato que é indicativo da importância e do número de questões ainda em aberto na área.Esta proposta detalha algumas das razões pelas quais essas questões em aberto serão desafios de pesquisa para a próxima década e destaca as razões pelas quais a cibersegurança tradicional falha ao ser aplicada no âmbito de ML.
Citer ce document
Accès au document
Texte intégral en lecture en ligne, réservé aux abonnés SPHAERO et aux membres de l'institution. Se connecter
Voir l'article sur le site de la revueStatistiques
Consultations : 1
Téléchargements : 0