Dissertação
A Fraud Detection System Robust to Adversarial Perturbations EVALUATED
A descoberta de ataques adversariais rapidamente se propagou como uma ameaça a sistemas centrados em segurança. Frequentemente, o objetivo destes ataques é enganar um modelo e levá-lo a fazer uma classificação incorreta; mantendo o ataque o mais semelhante possível à vítima. Neste sentido, a natureza de sistemas de deteção de fraude pode ser considerada adversarial: há um adversário (um fraudista) que pretende enganar um modelo, e um modelo que idealmente não se deixa enganar pelo fraudista. Esta interação entre as duas partes é o principal motivo por detrás da mudança no conceito de fraude ao longo do tempo. Cunhada como concept drift (“derrapagem de conceito”), esta mudança constante leva a que a performance dos modelos responsáveis pela deteção de fraude seja deteriorada, culminando na sua obsolescência. Consequentemente, uma estratégia comum para prevenir esta mesma obsolescência consiste em retreinar os modelos com dados mais recentes periodicamente. Na prática, esta é uma operação dispendiosa. Nesta dissertação hipotetizamos que um modelo que seja robusto a ataques adversariais possa generalizar melhor e seja melhor a detetar fraude futura. Neste sentido, este modelo robusto poderia ser retreinado menos vezes, poupando recursos a longo prazo. Nesta dissertação propomos uma framework que visa melhorar a robustez de modelos a ataques adversariais. Os resultados obtidos levam-nos a concluir que o nosso método permite uma melhoria significativa contra ataques adversariais sem grande sacrifício de performance em dados históricos, evitando perdas em performance superiores a 50% caso estes ataques sejam usados contra um modelo que não tenha sido treinado adversarialmente.
novembro 16, 2022, 10:30
Publicação
Obra sujeita a Direitos de Autor
Orientação
