No contexto da segurança de sistemas de Inteligência Artificial,
diversas técnicas de ataque e defesa foram desenvolvidas para
lidar com vulnerabilidades específicas de modelos de Machine
Learning.
Relacione os tipos de ataques e técnicas de segurança em IA
apresentados a seguir, às suas respectivas características.
1. Adversarial Evasion Attack
2. Model Poisoning Attack
3. Model Extraction Attack
4. Adversarial Training
( ) Técnica defensiva que consiste em treinar o modelo
utilizando exemplos adversariais junto com dados legítimos
para aumentar a robustez do sistema contra perturbações
maliciosas.
( ) Ataque realizado durante a fase de inferência, no qual
entradas são sutilmente modificadas para induzir o modelo a
classificações incorretas, mantendo-se imperceptíveis ao
usuário humano.
( ) Ataque executado na fase de treinamento, no qual dados
maliciosos são injetados no conjunto de dados de
treinamento para comprometer o comportamento do
modelo resultante.
( ) Ataque que visa replicar a funcionalidade de um modelo
proprietário através de consultas sistemáticas, permitindo ao
atacante obter uma cópia funcional sem acesso direto aos
parâmetros originais.
Assinale a opção que indica a relação correta, segundo a ordem
apresentada.
Autenticação
Limite Diário Atingido
Você atingiu o limite de 10 questões diárias para usuários sem plano. Ao se tornar um membro, você poderá:
Resolver mais questões e melhorar seu desempenho.
Acessar conteúdo exclusivo da IAProvatec.
Potencializar seus estudos com estatísticas avançadas.
Que tal se tornar um membro agora e aproveitar todos os recursos da plataforma?