机器学习中的一些有趣点【Attack 和 Defence】

本文主要是介绍机器学习中的一些有趣点【Attack 和 Defence】，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

什么是机器学习中的攻击

“攻击机器学习模型” 指的是试图危害或操纵机器学习模型的概念。有各种类型的攻击机器学习模型的方法，它们可以广泛分为几类：

对抗攻击：
- 定义：对抗攻击涉及对输入数据进行微小的、通常是难以察觉的更改，目的是使机器学习模型对数据进行错误分类。
- 目标：了解模型的脆弱性，并探索使其产生不正确预测的方法。
模型反演：
- 定义：模型反演攻击试图通过观察其输出，反向工程或提取机器学习模型中的敏感信息。
- 目标：从模型中获取训练数据或模型结构的洞察，潜在地揭示机密信息。
规避攻击：
- 定义：规避攻击的目的是通过操纵输入数据来规避机器学习模型的检测或分类。
- 目标：通过精心制作输入样本，愚弄模型以产生不正确的预测。
数据污染：
- 定义：数据污染攻击涉及向训练集注入恶意数据，以影响模型的行为。目标：
- 在训练期间微妙地改变模型的学习参数，导致在未来真实数据上性能受损。
模型提取：
- 定义：模型提取攻击旨在提取机器学习模型的内部详细信息或参数。目标：
- 获取训练模型的副本，潜在地允许攻击者以恶意方式使用模型或深入了解专有算法。