算法, Instances实例, Leverage影响, 在该框架下, 显示出一种先前的黑盒逃逸攻击在通用的迁移下表现不好....如何在各式各样的攻击模型中来定义和分析一种通用的迁移特性?
是否能够构造一种有目标的投毒攻击, 保证该攻击能够克服一些检测机制?...比如使用label标记正确的样本, 但是该样本会导致决策边界的移动
2.1 机器学习中一些定义
一个分类器可被定义为:
?
其中
?
, 是一个实例输入, 对应
?
为标签,
?...是一个n维的特征向量.
给出一个距离度量, 针对n维特征向量而言有:
?
训练集定义为
?
, 对应着标签集
?
, 测试集记为
?
, 学习算法记作
?...对实际的攻击者建模
主要有知识和能力两个方面
利用FAIL分为四个维度:
特征知识(Feature):
?
主要问题: 对于什么特征是保密的? 攻击者能够访问具体的特征值吗?