分类目录归档：基础设施
黑箱攻击是指攻击者在无法获取机器学习模型内部结构、参数及训练数据等详细信息的情况下，仅通过模型的输入和输出，来生成对抗样本以误导模型做出错误预测的攻击方式.以下是其相关介绍：
FGSM是快速梯度符号法（Fast Gradient Sign Method）。
在机器学习领域，特别是对抗攻击场景下，FGSM是一种用于生成对抗样本的方法。对于一个神经网络模型，给定输入样本和对应的真实标签，FGSM通过计算损失函数关于输入的梯度，然后根据梯度的符号来生成对抗扰动。
假设神经网络模型为 $f(x)$，输入样本为 $x$，真实标签为 $y$，损失函数为 $L(f(x),y)$。FGSM计算损失函数关于输入 $x$ 的梯度 $\nabla_xL$，然后生成对抗扰动 $\epsilon\cdot sign(\nabla_xL)$，其中 $\epsilon$ 是一个很...
无目标分类是机器学习分类任务中的一种模式，与有目标分类相对应。在无目标分类中，分类器的目标仅仅是将输入数据划分到已有的类别当中，但并不特定指向某一个具体的期望类别，只要能正确区分出不同类别即可。也就是说，重点在于识别出输入样本所属的类别，而不要求将其归类到某个预先设定好的特定目标类别里。
在对抗攻击、恶意软件分析、隐私侵犯等安全相关场景以及模型评估等领域，“Victim Model”指的是受到攻击、干扰、误导或者作为被研究对象以评估其脆弱性的机器学习模型、统计模型或系统模型。这个模型通常是攻击者的目标，攻击者通过各种手段（如对抗攻击、模型窃取等）试图使它产生错误的输出、泄露敏感信息或者破坏其正常的功能。
Adversarial Input是指在机器学习和人工智能领域中，经过精心设计或修改的输入数据，其目的是使机器学习模型（如神经网络、分类器等）产生错误的输出或行为。这些输入数据通常是在原始正常数据的基础上添加了微小的、难以察觉的扰动，从而欺骗模型做出不准确的预测或决策。
我猜你想说的可能是“imitation attack”（模仿攻击）。
模仿攻击是一种网络安全或信息对抗领域的攻击方式。攻击者试图模仿合法用户、系统或设备的行为、特征或信号，以此来绕过安全检测机制或者获取未经授权的访问权限。
依存句法分析是自然语言处理（NLP）中的一种语法分析技术，它的目的是确定句子中词与词之间的依存关系。这种依存关系描述了一个词（称为从属词）在语法上依赖于另一个词（称为支配词）的关系，通过这种分析可以揭示句子的句法结构。
Evasion Attack（逃逸攻击）是一种网络安全和机器学习领域的攻击方式。在安全检测系统（如入侵检测系统、恶意软件检测系统、垃圾邮件过滤器等）的情境下，攻击者试图通过巧妙地修改攻击样本（如恶意软件、恶意网络流量、垃圾邮件等）的特征，使其能够逃避这些安全检测系统的识别，从而成功地渗透进目标系统或者达到恶意目的。
对抗攻击是指在机器学习和人工智能领域，攻击者通过在原始数据（如图像、文本等）中添加精心设计的微小扰动，使得机器学习模型（如分类器、目标检测器等）产生错误的输出。这些扰动通常是人眼难以察觉或者在正常的数据变化范围内，但却能有效地误导模型。
数字分类器是一种机器学习模型，主要用于对数字（通常是0 - 9）的图像或其他数字表示形式进行分类。其目标是根据输入的数字样本特征，准确地判断该数字属于0 - 9中的哪一个类别。