作者文章归档:course

通用对抗攻击


Universal Adversarial Attack即通用对抗攻击,是一种针对机器学习模型的攻击方式,以下是相关介绍:

攻击原理

通过精心构造通用的对抗扰动或触发器,使模型对输入数据产生错误分类或预测,其利用了模型在训练和决策过程中的漏洞和局限性,即使对不同的输入数据或不同结构的模型,也能导致错误结果.

攻击方法

  • 生成通用对抗扰动:通过优化算法找到一个对大多数输入数据都有效的固定扰动,将此扰动添加到正常输入数据中,就能误导模型做出错误分类,如在图像领域,可找到适用于多种图像的通用扰动,使模型将原本正确分类的图像误判.
  • 设计通用对抗触发器:构造特定的输入模式或触发器,当输入数据包含此...

Read more

单像素攻击


One Pixel Attack即单像素攻击,是一种针对深度学习模型的对抗性攻击方法,以下是相关介绍:

攻击原理

通过改变输入图像的单个像素来误导深度学习模型做出错误分类。它利用差分进化算法等优化算法,在不知道模型内部参数的情况下,识别出要修改的最优像素,从而使模型产生误判.

具体操作步骤

  1. 初始化:随机生成一组候选解,每个候选解表示对图像中单个像素的潜在修改.
  2. 突变与交叉:对候选解执行变异和交叉操作以创建新的候选解,产生种群的多样性,更有效地探索解决方案.
  3. 选择:根据其对神经网络分类结果的影响来评估试验候选,如果试验候选比原始候选更能导致模型错误分类,则取代原始候选.
  4. 迭代:重复突变、...

Read more

黑箱攻击


黑箱攻击是指攻击者在无法获取机器学习模型内部结构、参数及训练数据等详细信息的情况下,仅通过模型的输入和输出,来生成对抗样本以误导模型做出错误预测的攻击方式.以下是其相关介绍:

主要类型

  • 基于迁移的攻击:利用在一个模型上生成的对抗样本对其他模型进行攻击,需找到模型间的共性和迁移性,攻击成功率不确定,访问次数少,约10次左右.
  • 基于访问的攻击:通过大量查询模型获取输入输出信息来生成对抗样本,可细分为基于分数的攻击和基于决策的攻击。基于分数的攻击需获得连续预测分数,不适用于多数现实场景;基于决策的攻击则完全依赖模型最终决策,更贴合实际,如演化攻击就是一种高效的基于决策的黑箱攻击方法.

常用...

Read more

FGSM


FGSM是快速梯度符号法(Fast Gradient Sign Method)。

一、原理

在机器学习领域,特别是对抗攻击场景下,FGSM是一种用于生成对抗样本的方法。对于一个神经网络模型,给定输入样本和对应的真实标签,FGSM通过计算损失函数关于输入的梯度,然后根据梯度的符号来生成对抗扰动。

假设神经网络模型为 $f(x)$,输入样本为 $x$,真实标签为 $y$,损失函数为 $L(f(x),y)$。FGSM计算损失函数关于输入 $x$ 的梯度 $\nabla_xL$,然后生成对抗扰动 $\epsilon\cdot sign(\nabla_xL)$,其中 $\epsilon$ 是一个很...

Read more

全自动化交易


全自动化交易

一、定义

全自动化交易是指在金融市场中,通过预先编写的计算机程序,在没有或极少人工干预的情况下,自动执行交易策略的交易方式。这些程序能够根据设定的规则和算法,自动分析市场数据(如价格、成交量、技术指标等),生成交易信号,并直接向交易所或交易平台发送买卖指令。

二、全自动化交易系统的构成

(一)策略模块

  1. 交易策略设计
  2. 这是自动化交易系统的核心部分,包括各种交易策略,如趋势跟踪策略、均值回归策略、套利策略等。例如,趋势跟踪策略是基于市场价格呈趋势性变化的假设,当价格突破一定的移动平均线时,产生买入或卖出信号。以股票市场为例,如果一只股票的价格向上突破其50日移动平均线,且成交...

Read more

微信公众号


微信公众号是腾讯公司推出的一项基于微信平台的公众服务账号,允许企业、媒体和个人通过微信与用户进行信息传播和互动.以下是具体介绍:

账号类型

  • 订阅号:主要用于个人或小型企业的信息传播,每天可发送一条消息,适合内容创作者和媒体进行日常更新和互动,在用户群体中的传播效果较好.
  • 服务号:适合大型企业和机构,提供更丰富的功能,如自定义菜单、支付功能等,每月可发送四条消息,适合深度互动场景.
  • 企业号:主要用于企业内部管理和沟通,提供丰富的管理工具和权限设置,能帮助企业等事业单位建立与员工、上下游供应链及内部 IT 系统间的连接,简化管理流程、提高协同效率.

注册流程

  1. 访问微信公众平台官网,点击...

Read more

微信云托管


微信云托管是微信团队和腾讯云团队共同开发的,以云原生为基础的免运维、高可用服务上云解决方案.以下是具体介绍:

主要功能

  • 服务器托管:微信提供服务器资源,支持部署运行公众号后台逻辑、小程序服务端等应用程序.
  • 自动化部署:开发者可通过微信开发者工具进行自动化部署,简化流程,提高开发效率.
  • 安全性保障:提供数据加密传输、防火墙等高级别安全保障措施,确保用户数据和应用安全.
  • 弹性伸缩:能根据应用实际流量需求,自动调整服务器资源,提升系统稳定性和性能表现.
  • 监控与管理:微信云端管理工具可实时监控应用运行状态、性能指标等,助开发者及时发现解决问题.

特点优势

  • 多种语言及模板支持:支持目前绝大多...

Read more

无目标分类


Untargeted Classification(无目标分类)

一、定义

无目标分类是机器学习分类任务中的一种模式,与有目标分类相对应。在无目标分类中,分类器的目标仅仅是将输入数据划分到已有的类别当中,但并不特定指向某一个具体的期望类别,只要能正确区分出不同类别即可。也就是说,重点在于识别出输入样本所属的类别,而不要求将其归类到某个预先设定好的特定目标类别里。

二、示例及应用场景

(一)图像识别领域

  1. 动物识别示例 在一个简单的动物图像识别系统中,训练数据包含了猫、狗、兔子等多种动物的图片,并且分别进行了类别标注。当使用这个系统进行无目标分类时,对于输入的一张动物图像,分类器只需判断它...

Read more

受害模型


Victim Model(受害模型)

一、定义

在对抗攻击、恶意软件分析、隐私侵犯等安全相关场景以及模型评估等领域,“Victim Model”指的是受到攻击、干扰、误导或者作为被研究对象以评估其脆弱性的机器学习模型、统计模型或系统模型。这个模型通常是攻击者的目标,攻击者通过各种手段(如对抗攻击、模型窃取等)试图使它产生错误的输出、泄露敏感信息或者破坏其正常的功能。

二、在不同场景中的含义和应用

(一)对抗攻击场景

  1. 攻击目标
  2. 在对抗攻击(如生成对抗网络中的对抗样本攻击、对抗性机器学习攻击)中,Victim Model是攻击者试图欺骗的对象。攻击者利用模型的输入空间,通过添加精心设计的微...

Read more

对抗性输入


Adversarial Input(对抗性输入)

一、定义

Adversarial Input是指在机器学习和人工智能领域中,经过精心设计或修改的输入数据,其目的是使机器学习模型(如神经网络、分类器等)产生错误的输出或行为。这些输入数据通常是在原始正常数据的基础上添加了微小的、难以察觉的扰动,从而欺骗模型做出不准确的预测或决策。

二、产生原理

(一)基于梯度的扰动生成

  1. 快速梯度符号法(FGSM)原理
  2. 对于一个给定的机器学习模型(f(x)),其输入为(x),输出为预测结果(如分类结果)。假设模型的损失函数为(L(f(x),y))(其中(y)是真实标签)。FGSM通过计算损失函数对输入(x...

Read more