close
当前位置: SmartTimes > 硬科技 > 技术 >

机器学习对黑客开放你的工业系统吗?

每一种计算方法都会带来自身的安全挑战,机器学习(ML)也不例外。幸运的是,这部分人工智能(AI)中的漏洞是相当可预测的。然而,不幸的是,它们并不容易被发现。

当我们考虑到所涉及的大量数据,数据的细粒度,以及机器学习过程中学习和改进的事实,这就是挑战所在。机器学习处理来自人类无法察觉的模式的数据,这既是一种资产,也是一种漏洞。

人工智能的各个领域都产生了高效率、高质量和往往是前所未有的创新。例如,在制造过程中,人工智能可以很容易地发现和纠正问题,基于人工智能的安全方法可以保护所涉及的过程。

机器学习通过训练算法“学习”,并确定情况的可能结果,而深入学习(DL)是人工智能的另一个子集,算法使软件能够训练自己执行任务。在这种情况下,多层神经网络暴露在数以百万计的数据点中,反映了人脑识别模式、分类和澄清信息的能力。

机器学习中的漏洞

回到眼前的问题。机器学习是否向黑客开放了你的工业系统?答案是,没有什么是万无一失的,特别是快速发展的技术。也就是说,有设计精良的机器学习/深度学习系统,因此有些系统比其他系统更容易受到黑客攻击。

Gartner预测,到2025年,机器学习将成为每个安全解决方案的一部分。与此同时,需要处理的安全漏洞增加了一倍。有效工作的例子包括谷歌使用机器学习屏蔽了大约99%的垃圾邮件。据说IBM的沃森阻止了2017年针对温布尔登的2亿次网络攻击。机器学习算法在保护基于云的平台和分析可疑活动(包括登录和其他异常)方面发挥着重要作用。

最常用的攻击模式是一种对抗性技术,它试图通过恶意输入渗透模型,从而导致模型出错。当一个新的输入包括微妙而恶意构建的数据时,模型将表现得很糟糕,但是模型的统计性能可能不会受到影响。机器学习模型也可以通过以下方式受到攻击:

  • 妥协正直是其中之一。如果ML模型没有过滤掉一个或多个负面情况,并且他们偷偷地通过系统,它可以被黑。
  • 探索性攻击是通过输入记录值来理解模型预测的。
  • 因果攻击改变了训练数据和模型。通过系统的输入记录可以有一个错误的记录偷偷进入,或者一个好的记录被阻止进入。
  • 如果输入错误通过,则进行完整性攻击;攻击者可以定期进入,系统可能会将不良输入标记为好输入。
  • 当使用攻击者的数据对模型进行培训并从系统中筛选出良好的输入时,就会发生可用性攻击。在这种情况下,可以删除合法记录。

诚然,犯罪活动正在加大对机器学习的攻击,但这并不像听起来那么容易。幸运的是,在添加增强安全性的先进技术之前,有一些非常简单的地方可以开始保护您的系统。例如,如果您的系统软件已经过时,并且在可用时没有下载补丁,那么发起攻击就更容易了。强凭据和多因素身份验证都很重要。此外,网络应该实现简单用户名/密码以外的安全。

从哪里开始

为协助开发人工智能应用程序,提供了以下工具包:

NVIDIA Jetson Nano开发者工具包从…种子技术提供深入学习、计算机视觉、GPU计算和多媒体处理等人工智能工作负载所需的性能(图1)。它允许用户运行AI框架和模型,用于图像分类、目标检测、分割和语音处理等应用。最后,这是一种简单的方式来连接一组不同的传感器,以支持各种人工智能应用程序。

Image of Seeed Technology’s JetPack图1:JetsonNano由Seeed Technology的Jetpack支持,其中包括板支持包、Linux操作系统、NVIDIA CUDA、cuDNN和用于人工智能应用的TensorRT软件库。(图片来源:SEED)

阿达夫鲁特Digi-key最近发布了脑工艺边缘徽章嵌入式评估板(图2),通过运行微型版本的小型微控制器将机器学习带到边缘。TensorFlow Lite。信用卡大小的板,如图2所示,由微芯片 ATSAMD51J19有512千字节的闪存和192千字节的RAM。该工具包包括内置麦克风输入的语音识别和一个Arduino库与演示,以识别各种词对和手势。

Image of Adafruit Supercon badge图2:这个超级警徽也可以是用电路Python编程的名字徽章。它显示为USB驱动器,不需要IDE显示名称、QR代码或其他信息。(图片来源:Adafruit)

最后,高级传感器,如ST微电子 LSM6DOX,将机器学习核心、有限状态机和先进的数字功能结合在一起,为公司的STM 32微处理器系列提供了改进,从而可以解决人工智能功能所需的性能和精度问题。

未来趋势

今天,有一些基于云计算的模型,包括通过认知计算、自动机器学习、ML模型管理、ML模型服务和基于GPU的计算提供的机器学习平台。然而,当考虑到ML和深度学习应用程序所需的大量数据时,很明显,标题中充斥着越来越多的云黑客事件。

当敏感数据涉及AI/ML时,公司明智的做法是谨慎地将敏感数据转移到云端。真正保护敏感数据所需的安全策略和控制黑客攻击的手段,并不一定像它们所需要的那样值得信赖。

物联网产生的大量数据令人难以置信。启动人工智能、自动化、机器学习等所需的数据,特别是如果混合中存在遗留数据,绝对必须是应用程序的正确数据。

下面列出了开发人员在实现AI/ML时应该采取的步骤:

  • 了解和理解现有数据中的差距
  • 了解哪些工作流将受到潜在人工智能项目的影响
  • 确保企业充分参与一个既定的和沟通的最终游戏,并知道每个人是如何参与这个过程的。
  • 利用技术和机会而不是开始削减成本
  • 从数据清理开始,以检测、纠正和删除损坏或不准确的记录。

摘要

人工智能和机器学习要求数据驱动算法和决策具有高质量.人工智能、机器学习和深度学习在某一时刻可能会对大多数公司的未来产生重大影响。机器学习算法已经成为检测基于文件的恶意软件和阻止恶意软件的主要方法。他们还在建立不安全的应用程序,并将其与生产系统隔离开来。人工智能还被用于金融服务、医疗保健和保险,以保护极其敏感的数据。

的确,我们被人工智能/机器学习的概念迷住了。当充分发挥其潜力时,它将是一个令人惊奇的工具。确保您有丰富的内部知识,或云或实现伙伴,以帮助您通过黑客雷区。




(责任编辑:ioter)

用户喜欢...

使用OpenMV凸轮快速开始将机器学习应用于目标检测

机器学习(ML)在目标检测和分类中的应用正在成为嵌入式系统行业的迫切需求,尤其是物联网(物联网)、安全性、高级驱动辅助系统(ADAS)和基于工业自动化的系统。然而,对象检测是一个复杂的...


5G的经济影响

5G对经济产出的贡献 从产出规模看,2030年5G带动的直接产出和间接产出将分别达到 6.3万亿和10.6万亿元。 在直接产出方面 ,按照2020年5G正式商用算起,预计当年将带动约4840亿元的直接产出,...


准谐振转换器对你有什么好处?

与传统的反激变换器中的连续和不连续工作方式相比,准谐振开关降低了功率开关的开关损耗,从而提高了效率,降低了器件温度。它的缺点,即较高的损耗在轻负荷,消除了频率钳电路在今...


数字电位器模拟对数锥度以精确设定增益。

数字电位器(DPOTS)是一种无处不在的组件,可用于各种封装、电阻和分辨率。然而,除了通常的电阻与设定的线性函数外,几乎没有实现任何东西。这一事实给需要大范围(即几十年)动态增益调...


正确的电源对于满足新的IEC / UL IEC-62368消费产品安全要求至关重要

消费产品设计人员除满足许多功能和性能目标以及效率和电磁干扰(EMI)要求外,还必须满足一系列与安全相关的要求。 这些法规要求很复杂,但是只有在了解设计者的目的和要求的情况下,...


使用紧凑型工业机器人提高任何商店的生产率

大型制造商长期以来一直使用专用的工业机器人来提高其生产线的效率和吞吐量,从而获得了较小的操作无法匹敌的成本优势。 但是工业机器人不再只限于大规模生产。 现在,可以使用更小的...


闭环电机系统可在不牺牲性能的情况下应对高通量机器的挑战

开环步进电机一直是行业标准,但是闭环系统可以更好地满足当今的需求 应用运动产品全国市场经理埃里克赖斯(Eric Rice) 多年来,开环步进电机以其简单,出色的定位和低成本而在自动化应...


8个妙招 电子工程师对EMI头痛

电磁干扰EMI中电子设备产生的干扰信号是通过导线或公共电源线进行传输,互相产生干扰称为传导干扰。传导干扰给不少电子工程师带来困惑,如何解决传导干扰?找对方法,你会发现,传导干...


片上稳压器和片外稳压器的利弊权衡

随着对移动计算和手持设备的需求日益增长,系统设计从分立器件转向高度集成的系统级芯片(SoC),同时后端服务器需要更快的计算处理能力,以满足不断增长的数据处理需求。其中的一个...


您对经典的模拟滤波器有何看法?

对于大多数的电路和系统来说,使用电感器、电容器和电阻器的模拟滤波器至关重要。无论是被动还是主动设计,透过具有高难度数学的理论结构、实际的「应用说明」(application note)设计与物...