人工智能具有“防病毒软件”，可以评估算法模型的安全性

人民网，北京，4月9日，（赵竹青）的网络攻击曾经迫使反病毒软件的诞生。越来越广泛使用的人工智能如何抵抗“病毒”攻击？记者从清华大学人工智能研究所获悉，该研究所的RealAI创业团队于8日启动了算法模型自身安全性检测平台，这意味着人工智能还具有“杀毒软件”。

人工智能开发的天然“软肋”

作为引领新一轮技术革命和产业转型的颠覆性技术，人工智能目前正渗透到社会生活的方方面面。随着数据泄露，算法偏差和算法漏洞等一系列问题的暴露，其安全要求和道德影响逐渐浮现，给国民经济和社会安全带来诸多风险和挑战。

RealAI团队首席执行官田添介绍说，现阶段，由不成熟的人工智能技术和恶意应用程序引起的安全风险本质上是人工智能的“技术缺陷”，例如模型缺陷，算法不可解释性和数据的强烈依赖性。明显的“软肋”限制了人工智能的发展。

算法突破是人工智能产业发展的基石和热点。中国信息通信技术研究院2018年发布的《人工智能安全白皮书》指出，``算法安全性''是人工智能的六大主要安全风险之一。同时，白皮书认为“对抗性样本攻击导致算法识别错误判断和遗漏”的算法模型缺陷是算法安全的重要风险项目。

“病毒”入侵或使AI变得“精神错乱”

“专家级样本最初是机器学习模型的一种有趣现象”。 Tian Tian解释说，通过对源数据进行一些细微的更改，人的感觉很难识别，但是对于机器学习模型来说，足以接受并犯错误就足够了。分类决策是将山峰识别为狗或罗纳尔多作为梅西。

换句话说，对样本的这些攻击将像病毒一样侵入人工智能系统的“意识”，使其显得“精神错乱”，无法正常工作。

随着人工智能的普及，这些例子仍在现实中上演：将对抗样本标签粘贴在道路上以模仿合并的地带，误导自动驾驶汽车进入逆行车道；戴上对抗样本产生的眼镜，可以轻松破解手机解锁面部；在胸前贴上反样本贴纸以实现隐身...

特别是在面部识别和自动驾驶等特定领域，这种“ AI病毒”可能会造成无法挽回的个人和财产损失。

“防病毒软件”增强了AI系统的可靠性

“目前，人工智能安全仍是一个新兴的领域，技术壁垒很高。”田天告诉记者，随着攻防技术的发展，对抗样本等攻击方法变得越来越复杂，特别是在开源社区中，在该工具包的支持下，先进而复杂的攻击方法迅速发展，但是相关防御方法的升级很难跟上。

作为清华大学人工智能研究院的官方团队，RealAI率先提出了多种攻防算法，这些算法已被主流开源软件FoolBox等作为标准纳入其中。清华大学赢得了多个国际人工智能竞赛冠军。

由团队开发的RealSafe人工智能安全平台可以提供从评估到防御的完整解决方案，从而快速缓解对抗性样本攻击的威胁。与当前需要自我部署和编写代码的通用开源工具相比，该平台支持零代码评估。用户只需要提供相应的数据就可以完成评估，大大降低了算法评估的技术难度。同时，平台使用可量化的形式评估安全性，分数越高，模型的安全性越高。对于检测到的漏洞，该平台还可以提供适当的防御解决方案，以提高模型的安全性。

“安全测试平台的推出是规避风险的方法之一。将来，有必要各界齐心协力，共同推动制定国家标准，行业标准和联盟标准。有关人工智能安全的内容，为人工智能产品的安全评估提供统一的参考。”天天说。

本文来自电脑杂谈，转载请注明本文网址：
https://www.pc-fly.com/a/shouji/article-326070-1.html