从技术和社会发展两个角度谈造工智能需要治理的原因

我很高兴参加人工智能治理会议。我想从技术和社会发展的角度谈谈需要治理人工智能的原因，以及在技术和政策方面可以进一步加强的方面。邀请专家批评和纠正报告中的不足之处。

我们在开发人工智能时有一个想法，希望人工智能可以与社会发展建立共同的互动关系，因为我们不是在开发人工智能技术来抢夺人们的工作，这不是我们最初的发展希望。

这张图的左右两侧代表两个世界，右侧是我们当前人工智能技术的发展，无论是专用技术还是通用技术，都已经达到了一定阶段。左侧是我们开发人工智能的初衷，希望通过人工智能技术为行业提供支持。在开发人工智能技术时，我们有着最初的愿望，希望人工智能技术能够与人类社会的发展互动和共生。

此图分为两个部分，告诉大家人工智能技术已经从特殊目的发展到通用目的，然后又发展为强大的人工智能。左边是等待人工智能授权的方向。例如，我们希望人工智能技术可以促进行业中的智能制造。我们需要开发智能医疗保健来解决衰老问题。我们希望改善我们的城市生活，智慧城市也是我们的目标之一。中间是和谐共生，这是我们的目标。

那么人类社会与智能技术之间存在什么样的关系？我们将其分为四个主要类别。

第一种类型，辅助关系。众所周知，上海地铁十号线实际上是无人驾驶的地铁线，智能系统起着辅助作用。现在，我们已经开发了许多汽车电子产品，它们也希望我们的驾驶员能够更舒适，安全地驾驶汽车。以上就是我们所说的人工智能的支持作用。

其次，人们处于循环中。我们希望在社会生活的各个方面，我们都不会依靠单个机器人来完成某些任务，而是要依靠人与机器人的合作。一些复杂的任务留给了机器。当前在医院制造的医疗机器人就是这样。尽管达芬奇机器人具有良好的技术，但。这是一个更加令人担忧的现象。尤其是当机器人的自学能力得到增强时，它可能会创建自己的语言，而人类却不知道他们在想什么或在做什么。第三，经济上的奇异。机器开始逐渐取代普通劳动力。但是，这种情况可以分为两个方面。落后的生产方法将逐渐被先进的生产方法所取代。尽管有些人被解雇了，但他们可能会找到新的就业方向。第四，社会形态的奇异性。人工智能可能会导致人类社会走向自由人的联盟，而不是当前的社会治理状态。最后，存在技术上的奇异之处。人工智能将逐渐摆脱人类的控制。

接下来，解释一下在研究人工智能技术时哪些问题很重要。

首先，为了解决人工智能安全性问题，我们必须首先讨论可解释性。换句话说，当我们需要了解或解决事物时，我们可以获得所需的足够的可理解信息。我想知道它为什么起作用，这是我们要实现的主要目标。

右图讨论了人机模型之间的关系。我们强调所谓的XAI可解释的人工智能。可以完成三件事。

首先，在建模之前进行可解释性分析。在这里，我们必须解决对数据语义的分析。现在只不过是标记数据。在其他方面给出的信息很少，因此必须解决数据可视化的问题。

第二，建立一个可解释的模型。换句话说，有必要说出其工作规则，它的特点以及许多可作证的例子。

第三，建立模型后的可解释性评估。无论是否做得好，以及在什么情况下出现问题，我们都需要进行隐藏层分析，仿真分析和敏感性分析。

第二，隐私保护。实际上，在人工智能系统中，性能和隐私保护是两者的平衡。我们不能说两者中的一个比另一个更重要。我们希望在某些情况下实现动态平衡。绩效方面主要是功能和性能，而隐私方面包括诸如我们的身份，数据，偏好和许多其他行为，这些行为应受到保护。为此，我们提出了一项计划，将传统的机器学习技术转变为一种用于保护隐私的新机器学习技术。

图片右侧的蓝标是普通学习者。向其提供数据后，它将识别出我们想要的许多结果，并且没有隐私保护。如果将其保护策略与隐私保护学习器结合使用，将来会在模型中生成一些同构的输出信息，而一些应该保护的必要信息将被隐藏。

第三，关于公平。过去，许多伦理学例子都提到了对弱势群体的歧视，在美国也存在种族歧视。在建模过程中，应讨论如何确保模型本身的公平性。

让我们在图片的左上角查看有关人们自身特征的各种标签，例如种族，性别，国籍，年龄和健康状况。集成数据中应该有一个健康因素。在数据算法交互的过程中，我们必须避免行为偏差，表示偏差，链接偏差和内容偏差，它们在我们的建模中起着重要作用。从数据到算法，我们必须解决历史偏差，聚合偏差，时间偏差，组偏差等。理想情况下，我们必须实现写在图右侧的公平建模，忽略敏感属性，并实现人口机会均等。为了实现个人预测和反思的公平，这是我们的目标。在那之后，我们必须使用统计方法，个体方法和因果方法来开发一个度量系统，以查看它是公平还是不公平。

第四个对策，可信验证。这里有两个对象，一个是用于建立可信验证的引擎，工具和工具，另一个是我们当前使用的人机对象融合系统。我们使用模拟测试方法进行验证。这里面临什么问题？

首先，我们面临不确定的环境。我们不知道环境会发生什么变化，以及会发生什么突然的事故。

第二，我们希望机器经过培训后能够适应变化，否则将很难被信任，因此它可能会在不同的环境中进行适当的变化。

第三，我们进行了信誉评估，并给了满分。可靠性是9？

第四，我们必须强调，人在路上。人与机器是共生的。这样，通过系统的培训和测试，再加上定量的形式验证，就可以实现一定程度的可信人工智能产品。

第五对策，主动防御对策。图片的右边是我们追求的目标。我们希望拥有一个安全评估系统，该系统可以了解人工智能系统的安全元素，并知道该系统在什么情况下会受到威胁。您需要知道敌人在哪里以及您的弱点在哪里。当然，进行预测非常重要。我们必须建立一个安全策略，通过感知系统收集系统的当前状况，并对安全元素和攻击者进行建模以做出相应的响应。整个安全认知由功能安全和信息安全两部分组成。因此，我们必须处理安全行为，也要关心安全事件。整个智能系统的安全不仅是结果是安全的，而且整个过程也应该是安全的。

第六项对策，道德与法律。人工智能伦理与治理已成为基本共识。国际社会正在探索建立公认的人工智能道德规范，将其分为四大职责：

首先是道德责任；

第二，安全责任；

本文来自电脑杂谈，转载请注明本文网址：
http://www.pc-fly.com/a/jisuanjixue/article-362953-1.html