清华大学人工智能国际治理研究院院长薛澜：人工智能就像“潘多拉魔盒”，控制不好怎么办？

　　“人工智能就像一个‘潘多拉魔盒’。如果控制不好，有可能会成为人类‘最后的发明’。”这是清华大学人工智能国际治理研究院院长薛澜对于人工智能的理解。“潘多拉魔盒”随时有可能开启，我们该如何控制其风险？从薛澜院长与传播君的对话中，你或许可以找到答案。

清华大学人工智能国际治理研究院院长薛澜

　　博弈

　　各国争夺的制高点是什么？

　　人工智能是第四次工业革命的标志性成果，它的潜在重要性绝不亚于甚至远超前几次工业革命中的蒸汽机、电力、原子能和半导体。人工智能日益成为世界大国的博弈焦点，各国已从传统的技术、产业比拼，延伸到国际治理的较量。

　　传播君：目前，国际上围绕人工智能国际治理的讨论非常热烈，您认为各国争夺的制高点是什么？

　　薛澜：的确，当前国际上对“人工智能该如何治理”的讨论有很多。各国对人工智能治理之所以如此关注，是因为意识到了人工智能对经济、社会、政治、军事等多方面产生的巨大影响，尤其是意识到了人工智能对人类社会产生的潜在负面影响。

　　人工智能发展速度快，影响范围广，就像一个“潘多拉魔盒”，一旦打开，再难关上。如果控制不好，人工智能有可能会成为人类“最后的发明”。

　　这就像原子弹发明之后，国际社会对核能使用的不同规则显著影响了国际政治经济格局，国际核能治理对有核国家和无核国家有着显著不同的利益影响。

　　各国在新一轮技术革命中，一方面希望能控制人工智能的风险，另一方面也希望抢先利用人工智能促进经济社会发展，加强国际竞争力，并在国际人工智能治理体系中抢占话语权，甚至成为规则的主导者。

　　传播君：目前，世界各国在人工智能的治理原则、价值理念等方面还缺乏共识，您认为是哪些原因造成的？

　　薛澜：世界各国很难制定统一的人工智能国际治理规则，主要原因有以下几个方面：

　　一是人工智能技术还处在迅速发展阶段，具有很大的不确定性和复杂性，我们对它的了解还不够。

　　二是我们缺乏讨论人工智能国际治理的统一平台，也没有对应的国际机构来进行组织和引导。

　　三是各国政治经济体制不同，经济社会发展阶段不同，人工智能的发展和应用水平也不同。这就像在面对气候变化问题时一样，各国达成共识的基础还不够坚实。

　　举一个明显的例子，虽然目前新冠肺炎疫情对全人类造成了很大的危机，但世界上很多国家还是各自为政，没有形成合力来共同应对这个敌人。

　　传播君：在制定全球统一的人工智能国际治理规则时，应该遵循哪些原则？

　　薛澜：国际上，许多组织和机构都在努力推进全球达成对人工智能治理的共识。我们梳理了不少国际组织、国家政府、社会组织、代表性企业等提出的人工智能准则，发现大家在一些基本问题上还是有较高共识的。

　　例如，大家基本都认为在人工智能治理中，应该坚持人本主义、可信赖性、负责任、包容性、可解释性等基本理念。

　　去年，国家新一代人工智能治理专业委员会发布了《新一代人工智能治理原则——发展负责任的人工智能》，提出了和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理八条治理原则，受到了国内的广泛关注和国际社会的高度认可。

　　虽然各国的国情不同、发展阶段不同，但是人工智能国际治理基本上都离不开这些基本原则。

　　变数

　　疫情带来哪些新挑战？

　　今年以来，新冠肺炎疫情席卷全球，成为冷战结束以来最严重的突发性全球危机。目前新冠肺炎疫情已波及全球200多个国家和地区，世界经济面临复杂严峻形势，国际秩序受到严重冲击，这对网络空间国际治理带来更大的变数和挑战。

　　传播君：新冠肺炎疫情将对人工智能国际治理造成怎样的影响？

　　薛澜：新冠肺炎疫情对全球带来的影响确实是非常大的，它使得国际形势更加复杂化了，对人工智能国际治理的影响也是多方面的，其中既有积极的影响，也有消极的影响。

　　传播君：如何理解您所说的“积极的影响”？

　　薛澜：新冠肺炎疫情让国际社会看到了人工智能在应对疫情方面发挥的巨大作用。

　　在疫情检测和药物研发方面，人工智能技术能迅速提高工作效率；

　　在疫情追踪方面，人工智能以及相应的信息技术也“大显身手”，比如正在中国普遍应用的“健康码”，就是利用技术实现精准追踪和治理的良好示范。

　　但目前，国际社会对于如何利用好这些技术还有很大的争论，有些国家也开始实施了类似“健康码”的措施，这些都能促使全球重新思考技术背后的隐私等问题。

　　传播君：“消极的影响”又有哪些呢？

　　薛澜：新冠肺炎疫情目前给人工智能国际治理带来的消极影响似乎更加显著，尤其是在中美两个大国之间。

　　首先，新冠肺炎疫情使得各国围绕人工智能的沟通和合作变得更加困难。从2018年开始，中美之间就存在各种贸易争端和科技争端，新冠肺炎疫情暴发之后，中美学者虽然在线上还有所交流，但实际上在人工智能的技术层面、产业层面和政府层面的交流变得更加敏感，已经影响到双方的相互了解。

　　其次，新冠肺炎疫情使得许多国家更加强调“本国利益优先”。这些国家从国家安全角度重新考虑全球产业链布局与对外合作，例如美国希望更多制造业回流到本土，新的贸易保护主义可能抬头，这不仅对人工智能，而且对其他领域的国际科技合作交流也会产生很大的不利影响。

　　再次，我们从这次新冠肺炎疫情中也可以看到，即使是在美国这样的发达国家，其国内社会对新冠病毒的科学应对也存在非常重大的分歧，经济、宗教、道德、政治、种族等多方面因素纠缠在一起，使得科学抗“疫”难以实现。

　　当然，新冠肺炎疫情暴发之后，国际社会也一定会反思全球应对重大危机事件的机制和理念，从而加强国际合作和沟通协调，对人工智能国际治理也可能会更加重视。