治理人工智能：内部审视以确保人工智能有益于人类

金融，教育，医学，编程，艺术 - 人工智能将破坏我们社会的几乎每个部门。各国政府和政策专家已经开始意识到，为了为未来做好准备，为了最大限度地降低风险并确保人工智能有益于人类，我们需要开始规划当今先进人工智能系统的到来。

虽然我们仍处于这一运动的早期阶段，但景观看起来很有希望。一些和独立公司已经开始制定战略并制定人工智能治理政策。去年，阿联酋任命了世界上第一个人工智能部长，德国在2017年采取了更小但相似的步骤，当时德国交通和数字基础设施部的道德委员会制定了世界上第一套自动化和连接驾驶。

这项工作值得注意;然而，这些努力尚未融合成一个超越国界的更大的治理框架。尼克博斯特罗姆的战略人工智能研究中心旨在通过了解并最终塑造全球范围内长期人工智能开发的战略格局来帮助解决这一问题。

制定全球战略：我们今天所处的位置

战略人工智能研究中心成立于2015年，其知识是，为了真正规避人工智能所构成的威胁，世界需要共同努力，专注于解决与人工智能政策和发展相关的未解决问题。人工智能计划的治理(GovAI)由Bostrom和Allan Dafoe共同执导，是从该中心发展而来的主要研究计划。正如导演所阐述的那样，它的核心任务是“检查政治，经济，，治理和道德方面的人性如何能够最好地过渡到这种先进的人工智能系统。”在这方面，该计划的重点是战略 - 关于塑造影响人工智能研究和开发的社会，政治和政府系统 - 而不是关注为创建和编制安全AI而必须克服的技术障碍。

为了制定合理的人工智能战略，该计划与社会科学家，政治家，企业领导者和人工智能/机器学习工程师合作，解决我们应如何应对人工智能治理挑战的问题。在Rob Wiblin最近播出的80,000小时播客中，Dafoe概述了该团队的研究如何从实际角度出发，声称该工作侧重于回答三个主要类别的问题：

技术前景：该类别旨在回答与人工智能领域研究趋势相关的所有问题，目的是了解未来的技术轨迹是合理的，以及这些轨迹如何影响管理先进人工智能系统的挑战。

AI政治：此类别侧重于与不同群体，公司和政府在人工智能方面追求自身利益的动态相关的问题，并试图了解可能产生的风险以及我们如何能够减轻这些风险。

AI治理：此类别考察了未来的积极愿景，人类以安全和健全的方式协调管理高级AI。这提出了一些问题，例如这个框架应该如何运作以及我们希望在治理体制中编码的价值。

上述类别提供了一种更清晰的方式来理解投资于研究人工智能治理和战略的各种目标;但是，这些类别的范围相当大。为了帮助阐明他们正在进行的工作，GovAI的研究员和牛津大学国际关系的DPhil候选人Jade Leung概述了该团队目前正在追求的一些具体工作流程。

最具吸引力的研究领域之一是人工智能战略工作流程。这一系列研究考察了对其他的人工智能能力，有关人工智能政策的官方文件，以及全国各地的各种权力动态，旨在理解，正如梁总结的那样，“成为的雄心壮志AI超级大国和人对安全，合作和AGI的思考状态。“最终，GovAI旨在概述AI战略的主要特征，以便了解AI治理中最重要的参与者之一。该计划于2018年3月发表了解读的AI梦，这份报告分析了人工智能战略的新特点，并计划在不久的将来进行研究。

另一个工作流是企业与政府合作，它研究了私营企业在发展先进人工智能方面的作用以及这些企业如何与政府互动。在EA Global旧金山最近的一次演讲中Leung专注于私营企业如何在人工智能开发中发挥重要作用，以及为什么在考虑如何管理人工智能时，私人企业必须被纳入战略考虑因素作为等式的重要组成部分。该演讲的描述简洁地总结了关键的重点领域，并指出“私营企业是唯一表现出发展AGI的雄心，并领先于先进人工智能研究的领先者。因此，考虑这些私营企业应如何参与人工智能治理的未来至关重要。“

Leung强调的其他工作包括建模技术竞赛动态和分析全球AI人才和硬件的分布。

前方的路

当被问及她有多大的信心时，人工智能研究人员将最终合并并成功地塑造国际长期AI发展的景观，Leung对她的反应持谨慎态度，并指出需要更多的手。“更多的研究人员肯定更需要解决这些问题。作为一个研究领域和政策行动领域，长期安全和强大的人工智能治理仍然是一个被忽视的任务，“她说。

此外，Leung指出，在这个时刻，尽管已经开展了一些具体的研究，但很多工作都集中在构建与AI治理相关的问题上，并在此过程中揭示了需要研究的各种途径。因此，该团队尚未就管理机构应承诺的具体行动提出具体建议，因为需要进一步的基础分析。她说：“考虑到这个问题的不确定程度，我们近期没有足够强大和具体的政策建议。”

然而，Leung和Defoe都乐观并断言这种信息差距可能会迅速改变。跨学科的研究人员越来越意识到这一主题的重要性，随着越来越多的人开始研究和参与这个社区，各种研究途径将变得更加集中。“在两年内，我们可能会拥有一个更加实质性的研究社区。但今天，我们只是弄清楚什么是最重要和最易处理的问题，以及我们如何最好地招募这些问题，“Dafoe告诉Wiblin。

保证可能很快形成一个更强大的社区是令人鼓舞的;但是，关于这个社区是否会有足够的时间来建立一个可靠的治理框架，仍然存在问题。正如Dafoe指出的那样，我们之前从未目睹过情报爆炸，因此在尝试制定有关我们何时拥有先进AI系统的预测和时间表时，我们没有任何例子可以寻求指导。

最终，缺乏预测正是我们必须在不久的将来对人工智能战略研究进行大量投资的原因。正如博斯特罗姆在“超级智能：路径，危险和战略”中指出的那样，人工智能不仅仅是一种颠覆性技术，它可能是人类将遇到的最具破坏性的技术：“[超级智能]很可能是人类有史以来最重要，最艰巨的挑战面对。而且 - 无论我们成功还是失败 - 这可能是我们将面临的最后一个挑战。“