教授今天的AI学生成为明天的道德领袖：张焱访谈录

一些最伟大的科学家和未来的发明家现在坐在高中课堂上，通过微积分微笑，热切地等待世界顶尖大学的一年级学生。他们可能已经赢得了数学奥林匹克运动会或发明了聪明的新互联网应用程序。我们知道这些学生很聪明，但他们是否准备负责任地指导技术的未来?

开发安全和有益的技术需要的不仅仅是技术专业知识 - 它需要全面的教育和理解其他观点的能力。但是，由于数学和理科学生必须花费大量时间从事技术工作，他们往往缺乏理解他们的发明如何影响社会所需的技能和经验。

这些教育差距可能会成为问题，因为人工智能在我们的生活中扮演着更重要的角色人工智能研究正在年轻的计算机科学家中蓬勃发展，这些学生需要了解他们的创新所带来的复杂的道德，治理和安全挑战。

SPARC

2012年，一群人工智能研究人员和安全倡导者--Paul Christiano，Jacob Steinhardt，Andrew Critch，Anna Salamon和Yan Zhang--创建了应用理性与认知暑期课程(SPARC)，以解决数量众多的青少年问题。 ，包括AI中的教育差距问题。正如所有技术一样，他们解释说，人工智能社区越是由思想敏捷，聪明，宽广的推理者组成，人工智能就越有可能以安全和有益的方式发展。

每年夏天，SPARC创始人都会邀请30-35名数学天才的高中生参加他们为期两周的课程。SPARC的主任张解释说：“我们的目标是建立一个强大的社区，让这些学生接触到他们不会在课堂上得到的想法 - 成为当今世界中数量上强大的青少年的盲点，如移情和社会动态。总的来说，我们希望让他们成为能够为世界带来积极变化的更强大的人。“

为了帮助学生产生积极影响，SPARC讲师教授有效利他主义(EA)的核心思想。“我们有很多关于EA的谈话，但我们不会让学生成为EA，”张说。“我们向他们展示好的想法，我认为这是一种更健康的指导方式。”

SPARC还向学生展示机器学习，人工智能安全和存在风险。在2016年和2017年，他们就这些主题举办了10多个课程，包括：Jacob Steinhardt教授的“机器学习”和“Tensorflow”，Paul Christiano教授的“不负责任的未来主义”和“有效的做好”，“优化”由John Schulman和Michael Webb教授的“人工智能和自动化的长期思考”。

但是，SPARC教练也没有将学生推向AI路径。相反，他们鼓励学生应用SPARC的整体培训，以在任何领域产生更积极的影响。

关于保证金的思考：社会技能的作用

要产生最积极的影响，需要考虑边际问题，并要求：哪一个额外的知识单元最有助于产生积极影响?对于这些学生来说，他们中的大多数都赢得了数学和计算奥林匹克运动会，通常不会有更多的数学。

“许多具有数学头脑的学生的弱点是社交技能或与人有充分的争论，”张说。“因为要有影响力，你需要你的定量技能，但你也需要能够与人交往。”

为了应对这种弱点，他教授社交技巧和信号方面的课程，并偶尔引领即兴游戏。SPARC仍然教授大量的数学知识，但张更有兴趣解决这些学生的教育盲点 - 教师们自己作为学生的盲点。“什么会让我们更具有影响力的个人，而且在很多方面也会更加完整和更加人性化?”他问道。

与非数学学生一起工作可以提供帮助，因此张和他的同事们已经尝试将优秀的作家和原创思想家带入该计划。“我们一直与这些学生取得了非常好的成绩，因为他们带来了数学奥林匹克运动员孩子所没有的东西，”张说。

SPARC还通过开放慈善项目，OpenAI，Dropbox和Quora等学术界和组织的嘉宾发言人拓宽了学生的视野。在一次演讲中，Dropbox工程师Albert Ni向SPARC学生讲述了“数学人在以后的生活中尝试做事时常犯的错误”。

在另一个成功的实验中，SPARC校友Ofer Grossman现在是一名工作人员，SPARC在2017年将所有课程中的一半选为可选课程。由于学生对文化的欣赏，课程仍然很紧张。创始人还同意课后的谈话往往比课堂更有影响力，因此一对一时间和课堂讨论进行了一致。他们在边缘思考时问道：“学校里有什么令人难忘的东西?有什么好的部分?我们可以做更多这些而不是其他的吗?“

最重要的是，SPARC培养了一种开放，好奇和责任感的文化。该项目固有的“认知消除” - 了解选择偏差和确认偏差等常见偏差，并对其进行纠正。“我们非常明确地在彼此的互动中做了大量的去偏见，”张说。“我们也有关于认知偏见的课程，但文化是更重要的部分。”

AI研究和未来领导者

设计安全和有益的技术需要技术专业知识，但在SPARC看来，培养整体研究文化同样重要。今天的优秀学生可能会在未来取得一些最重要的人工智能突破，他们的价值观，教育和气质将在确保高级人工智能安全部署和共同利益方面发挥关键作用。

“这在人工智能之外也很重要，”张解释道。“SPARC官方的立场是让这些学生成为他们社区的未来领导者，无论是AI，学术界，医学还是法律。然后，这些领导人可以互相交谈，成为盟友，而不是拥有一堆分散的，狭隘的纪律。“

随着SPARC接近第7年，一些校友已经开始产生影响。一些面向AI的校友最近成立了AlphaSheets--一个用于融资的协作式可编程电子表格，不易出错 - 而其他学生正在与硅谷的人们一起领导一个“黑客之家”。此外，SPARC启发了ESPR的创建，ESPR是一个明确专注于AI风险的类似欧洲计划。

但大多数影响都不那么明显。“对不同事物感兴趣的不同人群一直在与SPARC的资源合作，他们正在组建许多社会团体，”张解释说。“这就像一堆小小的火花，我们不知道它们会变成什么样，但我对未来五年的表现非常兴奋。”