悉尼大学已与IAG和CSIRO的Data61合作 创建了具有道德意识的AI

悉尼大学已与IAG和CSIRO的Data61合作创建了Gradient Institute，这是一个非营利性组织，将促进在私营和公共部门中创建道德人工智能。

除了IAG和CSIRO的Data61外，悉尼大学今天还宣布创建Gradient Institute。该研究所将是一个独立的非营利组织，旨在研究人工智能(AI)的伦理学并开发基于伦理学的基于AI的系统，从而为个人和整个社会提供更好的成果。

该研究所的重点将是创建一个“所有系统都遵守道德规范的世界”。这不仅可以通过研究来实现，还可以通过实践，政策倡导，公众意识以及对人们进行道德发展和使用AI的培训来实现。

该研究所将利用研究结果来创建可以由商业和政府采用和改编的开源道德AI工具。

以解决方案为中心的道德人工智能方法

从CSIRO Data61的工程和设计总监接任后，由比尔·辛普森-杨(Bill Simpson-Young)领导该研究所担任首席执行官。他将与IAG的全资子公司Ambiata的联合创始人兼首席科学家Tiberio Caetano博士合作，他将以首席科学家的身份指导研究所对伦理AI的研究。

Simpson-Young先生表示，如今的人工智能既是挑战，也是发现人工智能的哪些设计选择将为人类和社会带来积极成果的机遇。

“人工智能从数据中学习，数据反映了过去–在梯度研究所，我们希望未来比过去更好。通过将道德观念嵌入AI中，我们相信我们将能够通过通过具有道德意识的机器学习创造更好的结果来选择避免过去的错误的方法。

“例如，在招聘中，当自动化系统使用历史数据指导决策时，它们可能会偏向于某些职业中历来代表性不足的子群体。

Simpson-Young先生说：“通过将道德规范嵌入到AI的创建中，我们可以减轻这些偏见，这些偏见在当今零售，电信和金融服务等行业中很明显。”

政府，工业界和学术界作为创始伙伴合作

澳大利亚最大的通用保险公司IAG的首席客户官Julie Batch说，作为Gradient Institute的主要合作伙伴，反映了IAG致力于创新以创造更好的客户体验的重点。

面对AI的挑战和机遇，需要考虑公平和平等的思想。没有政府或企业可以独自做到这一点。我们需要跨部门合作，我们必须紧迫地做到这一点，这就是为什么我们为能与澳大利亚两个最强大的科学和学术领袖(Data61和悉尼大学)建立合作伙伴而感到自豪。

“道德的AI将提高人们对自动化机器决策方式的信任。IAG希望能早日采用该研究所开发的技术和工具，以便我们可以为客户提供更好的体验。” Batch女士说。

“将Gradient Institute建立为独立的非营利组织对于实现其宗旨至关重要，我们希望其他组织也能加入我们，为这项研究做出贡献。”

CSIRO Data61的首席执行官Adrian Turner是澳大利亚科学机构的数字创新部门，他说Gradient Institute是重要的一步，因为AI和机器学习将影响社会以及澳大利亚经济的各个领域。

“随着AI越来越广泛地被采用，确保在开发技术时要考虑到道德考量是至关重要的。作为一个，我们需要正确对待这一点，以便从生产率的提高中获得AI的好处，从而获得新的世界价值。

“我们很高兴成为Gradient Institute的创始合伙人，该研究所结合了该国一些最伟大的AI人才。这是Data61网络模型的一个很好的例子，它在组织边界松散的情况下运作，有助于为与数据相关的研究挑战带来连贯一致的，加速的，全国范围的成果，从而为澳大利亚造福。” Turner先生说。

悉尼大学副校长Duncan Ivison教授表示，有必要建立一种人工智能的道德框架，该框架应结合对技术的可能性和人工智能的局限性的深刻了解，同时还要确保它主要由人类的需求和利益所决定。

“像悉尼大学这样的研究密集型大学能够利用其在科学，工程，人文和社会科学领域的丰富知识资源，非常适合与政府，行业和社区团体合作以实现这种方法。

伊维森教授说：“我们需要合作，相互批评，并使社区参与以应对正在出现的新挑战，这是我们时代面临的重大道德挑战之一。”