欧盟正在制定人工智能规则 以避免新的技术危机

社交媒体面临信任危机。欧洲希望确保人工智能的方式不同。

欧盟委员会周一公布了道德准则，旨在影响人工智能系统深入社会之前的发展。

干预可能有助于打破监管机构被迫追赶新兴技术的模式，这些技术会导致意想不到的负面后果。

周一，英国提出新规则，使互联网公司在法律上有责任摆脱其有害内容的平台，这一点的重要性得到了强调。

“这就像在建造房屋之前建立基础......现在是时候做了，”IBM的欧洲法规事务副总裁Liam Benham表示，他参与起草了人工智能指南。

欧盟在技术监管方面占据全球领先地位，去年引入了具有里程碑意义的数据隐私法，同时追逐大型科技公司的反竞争行为和未缴税款。

人工智能已经吸引了公众的想象力，并对潜在的滥用产生了可怕的警告，是该集团最新的监管前沿。这不是一个简单的话题。

例如，谷歌上周关闭了新的人工智能道德委员会，此前一大批员工要求将该保守智囊团的总统从该集团中撤职。

欧盟委员会制定了七项指导人工智能发展和建立信任的原则。虽然准则没有约束力，但它们可以成为未来几年采取进一步行动的基础。

透明度是关键

欧洲数字经济高级官员Mariya Gabriel表示，使用人工智能系统的公司应该对公众透明。

“人们需要在与算法接触时获得通知，而不是另一个人，”加布里埃尔说。“算法做出的任何决定都必须经过验证和解释。”

例如，拒绝基于算法的索赔的保险公司应确保客户知道决策的方式和原因。人类应该能够介入并扭转决策。

欧盟委员会表示，未来的人工智能系统需要在整个生命周期内安全可靠。它还表示，数据保护必须是优先事项，用户可以控制自己的信息。

该指南将责任完全放在那些构建和部署AI系统的人身上。

“如果公司投入人工智能系统，该公司应对此负责......如果发生任何意外，这一点非常重要，”加布里埃尔说。

避免歧视

Gabriel还表示，公司需要确保他们的AI系统是公平的。

例如，她说，招聘过程中使用的算法是使用仅雇用男性的公司的数据生成的，可能会拒绝女性候选人。

“如果你有偏见的输入数据，这确实是一个问题，”加布里埃尔说。

非营利组织AlgorithmWatch表示，尽管制定指导方针是一个好主意，但欧洲方法存在问题。

该指南的联合创始人马蒂亚斯•斯皮尔坎普说：“这些指导原则围绕着'值得信赖的人工智能'这一理念，因为它不是一个定义明确的术语。” “谁值得信任，谁值得信任?”他补充说。他还表示，目前尚不清楚未来的监管将如何处理。

美因茨大学的哲学家和教授托马斯·梅辛格(Thomas Metzinger)帮助起草了这些指导方针，但批评他们没有禁止使用人工智能开发武器。

其他人则担心指导方针对创新的影响。

“我们担心指南的细化程度会使许多公司特别是[中小型企业]难以实施，”工业集团TechUK副首席执行官Antony Walker表示。

欧盟现在将尝试在与大科技公司的试点计划中解决这些问题和其他问题。