白宫首次探讨人工智能,政府应不应该对AI进行管理?

奥巴马政府许诺不会被人工智能竞赛落下,但是如何制定法规是个大问题。

艾伦人工智能研究所首席执行官,奥伦·艾奇奥尼与白宫AI探讨会的听众说话

艾伦人工智能研究所首席执行官,奥伦·艾奇奥尼与白宫AI探讨会的听众说话

政府应不应该对人工智能(AI)进行管理?这就是星期二在西雅图(Seattle)举办的第一次关于AI法律法规的白宫探讨会上的中心问题。

“我们已观察到各种关于AI和机器学习的问题在政府部门中冒头”。白宫副首席技术官艾德·费尔顿(Ed Felten)对此说道。“我们离全面管理AI还远得很,现在的问题在于如何确保在AI越来越聪明的情况下,保持这项技术的安全性、可控性以及可预料性”。

此次探讨会的发起人之一,华盛顿大学法律教授瑞恩·卡罗(Ryan Calo)表示,探讨会的主要目的之一是为了让民众了解这项技术目前的情况以及未来发展的目标。“我们的主意是政府不要直接插手管理AI,而是间接得利用它那大量的手段,例如各政府机构之间的合作以及采购能力来控制”。在场的听众来自于企业界,学术界,以及民众代表。

在主旨发言中,艾伦人工智能研究所(Allen Institute for ArtificialIntelligence)首席执行官奥伦·艾奇奥尼(Oren Etzioni)表示,我们现在还处于机器学习的“黑暗时代”中。因为现有的AI系统只能在有结构的问题下工作,例如棋盘游戏或者高速公路驾驶。

他也表示,他所支持的合作型方式则会让AI帮助人类变得更加安全高效。“与医疗有关的失误是全美国第三大死亡原因”,他说。“AI可以被用在这。因为,每年都有人因为我们没有在医院里正确使用AI而死亡”。

艾奇奥尼还表示,现在就开始讨论制定管理AI的法规还是言之过早。“深度学习还是99%人类的工作和创意。‘这是我的机器人干的’并不是一个合理的借口。我们需要对我们的机器人、AI和算法的行为负责”。

一个主题为“人工智慧”的讨论小组集中地讨论了当人类与AI之间的互动出现问题的时候。例如,一个用于预测未来罪犯的算法有种族歧视的倾向。耶鲁大学法学院教授杰克·巴尔金(Jack Balkin)对此表示,“问题不在于AI软件,问题在于人类使用科技工具在金融、司法以及教育方面压迫他人”。

数名学术界专家提出了一个关于“信息信托”的主意:让收集数据和使用AI的人付出法律信托责任。比如,当一个公司使用劣质数据来训练他们的AI系统时,或者在创造AI是加入基于种族,年龄或者性别的偏见时,他们将被追责。

微软研究部门的社会科学家凯特·克劳福德(Kate Crawford)则表示,当政府部门逐渐变的更加依赖AI系统帮助作出决定时,这些部门需要了解数据和AI系统天生缺陷的人员。她建议学生们编程课和伦理课都需要上。

南卡罗来纳大学教授布莱恩特•沃克•史密斯(Bryant Walker Smith)建议实现灵活的法规以面对迅速进化的技术,例如自动驾驶的汽车。“每个公司都应单独向公众展示他们自动驾驶汽车的安全”,他说,“他们需要定下安全度量,并在他们系统的使用期内时刻测量。我们需要多样化的方式去教育和引出公众讨论”。

这是下面几个月里所安排的4个探讨会其中的第一个。接下来的两个将讨论AI对社会的贡献,以及围绕着安全和控制的问题。最后一个将深度的讨论AI技术对社会和经济方面的影响。费尔顿还表示白宫在近期将签发信息请求,好让公众有机会提出对AI的未来的看法和意见。

当然,众人心知肚明却避之不谈的一点就是11月份的总统选举。费尔顿在月初的一片博客文章中公布了一个新的“国家科学技术理事会下属机器学习和人工智能小组委员会”。此委员会的目标为在从“现在到此任政府结束”之间使用AI来提高政府服务。

【文/Mark Harris DeepTech深科技(mit-tr)】

氧分子网(www.yangfenzi.com)是关注互联网生态圈的科技新媒体

·氧分子网(http://www.yangfenzi.com)延伸阅读:

白宫筹建人工智能委员会,欲用 AI 实现美国梦
和菜头:今夜我不关心AI,我只关心人类
微软和谷歌:宿命对手的 AI 竞赛
百度智能+:百度技术体系核心全面人工智能化
后 ImageNet 时代:李飞飞视觉基因组重磅计划,新一轮竞赛!
十年后Facebook或许以“视频、机器人、AI、VR”统治全世界
李维:反伊莉莎效应,人工智能的新概念
维基百科的 AI 小编上岗了,小编是不是要下岗了?
AlphaGo认输!人类代表李世石佐为附体打败人工智能取首胜!

分享给您的好友:

您可能还喜欢…