人工智能的技术进步,引发了人类对未来的担心。针对“我们应该对人工智能怀有怎样的担忧?”这个问题，编者总结了17位思想领袖的观点,但他们也没有对该问题形成共识。
以下就是他们的观点:
▌认真对待人们对人工智能的恐惧
向机器超级智能的转变事关重大,这一过程中可能出现的严重错误应该引起我们的重视。因此,应该鼓励数学和计算机科学领域的顶尖人才研究人工智能安全和人工智能控制问题。——牛津大学人类未来学院院长尼克·博斯特罗姆(Nick Bostrom)
如果人工智能影响了俄罗斯黑客技术、英国脱欧公投或美国总统选举,或者促成了某种使得人们不再根据自己的社交媒体资料投票的宣传活动,抑或成为了一种社会科技力量,促进了社会财富的不平等,并像19世纪末、20世纪初那样引发政治极端化,最终促成两次世界大战和经济大萧条,那么我们就应该深怀忧虑。
这并不表示我们应该恐慌,而是应该努力避免这些危害。——巴斯大学计算机科学教授、普林斯顿信息技术政策中心成员乔纳·布雷森(Joanna Bryson)
我现在认为最有可能的失败模式是双重的:一方面,随着越来越多的知识和技能被机器掌握,并通过机器传播,人类在没有真实需求的情况下导致学习动机逐步降低,从而令人类社会逐步衰落;另一方面,我还担心对智能恶意软件缺乏控制,或者恶意使用不安全的人工智能技术所引发的恶性后果。——加州大学伯克利分校计算机科学教授斯图尔特·罗素(Stuart Russell)。
▌但也别反应过度
人工智能令我颇为兴奋,我丝毫没有担忧。人工智能将会把人类从重复、无聊的办公室工作中解脱出来,让我们有更多时间开展真正有创意的工作。我已经迫不及待了。——斯坦福大学计算机科学教授塞巴斯蒂安·特龙(Sebastian Thrun)
我们更应该担心的是气候变化、核武器、抗药病源体、保守的新法西斯主义政治运动。应该担心在自动化经济中机器人取代的劳动力,而不应该担心人工智能会奴役我们。——哈佛大学心理学教授史蒂芬·平克(Steven Pinker)
人工智能有望给社会带来重大福利。它将重塑医药、交通以及生活的方方面面。只要有能力影响众多与生活息息相关的领域,任何一项技术都将得到政策的关照,以便充分发挥它的作用,并给予一定的限制。彻底忽视人工智能的危险是愚蠢的做法,但从技术角度讲,把威胁列为首要担忧的思维模式恐怕并非上策。
——普林斯顿大学计算机科学教授玛格丽特·马敦诺西(Margaret Martonosi)
现在有的人担心人工智能可能催生邪恶杀手,但这就像担心火星上的人口过多一样。或许有朝一日的确会出现这种问题,但人类现在连登陆火星都没有做到。这种杞人忧天完全没有必要,这反而令人们无法关注人工智能引发的更严重的问题——那就是失业。——前百度副总裁兼首席科学家、Coursera联席董事长兼联合创始人、斯坦福大学兼职教授吴恩达
人们对人工智能怀有恐惧和焦虑是可以理解的,而作为研究人员,我们有责任意识到这些恐惧,并提供不同的视角和解决方案。我对人工智能的未来很乐观,认为它可以促使人类和机器共同为我们创造更好的生活。——麻省理工学院计算机科学和人工智能实验室主任丹尼拉·鲁斯(Daniela Rus)
人工智能背后的人类比人工智能更可怕,因为与各种被驯化的动物一样,人工智能的目的是服务于它的创造者。朝鲜掌握人工智能与该国拥有远程导弹一样可怕。但也仅此而已,电影《终结者》里面那种由人工智能颠覆人类的情景只是痴心妄想。——乔治·梅森大学经济学教授布莱恩·卡普兰(Bryan Caplan)
我对所谓的“中间阶段”有些担忧,在这个阶段,无人驾驶汽车会与人类驾驶员共用道路……可一旦人类驾驶员停止开车,整体交通就会更加安全,受到人类错误判断的影响将会降低。
换句话说,我担心的是科技发展过程中的成长的烦恼,但探索和推动技术进步这是人类的天性。与焦虑和担忧相比,我内心更多的是激动和警惕。——纽约大学计算机科学教授安迪·尼伦(Andy Nealen)
毫无疑问,随着人工智能继续进步,它将极大地改变我们的生活方式。这可以带来无人驾驶汽车等技术进步,还可以从事很多工作,从而解放人类,让我们可以追求更有意义的活动。或者,它可能创造大量失业,形成新的网络漏洞。复杂的网络攻击会破坏我们每天通过互联网吸收的信息的可靠性,并削弱全国性和全球性基础设施。——亚利桑那州立大学Origins Project项目主任劳伦斯·克劳斯(Lawrence Krauss)
人工智能是一项非常独特的技术,很容易以此为基础在科幻小说里设想恐怖的场景,例如人工智能夺取了地球上所有机器的控制权,然后奴隶人类。这种概率不大,但人们的确很担心人工智能可能会在人类不知情的情况下采取某些行动。人们因此十分担心这项技术可能引发意外后果。
的确应该认真考虑这些后果可能是什么,考虑我们应该如何应对这些问题,但又不能阻碍人工智能的发展进步。——加州理工学院宇宙学和物理学教授肖恩·卡罗尔(Sean Carroll)
▌人工智能可能取代很多工作
我担心,随着越来越多的细分领域使用机器来完成各种任务,就业就会受到影响。(我不认为人工智能与其他各种技术存在本质的差异——它们之间的边界很武断。)我们能否通过创造新的就业适应这种趋势,尤其是在服务领域以及官僚领域?或者,我们是否会为不工作的人支付薪水?——纽约大学计算机科学教授朱利安·托格流斯(Julian Togelius)
人工智能不会杀死或奴役人类。它会在我们尚未想到应对措施之前消灭某些岗位。白领工作也会受到影响。最终,我们会适应这种趋势,但任何重大的科技变革都不会像我们期望得那么一帆风顺。——乔治·梅森大学经济学教授泰勒·科文(Tyler Cowen)
▌如何为人工智能做好准备
整个社会需要为某些问题做好准备。一个关键问题就是如何为就业的大幅减少做好准备,因为未来的人工智能技术可以处理很多日常工作。另外,我们不应该担心人工智能“过于聪明”,反而应该担心最初的人工智能技术不像我们想象得那么聪明。
早期的自动化人工智能系统可能犯一些多数人类都不会犯的错误。因此,必须教育社会,让他们意识到人工智能和机器学习技术的局限和隐含偏见。——康奈尔大学计算机科学教授巴特·塞尔曼(Bart Selman)
关于人工智能,有四个问题需要担心。第一,有人担心人工智能对劳动力市场构成负面影响。科技已经产生了这种影响,预计未来几年还将更加严重。第二,有人担心重要决策将由人工智能系统来完成。第三,自动化致命武器系统也是一大担忧。最后,“超级智能”也存在一些问题:人类有可能失去对机器的控制。
与另外三个眼前的担忧不同,超级智能风险主要还存在于新闻报道之中,短期并未构成威胁。我们有充分的时间深入评估此事。——莱斯大学计算机工程教授摩西·瓦迪(Moshe Vardi)
我们不能将人工智能的进步定性为违法行为,否则那些违反规定的人就会拥有巨大的优势,而此人的行为将被视作违法。这不是好事。我们不应该否认人工智能的快速发展。当规则被重新定义时,忽视这一现实就意味着被边缘化。
我们不应该希望超级智能机器时代会有更好的生活环境。希望本身并不等于健全的计划。我们也不应该做好跟有自我意识的人工智能对抗的准备,因为这么做只会让它更加激进,这显然并非明智之举。最好的计划似乎是主动塑造正在发展的人工智能,让它能够跟我们和谐共处,互惠互利。——北约合作网络防御中心高级研究员、爱莎阿尼亚信息系统部门前主管简恩·普丽萨鲁
更多信息请关注微信公众号： “OK智能制造” 请扫描下方二维码并加关注！
