“人工智能教父”再发警告:AI对人类的威胁或比气候变化“更为紧迫”

2023-05-09 20:30     观察者网

(观察者网讯)据路透社5月9日报道,有"人工智能(AI)教父"之称的杰弗里·辛顿(Geoffrey Hinton)5日警告称,AI对人类构成的威胁可能比气候变化"更为紧迫"。

自本月初宣布从谷歌离职后,辛顿频频公开表达对AI技术的担忧,包括使人失业、散布虚假信息等问题,并称如果没有监管,科技巨头间的竞争将升级为全球性竞赛且难以停步。

本月早些时候,白宫公布了AI监管计划,美国总统拜登和副总统哈里斯会见了谷歌、微软、OpenAI和Anthroic的首席执行官,敦促这些行业领先企业解决AI发展的风险。

杰弗里·辛顿

现年75岁的辛顿在人工神经网络领域长期从事开创性工作,被认为对当代人工智能系统的发展至关重要,在业内被称为"人工智能教父"。1986年,辛顿和同事在论文中提出了"反向传播算法"机制,这是现代"深度学习"理论的奠基石之一。以此为基础,辛顿在该领域提交了诸多专利申请,并与另外两位"深度学习之父"共同获得2018年图灵奖。

本月5日接受路透社采访时,辛顿就AI技术风险发出警告,他将之与气候变化相比:"我不想贬低气候变化的价值,我不会说'你不用担心气候变化',那也是个巨大风险。但我认为,这件事(AI)最终可能会变得更加紧迫。"

他补充称,应对气候变化的建议很容易提出,比如你应该停止燃烧碳,只要践行,一切都会好起来,但对于AI"我们根本不清楚应该怎么做"。

不过,虽然辛顿担心AI可能被证明是对人类生存的威胁,但他不同意暂停相关研究。

"这完全不现实。我所在的阵营认为这是一个存在主义风险(existential risk),且迫在眉睫,我们现在应该全力工作,投入大量资源,弄清楚我们能做些什么。"

此外,辛顿称:"科技企业高管们对此最了解,政界人士也必须参与进来。它影响到我们所有人,所以我们都必须思考这一问题。"

据《纽约时报》早前报道,辛顿于当地时间5月1日宣布自己从谷歌离职,他透露离职就是希望在不影响前雇主的情况下,公开自由地谈论AI技术的风险。他眼下担心互联网会充斥虚假信息,普通人将"再也无法知道什么是真实的",他还担心AI技术迟早会颠覆就业市场。

他甚至对自己在人工智能领域所做的工作和贡献感到遗憾和懊悔,"我用一个惯常的借口来安慰自己--如果我没有这样做,其他人也会这样做"。

辛顿认为,AI技术发展的速度已经超过了自己曾经的预期,如果没有全球性的监管,科技巨头间的竞争将升级为全球性竞赛,且难以停止。

当地时间5月2日,辛顿接受美国有线电视新闻网(CNN)采访时再度表态称,作为一名科学家,突然意识到AI比人类更聪明之后,他才想要做一个"吹哨人",以阻止AI可能控制人类的事情发生。

此前,马斯克、苹果联合创始人史蒂夫·沃兹尼亚克等1000名科技人士签署了一封公开信,呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。

当地时间5月4日,美国总统拜登和副总统哈里斯在白宫会见了谷歌、微软、OpenAI和Anthroic四家科技企业的首席执行官,敦促这些企业解决人工智能发展的风险。会议召开前几小时,白宫还公布了一系列应对人工智能挑战的举措,并宣布美国国家科学基金会计划拨款1.4亿美元,用于启动7所新的AI研究机构。

今日关注
更多