首页

加入收藏

您现在的位置 : 首页 > 最新资讯

“AI教父”频发警报:人工智能比气候变化的威胁更紧迫

时间:05-07 来源:最新资讯 访问次数:119

“AI教父”频发警报:人工智能比气候变化的威胁更紧迫

·“随着气候的变化,很容易推荐你应该做什么:你只要停止燃烧碳。如果你这样做,最终一切都会好起来的。但对于这个(AI),你根本不清楚应该做什么。”·“生物智能”在信息传递方面“非常低效”,相比之下,数字智能有一个巨大的优势:在多个副本之间共享信息很容易, “当它们中的一个学到了一些东西时,它们就都知道了,可以轻松地存储更多副本。”被称为“AI教父”之一的科学家杰弗里·辛顿(Geoffrey Hinton)近日频繁接受媒体采访,对人工智能可能存在的威胁发出警报。他称AI可能对人类构成比气候变化“更紧迫”的威胁,并阐述了AI有可能超越人类的理由:数字智能在共享信息上比人脑高效得多。杰弗里·辛顿认为,AI能互相学习分享知识,绕过限制操纵人类。(02:33)“我不想贬低气候变化的价值。我不想说,‘你不应该担心气候变化’。那也是一个巨大的风险。”当地时间5月5日,辛顿在接受路透社采访时表示,“但我认为这(AI)最终可能会变得更加紧迫。”他补充说:“随着气候的变化,很容易推荐你应该做什么:你只要停止燃烧碳。如果你这样做,最终一切都会好起来的。但对于这个(AI),你根本不清楚应该做什么。”最近,辛顿宣布离开已工作十年的谷歌,希望能对AI的风险大声发出警报,同时撇开与前雇主的关系。1986年,辛顿与他人合著开创性论文《通过反向传播算法的学习表征》,这是关于支撑AI技术的神经网络的里程碑著作。2018年,他与另外两名AI大牛约书亚·本希奥(Yoshua Bengio)和杨立昆(Yann LeCun)一同被授予图灵奖。现在,辛顿和越来越多的科技领袖一样,公开表达了对人工智能威胁的担忧。4月,推特首席执行官埃隆·马斯克与数千人一起签署了一封公开信,呼吁暂停开发比GPT-4更强大的系统六个月。但辛顿不同意暂停研究。“这完全不现实。”他说, “我处于‘这是一个生存风险’的阵营,已经足够接近了,我们现在应该非常努力地工作,并投入大量资源来弄清楚我们能做些什么。”“过去50年里,我一直在尝试制造可以像大脑一样学习的计算机模型,以便更好地理解大脑是如何学习事物的。”辛顿在接受英国《卫报》采访时说,“在尝试思考大脑如何实施所有这些模型背后的算法时,我得出结论它也许不能——也许这些大模型实际上比大脑好得多。”辛顿说,像人类这样的“生物智能”具有一定优势:以低功率运行,“只有30瓦,即使你在思考”,而且“每个人的大脑都有点不同”,这意味着人通过模仿他人来学习。但这种方法在信息传递方面“非常低效”。相比之下,数字智能有一个巨大的优势:在多个副本之间共享信息很容易, “在能量方面付出了巨大的代价,但当它们中的一个学到了一些东西时,它们就都知道了,可以轻松地存储更多副本。所以好消息是,我们已经发现了永生的秘密。坏消息是,它不适合我们。”“AI教父”杰弗里·辛顿接受专访时解释了自己为什么担心AI、频发警报,“就像外星人已经登陆,人类却毫无意识,因为他们的英语说得很好。”(02:02)一旦接受了数字智能有可能超越人类,就会得出令人震惊的结论。 “我曾认为它最终会发生,但我们有足够的时间:30到50年。(现在)我不这么认为了。而且我不知道任何更聪明的东西被不那么聪明的东西控制的例子——至少,自从拜登当选以来没有。”他说,“你需要想象一些比我们更聪明的东西,就像我们比青蛙更聪明一样。它会从网络上学习,它会阅读每一本关于如何操纵人的书,并在实践中看到它。”辛顿认为,关键时刻将在未来5到20年内到来。“但我不排除一两年的可能性。而且我仍然不排除100年的可能性——认识到生物智能和数字智能有很大不同,而数字智能可能更好,已经动摇了我对‘不会很快到来’的信心。 ”在某种程度上,仍有希望证明人工智能的潜力被夸大了。辛顿告诉《卫报》: “我目前有很大的不确定感。大型语言模型可能已经消耗了网络上的所有文档,除非它们能够访问我们所有的私人数据,否则它们将无法走得更远。我不想排除这样的可能性——我认为对这种情况充满信心的人都是疯子。”辛顿认为,这种发展是资本主义下技术不可避免的结果。“并不是说谷歌一直很糟糕。事实上,谷歌是这项研究的领导者,支撑这一波浪潮的核心技术突破来自谷歌,谷歌决定不直接向公众发布。谷歌担心我们担心的所有事情,它享有良好的声誉,不想把事情搞砸。我认为这是一个公平、负责任的决定。但问题是,在资本主义制度下,如果你的竞争对手那样做,你也只能做同样的事情。”“我不是政策专家。我只是一个突然意识到有可能发生非常糟糕的事情的人。我希望所有了解AI的最优秀的大脑——不仅是哲学家、政治家和政策专家,还有真正了解正在发生的事情细节的人——认真思考这些问题。”他说。目前,欧盟的一个立法委员会已经对上述公开信作出回应,呼吁美国总统拜登与欧盟委员会主席冯德莱恩就AI的未来方向召开全球峰会。上周,欧盟通过了针对生成式人工智能的具有里程碑意义的提案,将迫使OpenAI等公司披露用于训练其模型的版权材料。当地时间5月4日,包括Alphabet首席执行官桑德尔·皮查伊(Sundar Pichai )、OpenAI首席执行官山姆·奥特曼(Sam Altman)和微软首席执行官萨蒂亚·纳德拉(Satya Nadella)在内的多家人工智能公司领导人在白宫与副总统卡马拉·哈里斯举行了会谈。“你们正在做的事情具有巨大的潜力和巨大的危险。”拜登在会议上露面时说。5月4日,多位顶尖人工智能企业的首席执行官参加白宫会议。白宫新闻秘书卡琳·让-皮埃尔(Karine Jean-Pierre)在简报会上说:“总统已经广泛了解了 ChatGPT,并且知道它是如何运作的。”辛顿说,自从他在5月1日首次就AI的危险发表讲话以来,一直在拒绝全球媒体的采访请求。 “目前有3个人想和我谈谈——伯尼·桑德斯(Bernie Sanders,美国参议员)、查克·舒默(Chuck Schumer,美国参议院多数党领袖)和埃隆·马斯克。哦,还有白宫。”

本信息由网络用户发布,本站只提供信息展示,内容详情请与官方联系确认。

标签 : 最新资讯