两年多前，人工智能（AI）先驱约书亚-本吉奥（Yoshua Bengio）曾是呼吁暂停AI模型开发、专注于安全标准的最响亮发声者之一。
但没有人停下脚步。相反的，各家公司继续投入数千亿美元，用于构建更先进的模型，这些模型能够执行长链推理，并且能够日益代表用户采取自主行动。如今，被视为“AI教父”之一的本吉奥和以往一样忧心忡忡。
本吉奥在接受媒体专访时称：“如果我们制造出比我们聪明得多、并且有其自身生存目标的机器，那将是危险的。”他表示，这就像为人类创造了一个比我们更聪明的竞争对手。它们可以通过说服、威胁、操纵公众舆论来影响人类。它们可以通过各种方式，借助人类在世界上完成任务。比如，帮助恐怖分子制造一种可能引发新的大流行病的病毒，这对我们来说可能非常危险。对于像人类灭绝这样的灾难性事件，甚至是像摧毁我们的民主这样虽不那么极端但仍是灾难性的事件，问题在于它们是如此糟糕，以至于即使只有1%的发生几率，也是不可接受的。
本吉奥是人工智能领域的标志性人物，以其在深度学习开发中的开创性贡献而享誉全球。2018年，他荣获被誉为“计算机界诺贝尔奖”的A.M．图灵奖，与Geoffrey Hinton和Yann LeCun一起被称为深度学习的“奠基人”之一。他是蒙特利尔大学的教授，也是Mila——魁北克人工智能研究所的创始人，该研究所已成为人工智能研究的核心枢纽。
今年早些时候，他还发起了一个名为LawZero的非营利研究组织，旨在探索如何构建真正安全的AI模型。
海量资讯、精准解读，尽在新浪财经APP
责任编辑：王永生
摩根证券提示：文章来自网络，不代表本站观点。
