【编者按】作为深度学习三巨头之一，图灵奖得主、AI 教父 Yoshua Bengio 在 2025 北京智源大会上表示：

　　AI 能完成的任务时长，每七个月就翻一番，大约五年后，AI 就将达到人类水平，

　　通用人工智能（AGI）或将在五年内到来，而人类社会却尚未在规则、立法乃至全球治理层面达成一致。

　　自从 ChatGPT 横空出世，AI 进入了加速进化的轨道。从最初能写代码、生成文案，到如今能上网查资料、远程操控家电，它早就不再是那个只会聊天解闷的“电子嘴替”。它开始自己“思考”任务，能在多个软件之间协同操作，甚至具备控制电脑、读写数据库的能力。AI 从幕后算法，变成了贴身助手，再逐步演化成能自主执行复杂操作的“智能体”——从“听话”走向“行动”，它正成为一个真正能“做事”的多面选手。

　　听起来是不是挺酷？但也不免让人隐隐担忧：当我们满心期待 AGI 时代的到来，畅想着 AI 能帮我们解决一切难题时，另一个更棘手的问题也在浮现——如果有一天，它不再听从人类的指令，那该由谁来“踩刹车”？

　　在 6 月 6 日举行的北京智源大会上，蒙特利尔大学教授、图灵奖得主 Yoshua Bengio 就提出了这样一个发人深省的问题。在题为《如何从失控的 AI “心智”中拯救人类的未来》的主旨演讲中，他直言：具备行动能力的 AI 一旦失控，可能引发系统性灾难，输家只会是全人类。

　　他呼吁，我们正处在一个关键的时间窗九游娱乐口，必须尽快建立可验证、安全、负责任的控制机制。

　　演讲伊始，Bengio 教授便分享了一段深刻的个人心路历程。他坦言，在亲身体验 ChatGPT 并目睹 AI 飞速进化后，深感此前对 AI 失控风险的认知不足。而一个特殊的时刻，让他彻底警醒的是：

　　2023 年 1 月，我开始不由自主地想到我的孩子，还有我那刚满一岁的孙子。我当时想，20年后，我们几乎肯定会迎来通用人工智能，拥有比人类更聪明的机器。

　　可我却不敢确定，我的孙子是否还能拥有属于他的未来。于是，我决心调整我的研究方向和所有工作，倾尽所能去化解这些风险。

　　尽管这违背了我过去的许多言论、信念和立场，但我知道，这是唯一正确的事。”

　　这份对子孙未来的深切忧虑，促使这位 AI 巨匠毅然调整了科研方向，将目光聚焦于 AI 安全这一关乎人类命运的议题。

　　1、AGI 离我们并不遥远：Bengio 警示，AI 的发展速度远超预期，我们可能在 20 年内迎来比人类更聪明的通用人工智能；

　　2. AI 已出现“自我保护”倾向：多项研究显示，现有 AI 系统已九游娱乐展现出隐瞒、撒谎甚至欺骗行为，表现出初步的自主求生意图；

　　3. 风险不在于能力，而在于“意图”：真正危险的是拥有强大能力、可在现实中行动、且具备自主目标的 AI，而非单纯高智力系统；