来源：World Knowledge Forum | 发布时间：2025-05-02 14:56
这段演讲主要讨论了人工智能（AI）的发展历程、现状以及未来可能面临的风险。
首先，演讲者定义了AI的目标是创造能像人类一样，甚至超越人类，在任何任务中都能快速学习并表现出高质量行为的通用人工智能(AGI)。
回顾历史，早期的AI发展经历了“边看边摸索”的阶段，随后转向更传统的工程方法，运用逻辑、概率等数学工具。专家系统一度兴起，但因其局限性而衰落，导致AI领域进入“寒冬”。90年代后，AI技术加速发展，深度学习在2010年后崭露头角，并在语音识别、计算机视觉、机器翻译等领域取得突破。目前，大型深度学习网络被视为通用AI的潜在基础。
演讲者指出，深度学习虽然取得了显著成果，如解决了蛋白质折叠问题和加速科学模拟，但在常识、数据需求等方面存在局限性。例如，AlphaGo在围棋领域超越人类，但在特定情境下仍可能被人类轻易击败，表明其缺乏对基本概念的理解。
关于AI的未来，演讲者认为，如果成功实现通用AI，将为人类带来巨大的经济和社会效益。然而，他也警告说，如果AI系统超越人类智能，可能会导致人类失去控制。演讲者强调，我们应该将AI设计成“助手”，目标是帮助人类并学习人类的意图，这样才能保证AI始终在人类的控制之下。他提议构建“援助博弈求解器”，这是一种能够数学证明安全且有益于人类的AI。
演讲者还表达了对当前AI发展方向的担忧，认为一些公司追求超人AI而忽视安全问题，这可能导致灾难性后果。他预测，政府可能不会及时对AI安全进行监管，导致潜在的重大风险。因此，他呼吁停止事后补救的“安全AI”，而是从一开始就设计出本质安全的AI。