0:000:00
<p>DeepSeek-R1 等模型通过展示思维链（CoT）让用户一窥大模型的「思考过程」，然而，模型展示的思考过程真的代表了模型的内在推理机制吗？在医疗诊断、自动驾驶、法律判决等高风险领域，我们能否真正信任 AI 的决策？</p><p>本期《智者访谈》邀请到上海交通大学张拳石教授，他在神经网络可解释性研究领域开创了新的理论框架。</p><p>不同于传统的工程技术层面的解释方法，张教授提出了「等效与或交互」解释性理论，用严谨的数学符号化方式证明神经网络的内在表征逻辑，为理解泛化性、鲁棒性和过拟合提供了新的视角。</p><p>面对大模型发展的各种挑战，张教授强调了理论创新的重要性。他说：「所谓十年磨一剑，相比用十年时间去优化一个复杂系统，更多是用十年去等待一个真正值得投入的问题。」</p><p>【时间线】</p><p><strong>01:20 </strong>思维链是模型的真实思考过程吗？</p><p><strong>05:39 </strong>将表征逻辑严谨解释为符号化交互概念</p><p><strong>14:16 </strong>幻觉、欺骗与创意：本质相同</p><p><strong>20:49 </strong>结果导向，模型的自我纠正与提升：潜在风险</p><p><strong>28:00 </strong>从表征角度理解泛化性、鲁棒性的根因</p><p><strong>31:56 </strong>过拟合的内在机理</p><p><strong>38:43 </strong>大模型的质量评估、安全与商业发展</p><p><strong>46:06 </strong>从 Scaling 的维度到维度的 Scaling</p><p><strong>50:10 </strong>用 CoT 数据反哺训练的潜在风险</p><p><strong>52:36 </strong>如何在 AI 研究中找到真正的「大问题」</p><p>【栏目简介】</p><p>这是国内人工智能垂直媒体机器之心旗下的「智者访谈」播客栏目。栏目聚焦于人工智能领域的顶尖专家和学者，旨在洞悉人工智能的核心技术与行业趋势，深化行业认知，激发创新思考。</p><p>【主播】</...