
0:000:00
<h3>主播的话:</h3><p>欢迎收听本期AI Odyssey节目。DeepSeek凭借其出色的性能和创新的技术路线在AI领域引起广泛关注。作为国内新兴的开源大模型,它在多项基准测试中表现优异,引发了业内对其背后技术实现的好奇。正因如此,我们特意邀请了三位AI领域的一线专家——投资人CW,美团首席工程师奚辰光,以及专注于大模型优化的GenAI研究员Tianyi,共同解析DeepSeek模型的技术创新点,特别是在训练成本优化、数据蒸馏和RLHF等方面的突破。通过这次对话,我们希望为听众揭开高性能开源模型背后的技术思路,也期待探讨大模型未来的发展方向。</p><h3>嘉宾介绍:</h3><ul> <li>CW:国内机构投资人,关注AI/Robotics。</li> <li>奚辰光:奚辰光,美团首席工程师</li> <li>Tianyi:美国大厂的GenAI研究员,从事高性能AI,自动化人工智能,大模型后训练和知识蒸馏。</li></ul><h3>主播介绍:</h3><ul> <li>Leo:硅谷大厂高级机器学习工程师,GenAI LLM发烧友</li></ul><h3>shownote:</h3><p>00:21 嘉宾自我介绍</p><p>01:25 DeepSeek 如何降低训练成本</p><p>04:07 数据蒸馏 vs 传统蒸馏的区别</p><p>05:42 训练数据的获取与质量优化</p><p>06:01 大模型的竞争格局与未来发展</p><p>07:11 蒸馏与小模型训练策略</p><p>10:41 Scaling Law 的未来趋势</p><p>14:38 Moe (Mixture of Experts) 在大模型中的应用</p><p>17:02 AI 的跨模态能力与未来发展</p><p>24:42 强化学习 (RL) 在大模型优化中的应用</p><p>30:47 AI 未来的发展方向与盈利模式</p><p>32:63 Efficiency 研究方向:降低 AI 成本</p><p>40:03 AI 代理 (Agent) 时代的到来</p><p>44:12 未来 AI 企业将如何调整盈利策略</p><p>PS:AI Odyssey 听友群正式开通了,添加 vx:aiodysseyai 带你一起看 AI。</p><p>以上就是本期的全部内容了,欢迎您...