「从“AI 工厂”回归“实验室”：为什么把模型做大 100 倍不再是灵丹妙药？」 | 边际效应 | 创新停滞 | 科研范式 | 物理极限 | 算力泡沫

Video Description

#黑五Tradingview平台有折扣，应该是全年力度最狠的，大家感兴趣的可以通过这个链接购买，还有额外优惠15刀：https://www.tradingview.com/black-friday/?aff_id=146513 - 原播客视频链接：https://youtu.be/aR20FWCCjAs?si=kTKk02-o_fxLEL7b 本期节目基于Ilya Sutskever（OpenAI 前首席科学家、SSI 创始人）的深度访谈，核心讲述了人工智能如何从“暴力堆数据的时代”转向“学会像人类一样思考的时代”。 1. 现状诊断：Scaling（扩展）的边际效应递减 “卷王”困境：目前的 AI（如 GPT-4）像是一个练了 10,000 小时的“做题家”。它靠死记硬背（Pre-training）掌握了海量知识，但在遇到没见过的新问题时，缺乏举一反三的“泛化能力”。 “复读机”现象：Ilya 指出，当让 AI 修复代码 Bug 时，它经常在两个错误之间死循环。这证明它并没有真正的“判断力”，只有“概率匹配”。 数据枯竭：互联网上的高质量数据快被吃光了，单纯靠“把模型做大”（Scaling Laws）的策略正在撞墙。 2. 技术破局：价值函数 (Value Function) 与慢思考 人类的秘密武器：人类之所以只需练习 10 小时就能学会开车，是因为大脑里有一个**“价值函数”（即内置裁判）**。 比如下棋时，棋子刚落下心里就“咯噔”一下，知道这步错了。这种过程中的直觉能帮我们快速剪掉错误分支，而不需要等到输了才知道。 在生物学上，这种机制表现为**“情绪”**（如恐惧、厌恶、兴奋），它是进化的算法，帮我们高效决策。 算力大转移：AI 的进化方向正在发生质变。 过去：算力主要花在**预训练（Pre-training）**上（死记硬背）。 现在/未来：算力将转移到**推理（Inference/RL）**上。即让 AI 在回答问题前，先在后台进行“思维链”推演（System 2 慢思考），像 AlphaGo 左右互搏一样自我博弈，从而具备“未交卷先知错”的能力。 3. 终局推演：SSI 战略与超级智能伦理 直奔超级智能 (Straight Shot)：Ilya 的新公司 SSI 拒绝参与发布产品的商业竞争（Rat Race），选择封闭研发。理由是：商业竞争会导致安全妥协，只有避开干扰，才能造出安全的超级智能。 对齐“感知生命”：Ilya 提出一种新的对齐思路——不要试图让 AI 对齐混乱复杂的“人类价值观”，而是对齐**“关爱感知生命”（Sentient Life）**。即：在这个宇宙中，凡是能感知痛苦的（人、动物、AI），都应被关爱。这比人类法律更鲁棒。 最终形态： 超级实习生：AI 将打破经济增长极限，从工具变成能自我执行任务的数字员工。 半机械人：为了在超级智能时代保持人类的参与感（Agency），人类可能需要通过脑机接口与 AI 融合。 时间预测：超级智能的到来大约在 5 到 20 年内。 一句话总结： AI 正在告别“大力出奇迹”的蛮荒时代，通过模拟人类的“直觉与慢思考”，向真正的超级智能发起最后冲刺；而我们必须在它降临前，教会它“爱众生”。 - 欢迎follow 我的推特： @kingluffywang - 加入油管的会员：https://www.youtube.com/channel/UCmajVvuOjspOA9WtJGquDHA/join -制作ppt工具Gamma：https://try.gamma.app/f51e7j4btgcq -Perpleixy AI 优惠链接：https://perplexity.ai/pro?referral_code=DZQYQQSQ - 请我喝杯咖啡： https://www.buymeacoffee.com/luffywang - 微博：北美王路飞