
Next 100x in AI: Inference, Networking, & Self-Optimizing Models — Philip Kiely & Ali Taha, Baseten
这段访谈的核心结论是:推理工程早已不是“把模型跑起来”这么简单,而是量化、投机解码、KV 缓存、并行策略、硬件互联、后训练与运行时调优共同构成的一整套系统工程。更进一步,模型已经开始参与优化自己的推理栈,训练与推理的边界正在快速消失。
9 个关键观点

这段访谈的核心结论是:推理工程早已不是“把模型跑起来”这么简单,而是量化、投机解码、KV 缓存、并行策略、硬件互联、后训练与运行时调优共同构成的一整套系统工程。更进一步,模型已经开始参与优化自己的推理栈,训练与推理的边界正在快速消失。
9 个关键观点



这期访谈的核心判断是:蛋白质设计已经从“看起来有希望”进入“能产生真实药物候选并被大药企采购”的阶段。Chai 想做的不是单点模型,而是把药物发现从高成本瀑布流改造成可视化、可迭代、越来越像软件工程的设计系统。
8 个关键观点

EXO 试图把 agent 从“可插拔”推进到“可自改写”:执行策略本身可以在运行时被安全修改、重建和回滚。Alex 认为这让真正的递归自改进开始具备工程可行性,但前提仍是隔离、评估与防 reward hacking 机制。
10 个关键观点

这场访谈的核心观点是:高价值仿真不是更会“猜答案”的问卷机器人,而是能基于真实行为、因果机制和群体互动,帮助人类找到“如何改变未来”的路径。June把这条路线定义为从理解人的社会物理学出发,最终走向可模拟整个社会的大规模行为基础设施。
8 个关键观点