Latent SpaceNext 100x in AI: Inference, Networking, & Self-Optimizing Models — Philip Kiely & Ali Taha, Baseten
这段访谈的核心结论是：推理工程早已不是“把模型跑起来”这么简单，而是量化、投机解码、KV 缓存、并行策略、硬件互联、后训练与运行时调优共同构成的一整套系统工程。更进一步，模型已经开始参与优化自己的推理栈，训练与推理的边界正在快速消失。
9 个关键观点
继续浏览其他主题
研究主题播客整理
23 条已整理内容
按节目浏览
可以直接阅读
Latent Space
AnthropicAI models can now help run physical science experiments
这段内容的核心论点是：科学进步的最大摩擦常常不在理论，而在实验执行；一旦 AI 能通过通用硬件接口安全地操控真实设备，它就可能把科研从“搭系统”转向“问问题”。从显微镜到药物发现，Model Hardware Standard 被呈现为把 AI 带入物理实验闭环的基础层。
8 个关键观点
Andrej Karpathy[1hr Talk] Intro to Large Language Models
讲者把大语言模型解释为“下一词预测器 + 海量参数 + 工具调用系统”：运行它并不神秘，难的是昂贵训练、后续对齐和持续评测。真正决定其上限的，不只是模型本身，还有规模化训练、多模态、工具使用，以及不断扩大的安全攻击面。
11 个关键观点
No PriorsRethinking Legacy Data Infrastructure with Eon Co-Founders Ofir Ehrlich and Gonen Stein
这段访谈的核心结论是，AI时代真正稀缺的不是模型和算力，而是企业手里可用、可控、带上下文的数据。与此同时，具备合法权限的AI代理正在把传统安全与合规问题以更高速度放大成新的基础设施危机。
8 个关键观点
