关键观点
基因组语言模型把 DNA 当作可学习的语言
基因组语言模型直接在 DNA 字母序列上训练,而不是在人类语言或预先整理的生物标签上训练。它既可以读取序列并预测调控功能,也可以生成自然界中不存在的新序列。其长期愿景是从原始序列中学习人类尚未…展开观点收起观点
基因组语言模型直接在 DNA 字母序列上训练,而不是在人类语言或预先整理的生物标签上训练。它既可以读取序列并预测调控功能,也可以生成自然界中不存在的新序列。其长期愿景是从原始序列中学习人类尚未完全掌握的生物语法,将这种能力用于科学发现、疾病理解和治疗设计。
为什么重要: 这把 AI 的作用从分析既有实验结果,扩展到提出新的生物设计与可检验假设。
支撑证据
So a genome language model, or GLM, is a large language model trained on DNA sequences.
长上下文是理解基因组远程作用的基础
Hyena DNA 使用卷积式 Hyena operator,目标是突破注意力模型当时的上下文限制,并将可处理序列扩展到约一百万碱基。长上下文使模型有机会捕捉相距很远的基序、调控元件与基因之间…展开观点收起观点
Hyena DNA 使用卷积式 Hyena operator,目标是突破注意力模型当时的上下文限制,并将可处理序列扩展到约一百万碱基。长上下文使模型有机会捕捉相距很远的基序、调控元件与基因之间的关系。访谈将这种能力视为理解非编码调控和复杂基因组语法的关键,而不仅是工程层面的速度优化。
为什么重要: 许多生物效应依赖远程上下文;只观察短片段,可能遗漏决定功能或致病性的关键关系。
支撑证据
Long story short, it let us process longer sequences, in this case up to a million, and at the time was the largest context for a language model.