让知识彼此相连
知识图谱
沿着人物与判断，回到原始证据。
1 位人物 · 1 个来源 · 1 条观点
放回语境
后Transformer架构的动因
选择一条判断，追溯到它所在的原始对话。
RAG、上下文与记忆在2023–2024年间构成瓶颈
等分区块用于阅读定位，不表示排名或权重。
当前 1–1 / 共 1 条判断 · 按来源日期由新到旧
1 / 1
当前判断
RAG、上下文与记忆在2023–2024年间构成瓶颈
斯塔米罗夫斯卡表示，该团队在2023年和2024年已察觉RAG、上下文与记忆构成瓶颈；这些方法对于她所描述的“若你愿意，即为‘无天花板的人工智能’”而言，既不高效，也不充分。
这些是个人表达的观点，并非共识度量。原始资料保持其原始语言。
支持这项说法
Transformer 之后是什么？
但非常具体地说，促使我们创办 Pathway 并开始研究后 transformer 架构的原因是，我们期待推理成为一件真正的事。我们在处理机器学习中的时间维度方面——也就是任何形式的在线学习——拥有非常深厚的背景。而我们看到 RAG、上下文和记忆，这里说的是 2023 年和 2024 年，成为了瓶颈。它们不够高效，也不足以实现我们所期望的人工智能——如果你愿意这么说的话，就是没有天花板的人工智能。
原始摘录
But very concretely, what prompted us to start Pathway and to start working on post-transformer architectures was that we were looking forward to reasoning becoming a thing. We have a very strong background in dealing with the dimension of time in machine learning—any sort of online learning. And we saw RAG, context, and memory, and we’re talking about 2023 and 2024, as bottlenecks. They were not efficient or sufficient to unlock AI as we would like—AI with no ceiling, if you wish.
日期表示来源发表时间，不代表观点发生变化。 缺少审核合格译文的内容保留原文。