你需要知道的 AI 三种机制
这是"AI 小知识系列"的第三篇,前两篇分别是《大模型需要多少内存》和《AI 缓存是什么》。我分享一些自己的学习笔记,用来理清对于 AI 技术的理解。我尽量写得通俗,希望对大家有用。今天谈一个基本问题:AI 为什么能够回答我们的提问,它怎么会知道答案?你可以找到很多这方面的论文和书籍,详细解释大模型的运作,通常非常难懂。但是,对于非专业人士,只要简单知道 AI 的三个机制,就可以了。(1)参数机制在宏观层面,所有大模型都是对人类知识的建模。它建立了一个数学模型,用来描述所有的人类知识。怎么描述呢?它使用的是一种参数机制,将知识分解成一个个"词元"(tok...