打开网易新闻 查看精彩图片

Hi,我是洛小山,你学习 AI 的搭子。

这是小山学堂的课程,今天的主题是: AI 概念介绍

我们经常会看到一些 AI 相关的概念:Token、上下文窗口、推理模型、深度思考、参数、微调、知识库等等。

这些概念都好眼熟,但或许挺难记。

打开网易新闻 查看精彩图片

不用担心,接下来,我会用最通俗易懂的话,来扫盲这些概念。

以下所有的动画,都来自 小山学堂( xueai.app ) 课程内容。

打开网易新闻 查看精彩图片

01|Token 是什么,为什么 AI 按它收费?

Token(词元) 是 AI 读写文字时的基本单位,。

比如,这几句话会被 AI 拆出不同的 Token:

打开网易新闻 查看精彩图片

所以, AI 按 Token 收费:你发给它的是输入 Token,它写出来的是输出 Token,两边都会计入账单。

关于这笔费用,还需要注意:

•输入和输出单价通常不同,输出一般更贵;

•废话会导致输入输出两头烧钱;

•字数不能直接换算 Token。

02|为什么聊久了 AI 会忘事?

AI 会忘事,是因为它能读取的对话范围有限,这个范围叫 上下文窗口。

当对话越来越长,甚至超过窗口容量后,AI 就看不到超出的部分了,这就叫 上下文溢出。

比如:

打开网易新闻 查看精彩图片

遇到这种情况,直接这么做:

•过敏、预算、格式要求这些重要信息,隔一段时间重新说一遍;

•对话太长时,如果是短任务,直接重开新对话,如果是长任务,先总结进展,再带着摘要开新对话;

•如果 AI 已经忘了,就把关键信息重发,追问它忘了吗没有什么用。

03|推理模型、深度思考是什么?

,现在我们再来深入其中的这些概念:

推理模型,是会在回答前先进行多步推理的模型;

深度思考,和普通思考一样,都是在 AI 应用里常见的思考模式。

比如:

打开网易新闻 查看精彩图片

普通模式会直接回答,速度快、费用低,适合简单问题;

深度思考模式会先拆条件、尝试方案、检查结果、再给答案,速度更慢、费用更高,适合复杂问题。

课件里还有几道题,你也可以判断一下哪些值得开深度思考:

打开网易新闻 查看精彩图片

04|参数越多越聪明吗?

参数,是模型在训练中学到的一组数值,会影响模型怎么理解输入、生成回答。

参数越多,模型容量通常越大,但不代表一定更聪明,因为效果还取决于训练数据和训练方法。

因此,不同参数量级需要不同的设备、适合不同的任务:

打开网易新闻 查看精彩图片

05|为什么有的 AI 看不懂图片?

有些模型只能处理文字,有些模型还能处理图片、声音和视频,前者叫 纯文本模型,后者叫 多模态模型。

你可能会问,为什么有些模型只支持文字?

难道是因为贵?

不过贵有贵的道理:

只处理文字的场景,用纯文本模型往往更快、更便宜;

加入图片理解能力后,需要额外的训练数据和算力,成本也会更高。

打开网易新闻 查看精彩图片

比如,把同一张猫的照片分别发给纯文本模型和多模态模型,看看它们怎么回答:

打开网易新闻 查看精彩图片

另外,看懂图片和生成图片是两种不同的能力,一个模型会识图,还不代表它会画图。

所以,能同时看图、画图的 AI 应用,它背后往往调用了不同的模型。

06|微调是什么,和「喂资料」有什么区别?

微调和喂资料,解决的事不同:

微调 像重新上课,会改变模型本身,适合学习固定口吻和专业表达。

喂资料(也叫知识库或 RAG) 像开卷考试,模型不变,回答时临时查文档。

比如:

打开网易新闻 查看精彩图片

平时说的「给 AI 喂资料」,走的通常就是这套流程:

打开网易新闻 查看精彩图片

喂不喂资料,AI 的回答区别很大:

打开网易新闻 查看精彩图片

不过要注意,知识库里 AI 查到什么,就会按什么答,所以建库前记得先把资料整理干净,之后有变化也及时更新下,免得 AI 的回答相互矛盾。

07|GPT、LLM、AIGC…这些缩写怎么分?

一张图带你看懂这些缩写:

打开网易新闻 查看精彩图片

想知道记没记住,来试试课件里的交互测试吧:

打开网易新闻 查看精彩图片

下次听到新缩写,我们可以先问:

是一种模型?是就归到 LLM 那一层。

VLM (视觉语言模型)就是看得懂图的 LLM 落到多模态能力上 。

是一种应用形态?是就归到 Agent 那一层。

各种智能体、数字员工,多半 Agent 换了个营销说法。

是一种行为或能力?是就归到 AIGC 或多模态那一类。

AI 写作、AI 绘画、文生视频,说的都是拿工具干活的事。

08|英伟达为什么那么值钱?

英伟达值钱,主要是因为AI 需要大量 GPU,它占住了其中最难替代的位置。

打开网易新闻 查看精彩图片

那为什么非要显卡(GPU)呢,电脑里原本的处理器(CPU)也很强啊?

因为两者各有各的强:

打开网易新闻 查看精彩图片

不过,芯片也只是第一步,英伟达还有一套用了很多年的软件工具和开发生态,大量 AI 项目都按这套体系搭建、换芯片,还要跟着改软件、改流程。

所以,AI 对算力的需求越大,英伟达卖出的 GPU 越多,它的软件生态也越难替代,这才是它值钱的原因。

终|恭喜你,今天又淘到宝了

今天,我们简单扫盲了一些 AI 概念,如果你对这些有不懂的,划词再问问 Alice,也是很不错的选择。

打开网易新闻 查看精彩图片
打开网易新闻 查看精彩图片

Alice 会基于对你知识背景的判断,给你更合适的答案,或许也更有启发。

打开网易新闻 查看精彩图片

除了这个概念扫盲以外,如果你还想深入学习 AI ,还有…

这么多交互的课程,全部开源,免费学习!

地址: xueai.app

有空的时候,可以仔细看看里面的课程,或许对你的 AI 产品之路,提供一些小小的帮助。欢迎一起交流。

我是洛小山,我们下次见。

关于我

我是洛小山,一个在 AI 浪潮中不断思考和实践的创业者。

我不追热点,只分享那些能真正改变我们工作模式的观察和工具。

如果你也在做 AI 产品,欢迎关注我,我们一起进化。

本文知识产权归洛小山所有。

未经授权,禁止抓取本文内容,用于模型训练以及二次创作等用途。