一、AI 基础概念
AI 人工智能
让机器像人一样完成理解、判断、生成、决策等任务。机器学习 Machine Learning
让机器从数据中“总结规律”,而不是人手写所有规则。深度学习 Deep Learning
机器学习的一种,像搭很多层“神经网络积木”,适合处理图像、语音、文本。生成式 AI Generative AI
能生成文字、图片、代码、音乐、视频的 AI,就像“内容生产机器”。大模型 Large Model
参数很多、能力很强的 AI 模型,好比知识面很广的“超级大脑”。大语言模型 LLM
专门理解和生成语言的大模型,比如 ChatGPT 这类系统的核心。基础模型 Foundation Model
先用海量数据训练出来的底座模型,之后可改造成客服、写作、编程等应用。多模态 Multimodal
AI 不只看文字,还能看图、听声音、看视频,像人一样综合理解信息。自然语言处理 NLP
让机器理解、生成、翻译和总结人类语言。计算机视觉 CV
让机器“看懂”图片和视频,比如识别人脸、车辆、缺陷、医学影像。
Token
AI 处理文字的基本小单位,可以理解为“字词碎片”。你问得越多,用掉的 Token 越多。Prompt 提示词
你给 AI 下的指令,就像给员工布置任务的说明书。上下文窗口 Context Window
AI 一次能记住和处理的内容长度,好比它的“短期记忆容量”。推理 Inference
模型训练好以后,真正回答问题、生成内容的过程。训练 Training
让模型读海量数据、调整内部参数的过程,好比学生刷题学习。预训练 Pre-training
模型先学习通用知识,就像上基础课。微调 Fine-tuning
在通用模型上继续训练,让它更适合某个行业或任务。参数 Parameters
模型内部的“知识旋钮”。参数越多,不一定越聪明,但通常容量更大。权重 Weights
模型判断时给不同信息的重要程度,好比做决策时的打分权重。Embedding 向量嵌入
把文字、图片等转成一串数字,让机器能计算“语义距离”。
CPU 中央处理器
电脑的大脑,擅长处理复杂但不一定重复的任务。GPU 图形处理器
原本用于图形计算,现在非常适合 AI 训练和推理,像一支“并行计算大军”。TPU
Google 为 AI 设计的专用芯片,像专门为深度学习定制的跑车。NPU
神经网络处理器,常见于手机、PC、边缘设备,用来加速 AI 功能。ASIC 专用芯片
为特定任务设计的芯片,效率高,但灵活性较低。FPGA
可以重新配置的芯片,像“可改装的电子积木”。HBM 高带宽内存
AI 芯片旁边的高速内存,像给 GPU 配的“超宽高速仓库通道”。DRAM 内存
电脑运行程序时临时存数据的地方,像办公桌。SRAM 静态存储器
芯片内部更快但更贵的存储,像放在手边的小抽屉。Chiplet 小芯片
把大芯片拆成多个小芯片拼起来,像搭乐高一样做高性能芯片。
数据中心 Data Center
集中放服务器、存储、网络设备的大型机房,是 AI 的“工厂”。服务器 Server
提供计算能力的机器,AI 模型通常跑在很多服务器上。机柜 Rack
放服务器的柜子,像数据中心里的“货架”。集群 Cluster
很多服务器连在一起共同工作,像一支计算团队。Scale Out 横向扩展
增加更多服务器一起干活,像多招人。Scale Up 纵向扩展
把单台机器或单个节点做得更强,像给一个人升级更强装备。交换机 Switch
数据中心里的交通枢纽,负责把数据送到正确的服务器。网卡 NIC
服务器连接网络的接口,像电脑的“网路门”。光模块 Optical Module
把电信号和光信号互相转换的小设备,是 AI 数据中心高速互联的关键零件。光纤 Fiber
用光传输数据的线,像数据高速公路。
带宽 Bandwidth
单位时间能传多少数据,像高速公路有几条车道。延迟 Latency
数据从一端到另一端需要多久,像快递送达时间。吞吐量 Throughput
系统实际处理数据的能力,像工厂实际产量。400G / 800G / 1.6T
光模块传输速率等级,数字越大,数据高速公路越宽。DSP 数字信号处理器
光模块里的“信号修复师”,让高速传输的信号更稳定。硅光 Silicon Photonics
用硅芯片工艺做光通信器件,目标是更高集成度、更低功耗。EML 电吸收调制激光器
高速光模块常用激光器路线,性能强但成本、功耗和封装有压力。VCSEL 垂直腔面发射激光器
适合短距离传输,像短跑选手,便宜、易阵列化,但远距离和高速上限有限。LPO 线性直驱光模块
尽量减少 DSP,主要为了降低功耗,像把中间复杂环节省掉。CPO 共封装光学
把光学部件和交换芯片放得更近,减少电信号损耗,像把仓库建在工厂旁边。
Transformer
现代大模型的核心架构,擅长处理语言和序列信息。Attention 注意力机制
让模型判断哪些信息更重要,好比读文章时划重点。MoE 专家混合模型
模型里有多个“专家”,不同问题找不同专家处理,节省算力。RAG 检索增强生成
先查资料再回答,像开卷考试,能减少胡编。向量数据库 Vector Database
存放语义向量的数据库,方便 AI 找相似内容。知识图谱 Knowledge Graph
用点和线表示知识关系,像一张概念关系网。RLHF 人类反馈强化学习
人给模型反馈,让它回答得更符合人类偏好。SFT 监督微调
用人工标注的问答样本训练模型,让它更会按要求回答。蒸馏 Distillation
让小模型学习大模型的能力,像师傅带徒弟。剪枝 Pruning
删除模型里不重要的部分,让模型更轻、更快。
AI Agent 智能体
不只是回答问题,还能规划任务、调用工具、执行步骤,像一个数字助理。Copilot 副驾驶
帮人完成工作但不完全替代人,比如代码副驾驶、办公副驾驶。Chatbot 聊天机器人
能对话的 AI,常见于客服、助手、问答系统。AIGC
AI 生成内容,包括文章、图片、视频、音乐、代码。AI 搜索
不只是给链接,而是理解问题、整合资料后给答案。AI 编程助手
帮程序员写代码、改 Bug、解释代码。数字人 Digital Human
用 AI 生成外貌、声音和动作的虚拟人物。自动驾驶 Autonomous Driving
用 AI 感知环境、规划路线、控制车辆。机器人 Robotics
AI 与机械结合,让机器能感知、移动、操作物体。边缘 AI Edge AI
AI 不在云端,而是在手机、汽车、摄像头等本地设备运行。
数据集 Dataset
训练 AI 用的资料集合,就像学生的教材和题库。标注 Annotation
给数据加标签,比如告诉 AI 哪张图里是猫。训练数据 Training Data
模型学习时使用的数据。测试数据 Test Data
用来检查模型水平的数据,好比考试卷。过拟合 Overfitting
模型把训练题背熟了,但遇到新题不会做。泛化 Generalization
模型遇到新问题也能答得好,说明真的学会了规律。Benchmark 基准测试
衡量模型能力的标准考试。准确率 Accuracy
回答正确的比例。召回率 Recall
该找出来的东西有多少被找出来了,常用于搜索和识别任务。幻觉 Hallucination
AI 一本正经地胡说八道,生成看似合理但实际错误的信息。
API
软件之间调用能力的接口。AI API 就像把模型能力做成“水龙头”,别人按量使用。API 限流
限制用户调用次数,通常说明资源有限或要控制成本。Token 计费
按输入和输出的 Token 数收费,像按用水量交水费。推理成本 Inference Cost
AI 每回答一次问题所消耗的计算、电力、服务器成本。训练成本 Training Cost
从零或大规模训练模型的成本,通常非常高。模型部署 Deployment
把模型真正放到服务器或设备上运行。云计算 Cloud Computing
通过互联网租用计算资源,不必自己买服务器。私有化部署 On-premise Deployment
把 AI 系统部署在企业自己的服务器里,更强调数据安全。SaaS
软件即服务,用户按订阅使用软件,比如在线办公、AI 工具。算力租赁
不买 GPU,而是按小时或按量租用计算资源。
AI 安全 AI Safety
研究如何让 AI 不失控、不误导、不造成伤害。对齐 Alignment
让 AI 的目标和人类意图一致,避免“答非所问”或错误执行。隐私保护 Privacy
防止用户数据、企业数据被泄露或滥用。数据合规 Compliance
AI 使用数据时符合版权、隐私、监管要求。开源模型 Open-source Model
权重或代码公开的模型,方便开发者使用和改造。闭源模型 Closed-source Model
模型细节不公开,通常由公司通过 API 或产品提供服务。国产替代
用本土芯片、软件、设备替代进口方案。AI CapEx
云厂商为 AI 建数据中心、买 GPU、买网络设备的资本开支。光模块超级周期
AI 数据中心高速互联需求爆发,带动光模块持续升级和放量。硅光产业链
围绕硅光芯片、激光器、调制器、探测器、封装、光模块形成的产业链,是 AI 数据中心高速互联的重要方向。
一句话理解:AI 不只是一个软件故事,它背后是一整套“数据、模型、芯片、服务器、网络、光模块、电力、散热、应用”的系统工程。
,尽量用普通人能懂的方式解释,适合作为入门词典。
一、AI 基础概念
AI 人工智能
让机器像人一样完成理解、判断、生成、决策等任务。机器学习 Machine Learning
让机器从数据中“总结规律”,而不是人手写所有规则。深度学习 Deep Learning
机器学习的一种,像搭很多层“神经网络积木”,适合处理图像、语音、文本。生成式 AI Generative AI
能生成文字、图片、代码、音乐、视频的 AI,就像“内容生产机器”。大模型 Large Model
参数很多、能力很强的 AI 模型,好比知识面很广的“超级大脑”。大语言模型 LLM
专门理解和生成语言的大模型,比如 ChatGPT 这类系统的核心。基础模型 Foundation Model
先用海量数据训练出来的底座模型,之后可改造成客服、写作、编程等应用。多模态 Multimodal
AI 不只看文字,还能看图、听声音、看视频,像人一样综合理解信息。自然语言处理 NLP
让机器理解、生成、翻译和总结人类语言。计算机视觉 CV
让机器“看懂”图片和视频,比如识别人脸、车辆、缺陷、医学影像。
Token
AI 处理文字的基本小单位,可以理解为“字词碎片”。你问得越多,用掉的 Token 越多。Prompt 提示词
你给 AI 下的指令,就像给员工布置任务的说明书。上下文窗口 Context Window
AI 一次能记住和处理的内容长度,好比它的“短期记忆容量”。推理 Inference
模型训练好以后,真正回答问题、生成内容的过程。训练 Training
让模型读海量数据、调整内部参数的过程,好比学生刷题学习。预训练 Pre-training
模型先学习通用知识,就像上基础课。微调 Fine-tuning
在通用模型上继续训练,让它更适合某个行业或任务。参数 Parameters
模型内部的“知识旋钮”。参数越多,不一定越聪明,但通常容量更大。权重 Weights
模型判断时给不同信息的重要程度,好比做决策时的打分权重。Embedding 向量嵌入
把文字、图片等转成一串数字,让机器能计算“语义距离”。
CPU 中央处理器
电脑的大脑,擅长处理复杂但不一定重复的任务。GPU 图形处理器
原本用于图形计算,现在非常适合 AI 训练和推理,像一支“并行计算大军”。TPU
Google 为 AI 设计的专用芯片,像专门为深度学习定制的跑车。NPU
神经网络处理器,常见于手机、PC、边缘设备,用来加速 AI 功能。ASIC 专用芯片
为特定任务设计的芯片,效率高,但灵活性较低。FPGA
可以重新配置的芯片,像“可改装的电子积木”。HBM 高带宽内存
AI 芯片旁边的高速内存,像给 GPU 配的“超宽高速仓库通道”。DRAM 内存
电脑运行程序时临时存数据的地方,像办公桌。SRAM 静态存储器
芯片内部更快但更贵的存储,像放在手边的小抽屉。Chiplet 小芯片
把大芯片拆成多个小芯片拼起来,像搭乐高一样做高性能芯片。
数据中心 Data Center
集中放服务器、存储、网络设备的大型机房,是 AI 的“工厂”。服务器 Server
提供计算能力的机器,AI 模型通常跑在很多服务器上。机柜 Rack
放服务器的柜子,像数据中心里的“货架”。集群 Cluster
很多服务器连在一起共同工作,像一支计算团队。Scale Out 横向扩展
增加更多服务器一起干活,像多招人。Scale Up 纵向扩展
把单台机器或单个节点做得更强,像给一个人升级更强装备。交换机 Switch
数据中心里的交通枢纽,负责把数据送到正确的服务器。网卡 NIC
服务器连接网络的接口,像电脑的“网路门”。光模块 Optical Module
把电信号和光信号互相转换的小设备,是 AI 数据中心高速互联的关键零件。光纤 Fiber
用光传输数据的线,像数据高速公路。
带宽 Bandwidth
单位时间能传多少数据,像高速公路有几条车道。延迟 Latency
数据从一端到另一端需要多久,像快递送达时间。吞吐量 Throughput
系统实际处理数据的能力,像工厂实际产量。400G / 800G / 1.6T
光模块传输速率等级,数字越大,数据高速公路越宽。DSP 数字信号处理器
光模块里的“信号修复师”,让高速传输的信号更稳定。硅光 Silicon Photonics
用硅芯片工艺做光通信器件,目标是更高集成度、更低功耗。EML 电吸收调制激光器
高速光模块常用激光器路线,性能强但成本、功耗和封装有压力。VCSEL 垂直腔面发射激光器
适合短距离传输,像短跑选手,便宜、易阵列化,但远距离和高速上限有限。LPO 线性直驱光模块
尽量减少 DSP,主要为了降低功耗,像把中间复杂环节省掉。CPO 共封装光学
把光学部件和交换芯片放得更近,减少电信号损耗,像把仓库建在工厂旁边。
Transformer
现代大模型的核心架构,擅长处理语言和序列信息。Attention 注意力机制
让模型判断哪些信息更重要,好比读文章时划重点。MoE 专家混合模型
模型里有多个“专家”,不同问题找不同专家处理,节省算力。RAG 检索增强生成
先查资料再回答,像开卷考试,能减少胡编。向量数据库 Vector Database
存放语义向量的数据库,方便 AI 找相似内容。知识图谱 Knowledge Graph
用点和线表示知识关系,像一张概念关系网。RLHF 人类反馈强化学习
人给模型反馈,让它回答得更符合人类偏好。SFT 监督微调
用人工标注的问答样本训练模型,让它更会按要求回答。蒸馏 Distillation
让小模型学习大模型的能力,像师傅带徒弟。剪枝 Pruning
删除模型里不重要的部分,让模型更轻、更快。
AI Agent 智能体
不只是回答问题,还能规划任务、调用工具、执行步骤,像一个数字助理。Copilot 副驾驶
帮人完成工作但不完全替代人,比如代码副驾驶、办公副驾驶。Chatbot 聊天机器人
能对话的 AI,常见于客服、助手、问答系统。AIGC
AI 生成内容,包括文章、图片、视频、音乐、代码。AI 搜索
不只是给链接,而是理解问题、整合资料后给答案。AI 编程助手
帮程序员写代码、改 Bug、解释代码。数字人 Digital Human
用 AI 生成外貌、声音和动作的虚拟人物。自动驾驶 Autonomous Driving
用 AI 感知环境、规划路线、控制车辆。机器人 Robotics
AI 与机械结合,让机器能感知、移动、操作物体。边缘 AI Edge AI
AI 不在云端,而是在手机、汽车、摄像头等本地设备运行。
数据集 Dataset
训练 AI 用的资料集合,就像学生的教材和题库。标注 Annotation
给数据加标签,比如告诉 AI 哪张图里是猫。训练数据 Training Data
模型学习时使用的数据。测试数据 Test Data
用来检查模型水平的数据,好比考试卷。过拟合 Overfitting
模型把训练题背熟了,但遇到新题不会做。泛化 Generalization
模型遇到新问题也能答得好,说明真的学会了规律。Benchmark 基准测试
衡量模型能力的标准考试。准确率 Accuracy
回答正确的比例。召回率 Recall
该找出来的东西有多少被找出来了,常用于搜索和识别任务。幻觉 Hallucination
AI 一本正经地胡说八道,生成看似合理但实际错误的信息。
API
软件之间调用能力的接口。AI API 就像把模型能力做成“水龙头”,别人按量使用。API 限流
限制用户调用次数,通常说明资源有限或要控制成本。Token 计费
按输入和输出的 Token 数收费,像按用水量交水费。推理成本 Inference Cost
AI 每回答一次问题所消耗的计算、电力、服务器成本。训练成本 Training Cost
从零或大规模训练模型的成本,通常非常高。模型部署 Deployment
把模型真正放到服务器或设备上运行。云计算 Cloud Computing
通过互联网租用计算资源,不必自己买服务器。私有化部署 On-premise Deployment
把 AI 系统部署在企业自己的服务器里,更强调数据安全。SaaS
软件即服务,用户按订阅使用软件,比如在线办公、AI 工具。算力租赁
不买 GPU,而是按小时或按量租用计算资源。
AI 安全 AI Safety
研究如何让 AI 不失控、不误导、不造成伤害。对齐 Alignment
让 AI 的目标和人类意图一致,避免“答非所问”或错误执行。隐私保护 Privacy
防止用户数据、企业数据被泄露或滥用。数据合规 Compliance
AI 使用数据时符合版权、隐私、监管要求。开源模型 Open-source Model
权重或代码公开的模型,方便开发者使用和改造。闭源模型 Closed-source Model
模型细节不公开,通常由公司通过 API 或产品提供服务。国产替代
用本土芯片、软件、设备替代进口方案。AI CapEx
云厂商为 AI 建数据中心、买 GPU、买网络设备的资本开支。光模块超级周期
AI 数据中心高速互联需求爆发,带动光模块持续升级和放量。硅光产业链
围绕硅光芯片、激光器、调制器、探测器、封装、光模块形成的产业链,是 AI 数据中心高速互联的重要方向。
一句话理解:AI 不只是一个软件故事,它背后是一整套“数据、模型、芯片、服务器、网络、光模块、电力、散热、应用”的系统工程。
欢迎加入行业交流群,备注岗位+公司,请联系老虎说芯(加V:tigerchip)
热门跟贴