AI Agent工程师入门到入土

大模型是什么#

我们平时说的[AI对话] [助手] ，核心都是大模型，英文叫LLM（Large Language Model，大语言模型）。用大白话讲，大模型就像一个从小读了海量书、见识极广、逻辑又好的超级助理。

它”大”在哪里？两点：

• 参数量大：模型内部有数千亿个参数，可以理解为它”记住了”海量知识的精华
• 训练数据大：研发人员提前给它喂了互联网上的书籍、文章、新闻、代码、论坛等大量内容，让它学会了语言规律、通用常识和各行各业的基础知识

学会之后，它能干什么？说白了就是根据你给的上下文，预测接下来最合理的文字是什么。你问它[今天天气怎么样]，它不是真的去查天气，而是根据过去学过的语言模式，生成一个”看起来最合理的回答”。

我们平时用的ChatGPT、豆包、通义千问、文心一言，背后核心都是这样的大模型。

Token：大模型读文字的方式#

在讲大模型能做什么之前，有一个基础概念必须先搞清楚，因为后面所有的东西都跟它有关，那就是Token。

Token是大模型处理文本的”基本单位”，它既不是一个字，也不是一个词，你可以理解为把文字”切碎”后的一个个小碎片。