返回 AI 学习资料 专题首页

模块1:AI 对话的底层逻辑

难度:⭐ 入门 | 建议时长:2-3小时

目标:理解 AI 的工作方式、关键参数、模型差异,建立正确的心智模型


1.1 AI 是怎么"说话"的

AI 不是"理解"你,而是"接话"

想象一个人读过全世界所有的书、文章、对话记录,但从来没有真正"生活"过。你说"床前明月",他立刻接"光"——不是因为他懂李白的思乡之情,而是因为他见过一万次这个组合,知道"光"出现在这后面的概率最高。

这就是 AI 的本质:超级模式匹配器


你输入的文字 → AI 把文字拆成碎片 → 根据训练数据预测最可能的下一个碎片 → 一个接一个生成回复

关键认知:四个"不是"

你以为的 AI实际的 AI
像人一样"理解"含义基于概率进行模式匹配
有自己的想法和观点根据输入生成最可能的输出
说一次就记住了每次对话有长度限制,超出就"忘了"
会自动推断你的意思你说什么它就处理什么,不说就不管

这意味着什么?

  1. 你说得越清楚,AI 表现越好 — 你提供的线索越多,AI 匹配到的模式越准确
  2. AI 不会"猜"你的意思 — 模糊的输入 = 模糊的输出
  3. AI 没有"常识判断" — 你认为理所当然的事情,需要明确说出来
  4. 同样的提示可能给出不同结果 — 因为生成过程有随机性(后面会讲到这就是 Temperature)

1.2 Token:AI 的"计量单位"

AI 不认字,认"碎片"

你和朋友聊天按"字"算,但 AI 不读"字",它读的是 Token — 一种把文字切碎后的碎片。

类比:拼图碎片。


"我喜欢吃苹果" → 对你来说是 6 个字
                → 对 AI 来说是 ["我", "喜欢", "吃", "苹果"] 4 个 Token

"I love apples" → 对你来说是 3 个单词
                → 对 AI 来说是 ["I", " love", " apples"] 3 个 Token

中英文 Token 效率差异

同样的意思,中文通常比英文消耗更多 Token。

这是因为大部分模型的训练数据以英文为主,英文的切分更高效。


实际测试(近似值):
"人工智能正在改变世界" → 约 7-9 个 Token
"AI is changing the world" → 约 6 个 Token

同样的意思,中文多花了约 30%-50% 的 Token。

这意味着什么? 如果你处理很长的中文文档,会比同等长度的英文文档更快"撞墙"(触达上下文限制)。

上下文窗口:AI 的"书桌"

上下文窗口就是 AI 一次能处理的 Token 总量上限,包括你的输入和 AI 的输出。

类比:书桌大小。


  4K Token ≈ 小课桌    → 能放一篇短文(约 3000 字中文)
  8K Token ≈ 办公桌    → 能放几页文档
 32K Token ≈ 大书桌    → 能放一本小册子
128K Token ≈ 会议桌    → 能放一本书
  1M Token ≈ 图书馆桌  → 能放好几本书

内容超出"桌面大小" → 最早放上去的内容会"掉到地上"(被遗忘)

实操建议


1. 长文档分段处理:不要一次性把 10 万字塞给 AI,
   分成几段分别处理,最后汇总

2. 精简你的提示词:废话越少,留给 AI 回答的空间越大

3. 了解你用的模型的窗口大小:
   GPT-4o:128K    Claude:200K(Opus 可达 1M)
   Gemini:1M      Qwen:128K

4. 注意对话累积:多轮对话中,之前所有的对话都占用窗口,
   聊太久 AI 会"忘记"前面的内容

1.3 影响 AI 输出的"隐形开关"

Temperature(温度):AI 的"冒险度"

Temperature 是最重要的参数,控制 AI 输出的随机程度

类比:去餐厅点菜。


Temperature = 0(保守)
→ "老样子,来碗牛肉面"
→ 每次去都点一样的,稳定可靠,但永远不会有惊喜

Temperature = 0.7(适中)
→ "今天想试试新菜,但别太离谱"
→ 有一些变化和创意,偶尔给你惊喜

Temperature = 1.0(冒险)
→ "随便来,越新奇越好"
→ 可能吃到惊艳的新菜,也可能踩雷

实操对比:


提示词:"用一句话形容春天"

Temperature = 0(跑3次结果一样):
→ "春天是大地苏醒的季节,万物复苏,生机盎然。"
→ "春天是大地苏醒的季节,万物复苏,生机盎然。"
→ "春天是大地苏醒的季节,万物复苏,生机盎然。"

Temperature = 1.0(跑3次结果不同):
→ "春天像一个赖床后终于起来的人,伸着懒腰把花都抖落了一地。"
→ "冰河炸裂的那声脆响,就是春天的敲门声。"
→ "春天是调色盘打翻在大地上的那场意外。"

Top-P(核采样):AI 的"选择范围"

Top-P 控制 AI 从多大范围的候选词中选择。

类比:自助餐取餐。


Top-P = 0.1 → 只从最热门的几道菜里选(安全但单调)
Top-P = 0.9 → 几乎所有菜都考虑(丰富但可能选到怪菜)

一般来说,调 Temperature 就够了,Top-P 保持默认即可。

什么时候调什么参数?

任务类型推荐 Temperature原因
写代码0 - 0.2代码要准确,不要创意
数据分析0 - 0.2分析要客观严谨
翻译0.2 - 0.4忠于原文,略有灵活
商务写作0.4 - 0.7专业但不死板
文案创意0.7 - 1.0越有创意越好
头脑风暴0.8 - 1.0发散思维,不怕"离谱"
诗歌/故事0.9 - 1.2追求独特表达

在哪里调?

- ChatGPT:设置 → 自定义 → 高级设置(网页版功能有限)

- Claude:API 调用时设置(网页版暂不支持手动调节)

- API 调用:所有模型都支持在请求参数中设置


1.4 不同模型的"性格"差异

同一道菜,不同厨师做出来不一样

你对川菜师傅说"做道鱼",他做水煮鱼;对粤菜师傅说同样的话,他做清蒸鱼。AI 模型也一样——同样的提示词,不同模型给出的结果风格和质量可能差异很大。

主流模型特点速查

模型擅长特点类比
GPT-4o全能、指令跟随听话、稳定,让做什么就做什么靠谱的全能员工
Claude长文本、写作、分析细腻、谨慎,会主动说"我不确定"认真的分析师
Gemini多模态、信息检索与 Google 生态打通,搜索能力强带搜索引擎的助手
DeepSeek推理、编程性价比高,中文理解好高性价比的技术宅
Qwen(通义千问)中文理解、工具调用中文场景表现优秀最懂中文的助手

实操建议


不要只用一个模型。同一个重要任务,至少在 2 个模型上跑一遍对比。

推荐组合:
- 日常使用:GPT-4o 或 Claude(选一个主力)
- 需要创意:Claude(写作质量高)
- 处理长文档:Claude(上下文窗口大)
- 中文场景:DeepSeek 或 Qwen
- 需要联网搜索:Gemini 或带搜索的 GPT
- 预算有限:DeepSeek(API 价格低)

1.5 中英文提示词的选择

一个反直觉的事实

大部分 AI 模型用英文训练数据远多于中文。这意味着:


英文提示词 → 模型更容易匹配到高质量的训练数据 → 某些任务效果更好
中文提示词 → 更自然,但模型可能匹配到的模式少一些

什么时候用英文提示词更好?


✅ 编程相关:代码生成、调试、技术文档
   英文:"Write a Python function to parse JSON with error handling"
   比中文效果更好,因为训练数据中的代码几乎都是英文上下文

✅ 学术/专业领域:论文解读、专业分析
   英文术语更精确,不会因为翻译产生歧义

✅ 指令遵循:复杂的格式要求、多步骤任务
   一些模型对英文指令的遵循度更高

什么时候用中文更好?


✅ 中文写作:文案、邮件、报告、公众号文章
   AI 需要理解中文的语感和表达习惯

✅ 中国特色场景:法律法规、节日文化、本地商业
   "帮我写一段中秋节的祝福语" 用中文更地道

✅ 面向中文读者:最终输出给中国人看的内容
   用中文提示 → 中文输出更自然

混合策略(推荐)


对于重要任务,可以混合使用:

方式1:英文指令 + 中文内容
  "Summarize the following Chinese article in 3 bullet points,
   output in Chinese:
   [粘贴中文文章]"

方式2:中文指令 + 英文关键术语
  "请分析这段代码的 performance bottleneck,
   给出 optimization 建议,用中文回答"

方式3:英文思考 + 中文输出
  "Think through this problem in English,
   then present your answer in Chinese:
   [你的问题]"

1.6 提示词的基本组成

一个完整提示词的四大要素

类比:去餐厅点菜。

你说的话服务员的反应对应的提示词要素
"随便来点吃的"可能上一盘你不喜欢的菜只有指令,其他全缺
"来一份宫保鸡丁,微辣"准确上菜指令 + 输入 + 部分要求
"我花生过敏,想吃辣的鸡肉菜,50以内,用小碗装"推荐最合适的选择四要素齐全

┌──────────────────────────────────────────┐
│              完整的提示词                  │
│                                          │
│  1. 指令(Instruction)— 你要 AI 做什么   │
│     例:翻译、总结、分析、创作...          │
│                                          │
│  2. 上下文(Context)— 背景信息是什么      │
│     例:目标读者、使用场景、前提条件       │
│                                          │
│  3. 输入数据(Input)— 需要处理什么内容    │
│     例:一段文本、一个问题、一组数据       │
│                                          │
│  4. 输出要求(Output)— 你想要什么样的结果 │
│     例:格式、长度、语气、风格             │
│└──────────────────────────────────────────┘

实际例子

只有指令: "翻译这句话" → 翻译什么?翻译成什么语言?❌

四要素齐全:


【指令】请将以下中文翻译成英文
【上下文】这是一封商务邮件的开头,收件人是美国客户
【输入】"今天天气真好,希望你一切顺利"
【输出要求】使用正式的商务英语,语气友好专业

小贴士:不是每次都需要四个要素齐全。简单任务用"指令+输入"就够,复杂任务才需要完整的四要素。


1.7 动手练习

练习1:Token 感知体验

把同一段话(100字左右)分别用中文和英文发给 AI,要求 AI 估算 Token 数量,感受中英文的差异。

练习2:Temperature 对比实验

用同一个提示词(比如"用一句话形容秋天"),在不同 Temperature 下各跑 3 次,观察输出的变化。

练习3:模型对比

选一个你常用的任务(比如"总结一段新闻"),分别在 2-3 个不同模型上运行,记录各自的输出差异。

练习4:改写模糊提示词

将以下模糊提示词改写为包含四要素的完整版本:

  1. "帮我写个方案"
  2. "总结一下这篇文章"
  3. "写一首诗"

本章小结


✅ AI 是"超级接话王",基于模式匹配工作,不是真的"理解"
✅ Token 是 AI 的计量单位,中文比英文消耗更多 Token
✅ 上下文窗口是 AI 的"书桌",超出限制就会遗忘
✅ Temperature 控制随机性:写代码用低温,搞创意用高温
✅ 不同模型有不同"性格",重要任务多模型对比
✅ 中英文提示词各有优势,可以混合使用
✅ 完整提示词 = 指令 + 上下文 + 输入数据 + 输出要求