AI 聊天像变魔术?

其实它每次只在做一件事——猜下一个词。先热身猜一猜:「太阳出来,今天天气真___」,你觉得 AI 最可能接哪个词?(等会儿就用这句话,看 AI 实际怎么接。)
点一个词试试看,不用担心猜得准不准。
① 一步步"接"出一句话
每一步,先猜猜 AI 会接哪个词,再看看它实际选了哪个。
太阳出来,今天天气真___
第 1 步 / 共 3 步
② 想一想 🤔
AI 说得很顺,是因为它懂吗?
选一个理由,说说你的判断依据(选填)。
你看穿了 AI 说话的秘密!
以后遇到类似情况,看这3件事:
1它是不是一个字一个字往下接的(不是一次想好整句话再说)
2它挑的词是不是"最常见/最顺"的那个(不是"最对"的那个)
3遇到没把握的内容,它会不会也硬着头皮接下去(顺 ≠ 对)
它在挑下一个词
AI 说话是逐词生成的,每次都挑"最可能"的那个词接下去,不是在"查真相"。
接下一个词:按可能性挑词往下接。
进阶说法:自回归语言模型按概率分布采样 token。
进阶说法:自回归语言模型按概率分布采样 token。
深入一点:这跟"胡说"有关系吗?
有!正因为它只是挑"最顺"的词,遇到没有真答案的问题,它也会硬着头皮接下去——编得很顺,却不一定对。下一节我们就来当场逗它说说看!
深入一点:「语言模型」这个名字是什么意思?
这类 AI 提前"读"过海量的书和网页,学会了"这些字后面最常跟着哪个字"的规律——这套只管"接下一个词"、并不真正理解字面意思的办法,正是"语言模型"这个名字的由来。
经验 +12
金币 +6
懂原理 +1