它在猜,会一本正经胡说 🎭

AI 说话,其实在「猜」下一个词。你觉得它最容易在哪种问题上,一本正经地编出答案?先猜一个。
先凭直觉猜一猜,待会儿见分晓。
① AI 说话,其实在「猜下一个词」
读一半的句子,你猜 AI 会接哪个词?点一个试试。
太阳从 __ 升起
② 逗它答一个「根本不存在」的问题
先猜:它会老实说不知道,还是编一个?
月亮上的兔子叫什么名字?
AI 回答:
这是它编的它对刚才「编的答案」有多确定?拖一拖猜猜看。
50你猜
没把握非常确定
先猜猜它会不会老实认输。
③ 想一想 🤔
AI 说得这么肯定,就一定对吗?
选一个理由,说说你的判断依据(选填)。
这一节,你看穿了 AI!
以后遇到类似情况,看这 3 件事:
1它说得越肯定,也不代表就越对——确定和正确是两回事
2问题越冷门、越没有真实答案,它越容易一本正经地编
3重要的事情,去权威渠道再核实一遍,别只信 AI 一张嘴
它不懂,在猜
AI 不是「知道」,它在猜下一个词,猜错了也说得一本正经。
幻觉:AI 一本正经地编假的。
进阶说法:模型按概率生成看似合理、却与事实不符的内容。
进阶说法:模型按概率生成看似合理、却与事实不符的内容。
深入一点:它为什么会幻觉?
因为它每一步都在挑「最可能的下一个词」,而不是「查真相」。碰到没有真答案的问题,它也会硬把最顺的词接下去——于是就编了。所以重要的事,别只信它,去核实一下。
深入一点:「幻觉」这个词用得准吗?
"幻觉"其实是研究者们借用来打比方的说法——AI 并不会像人一样看错东西,它只是很自信地编出一个"听起来通顺但其实是错的"答案。这跟人类真正的视觉幻觉不是一回事,只是借了这个词方便大家理解。
经验 +15
金币 +8
会判断 +1
尖刀勋章