它什么也不懂,怎么慢慢学会接话?

给它几句话,然后看着它一次次猜错。每猜错一次,它都会把字和字之间的关系调一点。练得多了,它就能说出有点像样的新句子。

从几句话开始

01 · 动手试试

先给它几句话

从左到右走一遍:写下例子,看看它在猜什么,再让它多练几次。

02
它会怎么接下去?点左边的字,换一个开头看看
后面可能接 →现在看到
它看到
03
每猜错一次,就改一点曲线越往下,说明它猜得越准
练了多少次0
还差多少0.000
比刚才好0%
猜错的程度0.00
04它试着说
“……”

02 · 看懂它

它究竟学了什么?

它没有真的理解这些句子,只是在一遍遍练习“这个字后面常接什么”。

01先把句子拆开

「你好呀」会被拆成「你」「好」「呀」。对模型来说,它们只是三个不同的记号。

「你」·「好」·「呀」
02再猜下一个字

看到「你」以后,它会给每个候选字一个可能性,然后选一个接下去。

你 → 好 23%
03看看猜得有多远

如果正确答案是「好」,它却把「天」排在前面,这次就错得比较多。

答案「好」· 这次猜错了
04下一次,改好一点

它会把「你」和「好」之间的关系调强一点。重复很多次,规律就慢慢浮出来。

你 → 好 + 一点
它只是一个小模型

为了让学习过程看得见,这里只让它记住“一个字后面常接什么字”。真正的大语言模型会看更长的上下文,也有很多层网络;但训练时,它们也在反复做同一件事:猜下一个 token,再根据错误调整自己。