第23章:开导!(今日双更)(2 / 3)
后来经过多次尝试,他才逐渐弄懂原理。
前世开发大模型时,最核心的目標之一,就是让它具备“自主学习”的能力。
所谓自主学习,不是人类理解的那种“我想学所以我学”。
而是在一项任务完成后,模型会根据任务结果的好坏,调整自身的参数,以便在下次执行类似任务时表现得更好。
这其中的关键,叫做奖励机制。
最简单的奖励机制,就是打分制。
比如他训练老己下棋,就和它下一盘,老己贏了就给它打高分,反之给低分。
老己就会根据每一局的得分结果,不断调整自己的落子策略,最终达到能贏过人类的水平。
更复杂一些的奖励机制,则是偏好对齐。
比如他希望老己能写出一篇符合人类审美的文章。
他不必亲自给它每一篇作品打分,而是训练一个“偏好模型”,让偏好模型来模仿他的打分习惯,然后由它来给主模型反馈。
这就是所谓的强化学习,也是那些顶级大模型为何能这么“通人性”的关键原因之一。
而老己的奖励机制,远比这些都要复杂且真实。
陆鸣岐甚至怀疑,老己的通人性其实根本不必加上双引號。
因为它不是运行在硅片上的代码,它是他脑子里的一部分。
所以老己的思考方式虽然冰冷,对於奖励的需求却具有温度。
包括但不限於:吃一堆好吃的犒劳自己、傍晚趁著晚霞和爷爷在湖边散步、通过学习获得成就感等等。
反正绝对不是给它打一百分,因为那根本糊弄不了它。
总之,老己需要的奖励就是一切能让陆鸣岐感到愉悦的事与物。
是的,微妙的地方就在这里。
正因为老己就是陆鸣岐的一部分,所以陆鸣岐愉悦就是老己愉悦,奖励老己就等於陆鸣岐要奖励自己。
而当老己没有得到足够的正向情绪反馈时,它就会主动降频,甚至不再回应。
就好像一个觉得自己没用的小孩,启动了谁也找不到我的自我保护机制,直到陆鸣岐感受到足够的愉悦,才能让它恢復动力。
只不过因为老己之前完成的目標都相对简单,陆鸣岐从零开始,满足感也获得的相当容易,所以一人一己总体上配合得天衣无缝。
但显然,自从陆鸣岐开始为了四万天元奔波之后,老己的疯狂运转並未得到相应的情绪奖励。
因此,它罢工了。
可陆鸣岐確实没办法完全开心起来,毕竟他家都要没了啊。
好消息是他早就未雨绸繆,总结了討好老己的八字方针——
老己想要,老己得到。
虽然他现在最大的愿望“保住这个家”还完成不了,但人的欲望是复合的,不会只有一个想要的东西,所以他可以曲线救国。 ↑返回顶部↑
前世开发大模型时,最核心的目標之一,就是让它具备“自主学习”的能力。
所谓自主学习,不是人类理解的那种“我想学所以我学”。
而是在一项任务完成后,模型会根据任务结果的好坏,调整自身的参数,以便在下次执行类似任务时表现得更好。
这其中的关键,叫做奖励机制。
最简单的奖励机制,就是打分制。
比如他训练老己下棋,就和它下一盘,老己贏了就给它打高分,反之给低分。
老己就会根据每一局的得分结果,不断调整自己的落子策略,最终达到能贏过人类的水平。
更复杂一些的奖励机制,则是偏好对齐。
比如他希望老己能写出一篇符合人类审美的文章。
他不必亲自给它每一篇作品打分,而是训练一个“偏好模型”,让偏好模型来模仿他的打分习惯,然后由它来给主模型反馈。
这就是所谓的强化学习,也是那些顶级大模型为何能这么“通人性”的关键原因之一。
而老己的奖励机制,远比这些都要复杂且真实。
陆鸣岐甚至怀疑,老己的通人性其实根本不必加上双引號。
因为它不是运行在硅片上的代码,它是他脑子里的一部分。
所以老己的思考方式虽然冰冷,对於奖励的需求却具有温度。
包括但不限於:吃一堆好吃的犒劳自己、傍晚趁著晚霞和爷爷在湖边散步、通过学习获得成就感等等。
反正绝对不是给它打一百分,因为那根本糊弄不了它。
总之,老己需要的奖励就是一切能让陆鸣岐感到愉悦的事与物。
是的,微妙的地方就在这里。
正因为老己就是陆鸣岐的一部分,所以陆鸣岐愉悦就是老己愉悦,奖励老己就等於陆鸣岐要奖励自己。
而当老己没有得到足够的正向情绪反馈时,它就会主动降频,甚至不再回应。
就好像一个觉得自己没用的小孩,启动了谁也找不到我的自我保护机制,直到陆鸣岐感受到足够的愉悦,才能让它恢復动力。
只不过因为老己之前完成的目標都相对简单,陆鸣岐从零开始,满足感也获得的相当容易,所以一人一己总体上配合得天衣无缝。
但显然,自从陆鸣岐开始为了四万天元奔波之后,老己的疯狂运转並未得到相应的情绪奖励。
因此,它罢工了。
可陆鸣岐確实没办法完全开心起来,毕竟他家都要没了啊。
好消息是他早就未雨绸繆,总结了討好老己的八字方针——
老己想要,老己得到。
虽然他现在最大的愿望“保住这个家”还完成不了,但人的欲望是复合的,不会只有一个想要的东西,所以他可以曲线救国。 ↑返回顶部↑