Subscribe
Share
Share
Embed
课代表立正的官方Podcast
深度访谈，有用干货，亲身验证的「真本事」
Superlinear Academy创始人，Maven Top AI Instructor
前Statsig布道师（OpenAI收购），腾讯副总监，Meta，Amazon；康奈尔经济学博士
社区：Superlinear.Academy
课程：ai-builders.com
个人：lizheng.ai
我觉得这个OpenPrize有一个特别好的回答
当有一天AI可以开发AI了以后
会破人类就灭争了
我觉得很多能力还不存在
并不代表这些东西很难做出来
但是这个东西落到我们的感知上的话
我觉得反而感知也不是那么明显
Reinforce Fine Tuning
是我们组和另外一个团队合作做的
你还打算工作80个小时吗
Hello 素杀乌欢迎来到我们的第二集访谈
第二集访谈是你现在的身份
围绕你现在的身份展开的
你现在身份是这个Research Leadership
不是Research Leader
是Research Leadership at OpenAI
就一个侧面
因为你做的很多工作是不能公开的
但是一个侧面就是OpenAI过去的12天
发布了12项新的产品或者功能
其中5项是你的团队做出来的
也就说明了你在这里边
这个团队做的东西是非常重要的
其实是有6天的
我们参与或者是贡献的
其中两天可能是我们主要的贡献
其他天可能就是跟其他团队一块做的
是参与而不是主导
我们网上各种各样的关于AI的讨论
AI就是一个所有人都在谈论的话题
可是这里边的性造比是非常差的
所以说真正的信息很少
所以说我们也很珍惜跟你这样一次机会
因为你是站在了最先进的公司里边
接触的是最先进的这一部分的Development
和在这基础之上有一些个人的思考
你觉得AI Research现在面临的
几个比较大的挑战是什么
或者我说几个方向你可以选
第一有的人会觉得
Foundation Model是唯一重要的
就GBT5,GBT6,GBT7
应该沿着这条路一直往下走
有的人认为数据是重要的
包括Elias他说print training
as we know it已经不行了
就是因为数据已经限制到了这里
如果觉得数据重要的话
有的人会说我们Syntax合成数据
我不太同意
有的人会觉得我们多么太
因为其他的数据
这可能是乐坤的说法
然后有的人可能会说我们需要更多的
个人数据或者说是企业级的
他们积累下来的数据
这是一个分支
就是模型pre-train一个是数据
然后数据里边有几个分支
然后有的人会觉得产品化
比如说我们要多做AI agents
把现在AI的潜力给发挥出来
让它在方方面面提高生产力
有的人认为是商业化
这两个可能有关
但是不完全相关
就是商业化
可能比如说2C的这些东西
我们要多去做好
然后让大家能为AI付钱
或者说找到AI的一个杀手机应用
或者说是一个新的交互方式
有的人会觉得chatt不是一个
特别好的交互方式
所以说在这里边
你如果来排序的话
你会怎么排序
我觉得还有没有一个另外的方向
就是要cover到的
我觉得其实非正面回答你的问题
我其实对AI越来越乐观
最近的也不是最近
可能最近一两年或几个月的时间
我不觉得存在特别大的本质的挑战
我可以说一下最大的机会在哪里
我觉得最大的机会目前是怎么从
我可以做一个对话机器人
对话到做成一个
真的是能帮你做很多事情的agent
所以是递产条
第三点是做你做的什么产品是吧
就是把现有的AI的能力用好的这一部分
也不只是把现有的能力用好
我觉得很多能力还不存在
但是并不代表这些东西很难做出来
我是相对乐观
就是你给想象成我们现在处在
就是一个不太恰当的比喻
相当于处在比如说iPhone2
iPhone3那时候的App Store还没特别起来
我觉得我们需要一个大模型的App Store
你的问题问得特别好
就是挑战在什么地方
我记得我最开始做
就是09年10年Google看说Mobile first
16年17年就开成AI first了
Mobile first的时候大家也有很多人说
这个东西就是很难
比如说我们当时在做广告
就人说Mobile上面广告就是做不好
为什么第一它的屏幕太小
当然也有人说从电视到电脑
屏幕也变小了对吧
然后第二说支付什么的
美国都要输很多信用卡了
你一个网页那么小怎么输入什么
就各种不方便
你转化也转化不起来
然后到后来其实反过来了
移动支付比网页支付现在还方便很多
所以现在AI agent遇到的很多挑战
包括你的API不兼容
各种事情怎么授权
我觉得这些可能在未来都会比较好的解决掉
只是说现在我们还没有特别好解决
或者没有想到特别好的解决方案
生态不成熟
但是生态我是比较乐观
但还会一直想着更成熟的方向去走
我是比较乐观
但是我有点吃惊
乐观的点在于我也是这么想的
我最非常举的例子是汽车
大家如果觉得AI不是一个特别明显的
饭食革命的话
那汽车是一个非常明显的东西
但是汽车生态完善大概花了70年
就是从第一辆汽车造出来
到流水线、路、法规
大家的driving这些东西花了70年
所以说这里面很多东西都可以找到类比
包括之前斯坦福教授的那个
他说电厂
这都是你要怎么样子去使用这个新方式
所以说我确实在这方面是很boolish的
但是另外一个方面
我以为这件事情怎么样子跟现有生态兼容
比如说MCP在我看来是一个非常intuitive的方法
就这里边的问题并不是特别难的工程问题
我觉得未知的东西我们很难想
但是已知的问题想要把它解决好似乎不难
两年过去了大家没有把这个东西解决得很好
让我觉得有点慢
其实两年前的模型跟现在的模型能力
其实还是差挺大的
差挺大吗
对两年前的模型跟现在的模型其实有差很大
就现在的模型的能力的进步还是挺快的
主要这是第一
等等
我这又是一个问号
就是以我所知的东西
就是Spark of AGI
Microsoft那篇
听说他们测的GPD4的版本是一个未延哥版本的GPD4
然后我们后来收到的
我们拆GPD可以使用的GPD4是不如GPD4的
然后他们举了一些例子
就比如说你问一些问题
在Spark of AGI里边回答的很好
但是我们去问的话
他的回答制度上出现了下降
然后这一年其实大家用的最多的主流的东西还是FourEau
加了动力涂涂
但是其实我觉得在这个
聪明程度上来说
我倒觉得没有一个质的飞跃
那些的O1、O3
然后其实我朋友也在用O1 Pro
他觉得确实
如果说你问他正确的问题的情况下
他回答的能力是好的
但是这个东西落到我们的感知上的话
我觉得反而感知也不是那么明显
他之前能给我一个我觉得不错的回答
他现在还是给我一个不错的回答
就是他从一个70%、80%的水平
变成了90%的水平
Maybe
但是我的意思就是说
他可能是一个350%的变化
可是我以为两年内他会发生一个
100%到1000%之内的变化
我觉得看在什么领域和在什么Scale上面
因为这不就是一个线性面上
非线性变化
有20%、30%是可以翻译成
在某个Batch Mark上面
百分之几百到几千的变化的
然后另外一个更重要的一点
是我觉得方法论上面
大家有很大的提升
解决这个问题的一些
Best Practice可能也慢慢就复了
我觉得更宏观的是
我觉得理解这个问题
可能刚细节的我也不太好说
很多更宏观的角度来讲
我现在越来越觉得
AI现在的这一波这些范式
其实是酝酿了好几千年了
你从历史科技的角度来发展
就是说音乐革命去蒸汽机电器什么的
其实把很多的重风性的脑
体力劳动给替换掉了
刚才我们讲短视频的人士讲
就是说创作门槛的越来越低
其实给想象成热格斯基的发展
都是把人之间的能力更多的拉平了
因为以前长得一个特别强壮的人
和长得一个比较瘦小的人
两个人是不平衡的
长得特别强壮的人可以去修水吧
盖房子可以去干什么的
长得很肉小的人是不行的
长得很肉小的可能都被淘汰掉了
工业革命之后使得你的肌肉量不是一个
当然可能是你吸引力性
或者是你身体健康的一个标志
但它不再是成为一个
真正的生存技能上面的能力差了
然后你再看其实前一波革命
我觉得是电子
就是电脑带来的
它其实可以把很多的
重复的脑力劳动给替换掉
比如说会计的软件
你不需要脑子去算很多东西了
比如Excel或者更多的
它是把很多重复的脑力劳动给替换掉了
然后我觉得接下来的两波是这样的
就大胆的预测一下
这很可能是错的
然后下一波是会
我们叫它Virtual Assistant或者Digital Assistant
是说可以把很多非重复的
和标准的脑力劳动给替换掉
就比如说
以前大家通过通用软件来做的事情
你有很多你的需求
比如说你做的工作里面有很多你的workflow
怎么去把压字都划
怎么去把这些非标准化的东西
越来越软件化
那是我觉得这一波
AI可能可以实现的东西
然后在下一波可能
比如说5年之后10年之后或者更远
就是embodyment AI能够做的
就是把非重复性的和标准化的
体力劳动也替换掉
我觉得要比虚拟的这种assistment要更难
因为很多硬件的结合什么的
和通用性还没到
站在现在的角度
你就看历史
说为什么这一波AI会起来
发现真的是它当然在某一年起来
或者在某一个时间点起来是一个偶然性了
但是它一定会起来感觉是一个必然性
现在AI它几个要素
第一是算力
第二是数据
第三是算法
然后你从比如数据的角度
第三是能源
不是还有能源
对吧
能源可能包含在算力里面
就是这个算力的硬件和能源在一块
带来了这个算力
然后你可以从历史的角度来讲
其实过去几千年都在为AI来积累数据
从人类发明了语言
然后到书写文字
到后来发明了印刷术
然后再到后来发明了电脑
把很多的数据电子化了
然后这周围AI的pre-train
那部分积累了巨大量的数据
然后万亿就几十万亿
这样token的数量级
对吧
然后从算力的角度来讲
也是GPU到之前的各种芯片的
迭代过去的几十年
大几十年
从算法的角度来讲也是从70年前
Tooling开始说
那边非常有名的文章开始
开启了人工智能这样一个科研方向
然后再到像Jack Hinton这种
沉寂了几十年的专业
Neural Networks 对吧
然后过去15年深度学习的这种
Facebook发展
把它做得更稳定
把它做得更好
然后到17年Transformer出来
然后像AlphaGo这种
然后AlphaZero这种算法出来
我觉得相当于现在
其实一个特别好的时间点
就极大成者
把算力 算法和数据结合在一块
才产生了这么大的影响
我的理解就是现在的大元模型
在Pre-Sync阶段
其实是把人类过去几千年的智慧压缩掉了
这是非常了不起的事情
然后再通过后面的RL
让他自己去实践
就跟人的学习一样
人要比如说从小学到高中
大部分时间是来学习
过去几千年人类积累的知识
然后从大学开始可能会做一些研究方向
就站在巨人肩膀上之后
才能产生比前人更好的科研成果
人类就这样不停的延续下去
你可以想象成大模型也会这样不停的延续
而不一样的是
大模型的延续性要比人类好很多
它的继承是100%的
人的基因的带宽是非常低的
比如说你现在学了微积分和量子力学
你觉得这东西太好了 特别好
你学到这个而且就是滥熟于心
但是你的小二还得重新学一遍
刘慈欣有一本有一个很短的科幻小说
乡村教师
就是一个外星人要毁灭地球的时候
说这些人学习效率太低了
肯定发展不出文明
是吗
发现发展出来文明了
说怎么回事
CGBM的一个乡村教师上来以后发现
他们家有这样的一些伟大的人
只是为了传承知识
对
其实这也是当然有很多的社会问题
就是很多教师的
中小学的教师的水平要提上来
人类才能进步的更快
但是他们待遇并没有提上来
这个就扯远了
其实AI的迭代速度要比人类要快很多了
另外一点大家经常提的是
比如说AGI
ASI
我觉得其实很多奇异的了
你可以想象到现在为止
没有任何一个生物有所谓的通用智能
即使人也没有通用智能
我不知道你同不同意这个观点
这就涉及到定义了
通用智能定义是什么
通用智能就是能够
就几个例子
比90%的人类在90%的任务上做的都好
没有对吧
你可以想象成
数学上面的最后一个全才
大概是庞加莱
或者有人认为是希尔伯特
这是大概100年前的事情了
连数学这么一个窄的学科全才都没有了
为什么呢
因为它的知识量增长的特别快
没有人能够对这个事情有个全貌了
而且你看在之前
其实很多数学家都是物理学家
他是数学和物理的全才
然后在之前就更多了对吧
其实人类就越来越装了
其实是人类
没有一个人是有通用智能的
生物也一样
比如说装不了
他就只会捉目
对吧
人三脑子是没有一个通用智能
比如说我以前读数学的
但是你让我去做物理
我可能不会做
因为我就读了数学
这方面的迁移没有那么大
你还要重新学习很多的物理
才能pick up起来
当然你比不学数学要的时候
学物理你可能要
学完数学之后学物理可能要更快对吧
这是有一定的传选
但不是100%
但是大模型可能会实现通用智能
就是因为它的结构
就它能消化的数据量
跟人类是没办法比的
它可以消化几十万亿的token
人可能几千辈子都消化不完对吧
其实我是属于那一派的
就是在2023年的时候
我就觉得
你AGI是一个没有definition的东西
但是你以一个比较宽泛的definition
来说的话
其实有spark和phage island里面有说
就是AGI其实已经实现了
其实在我看来大模型已经实现了
这种loosely defined AGI
但是你刚刚说的ASGI
其实可能在你身边是一个
大家经常提及的东西
就是在大众这里边
是一个不太提及的东西
我稍稍说一下我对你
对这两个东西的区别的理解
然后你再在上面进行
这个纠正和补充
我的感觉是AGI
它是一个对知识的总结
就是它懂很多东西
然后它也有一些基本的思考能力
所以说它能回答你很多问题
那ASGI就是它要能发明创造
它要能干之前不能干的事情
它要能把人类的知识的frontier往前推
然后你的想法就是
pre-train
压缩人类已有知识
是能达成AGI的
但是想要往前推的话
压缩已有知识肯定是不行的
就是你要通过已有知识的这些connection
通过reinforcement learning的方式
让AI自己主动迭代
然后它去所谓是reinforcement learning
就是在一个非常广的
非常黑暗的多维度的空间去搜索
但是你每次找对了一点
你reward多一点
你通过这种范顺就可以往前走很远
因为你的算力是极强极小的
首先它是光速思考
然后它有那么强大的参数量去支撑
所以这就是为什么你觉得reinforcement learning
是通向ASGI之路
我不知道这个说的对吗
我大致同意
然后有一点很sad的点
对我可能解释一下
比如说AGI和ASGI之间的区别到底是什么
ASGI需不需要是通用的
这些可能定义的点
然后另外一点就是你怎么去定义什么叫创新
就比如说其实在pre-train的时候
它也有很多的创新
因为pre-train的时候它接触到了太多的这种知识
它把很多知识点结合起来
是本身可能本身就是一种创新
就是它没有产生新的知识点
但是它把以前的很多的智慧结合起来
可能是有一部分的创新
其实在pre-train阶段
有一部分已经实现了ASI的功能
但是如果要大幅的超过人类
就要产生新的知识
我觉得是RL是更fundamental的表现
就跟人一样
比如说你是一个你学数学的时候对吧
老师帮你讲了一题讲了好多次
你自己不去练习是学不好的
所以这方面这两个一定要是相同成的
就是一定要学习
然后再实践
然后再把实践的经验积累到学习
这其实跟人类智能的发展是极其像
因为我以前读数学
所以对数学的发展史特别的清楚
数学的发展史一般是历史上有这么几个天才
比如说像Galow像Gauss这样这些人
把他们花了很多的时间思考
然后沉淀下来的东西形成理论
然后比如说Galow化成了询论
然后这样使得让我们这样的普通人
能够很快的就比如说花一天的时间就掌握了
这就是询论
这东西太漂亮了对吧
然后正在他的肩膀上我们也发明了更多的东西
我觉得这是我个人非常坚信的一个方向
然后也会成为我觉得大概率会超过
在绝大部分世界有超过人类智能的一个原因
我来分享一个东西
然后就是我教课的课间
就是最后一节课的时候我会给大家有一些猜想
然后这猜想其中一个就是
这个Transformer是可以Lead to General Intelligence的
也可以说是Super Intelligence
这个猜想是什么
就是我们去想人类是怎么学习的
人类很多学习是把Information Connect us
变成Knowledge
这个就是Elias当时说的
就是Shorter Program is the best possible generalization
所以说为什么我们在不断压缩的
压缩这个数据的过程中
我们是可以得到一些可以翻化的东西
Eliminated Shortest Program
但是我们回过来看人是怎么学习的
从教育学的理论来说的话就是
The most important single factor influence learning
is what learners already knows
就是从教育学的角度来说的话
他不觉得人的这个创新是重要的
而是稀有知识才是这个教育的本质
然后我们又说这个Transformer
其实是一个更强大的大脑
在这种情况下
你是不是可以通过这种压缩知识的方式
得到一个人类相同类似的智能
我觉得起码这条路上
从理论上来说
没有一个特别大的范式的不一样
就是没有一个特别strong evidence说
这个大模型去学习的方式和人类不一样
我回头其实还有一个跟这个
就是一个物理博士赵志成
他是一个学高龙物理的博士
我们去聊了
他也在Google工作
然后他就聊了物理学奖颁给AI合不合适
然后我们发现其实当时Hinton在做
包括在前面的那个
另外一个就是拿物理学奖的那个人
他们其实是试图去还原智能
这个complex system
到底是怎么样子涌现的
这真的是AI original research的一个
neural network的一个original motivation
然后我们还有一些其他的结论
比如说AI的可能是整个物理学的
一个numerical solution
这是一个队友
但是这个我们回头可以改天又的话
再跟你聊
但是另外一个就是人和AI的区别是什么
起码就是给大家一些希望
我们是有一些contrarian view的
然后这个contrarian view
它是require你不能用existent的connected dots
你需要有一个新的东西在的
然后你需要去把它build出来
这样大家才会知道这个东西存在
而且这contrarian view一般也是比较有价值的
你回到乔布斯当时的这个东西
Here's to the crazy ones
其实你看他说的全都是contrarian的
这些view到底是什么样子
但是这里边另外一个就是我的问题了
我在share另外一个tab
就是在现有知识的框架内
我们是可以告诉AI
这是我当时的那个文章
当时文章五个问题
第五个问题就是人类和Chapagy的本质问题是什么
我提出一些点
就是一个是判断力
就是大语言模型
它并不缺乏探索的能力
或者说想象的能力
或者说产生新知识的能力
但是问题是人类可以判断哪个新知识
是和我们人类的认知相符
或者对人类有用
可是作为一个纯粹的物理
就是这个电子模型
它很难做到这一点
然后第二个就是所谓的Eureka
Eureka就是你牛顿可以发现万用引力
是吧
哥拜尼
对吧
这些东西它是一个非常far fetch的
这么一个东西
AI它也许能发现这个东西
但是问题是这个东西有两步
Eureka它有两步
就是第一你要想到这个点
第二你马上就意识到了
对这个东西是对的
AI我觉得能做第一步
就是它能想到这一点
但它如何做到第二步
就是你这个reward如何构件
这里边我觉得就是当人能验证
这个知识是否有用的情况下
它可以构件
但是如果不能的话怎么办
我觉得这回到我们刚才讲的第一点
就是AI非常本质的一个问题
是怎么定义reward的
其实两个问题
第一个就是怎么有效的探索
就像α0里面
它是multicolor tree search
加上一个非常well defined reward
就是赢这个game
我觉得这是一个open pressure
没有特别好的回答
就是怎么去有一个
universally good reward for AI
因为人也没有一个特别好的
universally good reward
但是 somehow还是有一个
比较well functional的事情
就是有两种情况
一种就是你真的有一个
特别好的universally well defined reward
另外一个它其实不是
其实每个领域都有一个reward
就比如说我要培养数学人才
那我给他 reward
和我培养运动员其实是不一样
这背后又有一个问题
我们当时AI刚出来的时候
大家就担心当有一天
AI可以开发AI了以后
会不会人类就灭绝了这个问题
然后我当时对这个问题的回答是
不会因为AI其实是个工具
我们不要把它过度拈人化
然后AI和人质本质的一个区别
是AI没有一个目的
就是AI它的reward是学习
但是它没有一个本质的目的
所以说今天要把GPD关了
GPD不会说please不要关我
它只会说OK
它不care
但是如果说就回到Elias
它说人类最本质的是existence
和non-existence
那如果AI它如果我们要给它一个
最ultimate reward
然后这个reward又不是那种
所有的AI都是一个reward function的话
我们是不是要给它一个
你需要exist的这种终极目的
如果说一个这样的东西的话
就是一个危险事儿
但是可能说的就有点科幻了
可是我觉得
我觉得是一个非常real的
就非常real的一个concept
就是历史上有很多个预言
就是be careful about your wishful
西方我不知道
东方也有很多预言
就比如说这个人希望
我希望有好多的钱
结果过段时间他的小孩挣网了
拿了很多福西金或者什么的
或者很多保险的礼赔
这就是说怎么定义一个好的reward
是非常重要的
Linus最近有一个博客前几招
就是讲reward hacking的
我觉得是值得一读的
就是这是最fundamental的一个问题
怎么定义好的reward
然后我觉得对于safety来说
也是一个最fundamental的问题
如果我们定义的reward使得AI
觉得保存自己是最重要的
三跑它觉得reward hacking
那其实是相对危险 对吧
另外一个是不是能够素实
人和AI所做呢
就比如说我个人特别的看好AI for science
我有一个hot take
我觉得所有的好的大学
都应该建一个至少网台机器
给它的所有科研人员来做
以这样来吸引科研人员
不只是计算机系的或者做AI的
而是所有的学科
都要去拥抱用算力来解决它的问题
你可以想象
其实以前的科研是graduation student
就是大家不停的去刷尸馆
他找很多的研究生来做各种各种
这种compute
其实这些都可以通过算力来解决
很多时候
那时候他可以跟parry AI来做一些事情
然后他们去做另外一些事情
然后提供reward
然后AI再做一些事情
是不是能够发展出很好的跟AI协作的方式
这个我觉得不光是限于高校了
AI for science大家可能一定都是好事
但是我觉得这个不那么
每个人都觉得是好事
但是我觉得必然会发生的
就是未来工作更多的是被算力去做
而不是被人去做
所以这里有各种各样的implication
我们在年底的时候
这里边我们教很多大家的东西
包括怎么样是evaluate AI
manage AI
orchestrate AI
理解AI等等
但是我们后来发现最直击人心的那个点
就是我们去展示了一下
用AI agents自动化周报的五次迭代
weekly business review
然后我们一开始说是用ChaiGBT就聊
后来第四次是Anthropic的MCP
然后第五次是用Cursor去直接一句话去prompt
然后他就真的就把这个整个做出来了
很多人看到了这样一个应用以后
会觉得我确实是要认真地考虑一下
我应该用AI做什么
和AI可以做我的什么东西
明白
你前一段提到的就是AI的产品
以什么样的形式出现
其实我觉得这也是一个特别好的问题
大家其实并不是特别的明确了
我之前比如去年的这个时候
我花了挺多时间去思考这个事情
我在Google内部还给了一个分享
讲科技的这些变化的本质是什么
然后其中有一点我特别觉得是一个好的主线
就是Costal technology
我可以把我当时的科研找出来
其实找得到
AI产品
我对这方面的想法就是它是一个
就是它把Distributed intelligence
的marginal cost达到零
但是现在我就觉得也许它不多了关
因为你刚刚也提到了
就是有两种
第一个是这种workflow assistant
或者digital assistant
然后第二个是这个聚身智能
但中间就跳了这个distributed intelligence
因为workflow是帮助你处理一些东西
但是聚身智能是帮助你处理狭隘的东西
可是我一直希望有一个我的分身
然后可以去干所有的我能干的事情
或者起码干95%我能干的事情
我觉得这个里面有很多的现实制约
对要么就接着刚才那个产品的形态
产品对
对对来聊
你看过去七八十年科技的发展
它的一个主线就是Costal technology
越来越低
你最开始的比如说PC时代
它的本质是Costal software越来越低
你以前要做一个软件是很贵的
如果专门为你做对吧
但是有了PC之后很多人都用
比如说office卖的很便宜
比如说50美金或100美金
而不是说需要把这个开发成本一个人单
而是可以开发成本几个人一块单对吧
后来比如说互联网的本质
就是把costal connection变得越来越低了
你会说cost of connection
而不是cost of information
有人把connection当成是information的一种
这个时候你可以发现社交网络就起来了对吧
第三点就是比如说移动互联网时代
其实跟互联网时代有什么本质的区别
它其实是cost of getting information变得越来越低了
就是更低了
而且你可以随时随地的去
Issess information or connection
我记得我刚来读书的时候那时候还没有微信
要给家里打电话
还要买电话卡
然后拨号就很泛的
然后你看有了微信之后就多方便对吧
全世界华人就连起来了对吧
然后移动互联网另外一个本质
就cost of creation变得更低了
因为每个人都有摄像头
你可以想移动互联网最伟大的两个产品
是一个微信和抖音
就是因为这两个本质变化
我原来把移动互联网总结成cost of entertainment
但是我觉得entertainment不是很本质的一个定义
有一点
那entertainment我觉得是information的一种
对就是最不本质
然后你视频名牌为什么起来
就是因为带宽的成本越来越低
即使快手也是中国四季的
无限量的plan出来之后
快手开始变得特别的厚
大数据为什么起来
或者AI这一波为什么起来
就是数据的存储成本什么的
变得也越来越低了
或者数据的产生成本也变得越来越低了
我觉得这一波
AI的本质从另外一个方向去看
是智能的成本会变得越来越低
比如说它可以体验在任何方面
很多方面比如说它可以变得
使得软件成本变得越来越低了
以前的软件是大众化的
就是通用软件
现在可能是个性化软件
比如说你的一个工作流
刚才你说就自动化掉了
或者是其他的AI帮你做各种各样的事情
但是现在就是说
为什么产品都明确
我觉得大家其实在哪些领域
通过把E-Tidies成本降低来做事情
还不是特别的明确
但我觉得软件是一个相对明确的场景
稍稍分享一下我的
我在那期可以讲了
就是抽象一点
大概就是这样子
就是我们要做一个builder
因为之前GUI的方式是specific task
但是programming general task
很难学习
其实你真的要去用
编程的方式调度算力解决问题是很难的
AI program AOR
虽然原型调度算力变得简单
但是它是要一个过程的
如果你是不disruptive
但是valuable的话
GUI一般已经干了
如果你是disruptive
但是不valuable的
是我们现在可以做的东西
真正的机会来自既disruptive
但是又valuable的sharp
这个时候需要时间
ecosystem和我们自己的creativity
才可以达到的
其实很多时候是需要一些
天才的产品的想法的
就好像移动互联网
其实以前就有智能手机
就07年iPhone 1出来之前
但是这些智能手机就很烂
你就拿个笔
然后把Windows好多系统
放在手机上面有的是
我当时还有说
就是看智能手机
到底什么样的innovation
它这个Paradigm Shift
然后这个paradigm Shift
到底shift在哪里
因为在那之前大家还会比较
iPhone刚出的时候
会比较诺基亚和iPhone的区别
然后也不一定就那么厉害
但是它是在于
它是人器官的一个延伸
它是sensor
它是基于这样一个交互方式去定义的
然后它又开放了这些app
就像你说的
一开始手机对手机
它未必是一个巨大的优势
但是整个生态对生态
它就变成了一个巨大的优势
对
我觉得是的
就有一种说法是说
手机其实替换了很多的硬件
通过软件
然后这一波AI可能会替换很多软件
我的课上也跟大家说
不要去想你build一个微信
你想你build什么东西
大家是愿意用的
因为微信一开始也不是为了
build现在这个微信
包括Instagram一开始
它是诸多filter apps的其中一个
就是那个时候有好多个filter app
然后Instagram只是一个
大家喜欢用的filter app
然后收购了
变成了这样子
所以说很多东西
不是我们现在站在这里想
能得到答案的
但是做一个大家享用的东西
总归是没错
对
我觉得就两条主线
一个是cost intelligence
或cost technology
对吧
另外一个就是肠胃效应
你看从雅虎到Google
就是肠胃内容和头部内容的问题
对吧
短视频也是把肠胃的创作
激发出来了
对吧
然后所以你可以想
如果这一波使得肠胃的很多智能
变得越来越活
那在哪个领域
是可以建一个生态的产品的
我觉得这是一个很好的思考
思考的框架
这个问题又该问你了
就是明显有两个
非常值得被解决的问题
一个是解决research方面的问题
解决智能方面的问题
比如说怎么样是把RLL利用好
怎么样是给一个正确的reward
怎么样在智能方面得到突破
另外一个是产品方面的
就是应用方面的问题
你怎么样去做一个
大家喜欢用的产品
然后建立生态
建立标准等等
这两个东西你觉得重要性
或者说你个人的兴趣
你会怎么来
我说一下我个人兴趣
我觉得过去的11年在Google
我可能三分之二的时间在做产品
像过三分之一的research
然后现在我想反过来
更多的research
因为我觉得现在平静
可能更多的research
当然我觉得其实很多时候
交互限制了智能
就举个例子
比如说货金跟你两个人发短信
其实你也不一定知道这个人
觉得有多聪明
对 是
但是你见到他跟他聊完之后
你觉得这个人好聪明
或者说Terry陶跟你发短信
你也不觉得他有多聪明
对吧
所以只是一个参谋
可能限制了智能的展现
我这是我个人的兴趣
我只是说现在这个阶段
我想更多的花时间在research上面
那research我们也是三分之二
research三分之一产品oriented
我对做的很多东西
是product-oriented research
更多的是从用户的痛点出发
来看能解决什么样的问题
而不是说那些特别翻天翻头
要两三年的时间的这种东西
我在present最后一个东西
就是二三年的文章里边的一个东西
当时有这么一个图
当然那个时候很大的争论
是要跟existent的
machine learning scientist们告诉他们
就是大模型和你们的传统ML不一样
所以说这个点就是fan-tun
尤其fan-tun这个词
在传统的machine learning
和大模型里边其实不太一样
所以说当时为了解释清楚这个点
但是这个图我觉得他说了一个另外一个事情
就是最底下这一层
是把我们现有的已经align好的模型
然后去加各种各样的生态的integration
也就是今天Cursor他们做的很多事
包括各种GPT wrapper做的事情
我在这上面加上UI
加上跟其他的API的integration去做的
包括微软当时的Copilot
在我看来都是这样子的
这就是我说的第三条
从产品化现有的大模型的能力的
然后再往上我觉得这一层是alignment
包括它alignment不同范式
就是说你是instruct也好
插配也好
或者说是一些别的alignment方式
然后这里边可能你需要put一些私有数据
或者说你改变这个reward
就是IIo里边的reward
在这一个里边你可能会出来一个完全不一样的
就是可能这个GPT的output
不是我们人人能理解的这种语言
但是它可能和output一些很厉害的
对医疗的理解
对生物的理解
maybe
然后再往上才是这个Pretion大模型
它可能会有一些不断的迭代
原来我是有这样的一个抽象的理解
但是我现在我可能会更觉得
就是上面这个东西
就不知道会到底怎么样
就是它可能会提高
但是我们可能改变
因为我们跟AI的交互界面的限制所导致
我们可能无法理解这里边的真正的提升
然后可能是下面对我们来说是更好用的
大概说这么一个理解框架
多值erizable和specialist
我觉得也是一个平衡
比如说过去的比如说AlphaGo
就是从围棋开始对吧
然后到AlphaGo Zero还是围棋
只是说你不需要人类的这种prere
然后到AlphaZero
就是把围棋象棋还有日本的一个什么棋
放在一块做的
就是它更值erizable
但还是说只是棋类游戏对吧
未来也不一定说只有一个模型
它能够做所有的事情对吧
也有可能说对于生物有一个模型
对于法律有一个模型
或者这都是有可能性的
对我的直觉是它有一个底层的大模型
但是它会通过不同的alignment
我把RL归成alignment一种方式
它会通过不同的alignment去激活
这个模型的不同区域来做不同的事情
这是我的直觉
我们马上wrapup已经聊了两个小时了
最后的wrapup就是想把这整个的这些东西
回到个人发展上
因为我们聊了很多认知
然后我们的认知也不停地在迭代进步
但是这里边可能最重要的还是个人的成长
就是在这个时代里边
你是怎么样子成长的
我觉得第一个讲的那个内容
我是很有感触和共鸣的
你是在寻求一个更陡峭的学习曲线
你觉得这样的一个学习和验证
就是走在人类知识前沿
并且不断地看到新东西突破这种
会给你带来巨大的满足感
现在你得到了这样的一个机会
今天正好是2024年的最后一天
所以说让你去回顾一下2024年
和给2025年提一些resolution的话
你大概会怎么样子去回顾你的2024年
和你对2025年有什么样的resolution
其实个人发展是一个特别好的话题
但是我觉得它也导致很多的时候的焦虑迷茫
开心
一下我比较反感的
一命二欲三风水四基因的五读书
你为什么反感这个
对我之前比较反感
现在越来越我觉得
我过去的很多
比如说我在Google待了11年
其实有很多好的机会
但是我没有选择去离开Google
都被留下来了各种
甚至有两三次我都限定非常大的决心
我觉得要离开了
但结果还是被留下来了
咱们还是这个决心不够大
其实错失了很多的
就个人发展也好
或者是经济上的这个upset
我同学里面有好多billionaire
或者是multi billionaire
不管是创业也好
或者在适当的时候
加入一个比较小的公司也好
不管是短视频这一波
还是之前的这一波
还是保护数据库
或者人员这一波
其实很多人都已经
对
所以我觉得
我想2025年一个软度
可能心态更平和
我今年的实现的一个
resolution是我觉得可能
take更多的risk
就是更多的export
我希望能有一些好的成果出来
然后我觉得最重要的还是能够
不停的practice和deliver东西
因为我们现在团队做的一个
就是
这个
这个product-oriented
multi model的这个research
还有一个reinforced fine tuning
其实是我们组合
另外一个团队
合作做的时候
我们initiate出来
就是因为觉得reinforced learning
其实更需要更多的
各个领域的数据也好
或者reward也好
那其实这就不只是数学
或者变成相对窄的领域
我自己个人定的一个resolution
是把这个
锻炼身体可能排在更重要的位置上面
我觉得过去一年
身体其实
我近期一直有问题
就是在20年的时候
做短视频的
看看
就是前几个月
就一直工作时间太长
我也是
如果你看我之前的视频
现在就是我的进去
取度差别很大
我回头可以分享一些我的
经验经历
还是找到了一些方法的
其实保存身体很重要
科技的发展
未来几十年
发展只会加速
不会减速
除非有很大的战争
或者其他的各种事情
但是我觉得
绝大部分人
其实并没有看到AI这一波
它的潜力有多大
我觉得大部分人
会overestimate短期
但是underestimate中长期
因为人的直观都是线性的
但是很多事物的发展
包括投资
包括科技的发展
其实它是指数增长的
人是很难有这种指数的
这种直观的
它只能说在
我一个点
在指数上面做了个切线
然后
所以切线就会在短期去
overestimate
但长期会underestimate
我是对于AI的
中长期发展非常乐观的
短期可能有些hide
但是中长期
我觉得它会对人类
是会变成非常本质的影响
甚至不亚于电脑的产生
第二 该斯他说
他的lifetime只有两个
AI和另外一个可以相提并论
另外那一个是GUI
他不是说电脑
也不是说mobile
也不是说那些
而是GUI
因为GUI使PC变成可能
我对他的说的理解
就是从人类和算力的交互上
GUI是把人类和算力交互
平权了
所以说你看
不光是PC
包括mobile的所有的这些东西
也都是GUI powered
然后他就把AI
提到了这样一个高度
我是非常认同的
其实就是短期大家会
对大家不理解指数
以及它这个ecosystem
才能发出影响
所以说短期高估
长期低估是一个
不断会比例是重复的事情
最后一个问题就是
你还打算工作80个小时吗
我没有觉得累其实
就是其实
就跟你一个好比一样
你很开心
那就不会觉得
这是一个负担
这个不太好
可能有点工作狂的
这个肯定是很多时候
这是一种人格类型
然后这种人格类型
Elon Musk他就说
他去location非常miserable
然后我自己和我身边
有几个人也是这样的类型
我们后来发现
最重要的就是心态
就是知道
对对对
对不要
对就是知道自己是个什么样的人
然后在这里边
自己来就挺好
对对对
我觉得这个2025年
少一些阴谋
多一些成果
和这个开心最重要
好的非常感谢来我们频道上做客
然后反正回头有什么东西
我都会先给你发一点
不合适的我都会删掉的
好的好的
那祝你这个新年快乐
好的好的
拜拜