课代表立正

Shuchao之前是谷歌的Engineering Director,也是YouTube Shorts的联合创始人。这是我和他对话的第一期,我们在这期视频里深入探讨了 - 如何看到/理解短视频的历史趋势 - 为什么是他看到/别人没看到 - 初创YouTube Shorts,收到用户反馈 -- “这个项目上所有的工程师都应该被炒掉”? -- 四代推荐系统划分 - 10条leadership principles - “Google今天仍是牌最好的AI玩家” - 职业选择,为什么在功成名就时选择离开? 第二期:https://youtu.be/eRYBE0dXsmU Shuchao 目前的工作是 OpenAI Research Leadership, Head of Post-Training - Multimodal。他们的团队主导了Advanced Voice(视频与语音)模型的开发和上线。在2024年底OpenAI 12 days里,Shuchao团队主导了其中两天,辅助了其中四天的产品发布。 Shuchao团队也在招聘优秀的Research Scientist / Research Engineer。 嘉宾LinkedIn: https://www.linkedin.com/in/shuchaobi/ 公众号: shuchao-thoughts X: https://x.com/shuchaobi 会员3美元一个月,提供很多超值内容: 1. 加入一次,即可获取会员社区终身资格:www.superlinear.academy 2. 每周更新会员专属视频 3. 很多视频都比公开视频更加深度 4. 访谈视频一般在会员专属发完整版,一般是公开版2、3倍的内容,覆盖更多营养 5. 还有一些专属内容,比如关于如何打两份工攒四份钱。嘉宾并不想公开发表,但是又很有分享价值。就通过会员内容来有门槛地分享 总之,很建议加入一个月试试看,可以从这个playlist开始:https://youtube.com/playlist?list=PLO_DkCSmTKMODESa8MF8Q67ZwkqgsH_UP&si=zixsdYH4d3wHRTdy 除此以外,我还有一个关于如何用GenAI提升自己生产力,抓住时代机会的课程。是Maven.com上销量最高、评分最高的课程之一。 - Cohort based课程地址:https://www.maven.com/kedaibiao/genai - Self paced课程地址:https://www.superlinear.academy/c/ai/

What is 课代表立正?

课代表立正的官方Podcast
深度访谈,有用干货,亲身验证的「真本事」
Superlinear Academy创始人,Maven Top AI Instructor
前Statsig布道师(OpenAI收购),腾讯副总监,Meta,Amazon;康奈尔经济学博士

社区:Superlinear.Academy
课程:ai-builders.com
个人:lizheng.ai

没有经济基础是没办法谈科研的
新的卖家新的供给方
上面找不到成功的话
这个生态很快就枯萎了
这个也好这个也好这个也对这个也对
那你要选一个而不选另一个
这个时候你怎么做这个策略
任何科技的产生都有它不好的地方
但我们不能只盯了它不好的地方
这四点理由我们觉得短视频一定会是未来
有的B英特利塔尔的人就会过来侵占你的scope
你会怎么处理呢
这事现在做成功了
作为这里边的元老
你选择离开的原因是什么
人的模具为神神祖神之人
叔叔好欢迎你
我给大家准备了两句话的介绍
第一你是创办了YouTube Shorts的人
第二呢就是前几天OpenAI12个发布里边
你的团队占了5个
有一点噱头感觉
就有点可能有点高调的
肯定有噱头的
如果你不说噱头的话
大家就没有兴趣去了解后面说的东西了
好的
我就想把这两个正好
拆成两个话题去聊
因为这两个话题都挺大的
第一个就是YouTube Shorts
我们当时是在Clubhouse上
听说了你这个故事
当时简单听了一下
那个时候你就是非常
这个Bullish on Shorts
然后当时我其实那个时候我在Meta
然后Meta我内部已经听到很多讨论了
大家觉得TikTok是个非常大的竞争
觉得TikTok非常厉害
Instagram Reels是过一段时间才launch的
但是在那之前
有一个好像是Lasso
Lasso在拉丁美洲
然后做得不成功
后来又做Reel
就是Facebook已经非常重视了
但是从你的当时的话听起来
Google没有形成一个Consensus
就是Google在你做的时候
就它不觉得这个Shorts
对它的现有生态是一个很大的威胁
或者是一个非常大的未来
这是我的印象
所以说这让我想到了
我刚刚介绍了你说你
Found YouTube Shorts
或者说Coinitiate YouTube Shorts
很多人就会觉得你运气真好
你是站在了这个风口上
然后你踩中了一个很幸运的大舞台
但是我听你一开始的故事
和看你的朋友圈
觉得这其实是一个非常艰辛
和一个在Google内部
非共识的一件事情
是靠你自己把它往前推
而Shorts才走到了今天这一步
我不知道这个感觉对不对
我可以稍微介绍一下
Shorts是怎么起来的
其实挺偶然的
我不知道从什么时候开始说起来
也就是说故事就长了
我们就说Shorts吧
之前可能待会再说
我到YouTube之后
让我负责的一个产品叫YouTube Start
我团队是负责Discovery和Infrastructure
其实我去YouTube挺偶然的
因为我对YouTube的几个高层比较信任
其实也没有聊特别多说具体要做什么
然后就给了我这么一个肉
过去的第二周
我记得很清楚
跟我的一个团队成员
我们俩在一个小黑屋里面
一个会议室里面待了一下午
我把所有的产品的数据看了一遍
Stories就是和Instagram Story
和Stat
Stories就是和Instagram Story
和Stat
Stories就是和Instagram Story
类似的产品
然后我后来发现
这个产品在YouTube的天花板实在是太低了
因为它是一个Social产品
它的supply和demand是严重失衡的
在YouTube这样的Ecosystem下面
然后当时我就
是demand太高supply太低
没有demand也没有supply
对然后
然后当时是人为的创造了一些demand
所以我觉得当时我们最大的问题是
要创建这种Permanent content
而不是这种Stories月后几分的内容
然后因为月后几分的内容是没有
它只有很强的社交平台才能做起来
因为它的内容是不积累的
后来我就比较系统的研究了一下
中国和美国的视频的发展历史
就视频平台的发展历史
就很有意思
当时我写了一篇公众号19年的时候
就是在对比中美两国视频发展
视频平台为什么这么发展
有这么几个趋势
第一个趋势就是创作的门口越来越低
从电影
电视剧
到长视频平台
到短视频平台
它的创作门槛是越来越低的
你是要一个大导演才能做电影
直显
慢慢的你是一个比较小规模的制作
一个电视剧也可以做了
2005 06年开始
在美国
其实主要是美国变成了
你只要有一个专业的摄像机
和视频编辑的能力也可以做了
其实2005 06 07年这些时候
中国有很多类似YouTube的网站
Youku 土豆这些
其实这些本质意义上都做的
在UGC上面都做失败了
他们后来都转向了做
电影电视做IP这些
最本质的原因
我当时得出来的学习研究得出来的结论是说
当时中国是不存在创作者生态的
因为创作门槛太高
就是05 06年的中国
是没有多少人有专业的摄像机
和专业的视频编辑软件能力的
在这种面对
确实
我当时想这个东西对美国是不是用
但是后来想美国起码大家都有编辑软件
而且拍的视频整个的生态已经很久了
所以说相应的人才总是有的
但中国确实这方面还很少
我说一个很好玩的例子
我不知道你知不知道后生
中国的第一代网货
不知道
上研究生的时候
上大学的时候
他们就特别火
他们Lipsync后街男孩的歌
他们当时拍的视频真是极差的
也不是剪辑出来的
就是一气呵成
后来特别有意思的故事是什么
我们当时把这其中一部分研究
我总是会说其他的几个理由
接着说历史
为什么短视频首先发生在中国
大面积起来
因为UTC的视频创作和消费
没有被满足这种需求
因为中国的长视频平台没有UTC几乎是
很自然的
我要等到创作门槛下降的时候才会起来
什么时候创作门槛下降了
手机
每个人都有一个很好的摄像头
每个人都有很好的视频编辑
在手机上的能力了
UTC一下就起来了
快手站在了这样一个位置上面
快手其实以前做GIF
其实也是一个特别好的idea
但是后来短视频突然就起来了
我觉得这是历史的必然
尤其是快手的发展
是在中国的4G Unlimited plan出来之后
大家不停的可以低成本的刷手机了
在这个时间节点刷的特别好
单看某件事情都是偶然
这也是历史的必然
这个市场肯定要有个产品去满足
当时特别有意思
你可以看后生男孩的创作根本就不专业
相对于YouTube的使命
YouTube这个博主的标配是专业的摄像机
当时加一个专业的视频编辑软件
然后那时候0500系列那时候中国是没有的
后来就这个故事什么有意思
我们当时给当时YouTubeCEO
Susan那个今年其实去世了
特别好的一个CEO
看中国视频平台发展历史的时候
Susan说我记得这两个男孩为什么
他们Lipsync的一个歌曲叫I Want It That Way
是后生男孩的歌
是YouTube上面第一个超过100万
有机播放量的视频
而且当时对Google收购YouTube
产生了很大的影响
这是一个故事的闭环
就特别有意思
当时中国我忘了是广州美院
还是哪有两个大学生影响了Google收购YouTube
因为大家觉得这就是创作的未来
而且特别好玩的
另外一点就是历史的闭环
这两个人也是从Lipsync开始的
TikTok之前的前身也是从Lipsync开始
其实Lipsync是一个非常
viral的东西
对非常viral的东西
然后这是从第一个从创作的角度来讲
我们觉得大势势创作门槛越来越低
短视频平台肯定会起来
短视频的另外一个意思
你可以理解成是手机创作的视频
在最开始的时候
第二个我们就谈到从消费区市场来讲
很多长视频平台的时长
跟可能Facebook的时长
这种Feeds产品的时长是总时长是差不多的
但他们的广告的营收
可能在同样的时间下
只有Facebook的1%到1.5%
因为Facebook是一个就这种Feeds的流产品
或社交产品
它更多是一个用户可以每天打开十几次
几十次的产品
然后长视频平台大家可能就打开个两三次一天
然后有一个不恰当的比喻
就是长视频平台更多的是一个正餐
就大家吃早饭、中饭、晚饭
短视频的应该是零食
你可以一天吃几十次零食
你知道QQ视频的老大去说抖音是猪食
抖音是猪食
我们回到刚才说你提到的这个观点
因为当时候也有很多反对的声音
我可以讲一下
我个人觉得是什么样一个什么立场了
所以我们觉得这样的消费模式会更好
然后它也是一个更能够让用户得到满足的产品
我这先来一个点
你一会说你的
然后我这待会先来一个
我这一番我忘了
就是站在19年20年的节点
你会看到国内和美国的讨论
国内抖音已经起来了
然后大家已经开始研究快手和抖音的生态
然后已经有比较共识的认知
你跟国内的一个大厂PM去聊抖音和快手是怎么回事
他们都能跟你说这个东西为什么牛逼
当然在美国
你看你要从头去做
你要去出这个文章
就是你作为一个engineer的leader
对吧
他不是这个YouTube的CEO去做这件事
CEO去做这件事
也不是一个PM去做这件事
而是你
就是你的认知在当时的YouTube里边内部是非常领先的
这就让我在想这个背后是怎么回事
以及为什么一会要讲的leader是principle
就是为什么你作为一个engineer manager
你会去想这些strategies的东西
不过我们先把这个问题放下
我们先继续你的这一条
我给简短说一下
其实美国公司文化不太一样
Google是一个engineering driven的公司
一个好的engineered
engineered的肯定是要是一个好的产品经理
和好的program manager
其实美国公司的调性可能不太一样
比如说有些research line
它是research driven的公司
research这边的话语权要高很多
我们回到刚才的故事
就是第一个我们觉得短视频肯定是未来
从创造门槛越来越低的历史趋势来看
第二个是它是一个更好的消费模式
从消费的来看
第三个是它变性效率极高
就像我们说的
它其实更像是一个social network里面的feed
然后它的变性效率
即使不加上国内的玩法
这条直播和卖货
它也比长视频的变性效率高它3到5倍
加上直播和卖货可能就是5到7倍
甚至更高对吧
现在是这样的吗
我觉得我自己作为创作者
在youtube search里面得到的分成很少
如果我们抛去商单
你说的应该是广告的效率
然后现在是这样的吗
因为TikTok的变性效率比instagram还差很远
我觉得在海外可能不如国内那么夸张
但是你相对同一个小时
你对比长的视频和短的视频
短的视频的变性效率要高很多
因为你在长视频里面放广告是非常不自然的
比如在用户想点开的时候
你插几个广告
或者在中间插几个广告
对用户的打扰度非常高
短视频其实更像feed
更像social的这种feed
你其实每一个都一个很自然的断点
你划过去不会感觉到你非常的受打扰
然后第三个我觉得短视频是未来的一个原因
是因为其实变现不管是在前沿的研究
其实到最后都要有一个好的变现机器
它才能维持你长期的投入
甚至这一波大模型一样
一定要有一个很好的
大家靠信仰可以支撑几年前年的研究
但是你看历史上过去几千年
人类历史上的很多研究
都是在极其富裕的情况下产生的
没有经济基础是没办法谈科研的
然后第四个我们觉得短视频是未来的一个原因
是从生态的角度来讲
短视频可以造就一个基尼系数更低的生态
为什么呢
因为它创作门槛的持续下降
使得越来越多的人可以成为创造者
历史的角度来看
走互联网产品比如说
亚户和Google的本质区别是什么
是Google的分发更常伪
然后大家一直觉得常伪不重要
其实不是的
亚户是把你最常用的
比如100个网站放在那边导航
但Google可以把后面几个网站
帮你弄出来力量是巨大的
它的基尼系数要远低于亚户
然后你再从中长视频到短视频
它的基尼系数也在降低
基尼系数越低
不管是从社会学还是从互联网生态
它的产品的活力是越高的
就你像小红书为什么这么说
小红书是一个基尼系数
极低的一个产品生态
这是非常好的
而不是说一两个网
或前十名网红它dominate
整个的流量
其实对于平台来说是非常不好的
我们当时在做电商的时候
有种感觉就是
你基尼系数高了以后
就是几个大头
然后生态就死掉了
新的卖家新的供给方
他就上面找不到成功的话
生态很快就枯萎了
一定要有新鲜血液
回到刚才你说的
这是四点理由
我们觉得短视频一定会是未来
我还带了YouTube一些人
我们去上海待了一周
其实做了用户调研
采访了抖音的16个创作者
当时就四个比较大的
八个中间的四个比较小的
然后当时还挺有意思的
就在梅龙镇广场
以前进上去的大使馆的那栋楼
我们的大使馆的楼上
还是楼上几层
然后请了一个第三方公司
就很有意思
他们就是这种调研的时候
是一个单面玻璃
一个视频室是类似的
然后那边有个翻译
他其实也不知道是谁来问他问题
其实挺好玩的一次调研经历
回来给大家出的报告
就是大家都极为震惊
中国的短视频已经发展的这么的领先
就是创造者生态来说
你提了一点特别有意思
你说谁的哪个人说抖音是诸事
对吧
立场的立场
对他的立场
我觉得我们提出这个想法
就很多人挑战我
他问的问题是数超
你建造了什么
对社会和人类的好吗
我其实很难回答这个问题
但是我举了这么几个例子
第一个例子是说
我觉得短视频里面有很多好好的内容
包括很多数学证明
Medical visual proof
很多IT的Physics lab
有一个物理实验的频道特别好看
然后有很多平常看不到的
比如说长视频看不到的内容
现在的话
平均每人一天可能消费不到10个长视频
但可能消费500个短视频
然后就过个短视频时
你的视野可以非常非常的过
比如说有一段时间
我特别沉迷于这种
工厂里面的这种机械系统工作的
比如说你的旅行箱是怎么制作的
你一般是看不到的
只有说你里面的工人拿手机拍到了
你不会看一个长视频
然后这样使得你的人生阅历会变得很丰富
其实我觉得它有它好处的地方
当然这些人challenge
它的原因是说
它会使人的这种attentive span变短
那就是可能是不是会对人类社会变得不好的影响
我觉得也不一定
因为我们这代人是半自制游戏机长大的
我父母这代人就老觉得
你们这代人打游戏浪费了太多的时间了
其实垮掉了一代
但其实也没有
我觉得我对社会的贡献也挺大的长大之后
所以我觉得保持一个open minding的心态很重要
就是在趋势面前一定要有一个趋势
而不是老是挑它
任何科技的产生都有它不好的地方
但我们不能只盯着它不好的地方
我这时候要多说一些
然后提供一些想讨论
因为我知道观众
他这里最后有很多问号
或者说很多带着自己情绪的
我自己作为一个经纪
我自己是一个EcompHT
然后经系它一般是喜欢这种
就是nobitive和positive的说法
就是我们不带judgment
大家嘴上说我要学习
但是刷的都是小姐姐视频
那你应该给大家小姐姐视频
而不是去给大家嘴上说的学习的东西
但是我可能更关注的视角是
我们有一派人
Effective Accelerator就是这种相邻派
他就觉得技术来了以后
你应该去拥抱技术
然后你在这里边去阻挡它
首先你凭什么阻挡它
你凭什么觉得这个是好的
那个是坏的
就是你也没有一个上帝视角
你也不能去去其他人做决定
既然别人已经用他们的行为做了决定以后
你应该尊重大家的决定
这个是我的想法
但是这个想法并不是一个popular的想法
因为这个世界上大家喜欢别人来替我做决定
或者起码我可以blame别人
for the consequence of my own choices
所以说就会有人去说
你不应该给其他人这些content
然后另外的一些人就是说
对平台不应该给我这些content
虽然我天天刷的都是这些content
那这个在你推行这个initiative的时候
会是一个非常大的阻力
因为越是身居高位的人
我觉得或者说越是voice大
就这种人的声音
你没有办法去反驳他们
他们说的是对的
但是你很难反驳他们
那你除了去有一些就是positive的方面以外
你当时还遇到了什么样的阻力
和你是怎么样去处理这些阻力的
我觉得我们一是就质疑的阻力
说这件事情到底对社会是不是好事情
然后第二个是说
比如说当时我们遇到的最大的一个困难是冷启动
我们是2020年的1月份还是2月份上线的
就在疫情前两三周
就上线之后两三周就疫情了大家工作了
然后其实很神奇的一个体验
我们前四五个月的产品质量是极差的
然后那个时候每一周
我会把用户给我们的反馈都看一遍
因为那时候用户少
就自己还是看得过来的
不需要有人拿模型去处理
然后有一个人说
You should fair all engineers working on this product
就是产品的质量坏到这种程度
为什么呢
因为没有需求也没有供给
本质原因是没有好的供给
所以我们大概花了四五个月的时间
去figure out怎么去冷启动
有很多的时候就是在产品很差的情况下
你的阻力也很大
当时我的谈判的记下就是给我们一定的时间
比如给我一年的时间
我们能做到什么程度
如果我们做不到什么程度
我们愿意去放弃这样一个成品
所以这一年的时间
其实就是给了我们很多一年的exploration
谈判的对象是谁
就是个多高层级的人
这个可能就不太说了
可能在Google待了
比如说20年25年这样的人
我问这个问题的原因是YouTube source
因为我可能在Meta
我知道这件事情
在Meta的规则有多高
所以说我会以为它是一个
整个Google或者YouTube战略级的东西
只许成功不许失败
所谓这个意思就是说
我这件事已经是要做的
只不过换不同的团队来做
这个团队做不好
换个团队当然总是实力当做成的
但是这种情况也不一定能完全能做成
比如说腾讯想做短视频
就一直没有做成
可是听起来你当时是
Google或者YouTube在这上面的唯一的一个bad
且如果说你的东西没有做起来的话
YouTube source可能就不存在了
是这样吗
sourc是我们initiate出来的
就当时从story开始我们觉得
story的产品必须要pivot
否则会就天花板太低了
然后没有自上而下的这样一些bad
或者任何地方
好难这样做
就是自下而上的去达成一个战略产品
这件事情那你是怎么样子
就是它这个有另外一个问题
另外一个问题就是说
它在整个公司的战略角度上来说
是非常重要的
你在linked上也提到了
就是这个批查
它在二零四report
当你们做成了以后
那是之后的事情
就是做成了以后所有的人都会上传
这就是另外一个问题
就是我也经历过这样的事情
就是你在最需要大家帮助的时候
没有人帮你
你在最需要大家帮助的时候
大家都来挑战你
但是你一做成了以后所有人都说
然后全都过来report你的成就
你在最需要帮助的那个时候
是怎么样子挺过来的
然后你又是怎么能把它一路捅到那么高
把它改成
我觉得可能不是特别fair
是说没人帮助我
其实有特别特别多人的帮助
我只是说也有很多人去质疑这件事情
我们刚才只说了质疑的一部分
其实有特别多YouTube的
包括CEO是非常支持这些项
但是经常会有人challenge
有人反对
说这样这样不好
或这样做不成
这样不是一个好的方向
刚开始做19年底到21年吧
也就是前两年
那你觉得顺利吗
我觉得还行
就是我们第一就是团队还不错
我们招人招了很厉害的人
然后慢慢的把产品做起来
当时招人标准还挺高的
其实Google内部的transfer
我大概面15到20的人才招一个
所以你可以想象我们团队的平均水平
可能是Google的
at least top 10%
而且我招人的时候很赞重的一点
是他是不是有同样的vision
他们觉得是不是短视频一定会是未来
而且是一个对社会有益的未来
再厉害的
他认同这样一个vision
他才可能把这件事情做好

就是mission driven的能量要比其他的都重要

你说的厉害的团队是推荐方面的团队的
推荐搜索视频理解
把一个短视频产品做起来
背后的技术
产品本身就是YouTube source
到底是以一个什么样的形态出现在feed
然后你怎么样去prompt创作者去上传
source
你怎么样做communication
然后你怎么样去运营这样一个
supply and demand balance
这些东西是你们用工程的方式解决的
还是也有对应的这种传品团队
专门解决这个问题
大部分是一块解决
包括什么样的入口
我们最开始
从19年开始我们想要的一个入口
是给我们一个type
但是这件事情可能
持续了一年半
可能两年之后我们才得到了一个type
最开始入口就是在主页上面
有的会有你可以点进去消费
没有一个特别deterministic的入口
但是我们做成了之后
产品到一定的量级了
才拿到了一个特别deterministic的入口
另外一点我想说明的一个可能就是
刚才我们太过于强调
有一些反对的声音
但其实在这个过程中
我们得到了大部分人的帮助
包括YouTube内部
包括YouTube web
我们跟Google brain做的非常多
那边非常多的团队
给我们了很大的帮助
包括怎么去做视频的理解
怎么去做推荐的模型
其实最终convert的结果
我把它叫做第4代推荐系统
其实跟大模型非常非常的像
有一个类似于pre-train的阶段
然后有一个类似于RL的阶段去做探索
我当时大概给推荐系统分了一个几代
然后我觉得我们把当成是第4代
这个推荐系统
你来讲一下这4代分别是什么
他们特征是什么
我看我能不能记清楚
第1代我们觉得是基于内容的推荐
就把各种内容打标
这个是action movie
这个是romance
这个是什么对吧
通过global filtering
通过举声分解
就帮你推荐类似的电影
太多和人的不交叉推荐
第一个可能是还是纯基于内容
第二可能就是刚才我们说的
基于学习了
有一些
就是completion

那是completion
这些
然后第3代是基于深度学习的
就是把里面分成很多很多部
然后用深度学习去预测
各种的指标
我把分代的标准是每代
它的服务的平台
你可以想象成其实Netflix这种平台
或者电影平台最开始
其实是一个单边平台
它的供应是固定的
它只有说怎么去拿着固定的供应
去做分发
对吧
慢慢的你可以想象长视频平台
可能是一个1.1边平
其实并没有那么多人创作业
当然要比电影还要多很多量级的
因为YouTube创作者还是要比
导演个数要多很多很多的
或者比如说叫成1.5边的这种平台
第三类是短视频平台
我们可能把它叫成更多
可能1.8边这种平台
对吧
然后社交平台可能就是1.9边
或者真的是双边平台
绝大部分人即使创作者又是消费者
从刚来我们的分类
第一类推荐系统是适合于
比如最开始的那种电影和电视的推荐
后来有了比较强大的
机器学习这种引擎之后
可能是第二代
然后深度学习从2013 14 15年
开始在广泛的应用到推荐
搜索广告里面之后
我觉得这是第三代
然后第四代真正的用到一些类似于
LM类似的人工智能的这样一个系统了
你不可以再展开说一下
LL A4的这句话的意思是什么
你可以想象成LM的两个核心点
就是一个是pre-train
一个是RL
在推荐系统里面
我们觉得pre-train就是一个memorization的
或者是mostly memorization的一个过程
就是把你的行为数据都记下来
或者是大家的行为数据都记在一块
然后看里面的遵循来再审
然后RL那部分我们就更多是探索
不能说你喜欢看小姐姐视频
就只给你推荐小姐姐视频
而是要探索不同的路径
让你的reward变得更高
推荐事情目前
我在YouTube的推荐上做的极其声音
就是我其实不是很喜欢YouTube的推荐算法
会甚至在固定的位置
给我专门推荐我一直看的东西
和就是几百个views的这种东西
然后是探索
就是我觉得这部做的很声音
versus如果你在抖音
Facebook、Instagram这样推荐
就是那个东西
哪怕小红书推荐
感觉更native一些
就没有那么的声音
所以我在想就是
这样的一个推荐的待机划分
我再说一个背景知识
我当时离开Facebook之前
我的一个mentor是
Facebook Ads
就是比较深的
做research加data的人
然后他说那个时候是2021年初
就是Facebook内部游戏做
ads的这些research比较厉害的人
他们看到了抖音的模型
TikTok的模型
比Facebook的模型大10到100倍
我们现在虽然说大模型
但是那个时候他说的不是
large language models
而是就纯粹是从
模型的size的角度来说
然后他们会觉得抖音的推荐能力
其实比Facebook Ads的
这些推荐能力要强
他是从这个模型的大小
或者这个参数量去思考这个问题的
然后你刚刚一个是从试用的平台
和他的感觉推荐的范式
就是他怎么样子去得到信息来
然后我在想就是
如果我们从推荐的这个问题
本身出发的话
他怎么划分
其实这两个非常的相关
给小杨诚内容推荐参数量是极少的
Clever filtering
那是经典的一些算法
他参数量慢慢的变大
到深度学习
他的参数量就变得很大
现一代的
可能大家还在探索出来
第四代当中
就怎么把这个模型做大
因为大元模型之所以可以把模型做大
是因为我们发现了一些结构
使得他真的是就是能够
你给我喂多少数据我都能学
Elias经常说
Oh the model just want to learn
你把数据给他喂给他
他就能学
推荐里面很大的问题
他的
Tocalization是非常难的
比如说你用Vidio ID
但是我每天的Vidio ID都在变
不像语言
就是说大家Token是固定的
当然每年也会新词出来
但是这些相对于既有的知识来说
是极其微小的
但是你看抖音上面
可能每天火的内容都不一样

刚才Vidio的Tocalization
很难
这是一个非常本质的观察
然后我一想确实是很难
我们第二轮假
你在OpenAI的工作
他也会聊到这里边
我们到时候在那儿再Dip Dive一下
然后我这儿的一个直觉

产品上的直觉
抖音
他的人的介入的
程度很深
而且这些介入的人很懂
他们是真的天天就是在那儿
做这个运营
所以说
一定程度上把
算法的很多东西给弥补了
而YouTube的运营策略
人定下来的这些规则
可能很大程度上限制了他的推荐
但是
国内公司和海外公司很大的不一样
国内公司是非常愿意
而且很懂运营的
海外公司
几乎不太多运营
但是这个Strategy在我看来真的是
哎呀很难受扰了
但是就是说
你可以观察到
就很厉害的人也被overfit
就过你和他过去的成功
比如说我们做一些新的事情
会有人提出来不同的观点
我觉得这些都是好的观点
但是
他很多时候是
过你和他过去的成功
就比如说
有人跟我提过在Meta
17年18年开始
因为Meta很多高层是中国人
跟Zackbrook提过说
抖音那个产品非常厉害
你应该看一下
然后当时Zackbrook的回答是说
这不就是我们Feed的全屏版吗
就他不把它当成一个创新
而是说
自己做了本质创新
他们只是说
I think a tiny amount
你 know we shall topple that
对吧

就Strategy里面说的一句话特别的
好玩
这个渺小不是生存的障碍
傲慢才是
想要长久的成功
必须要保持一个非常开放的
心态
就Open-minded
要理解这个社会的进步
和别人的创新
我们正好这个地方
我觉得就非常好的
转到我们这个问题的下一部分
就是你的Leadership Principle
或者说是Philosophy
可不可以给大家介绍一下
很多东西在你说起来
轻描淡写一点
但是我觉得换一个人去做同样的事情
未必能成功
所以说这就是
厉害的人经常感觉不到自己厉害
但是你起码可以介绍一下
你是怎么思考这些问题的
剩下的东西大家自己来评判就好
我觉得把团队也好
产品也好
增长的过程中学到了很多License
有些是别人教的
比较厉害的人
或者比较崇拜的人教我的
有些是可能自己放过错之后学到的
我们有一个小圈子叫
Bate Area Data Lease
就是做数据人工指证的这样一些
在各个公司的一些Leader
我们每个季度会聚一下
当时我在分享一些
这些Leadership Principle的试卷
把它很好的形象的
成了人的这种各种宝体

我就拿这样一个Framework跟大家说
我觉得也比较容易记
我觉得一个比较好的Leader
要具备下面几个特质
第一是Vision
就在他所属的行业
不管是技术也好
产品也没有
要看得非常远
然后看得非常深
这就好比一个人要一双非常好用的眼镜
而第二个是要有清楚的Strategy
光看到远处时还不足够
你要知道怎么去从现在去走到
你要看到的远方
第三点是要有很好的Execution
其实很多创业公司或大公司
一样他们的Vision和Scientrity
可能差不了特别多
但是就Execute
好不好决定了实际的成败
对比到人他有一双非常
Capable的Hands
第四点是要有一个Empathy
就是要带领团队也好
要把产品做好
因为要理解别人是怎么想的
一定要经常站在用户的角度
站在团队成员的角度去考虑问题
而不是说自己想怎么样
这就是对比到人要一个非常好的心
第五个是他一定要Take Risk
就是对比到人要有Gas
不承担任何风险
是不能够做很好的创新的
第我都忘了第几个第七个还是第六个
第七个了对
我个人非常看重了一点
可能有点Controversial
我觉得沟通能力非常的重要
这个为什么
Risal你觉得
我当然那时候把它放在很重要的位置
但是可能有些人觉得这个人
只要你就是很聪明
能够做事情
可能也就够了
但是我其实把沟通能力
放在非常重要的位置
沟通能力不只是说你要会说
你首先要能听懂别人在说什么
然后做出什么样的

在我的比喻里面
它就是有嘴巴和耳朵
我稍稍吃惊一下
我认识的所有的Leadership
他们都沟通放在一个非常重要的位置上
基本上大家都会强调两件事情
第一你要是一个smart
然后Good with people
Good with people在很多地方都是非常重要的
到有点吃惊
到现在会有人觉得这个东西不重要
我不是觉得有人不重要
而是我觉得看放在什么高度
我甚至拒绝过候选人
各方面都很强
但是沟通下来非常的不顺畅
为什么沟通非常重要
当然可能有了AI之后不一样
每个人成为一个superhero
其实不需要沟通
但是我们现在的阶段需要团队协作
你的沟通成本是随着团队的人数
成平方上升的
所以沟通效率
很大程度上决定了一个团队的工作效率
我们刚刚说了7个器官
还有一个self-reflection
你在看你来作弊
我做过笔记的
对的
还有一个特别好的Leader
应该很多都具备的一个特质是
他经常会反思自己做的事情
中国有句话叫一日三醒无声
就是晚上睡觉之前会想要
今天我哪些东西做的好
每些东西做的不好
就是产品上面也好
对人事上面也好
就跟大模型一样
你要不停的反思才能够进步
这可能第八点
对这几点我觉得都挺好
我也会把你的
Major连接发给大家
然后大家如果想看的话可以看
但是这又带来另外一个问题
就是大家会说
你要求的是一个六边形战士
然后世界上不存在六边形战士
或者说我当然知道要在这几个方面都要做好
但是我也不可能在每个方面都做得最好
或者怎样
可不可以再请你说一下
就是一些关于trade-off的东西
在这个领导者里边你觉得什么东西最重要
和什么东西
它在你面临选择的时候
能帮助你去做更好的trade-off
所谓面临选择就是这个也好
这个也好
这个也对
你要选一个而不选另一个
这个时候你是怎么做这些测试
我先推返你的问题一下
然后我会回答你的问题
我觉得成年人什么都要不做选择
最主要的是你要认清自己哪方面强
然后你要找到人去弥补你的不强
所以你的领导者队一定要全面
你做一个领导者最重要的是
找到一个领导者队
一群人帮你去管理这整个团队
你知道自己哪里强哪里不强
你一定要找到你不强的那方面的人才来弥补你
我觉得这个有点侧面回答你的问题
来到正面回答你的问题
我觉得认知是最重要的
就作为一个领导者来说
因为认知决定了你会把精力放在哪里
第一点
就是vision是最重要的
如果你大方向搞错了
再努力
你沟通能力再强
你再怎么样其实就很难
我再问一个问题
就是跟那个桂谷西老师聊的时候
他就讲
应该是18年还是19年
皮柴在Google的大会上就说
从今以后Google是一家AI Company
当时还是有点跟人手玩手的这些话
因为那个时候大家可能热点还是在Mobile上
他那个时候已经说的是AI Company
但是在今天
感觉Google以他的资源
不光是钱卡还有人的资源
和他产品的资源来说
他在AI上感觉他的速度是很慢的
或者大家都对他是不够满意的
他的大模型也不是就是State of Art
他的产品上的integration也很慢
做得很一般
你作为一个前Google
可能跟你问这个话不太合适
我想问你觉得问题出在哪里
在一个领导者有vision的情况下
他应该注意什么的
我觉得有几点
第一点
有vision肯定要比没vision强
如果当时Google没有说我是一个AI Company
就不想做AI
其实现在以你的标准来说
可能要差很多
第二点
我现在依然觉得Google手里的牌是最好
Google是唯一一家公司
是从底层芯片到info到算法到应用
这个是世界上唯一一家公司
他整个链条可以做全球优化的公司
任何一家公司都没有
现在他手里的牌依然非常的好
这也跟他AI First有关
第二点
认知其实是有颗粒度的
比如说我们all in AI
怎么all in AI
怎么一个执行家
就是我们刚才说的strategy和
execution
这也是上上上上非常重要的东西
你选一个肯定选mission
因为你execution再好
你没有好的vision也是在做不朗运动
这是修身的东西
修身养性就是我作为一个什么样的人
我才是一个好的leader
可是很多同学关注的是法家的东西
就是我做什么
我怎么样子成为那个leader
或者说我作为一个leader了以后
我应该有什么样的素去做
在这方面可不可以分享一些
我举个例子
我之前采访
Richard他讲了几个非常可知性的东西
他觉得你华人在硅谷想要做好的话
有几个事情应该做好
一个是take initiative
一个是share credits
一个是network
有没有这些单本身上的一些想法
我觉得我非常同意刚才你说的这几点
比如说第一点一定要非常的proactive
就是一定要自己去主动的做好事情
第二点是觉得一个人要不停的去
扩大他的信任圈
就叫更多的人build trust
我觉得这样是他的路会越走越宽的
bill分享过一个很好的trust公式
就是trust等于credibility
plus reliability
plus intimacy
然后整个括号
divided by self-orientation
什么意思呢
就是你的trust是根据你的专业领域的
credibility

程度和你的靠谱程度
你的关系的远近程度
这个三个相加
出于你这个人是不是经常会考虑问题的时候
是考虑大家还是考虑自己
其实很重要的一点
我跟我团队成员也非常强调了一点一致
就是有一个词叫territorial
就是领地意识太强
我觉得这是一个非常不好的现象
尤其是有很多人可能分不清territorial versus ownership
就有人觉得把主人物精神
当成了领地意识其实是不一样的
我给你举个简单的例子
比如说那里有一块地
就比如说有一亩地
然后 ownership的意思就是说
按照地是我的大家可以随便耕
就产出来的庄稼大家评分的
或者大家想用的对吧
然后territorial的意思就是说
这块地的庄稼只能我种
别人都不能种
体现在公司里面
比如说你站在CEO的角度来讲
你会提拔什么样的人
那CEO要对谁负责
对董事会和股东负责
股东想要什么
想要公司变得更好
CEO的目的就是要满足这些需求
那好
那我是CEO我会提拔什么样的人
这个人是为公司着想的
而不是老是想这件事情对我的利益有多大
即使说你longer term
你说要对我有益
就是你长期贪婪
短期你也要什么对公司有益
我要做公司有益的事情
你才能达到你的长期贪婪
所以这是一个非常重要的一点
就是一定要不停的build trust
那里面build trust里面有各种陷阱
比如说 being territorial is one of the trap
我是非常赞同不应该territorial
然后我是非常同意大家race to the top的
但是我在我的职业生涯中也吃过类似的亏
就是当我非常愿意跟大家合作
然后什么东西都share的话
有的being territorial的人就会过来侵占你的scope
把你的成果据为己有
然后我当时的处理方式可能那个时候还很不成熟
就是如果说你来侵占的话
那我第一我会有一个比较大的反应
让你知道这件事情是踩到我的底线的
第二就是我会less collaborative
就是我不是跟你做
但是我事后回想这个事情为什么不好
它其实是降低了整个事情的天花板的
当我把这件事情有了这样一个反应
且我在这上面投入的资源变少了
它本来能往前走到100分
最后就走到60分
那我就打这个具体的例子
问一下你会怎么处理
刚才你说的这个事情挺常见的
就是如果对方不太好怎么办
我的处理方式我觉得不一定是最好的
也有人给我feedback说50最好的处理方式
是看这个人的可取代程度有多高
如果这个人不可取代
那没办法你只能想办法跟他work together
不管是多沟通也好
还是建立某种程度上信任
然后大家有一个契约
如果这个人的可取代程度很高
就不一定要跟他合作
我的处理方式就是get rid of this person
或者get rid of this person from my work life
我的处理方式是这个人在这件事情上的可取代程度还好
但是这件事本身的可取代程度还是后悔
我这件事情我可以选择去做100分和60分
我在想就是如果做100分肯定对我很有好处
但是我选择去把它做到60分也未必是个好事
对如果做事情的话
我觉得还是要事情要做好是最重要的
我觉得事情不做好不是一个特别好的方向
但是就fool me once is your fault对吧
fool me twice is my fault
我self reflect一下的话
我觉得还是自己这个ownership不够彻底
我觉得事情的ownership不够彻底
所以说这可能也是一个需要改进的地方
leadership这方面你还有什么想分享的东西
你觉得想让大家就是be aware of
比如说你之前犯的错也好
或者你觉得一些很厉害的人给过你的很好的建议
你觉得很想分享给大家的
犯的错我觉得有一个很好的
对于团队的整个的了解非常的重要
一定要知道大家想要的是
我觉得这是可能矽谷这边的公司和国内公司
或其他一些传统的企业不一样的地方是
矽谷这边的leader他一般要求对两个party负责
第一件事情对公司负责
把公司做好产品做好对吧
第二件事情是对团队成员负责帮助产业的人去成长
其实很多其他公司就非矽谷科技公司
可能没有第二条就是大家是一个契约
我给你钱你把工作做好对吧
所以了解自己的团队非常非常重要
我甚至以前犯的错误去
我以为会reward一些团队成员
但是可能这不是他们想要的
我的社区就有人说他要被promote principal
他怎么样才可以不被promote
世界好苦难他不想被promote
那leadership principal这个聊到这里
最后一个问题关于shorts
shorts现在做成功了
然后它会是公司长期以来非常重要的地方
就是你的这块田终于长成了一个非常肥沃的田
那你怎么舍得say goodbye的
就是你作为这里边的元老
你在这里边的工作会非常的爽
然后你会不断的收获它的果实
那你这个时候你选择离开的原因是什么
这是一个非常曲折的决定
就来来回回可能有一段的时间
其实我最舍不得的可能是团队
毕竟是一手从零打到的团队
而且战斗力非常强
大家的互信也非常强
我离开的最主要原因
我觉得可能是我的学习曲线平了
我也大概知道怎么去从零到一build的一个成品
不管是从产品上技术上还是商业上
然后从零到一去scale一个比较大的团队
我之前的工作可能有1%是在research
2%是在做产品相关的东西
这一波AI的兴起使得我看到了很多
我觉得更大的趋势
我想更多的去学习
然后把我的学习曲线再抖起来
比如说总共是2%的research
1%的产品
或者是更多的research里面去做
我觉得这可能是促使我离开shorcest最大的一个内因
我再问一个更抽象一点的问题
就是motivate你的是什么
因为我们在预约这个访谈的时候
你也提到过你现在一周工作是80个小时
对很多人来说他们奋斗的目的是为了不工作少工作
然后也有很多人他们哪怕是拿到成果的人
他们会觉得自己应该在年轻的时候多打拼
然后得到了成果之后应该更多的去享受生活
当然每个人的motivation不一样
所以说我就想问一下motivate你
然后你一直想要一个抖窍的学习曲线
背后的motivation和你在中间得到的正反馈吧
大概是什么样的
这个问题非常的好
其实现在人工智能里面没有解决的最大一个问题是
应该给人工智能什么样的reward
就是他的目的是什么
这就是一个非常深的哲学问题
我刚好跟我以前的一个mentor
前两天讨论过这个问题
人的motivation是什么呢
人的reward是什么
Elias讲课
他就是说机器想要学习
agent会reward itself
但是人其实确实只有一个东西是本质的
就是existence和non-existence
剩下的所有东西都是corollary
在那之后
就是existence和non-existence之后
我觉得有一个default path
就是我们社会学校会劝大家去reward一个东西
然后这个东西一般是跟external相关的
就比如说你的status的这些东西
但是如果说你超越了这个游戏
这些都是人其实不超越这个游戏
超越这个游戏以后每个人的答案就不一样了
我觉得这也是人比较有意思的点
就是这个问题没有答案
这其实是纳瓦尔说的
纳瓦尔在应该是周柔根的博客上说的
就是人的存在的意义是什么
如果这个问题有答案的话
所有的人都可以照着那个意义去optimize
然后都可以在这个维度上分出高下
之所以人的生命是有意义的
就是因为这个问题没有答案
我有一个比较practical的答案
从进化论的角度来讲
人的意义就是maximize自己基因存在的时间
从吸引的角度上是这样的

因为从进化的角度来讲
如果他不想要优化后代的物种全都灭绝了
如果他不想要reproduce
那这个物种就没有后代
那就灭绝了
所以自然选择剩下来的人
或者剩下来的物种
都是有繁衍的目标的
我最近处在一个质疑计划论假说的阶段
所以说我可能不会拿它来指导我的哲学思考
另外一点就是刚才说的学习曲线
其实人的一生也是一个exploration and exploitation的过程
就是一个RL的过程
我觉得进化论也会奖励那些做更多的exploration的人
就是taking risk of learning new things
或者是practice new things
我发现学新东西会给人带来快感
反正我就觉得很爽
很多时候觉得我实践到了
更新了我的认知
那我感觉我就非常的爽
你从更偏生物学的角度来讲
机学习里面的RL或者exploration
跟物种的智能是非常正相关的
据说这个小鸡是两周之后就完全成熟了
所以鸡是特别傻的
但是乌鸦可能要好几个月或者一两年
所以乌鸦是要比鸡聪明很多的
然后你再看人
人是可能要18年才成熟
或者是更多年
所以人的智能是非常高的
因为他经历了那么长时间的探索期
childhood就是人类的探索期
叛逆其实是一个非常好的事情
因为没有叛逆
人类是不会进步的
我觉得从这些角度来讲
我不知道为什么可能学习给很多人
或者说我们从小时候的教育也好
或者基因里面building也好
你刚才的那个鸡乌鸦人
你要再说AI吗
AI的学习时间很久
所以他
对这也是为什么我觉得RL对AI是非常非常critical
所以这大概率是不够能够达到所谓的ASI
或者说能够达到一些