Subscribe
Share
Share
Embed
课代表立正的官方Podcast
深度访谈，有用干货，亲身验证的「真本事」
Superlinear Academy创始人，Maven Top AI Instructor
前Statsig布道师（OpenAI收购），腾讯副总监，Meta，Amazon；康奈尔经济学博士
社区：Superlinear.Academy
课程：ai-builders.com
个人：lizheng.ai
所以说我在这次访谈之前我专门找了徐老师聊了一个小时
徐老师说你现在跟他打电话
经常是问关于一个人的背景
就这个人
很明显是一个非常厉害的工程师
不需要问什么问题
但是你会不断的去追问
而且他从这里边
他会有一个强烈的感受
您很多的问题
是从first principle出发的啊
创业这么久
我觉得我很多观念也有改变
就是以前比如说
就可能大家觉得conventional
wisdom就就应该这样的东西
wisdom就应该这样的东西
我慢慢发现其实就不应该这样子
然而反而是那一种
比如说他特别polish的人
你更需要小心
因为他太过polish了
有可能他可以把所有的问题
都隐藏得非常的好
观点是有价值的
他有一个necessary condition
就是这个观点是一个
correct contrarian是一个非共识观点
那你第一是怎么坚持下来
第二是怎么样去说服他人去buy in
或者说invest
或者follow you
我觉得你如果问Databricks的hiring manager
大多数人可能会跟你说oh
hiring is so tough here
但你这个alignment不alignment
更多是个how
而不是一个
capability对吧你就算调模型
你也可以通过这个search and retrieval来做
来找信息对吧
你说的对
那我这里就transit到我的第二个问题
就是为什么你这么牛逼
然后
我觉得中间有一个很好的过渡问题
啊就就过渡问题就是
为什么Databricks的人这么牛逼
和Databricks人的这个非常高的bar
对Databricks的成功的
这个重要度是多少
嗯怎怎么说呢
就是有两有两个想法吧
第一个想法是
只要你有市面上最好的人
那你不会担心任何的竞争对手
因为他们做什么
你都可以做的比他们更快更好啊
但是另外一个呢
就是说可能你的value proposition
你的本身的业务的定位是更重要的啊
然后你最好的人
他在不好的这个定位上
也发挥不出来更好的优势
我觉得都有道理吧
就是你很难去说谁对谁错
但是都都有
都是都需要
说实话就是说
是都需要
嗯那那那这个问题就是人才哎
在Databricks的so就是取得
今天的成功
你觉得他所占的这个因素
所占的比重大概是多少
和对未来所占的比重是多少
比重比较难说
我觉得这更多是一个公司文化的事情
就是说我觉得一个公司要成功
就不不管你怎么定义成功
有很多不同的方法
就是你人才肯定是缺不了
但你究竟需不需要整个公司全部都是
比如说精英
或者你整个engineering部门都是精英
还是说可以有一部分的精英
然后有一部分呢就属于很很一般的人
我觉得不同的model都有这个并
我觉得没有
一就是说这这整个公司都很差
肯定不行
但是至于需要说
就是你的bar非常高
还是说你的某些
比如说某一些领域的bar很高
这个
我觉得是更多一些公司文化的问题
那么我觉得我们
因为可能都是在学术界出来的
而且都是这都是在UC Berkeley出来的
作为创始人本身对这一方面比较注重
就我们希望
就有时候我开玩笑说
life's too short to work with
就是not the best people in the world
所以这个
我我觉得更多的是一种文化吧
所以你刚刚问到说
为什么我们能保持这个bar
我觉得很多时候就是因为
就是你一旦lower了这个bar之后
你就非常容易就就slippery slope
然后越来越差
但是如果你尝试去hold the bar
这个时候可能很多人很不爽
很多hiring manager
他可能觉得
这个人明明已经有了Google的offer
或者有了snowflake的offer
为什么我们过不了
就是hiring committee
然后他会argue这个
就很多人
就是我
我觉得你如果问Databricks的hiring manager
或者说的话
大多数人可能会跟你说oh
hiring is so tough here
当然这个就是我们的
就是it's it's a culture of the company
就是如果就是if you don't if you
就是if you don't like it you should go somewhere else
这个你你把这个他定义为一个culture
意思是这是一个选择
但是你觉得如果不是有这么大
这么高的hiring bar的话
Databricks能取得今天的成就吗
就是换一种模式
他有可能做到类似的事情吗
啊
这很难说
因为历史你没有办法做AB experiment
对吧我觉得在我们所在的行业
因为
是因为就就it it we're building Hardcore Systems
就很多scalability
很多这个performance的东西
这些东西本身
可能对这个人才的要求比较高一些
然后包括了skill
所以我个人是觉得
如果就我个人觉得
人才对我们来说
尤其在就是product and engineer上面
还是很重要
然后但是我的确有看到很多其他公司
就是他们有不一样的这种人才的
这个bar跟人才的
这就具体说
但有很多公司
其实就是they don't care that much
就当每个公司都会说
we have the best people or want the best people
但实际上可能they don't care that much
但我也看到成功的公司这样子
我听懂了
我觉得我给你刚刚说的话
补充三个 anecdotes
嗯可以帮助观众理解
你们到底是多么的认真
这件事情
其实我跟熊力有专门就聊了这个嘛
我们一个小时的节目
就讲Databricks
到底是拿这个hiring bar
有多么的多么的serious
就是很多人会这么说
但是真的去做是不一样的
有三个anecdotes
分别是什么呢
第一个就是熊力会讲
他的很多hiring decision
你会在上面留comments
然后你会去
就是challenge他的这些决定啊
包括就是很多VP啊什么的都会去
所以说你应该是一个非常非常忙的人
然后你会看到他的招聘上的这些东西
就说明了确实不是pay lip service
是大家真的非常care这件事
哦对这个事情
其实你如果看Databricks engineering ladder
就 engineering management ladder
第一个column就是hiring
其实
我比如说在2020年到2021年
在build Databricks SQL的团队的时候
因为当时我们要招datawarehouse的人嘛
因为那是一个新产品
我可能花了70%的时间都在recruiting
Sam Altman
就说就是招
招聘
是一个manager能做的最高ROI的事儿
但是很多人这么说
可是真的这么做的不是那么多
然后我的第二个anecdotes
就是徐老师说你现在跟他打电话
然后你跟他打电话的时候会啊
就是经常是问关于一个人的背景
然后甚至有的他会觉得
就这个人
很明显是一个非常厉害的工程师
不需要问什么问题
但是你会不断的去追问
而且他从这里边
他会有一个强烈的感受
就是您很多的问题
是从first principle出发的啊
而且这些问题反而会就是让他去反思
就是他觉得你问的问题是对的
但是他为什么不问
就是说
是不是因为CO founder给你带来的这个
独特的这个怎么说的
自由度吧
就是能让你
能从first principle去思考很多问题
但是我们可能因为要顾虑太多的事情
就明知道这样思考是对的
但是不会这样去思考
对徐老师的这样的有什么comments
徐老师自己也是创业那个
如果没记错的话
他创业但是他就是在现在
反正在大厂嘛
他其实职业生涯大多数时间
应该是在大厂
比创业更多
我觉得就就创业这么久
我觉得我很多观念也有改变
就是以前比如说
很多我觉得就可能大家觉得conventional
wisdom就就应该这样的东西
我慢慢发现其实就不应该这样子
就比如说当我更年轻一点
可能20多岁的时候
我觉得一个一个executive
如果这个executive必须要有特别好的
这executive presence
what does that means
有可能特别的polish
有可能特别能激励人
然后有可能可以讲特别好的故事
但是慢慢慢的我就发现
其实这个不是很重要
这当然他有一定的重要性
对吧
你希望你能够有一定的激励人的能力
但是其实对激励人很重要
对对
激励人比较重要
但是如果让我选一个
是比如说
两个executive有两个VP吧
一个是他激励的人的能力特别的强
然后特别的polish
但是他没有办法
就是go into details
跟另外一个VP
他可以就是he can go into the details
he can drive
当一个项目比如说要slip的时候
他可以直接跑进去
跟engineer了解非常的深
说为什么要slip
噢原来是这样子
那我可以帮你unblock
然后把这个项目拖回这个原来进展
但其实他本身呢
可能非常的
比如说这个口音非常严重
这个大多数会是ESL
然后大多数人都这样
我们都是ESL对吧
那比如说他英语真的非常的差
这个
很多人甚至听不太懂他究竟在讲啥
那我就是i think the second one is much more valuable
单一方面
有可能就是我可以去帮他去激励人
对吧但是就是慢慢慢的
我觉得其实
然而反而是那一种
比如说他特别polish的人
你更需要小心
因为他太过polish了
有可能他可以把所有的问题
都隐藏得非常的好
to manage mode
manager mode
对所以
就是慢慢慢的
我觉得其实很多这个就
大家觉得应该怎么样的事情
其实并没有真正的原因
说你就应该是那样子
所以我们也觉得像你刚刚说啊
first principle就是说我们究竟需要做什么
就是what do we optimize for
这跟我就这跟这个组织的这个
就时间就时期有关系吧
就是这个组织需要什么对
吧我刚刚虽然说a跟b
我更倾向于b
但有可能
比如说当这个组织
有非常大的morale prices的时候
你更需要a
所以这个很多
就是说what what are we trying to accomplish
然后去think backwards来想说
那我需要什么样的人
或者说我需要去做什么
有可能我需要做的是不断的去激励人
花80%的时间激励人
有可能我需要做的是
就是非常的detail的去
每细节每一个细节都认真的审
确保东西没有问题
就是这个
最终最终还是说组织需要什么东西
你希望达成什么样的目的
我我结合你刚刚说的那个点
就是你觉得很多东西啊
大家觉得是a
其实不是a
因为我我自己很大的一个体会就是
你要有一个一个想
观点是有价值的
他有一个necessary condition
就是这个观点是一个
correct contrarian是一个非共识观点
共识观点一般价值不会特别大
非共识观点
是一个大价值想法的这个necessary condition
那我回来再多问一句
关于这个非共识观点的东西啊
我记得徐老师还说
你们每来一个新的executive或者VP
他们第一个问题就是
我们为什么不做on prem
然后呵呵
然后现在不会
对对
以前是这样子的
所以说不管是啊
就是看到AI的重要性
mainten hiring bar
然后这个不做on prem
还是就是去go after DATABASE
去做SQL
去compete with snowflake
都是contrarian the view
这个contrarian view呢
他的问题是
你在你心中
你应该是已经有足够多的思考
看到了足够多的东西
你非常坚定地去相信他
对于其他人来说呢
在你做出来之前
大家是看不见的
这就是为什么他by definition是contrarian的
那你第一是怎么坚持下来
第二是怎么样去说服他人去buy in
或者说invest
或者follow you
这我觉得要看不同的是
就是因为你举到很多例子
一方面
我举到的例子是hiring on prem和这个
就是SQL
那我们先说这个
就是on prem这件事吧
就是on prem这件事
你是为什么你
第一你为什么可以如此坚定
第二你是怎么样说服大家
我首先说一下
不是我一个人
你说到这些东西
其实都it's all teamwork
嗯
on prem这个事情
其实我们看到的我
觉得跟也跟就是团队背景有关吧
因为你知道Berkeley
当我
我不知道在徐老师的那个访谈上
有没有讲过
Berkeley当年写了一篇很有名的paper
叫Berkeley view of the clouds
可能是2011年还是12年发布的吧
然后那篇文章非常的就
就是it's highly cited
他popular他是由计算机系的教授写
他popular到了
我老婆当年在商学院的时候
都读了这一篇paper啊
就讲说为什么云会崛起
然后为什么云是未来
然后当时由David Patterson主导
但有很多
就很多Databricks的
早期员工和这个创始人
都在那篇paper上面
啊
看可能是2010年发
因为我刚到Berkeley的时候
那时候我还没
我记得是我刚到Berkeley
他们就发了这篇东西然后
所以我们本身就觉得云会是未来
然后我们觉得就从first principle考虑
云有几个好处
对于软件公司
第一个是他比较容易做POC
第二个是他这个比较容易做deployment
然后迭代速度非常的快
因为我可以
我今天这个比如说写一个新的功能
明天就put给这个客户
对吧
那么在on prem里头是没有办法做到的
哦
话说我跟徐老师聊就是
什么是the definition of clouds
我的definition是
你的这个迭代是可以你push给用户的
对这
这这这一部分吧
就是还有很多
就是因为有一些比如说manager service
他可以说
我跑在你的private data center里头
但是我也是可以push给你
但是这个还有一个问题
就是说
就一个一个系统
你有越多的就是heterogenity
你就越难迭代
因为比如说你需要支持50种GPU
50种CPU吧
或者是他不同的
这个内存跟CPU的分布
如果你没有很好的控制的话
那其实你的测试就非常的复杂
有可能你说你想了这个功能
发现哎在48个CPU上work
最后两个不work
然后you have to roll it back
所以就我们希望能够做到迭代
就我们觉得做一个新的这个公司
迭代速度特别的重要
然后我们觉得这个云的这个economics
因为云慢慢慢慢会是未来
所以我们希望为了就瞄准未来
然后来
就是design这个公司
而不是瞄准现在的市场
所以这个东西上呢
我们其实是非常的
坚定然后一直都没有
就没有让步
然后慢慢慢慢的随着这个
就是revenue的增长
就是就是
因为你知道
你只要revenue增长到了一定程度就OK了
其实你并不是说需要
i need to go off the maximum growth
其实最好也就是说
你可以稳步一直往上增长啊
当你到了一定的增长曲线的时候
就没有人会开
没有人会质疑说哎
我需要增长的更快
所以这个是有道理的
对对对是这样是的
就是当你有best in class growth 的时候
没有人会跑过来说hey
let's say grow a little bit faster by going on prem
明白了哎
很大一方面就是说我们怎么样
增长来解决这个问题吧
啊然后第二个
什么SQL
啊没有那些那些
我我我只是用这些例子来举个例子
并且我觉得一一这个
回答这个问题就够了
我觉得可能简单
summarize就是一方面是你需要考虑
我觉得
就是从first principle的考虑
说究竟未来会是什么样的
然后就是瞄准未来来设计
当然这个说起来容易做起来难啊
因为对然后有一定运气成分
有可能
你想象的未来会在三年之内发生
但有可能他花了10年
有可能你想象的未来会是十年之后
但是他两年就到了
所以这个东西跟就有一定程度上的
就外界元素
对我我我
帮我我来总结一下的话就是第一
你想透了
想透了就会带来conviction
你有了这个conviction以后
你就会比较坚定他
无论3年还是10年
你一般都能坚持下来
如果你自己没有想透的话
就很容易被一些
风吹草动给影响你的坚定程度
第二个就是有growth solves a lot of problems
基本上growth可以solve all problems
你有好的growth的话
大家就不太会质疑你
你就buy yourself a lot of Windows
补充一点
你刚刚说不管是5年还是10年
其实10年是一个很大的问题
对于大多数公司来说
如果你你瞄准的是10年之后
然后那个东西10年才到来啊
不管是投资者还是员工
还是创始人自己
很可能都没有那样的耐心
啊对
这这不是这个就是那个growth的
呵呵可以帮你解决的很多
有一定啊
对就肯定不能是这不行
然后一下子十年出来了
你要是就是在增长的过程中
极少极少人可以做到
像比如说做self driving car这样说
诶我不管
我就瞄准这个东西做十年
然后虽然在十年之内
我可能看不到任何的incremental progress
确实我本来打算AI那个
录一个英文节目
但是我觉得
他对这个整个节目的完成挺重要的
那我就继续问下去了
我们今天就不录英文的
我就在中文里边把这个AI问完吧
如果有机会以后的话
我可能还想邀请你
再上英文频道讲一下
不过我们今天先继续讲AI吧
就已经讲了这么多
就是已经
嘿嘿哈哈
已经已经allude to AI很多次了
那关于AI是两个问题
第一个我想请你
就是跟频道的观众去完整的讲一下
Databricks在AI里边到底vision是什么样子
和你们要做的事情是什么样子
这个vision
可能一方面是
这里边你觉得在AI时代
最值得被解决的问题
或者最值得被Databricks解决的问题
和你们打算怎么解决这个问题对
对啊我们对AI其实也是慢慢慢
因为我刚刚说到
就是我们可能已经叫了七八年的
这个data and AI company的这个事情
其实我们在LLM开始之前
我们就有挺多不少的
就classic machine learning的这个revenue这种
LLM之后可能像你刚刚说到
我们觉得这有可能是个
非常disruptive的事情
就花了不少时间思考之后考虑到的
我们现在的想法其实是
我们对外也是这么说的
现在就是你如果去看Databricks的pitch deck
当然一般你不会在网上找Databricks pitch deck
但是
如果你看我们给customer的这个pitch deck
给投资者的pitch deck
都是这么说的
譬如说我们AI有两
就是we define as two separate problems
就是two related but separate problems
第一个problem是
就是
我们说data intelligence
how do you bring intelligence to your data
这个东西是这个
现有的这个data system都非常的primitive
就是说第一个非常难用
需要技术性非常的强
然后呢这个
online的这个
比如说
然后LLM出来之后对世界有很大的革命
对吧但LLM是about general intelligence
是LLM是train on the Internet
这个train on public dataset 但 llm knows very little
they knows all virtually nothing about your company
那么你每个公司自己
都有非常多的这个proprietary data
你怎么样通过这个proprietary
你怎么样通过AI来够
给你
我们叫data intelligence
是说来够为你的这个
intelligence for the proprietary data
这个本身呢
有很多很具体的问题啊
比如说啊我
我就可能最最最容易想到就text to SQL
就说我敲一个英文
你帮我自动生成SQL
对吧这本身是一个很困难
很很难解决的问题
但目前没有一个公司能解决这个问题
啊我们的感觉是啊
text to SQL可能不是一个很好的问题
是啊因为我
我因为我自己就是
可能有10家这样的公司来问我
就是说你可不可以试用一下
帮我们提提意见
我前两个听了
后面我就说我不看好这个赛道
因为我觉得SQL本身就是一个
怎么说呢
就在我看来
SQL是一个Schema
这个schema是一个
就像那个引用文章一样的schema
对
所以说就这个问题
我不觉得是一个well defined的问题
对张
我想听听你的想法
我很同意你说
就是我觉得text to SQL很多很多的问题
第一个是最终客户不care text to SQL
最终客户只care
就是说
其实我们最近在一直在做一个产品
叫Genie然后这个产品呢
我做的我觉得从早期产品上
其实还是有一定的成功的
因为Databricks marketing
其实在以前是Snowflake
客户
the Databricks marketing
我们的marketing department
Databricks were using Snowflake
但今年呢
彻底全部转回到Databricks
为什么呢
因为这个叫Genie的产品
然后而且不光Genie的产品
让Databricks marketing
有200多个人每天都在用Databricks
包括我们的CMO和所有的marketing VP
这个东西呢
其实就就不是说一个text to SQL的定义
而是说我
还是我们知道insight这样的text to insight
但我们知道LLM各种各样的问题
LLM并不能够帮你解决所有的问题
所以这整个产品都是围绕着LLM的
这个就limitation限制
来做来设计的
然后我们也不说
这个能够解决你所有的问题
我们的这个产品的解释就是说
it's not gonna solve all your problems
然后我们再考虑
怎么样去向这个客户解释
说这个产品本身有什么样的limitation
因为我觉得就是回到最开始
我们说AI太容易做Demo对吧
要真正上线非常的难
我我我想先说一下
我觉得text to insight的limitation是什么啊
和就是Genie到底是在做什么
和你觉得这里边的问题是就是解
解决方法是什么啊
我觉得text to insight的问题是没有insight
是来自于简单的数据的
也就是说当你看到了一个insight
他是一个interesting data的时候
你一定需要deep Dive
你一定需要synthesize
你不管是slice and dash
去看这里边
和你就是比如说一个地方他不好了
然后你再想想哎
是不是这个地方本身
他Internet performance不好
等等等等这些东西
就是他需要synthesize的
这个问题呢
是是一个不trivial
现在LLM还没有能就超越现有LLM
远超现有LLM能力的这么一个问题
所以说就是
现有的LLM
很难去产生有用的credible Insights
然后他们所生成的那些东西
要么就能被dashboard去解决
然后要么就是
你生成了一堆拿来不知道干嘛的东西
我这是我的感觉
正好你说到dashboard
是这样子
我们现在发现Genie的
其实就是你不是一个Genie的目标用户
当然你也
可以是目标用户
但最主要的目标用户不是你
因为你有能力去写SQL
你有能力去写Python
你有能力去就写code
啊写写写明白了
啊嗯
我们marketing为什么会想用这个东西
而不用tabular dashboard呢
啊其实他们也用tabular dashboard啊
但是他们为什么不只用dashboard呢
既然有dashboard
因为但
因为dashboard你知道是一个人做出来的
对吧你知道他是他更可靠
LLM也不知道他是不是在hallucinate
你也不知道他是不是在说假话
也不知道他用的数据对不对
但是问题是
不管dashboard build的一个需要很长时间
任何一个企业
都是有一大堆knowledge workers
想看数据
或者想知道从数据里头拿到insight
但只有一小撮子
有可能1:10或者1:100的人能够
建一个新的dashboard
啊或者
因为建dashboard的第一步其实是model
然后每一个dashboard
都只能回答特定的问题
他无法回答
就是开放性的问题
您每有一个category问题
比如
今天的问题可能是跟着marketing有多少个lead
然后lead generation
然后明天的问题有可能是说诶
我想看我现有的客户的这个spend
跟我在他的这个叫marketing
有叫account based marketing
就是说
你针对某一个企业本身去投广告
让这个企业的客户
就你的potential buyer
看到这account based marketing
然后你想correlate说
这个account based marketing的效果
跟你的这个consumption就在Databricks
现有的 consumption的效果
这呢是一个完全不一样的这个dashboard
做dashboard的人来不及做那么多
然后想看这些说想拿到这insight
拿到这些data的人不想等
所以dashboards解决这
这BI最大的问题就是说
dashboard无法解决这个
这么多人supply demand的问题
intelligent supply demand问题
我觉得我被说服了这件事情的价值
那我想借着这个事情的价值
再去问一下这个更abstract一点的
data intelligence的问题啊
就是我之前可能有一个观察吧
就是大家都说data的价值
但是我发现有有价值的data很少
嗯在过去的时候
就是在过去那个前前GPT年代
最有价值的数据
是可以做推荐算法的数据
然后你可以就是
而且这些东这些数据tend to be非常新
你一周前的东西拿来做推荐算法
很多时候就已经效效果不大了
然后接下来
是可以帮助你训练一些模型啊这些的
就是就是图像识别啊
语音识别模型的这些东西
然后再往下呢
是可以帮助你去了解用户drive decision
比如说你AB实验的数据
嗯反正就是数据是有价值的
但是很多人会夸张数据的价值啊
这是一点
然后就是
尤其在前GPT时代
GPT时代之后呢
我们会发现哦
原来乱七八糟的
各种各样的数据都挺有价值的啊
因为大模型嘛
这就是感觉就是可以吃更多的数据了
他能利用出来更多的数据了
然后我也非常同意
就是
GPT对于每个企业自己的proprietary data
理解是很少的
他对这个企业怎么运作理解是很少的
所以说我们需要去使用起来
嗯
但是接下来可能有
我觉得三种使用方式吧
第一种呢
就是我有一个非常聪明的大模型
然后我就直接进去调用这个大模型
然后去看看基于你的这些数据
我能提供什么样的Insights
这个在我看来
他的价值
总价值并不是那么大
他有价值
但是总价值并不是那么大
因为他就是这个公司
现在他所招的data analyst的价值
大多数公司没有那么贵的data analyst
就是他们data analyst
而能给公司产生的价值是有限的
我不知道你同不同意这个说法
其实先说这个吧
嗯
看看你这个限是多少啊
就是因为
美国公司一般在data platform上
一个大的enterprise
都是几十个million
到几几百个million的spend
一般来说就光platform不算人
所以这一个公司
就比如一个Jpmorgan
Jpmorgan有可能是一个billion级别的spend
这跟data system上
所以当然这个是整个data system
不光是就是说你
你说的可能更多是
这个analyst究竟有多少啊我觉得
或者这样说
就就是Genie
Genie这件事情
就是那个CMO
为什么那个CMO
他market team给他支持的
analyst这么少呢
就为什么他有这个supply divide的问题呢
就是因为
可能公司觉得我不需要这么多DA
我这些DA ROI不高
那你OK当然可以用大语言模型去取代他
但是总的这个天花板不是那么高
嗯
这个这个想法非常有
这观点非常有意思我觉得
好我我我
先我
然后我再说第二个这个啊
integrate方式啊
第二个integrate方式是
你使用公司的proprietary data
去帮助你train这个大语言模型
也许你不会在foundation model那一步去train
但是你可以在alignment
起码在alignment那一步去train
帮助他train
这样的话
他会得到一个
专
专业呵呵
专业模型嘛
当然很多人觉得专业模型是一个
这个伪命题嗯
但是不管怎么样
就是这个模型
也许有机会
他能比你公司的任何一个人
都更好的去理解你们公司的数据
从而spread out更好的Insights啊
或者说能帮助大家
不管是做data的人还是不做data的人
去更好的去使用
比如说我可以直接问我的
我这个模型
关于我公司历史上任何事情
总结
我每一次sales就是这个sales的对话
最后
这跟1有什么区别呢
我觉得是
就是他的整合的点
一是你把一个整个的模型都train好了
然后去调用
第二个是
你在alignment这一步去融合内部数据
就是一
就是我靠gpt API加上prompt engineering
去调用公司内部数据
第二步是我去
把gpt 4的这个大模型拿过来
然后alignment我不要你这个OpenAI去做
我来自己做
好但是
但你这个alignment不alignment
更多是个how
而不是一个
就是你究竟capability
对吧你就算调模型
你也可以通过这个search and retrieval来做
这个来找信息对吧
你说的对
就是我我更多的是一个wishful thinking或
者说是一个hope
这个hope是在于
就是我觉得我能理解
第一种方式
就是这个prompt engineering加这个search retrieval
这这个
他的上限在哪里
他的上限就是一个非常聪明的analyst
对我就
我在想这个
我觉得这个想法很有意思
因为我从来没有这么想过
所以我刚刚你先把第三个说完吧
然后我再
我先说我先说一下区别啊
就是第一个
我觉得上限就是一个聪明的analyst
然后第二个呢
我觉得就是因为我看到了
就是我之前不觉得AI有这么牛逼
然后看到了大语言模型
觉得我靠
好牛好牛逼
我希望他起码在alignment这一步之后
他能帮助我
不光是一个聪明的analyst
而是他能
复制公司内部很多其他的intelligence
包括一个marketing的人的角角色
包括一个PM的角色
甚至包括一个engineer的角色
就是他可能能更natively的去
就就就就拿编程这件事来说吧
就是第一个做decision
然后来go
就不光是一个analysis
it just可以go from analysis to decision making
从copilot变成agent
嗯嗯
从copilot变成agent
对那第三个就是你有
不管是我
我不觉得
Synthetic data是这个命题是成立的
但是假设有这么一条路吧
或者说假设Databricks
或者说任何一个公司
就是他能收集到足够多的这个啊
内部数据
或者说是proprietary data
他就有希望能train出来更好的模型
那这个东西可能也许他的价
值是非常之高
或者说他的价值也没有那么高
因为他的marginal return其实不是特别高
但是有可能
我们正在一个发展的
s曲线的这个下端
就是我们还是可以指数型发展的
这可能是一个更有价值的东西
就是
从因为现在我们很明显的感受到
AI算法的瓶颈解决了
但是他的data的瓶变成了瓶颈
所以说怎么样子去得到更强的
更更好的data
更更有意义的data
是这里边很重要的点
那这个也许是就是最大的价值所在
我不知道
就是这三个你觉得
我哎
其实我刚刚只说了我一开始说了两个
problem problem number two
problem problem number one and problem number two
对吧我其实只讲了problem number one
然后problem number two
就是我们怎么样去build compound AI systems
然后怎么样
就就不不是我们自己去build
而是就我们需要提供什么样的
这个tooling和platform
给客户去build compound AI system
那至于客户为什么要去build
compound AI system呢
不对compound AI system不代表你不用去gpt
不代表表你不用anthropic
it's fine it's just
whatever you want compound AI system
基本上你怎么样
你如果真的把一个AI的这个应用上线
你需要什么东西
就目前看来
我觉得大多数的就
除非你就是很简单的要一个chatbar啊
大多数的AI应用
都会是一个非常复杂的
不是一个
我call一个model
直接有个结果
然后把这个结果
就输出回到我的最终用户的这种情况
有可能
就我觉得大多数东西都会需要retrieval
大多数东西都需要
可能有这种不同的process
然后
这这大概就是我说的
为什么alignment和那个prompt不太一样
这也是我的一个hopeful thinking啊
就是really wishful thinking
就是你刚刚说的这个路径
可能是我大语言模型
作为一个可以进行action的点
然后去和existing的ecosystem去integrate
不管
就是比如说我更structured输入输出啊
然后去
build各种API
around it
这个是他的做法
然后
我希望一个更简洁和更有效的做法
是你把你的这些数据
如果能融合在alignment这一步的话
他可能一步到位的去解决很多问题
而不需要去在现
而不需要
去integrate
到现有的这个软件的ecosystem里边
对但是这个问题是因为没有人知道
就是LLM究竟是怎么工作的
没有人能够确定
就我觉得
当你需要做决定的时候
你需要去go to the source of truth
就是就是
起起码你知道
而而不能通过说LLM的memory来决定事情
其实你就像像人也是一样
对吧你随便问你一个finance
你要做什么
他并不会
就重要的东西
他不会
直接靠他脑子里头记住个数据
跟你说应该这么干
他会去check一下他的这个
不管是spread sheet还是他的这个business system
然后他说okay
here's the prediction
here's the cost
就是现有的这些ecosystem
不光是capability的问题
也是一个validation的问题
就你不希望你的llm
在你需要的那一次
随便hallucinate出来了一个这个问题对吧
对对那那回回过来
你继续讲
你的就是problem one和two
啊没有其
这不讲完就problem one
是说我现有那么多data
我怎么样可以利用intelligence来解决
就是说就Databricks 有个市场
我怎么样可以让这个市场
变得越来越大
这个市场不再是就是会写SQL的人
或者说会做bi model的人
才可以去用Databricks
而是基本上可以让所有的人
当然有可能我随便找一个CMO
CMO自己不会去写一个petabyte
petabyte的data pipeline来clean这些data
但是怎么样可以让这个CMO
有能力去做一些简单的
自己的数据分析
这是我们的problem number one
problem number two是
未来应该会有越来越多的
这个就我们叫compound AI system
compound这这很简单
其实现在所有的AI system
说实话已经都是compound AI system了
基本上没有是
就是说call the model直接出结果
搞定
这种东西
这这种系统需要什么样的development platform
跟什么样的这个production platform
我们来给他们提供什么样的service
嗯
我觉得第二个问题我能很好的理解
就是他他的他的解相对确定
第一个问题
我还有一个不太确定的点啊
就是你觉得CHAT是一个好的interface吗
那我觉得问题是这样
子的就是
我其实在Maven上教一个AI的课程
这个课程名字叫from users to builders
就是之前大家可能编程很难
那现在你其实用CHAT的方式去编程
是很简单的
但是我发现嗯
哪怕你show
大家这个东西编程是可行的
是简单的
我们还给很多课题的例题
就是大家本身觉得很难
但是其实你5分钟跟chatgpt聊一聊
你就可以做出来
大家还是不愿意去做
就是你让一个CMO去做数据分析
他首先要去想他要去问什么问题
然后他要去想
我这个什么上的数据能回答我的问题
我应该怎么样上去构建我这个问题
我应该怎么样去追问大多数人
我觉得好像没这么勤快
嗯他现在就应该这么说
在任何again
我们就说CMO吧
每个CMO每天都会问很多问题
他会问他的手下很多问题
他已经在问那些问题
就他每天他这个工作的我
我不是说他问的每一个问题
Genie
或者说未来的Genie都可以帮他解决
但是
他每天已经在不断的这样问这个问题
我们如果能够让他越来越多的问题
可以在瞬间由这个Genie来回答
这个本身就是一个非常有价值的事情
因为他有可能之前
就就因为你在你问到一个说
这个市场究竟有多大嘛
其实取代人是一个非常大的市场
因为你考虑一个人一年
比如说在美国
可能平均下all in cost 20万
对吧你可以取代10个人
就是200万
你如果可以取代100个人
就是2,000万
是yes
好那然后那我们还有5分钟
我最后再问最后一个问题
就是这个事情
这个发展
AI的发展
AI加数据的发展
对于data scientists们来说意味着啥
听起来好像就是那个
哈哈那个CMO
可能他哦就不太需要招DA了然后
那我觉得其实在我现在能看到的
其实是让就
当然我
我们没有data scientist在marketing下面
但我们有一个analytics
就是做marketing的
analytics的这个team
那个team呢
非常地喜欢Genie
因为他们觉得Genie让他们更成功了
因为他们的目的是说
我怎么样可以让我的这个啊
就支持marking的所有的analytics
以前呢就就我我
我还特地我自己去interview了一帮
就是他们这些team上的人
然后有一个人叫Thomas
Thomas呢set up好几个Genie room
然后我就问说oh so why do you like Genie
他说以前我要是有一个新的问题的话
就回到我刚刚说的做dashboard
我可能需要给他们重新做一个dashboard
做一个dashboard end
可能三天的时间
现在Genie呢
我重新给他建一个room
或者说我改一下现有room的一些prompt
大概花一分钟时间
所以他让我这个更effect
然后我花更多的时间
去做更有意义的事情
跟做更复杂的事
情所以我觉得在
总体上来说
我觉得AI会让
就是特别低门槛的东西
会遭到很大的打击
但是对于比较
就是技术性比较强的东西
就比较强的这种工种
其实是一个
其实让大家更有优势
然后能跟大家影响力更大的一个
这个啊另外
这句话其实我很同意
就是大家听起来可能是一个platform people
然后在sell这个platform的时候的话
但是其实我同
因为我自己也是做AB实验
自动化的嘛
然后我的观察就是
你比如说在Meta
他的这个data scientist的automation是最多的
但是Meta
DS to engineer的这个ratio也是最高的一个
DS大概对6个engineer
是比其他公司要高很多
就是因为当你很多这些maintain task
repetitive task
可以被automate的时候
你确实可以focus在更重要
更高价值的事情上
反而就彰显了这个
这个职位的价值
还有一个就是
随着我
我觉得其实AI总体来说对这个
data scientist
data engineer
machine engineer都是一个好事
因为他让各种传统企业
就所有的企业
但当然你在硅谷
所以你感受你感受不到这个东西
但他让这个所有的传统企业
都真正正视
重视了这个AI data IT啊
所以
他们的budget其实是在不断的增加的
然后budget增加了才可以招人
就是你可以想象
比如说过去现在写一个APP比10年前
20年前要简单很多
对吧但现在engineer
的这个收入比以前要高了很多
所以demand大了很多
我觉得接下来就是说对于general population
我觉得不是这样
但是我觉得
对于就是技术性比较强的这种工种
其实来说demand会越来越大
因为这个原因是
在硅谷的人很难想象how bad it is outside
确实超级bad
然后确实有很多
就是用这些东西增长的机会
我记得有一个很好的例子是Domino Pizza
就是他们
其实Domino Pizza增长的非常快的
然后看他们股价也是的啊
他们披萨没有什么创新
所有的创新都在他的APP上
然后其实就是用硅谷的这套方法
增长了很多
嗯对
包括我采访徐老师
徐老师也说就是他
未来麦麦当劳
就是现在
麦当劳把所有的Data Scientist全都Yank out
不会有什么区别的
股价不会有什么区别的
但是你可能10年之后的话
你不能这么做
就像今天
你如果把麦当劳的所有的developer
全都给Yank out的话
肯定也是不行
对对好呀
感谢Reynold
我知道熊力那个问题我没有来得及问
然后我自己有一些问题没有来得及问
熊力那个问题
就是说你的一个significant moment啊
或者说这个define
你的这个性格的东西
我的问题是你作为一个技术出身的人
你对业务的理解
管理的理解就是这么深
是怎么做到的
我觉得可以
这这都是大问题
我想留到下次有机会访谈的时候
行来问一下
好的
好包括英文的这个AI
那今天就这样
非常感谢你的时间哎
好谢谢课代表
好的以后有机会再聊
拜拜拜拜