Subscribe
Share
Share
Embed
课代表立正的官方Podcast
深度访谈，有用干货，亲身验证的「真本事」
Superlinear Academy创始人，Maven Top AI Instructor
前Statsig布道师（OpenAI收购），腾讯副总监，Meta，Amazon；康奈尔经济学博士
社区：Superlinear.Academy
课程：ai-builders.com
个人：lizheng.ai
Hello大家好
今天这期视频我们对深度学习这个概念做一个科普
其实讲到深度学习这个概念
大家明不了会讲到机器学习和人工智能
但是其实人工智能它是一个非常非常复杂
非常非常广的概念
而大家现在每当讨论这个人工智能的时候
其实大多数时间讨论的就是深度学习
而这个深度学习是机器学习大范围的一个小子集
就是机器学习有各种各样的方法
甚至有的地方他会把这linear regression也放到机器学习里
但是最近机器学习这么火
然后甚至大家把机器学习和人工智能等同起来
也就是被深度学习的这个发展给带火的
所以说我觉得我们抛弃人工智能和机器学习这两个概念
我们单独把深度学习这个东西讲清楚
还是挺有必要的
所以我这个视频会分两部分
第一部分我们用两个基础的概念
去拆解一个深度学习的模型
他到底是在干什么样的事情
第二部分我们会做一些概念上的澄清
比如说为什么深度学习现在这么厉害这么火
他为什么最近得到了发展
他和人工智能和机器学习的关系又在于什么
为什么大家一讲到神经网络
就会去讲到什么神经人啊神经网络啊这些词
但是为什么这些又其实跟人类的智能没半毛钱关系
好我们先讲第一部分吧
深度学习或者说整个机器学习
他干的是两件事情
第一件事情是描述一个函数的关系
就是y等于fx
他要学习出来这些x是怎么样子对应到那个y的
那你给他一堆新的x
他就可以对应到一个y
第二部分他要做的事情就是if this then that
也就是说他会把一件事情跟一个action对应起来
那我们照样稍稍举个例子吧
就比如说我要语音助手去开一个灯
那我说这一段话就是这个x
但在这个背后就有一些model
比如说有的方式就是说我一开始把我说的这些话
变成一些文本
另外一个model就是把这个文本和一个和他的一个 prediction做起来
比如说他这个模型就会去predict
我说这句话到底是要干嘛
他会有不同的topic
然后他说你开灯的概率大概是90%
你要去买一样什么东西的概率大概是2%
那之后他根据这个概率就是这个y
他会说如果说这个概率大于多少的话
那我就执行一个开灯的动作
那这样子的话
我说的这一大堆话的这些输入
最后就变成了一个我到底想干什么的这样一个输出
那最后这些输出就会联系到一个action
然后这个语音智能助手就帮我把灯打开了
那深度学习和积蓄学习的关系是什么
其实深度学习是积蓄学习的一个子极
这我用一个稍稍简化的思路去讲
大家可能都听说过这个linear regression线性回归
linear regression这说的就是你的x和你的y是一个线性关系
如果你不是线性关系的话
你可能就要加入x非线性的参数到这个方程里边
但是到了现实世界中这个事情就变得复杂很多了
比如说我想从图片里边识别出一个数字
我图片里含的信息就是每一个像素点它到底是什么颜色
然后每一个像素点的位置也就是说每一个像素点之间
会有一个适当关系
这个数据和你这个数字它到底是什么关系
它是一个线性关系或者二次方三次方
或者说是一些其他的关系
你很难去用一个简单的数学方程去表达这件事情
这个时候深度学习就可以派上用场了
如果稍微讲的简化一点
就是你这张图上的各种信息
深度学习的神仙网络会把它用各种各样的其他的方程
转换成一些其他的数据
然后你的数据量不是变小了而是变态了
它这个模型会在放大过很多
然后变得乱七八糟的这些数据里边去寻找一个关系
它其实自由度就高了很多
所以说不管你的关系是什么样子的
只要我的神仙网络够宽够高
我就可以有足够多的degree of freedom
让我来学习到你们之间的关系
这里边也是深度学习的一个非常关键的点
就是深度学习它本质上是overfitting的
什么意思呢
哪怕你给它的数据是毫无关系的
就是你随机生成了一堆x
随机生成一堆y
这里边没有任何人类可知的关系
因为是随机生成的
你把它放到一个神经网络去学习
这个神经网络也可以基于这些数据学习出来一个关系
就是它并不care你这中间到底有什么关系
它只care怎么样子把这些x给map到这些y
而且它有足够多的degree of freedom去做这件事情
它总是能做到的
所以当大家在开发深度学习的时候
就需要有很多技术来防止它overfit
最后让它学习到我们想要学习到的那个程度
再深入的话我就不再多展开了
如果大家感兴趣的话
我们还可以在单独出一期节目来讲这件事情
但是总之
就是说机器学习干两件事情
把一堆x给map到一堆y
就是你要先告诉它
给它一堆x给它一堆y
让它学习这个关系
然后你给了它一堆新x
它就可以map到一个新的y上
之后它再通过工程的方式
我们再把这个y和一个行动给结合起来
我们看到市面上绝大多数的机器学习
production的模型都是在干这件事情
深度学习就是把这个过程变得自动化了很多
而且它可以非常好的找到之前
我们找不到的一些关系
各种非参数的关系也好
尤其是这种文字语音图片视频这种非传统数据
它都可以找到非常好的关系
就是你给它一张图和对应这张图
和对应一个想要的结果
你给它足够多的训练量的话
它就可以把这个图和结果非常好的给联系到一起
这里就是深度学习
为什么深度学习大家经常把它和人工智能给结合起来
首先它确实结果看起来就很智能
你给它来一堆图片
它就告诉你这个是狗那个是猫
还可以把各种花给识别出来
它确实结果上来看很智能
另外一方面其实深度学习所谓的neural network
是五六十年代发明的概念
我具体的历史就不展开了
但是那个时候那些研究者
他就是基于那个时候人类对大脑的理解
去把这些刚刚我说到的这些网络什么东西的
用神经元或者神经网络这些词来命名
因为那个时候他们就觉得这样做很酷
然后他们就这么做了
但是是基于那个时候人类对大脑的理解
现在其实我们人类已经知道了
我们人类大脑不是这样子去做的
可是这个方法这些词汇就沿用下来了
当然那个时候虽然有了这些概念
可是当时的算力不足
所以说深度学习的框架提出来了以后
就沉寂了很长一段时间
其实在那个时候深度学习就有一定的应用
只不过就是应用很少
但是最近十几年很大的一个因素
就是大家发现深度学习是可以在GPU上被train的
它的training效率会非常快
因为GPU非常善于做这种互不相关的并行运算
所以说算力一下子被解放出来了
它算力解放出来以后大家就发现
我是可以把这个应用出来解决很多时机问题的
然后新的数据新的应用和新的人才
又进一步的促进了它可以去解决更广泛的问题
比如说大家看到了
可以利用GN去生成一些以假论章的照片
或者说是alpha go
就是当你有足够的creativity的话
你把深度学习和其他东西结合起来
也有一些新的应用
好的最简单的科普就到这里
接下来几期我会越来越深入的去聊一下
人工智能的应用或者说是深度学习的应用
接下来的视频我第一我首先会基于刚才说的这两个框架
就是这个Y等于FX和if this then that这两个框架
去说一下现在比较cutting edge的应用是什么
但是他们的局限又在哪里
和有些人我觉得被人工智能这个词冲混了头脑
所以说他觉得边界之外的事情也是可以搞定的
但是我觉得很多边界之外的事情是搞不定的
如果搞清楚这些事情
我们就可以知道为什么很多时候大家觉得人工智能
更像人工智障
为什么语云智能助手开发了这么多年
他其实本质上还是不能真正的理解人类在说什么东西
如果他本质上不能理解人类在说什么东西的话
那他应用的边界又在哪里和应用的机会又在哪里
等等
最后就是这期视频我已经尽量简化很多概念了
但是我也不确定我说的东西有没有讲清楚
如果你觉得没有讲清楚
或者说有一些具体的问题的话
欢迎在下面留言
那我们在下期再见