由买买提看人间百态

boards

本页内容为未名空间相应帖子的节选和存档,一周内的贴子最多显示50字,超过一周显示500字 访问原贴
Programming版 - 计算和学习根本就是两回事
相关主题
围棋人工智能Deep Learning就是在玩数学业余时间想做一个project
问几个神经网络的问题LSTM 是不是坨屎?
我来科普下深度学习的应用范围吧想上手deep learning的看过来
胡扯几句什么叫Deep Learning入门对于现在machine learning有个问题,请指教
transfer learning是不是接近人类学习的本质了?CNN做NLP工程多吗?
Deep Learning/Machine Learning 对传统优化问题,可能做的更好吗?为什么grid search伤人品
Reinforcement Learning的思想精髓是什么?groovy 不错啊
Question about learning C#Facebook的用CNN作翻译怎么性能超过RNN的
相关话题的讨论汇总
话题: dl话题: 学习话题: ml话题: learning话题: learn
进入Programming版参与讨论
1 (共1页)
w*****m
发帖数: 20421
1
计算COMPUTE和学习LEARN本来就是两回事
所以把LEARN放在CS里解决,还需要一个质的突破
所谓的COMPUTE,不管计算多么复杂,最后无非是变成了电子元件的01问题
来解决,而LEARN呢,01问题能不能解决呢?
比如学习游泳,这是一个模拟感知反馈提高的过程,
而且也是一个循环的上升过程,上来就把LEARN放到COMPUTE里去
就是错了
z*****3
发帖数: 1793
2
你说的这个learn简单来讲是是machine learning里面reinforcement learning解决的
问题。
machine learning涵盖内容很宽泛,不是你凭感觉来理解的。machine learning里面专
门有Learnability的研究,有兴趣可以去看看。
话说有时候还是不要凭感觉走,容易让人觉得你的问题肤浅。
x****u
发帖数: 44466
3
机器学习本质是个基于概率的模拟微分积分计算的问题,人类现在完全有技术能力造出
真正的神经网络芯片,速度超过GPU几万倍。但没人知道这东西有什么用,怎么用。
啥时候DL领域解决了大多数问题,万事俱备只欠运算力时,模拟计算机就要复苏了。

【在 w*****m 的大作中提到】
: 计算COMPUTE和学习LEARN本来就是两回事
: 所以把LEARN放在CS里解决,还需要一个质的突破
: 所谓的COMPUTE,不管计算多么复杂,最后无非是变成了电子元件的01问题
: 来解决,而LEARN呢,01问题能不能解决呢?
: 比如学习游泳,这是一个模拟感知反馈提高的过程,
: 而且也是一个循环的上升过程,上来就把LEARN放到COMPUTE里去
: 就是错了

x****u
发帖数: 44466
4
一般来说深度学习和统计学习的鸿沟非常深
ML是统计数学解决问题,DL是靠结构解决问题。
ML是算最优次优解而DL目标是代价最低的获得解法。

【在 z*****3 的大作中提到】
: 你说的这个learn简单来讲是是machine learning里面reinforcement learning解决的
: 问题。
: machine learning涵盖内容很宽泛,不是你凭感觉来理解的。machine learning里面专
: 门有Learnability的研究,有兴趣可以去看看。
: 话说有时候还是不要凭感觉走,容易让人觉得你的问题肤浅。

w*****m
发帖数: 20421
5
不要讲些书本上的东西,书本就会给你分类,Reinforcement learning是要有GOAL
无GOAL的学着玩玩呢,学做白日梦,学着做饭,学着捣乱,有时候没有目的,就是
玩玩找找乐
z*****3
发帖数: 1793
6
DL是representation learning。统计机器学习是上世纪80年代SVM代表的基于VC
dimension统计理论的一系列算法把神经网络艹翻后兴起的。
ML的理论简单来说就是最求最大限度的generalize,目的是输出hypothesis。
DL也逃不出这个范围。
这本DL的书讲的很清楚。
http://www.deeplearningbook.org/

【在 x****u 的大作中提到】
: 一般来说深度学习和统计学习的鸿沟非常深
: ML是统计数学解决问题,DL是靠结构解决问题。
: ML是算最优次优解而DL目标是代价最低的获得解法。

z*****3
发帖数: 1793
7
Reinforcement learning 也涉及,比如inverse reinforcement learning。还有
imitation learning或者learning from demonstration。简单来讲就是模仿人类做事
情。现在已经发展到这种地步了,机器人用的很多。

【在 w*****m 的大作中提到】
: 不要讲些书本上的东西,书本就会给你分类,Reinforcement learning是要有GOAL
: 无GOAL的学着玩玩呢,学做白日梦,学着做饭,学着捣乱,有时候没有目的,就是
: 玩玩找找乐

x****u
发帖数: 44466
8
DL和ML互相巴不得咬死对方,你还举个例子说DL就是ML,真是孤陋顾闻了。。。
DL最牛的地方,就是一个模型通吃几百个领域的问题,而且什么数学不懂得小屁孩经过
奋斗调参,可以把ML老教授打的满地找牙。
2012年之前DL默默无闻,码农对ML根本没兴趣。不管你算法解决了什么问题,都是一次
性工作,到时候直接用即可。但现在DL出来了,组合调参变成了主要工作,业界就来劲
了。

【在 z*****3 的大作中提到】
: DL是representation learning。统计机器学习是上世纪80年代SVM代表的基于VC
: dimension统计理论的一系列算法把神经网络艹翻后兴起的。
: ML的理论简单来说就是最求最大限度的generalize,目的是输出hypothesis。
: DL也逃不出这个范围。
: 这本DL的书讲的很清楚。
: http://www.deeplearningbook.org/

z*****3
发帖数: 1793
9
这个恩怨就是我给你说的统计ML,80,90年代兴起,把神经网络艹翻了。话说我现在研
究的RL以前居然叫neuro-dynamic programming。现在是风水轮流转,轮到神经网络了。

【在 x****u 的大作中提到】
: DL和ML互相巴不得咬死对方,你还举个例子说DL就是ML,真是孤陋顾闻了。。。
: DL最牛的地方,就是一个模型通吃几百个领域的问题,而且什么数学不懂得小屁孩经过
: 奋斗调参,可以把ML老教授打的满地找牙。
: 2012年之前DL默默无闻,码农对ML根本没兴趣。不管你算法解决了什么问题,都是一次
: 性工作,到时候直接用即可。但现在DL出来了,组合调参变成了主要工作,业界就来劲
: 了。

w*****m
发帖数: 20421
10
说了很多学习的东西,但其实学习中也有探索的过程
比如学习用天文望远镜看宇宙,可以探索到新的行星
还有学习使用IPHONE,忽然发现了新APP可以学习英语单词
学习不只是简单的模仿,还有偶然的,意想不到的,没人计划的
东西在学习里也占了不少比例,比如学习开车,未必每个可能
发生的事件都学习过了,比如外星人忽然拦住你怎么办,
忽然地震了怎么办,或者山洪暴发了怎么办,谁也没去学习过
只能是凭借电影电视上看过的,加上自己的经验甚至本能做出
理智的反应。

【在 z*****3 的大作中提到】
: Reinforcement learning 也涉及,比如inverse reinforcement learning。还有
: imitation learning或者learning from demonstration。简单来讲就是模仿人类做事
: 情。现在已经发展到这种地步了,机器人用的很多。

相关主题
Deep Learning/Machine Learning 对传统优化问题,可能做的更好吗?业余时间想做一个project
Reinforcement Learning的思想精髓是什么?LSTM 是不是坨屎?
Question about learning C#想上手deep learning的看过来
进入Programming版参与讨论
z*****3
发帖数: 1793
11
这就牵涉到定义了,你说的这些能定义不?不能定义的都没法搞。
说实话很多问题如果不能好好定义,没法做的。只能进入文科,神学领域开始吹牛扯淡
了。

【在 w*****m 的大作中提到】
: 说了很多学习的东西,但其实学习中也有探索的过程
: 比如学习用天文望远镜看宇宙,可以探索到新的行星
: 还有学习使用IPHONE,忽然发现了新APP可以学习英语单词
: 学习不只是简单的模仿,还有偶然的,意想不到的,没人计划的
: 东西在学习里也占了不少比例,比如学习开车,未必每个可能
: 发生的事件都学习过了,比如外星人忽然拦住你怎么办,
: 忽然地震了怎么办,或者山洪暴发了怎么办,谁也没去学习过
: 只能是凭借电影电视上看过的,加上自己的经验甚至本能做出
: 理智的反应。

w*****m
发帖数: 20421
12
觉得问题就出这了,人总是喜欢对一切事物下定义,学习是一个过程
不好下定义,没学会怎么定义,没学好怎么定义,学了个半半拉,更不好定义了。
就好比人的成长是一个过程,也很难下定义,增加一个细胞
是不是成长了,个子长高了是不是成长了,其实并没有明确的界限。
所以让机器人学习会比较难,让机器人成长可能就更难。

【在 z*****3 的大作中提到】
: 这就牵涉到定义了,你说的这些能定义不?不能定义的都没法搞。
: 说实话很多问题如果不能好好定义,没法做的。只能进入文科,神学领域开始吹牛扯淡
: 了。

x****u
发帖数: 44466
13
话说RL成大器之前得搞定RNN吧。
现在CNN已经表现出人类水平之上的感知和学习能力了,但RNN还解决不了什么核心问题
,一个机器翻译也是狗屁不通。

了。

【在 z*****3 的大作中提到】
: 这个恩怨就是我给你说的统计ML,80,90年代兴起,把神经网络艹翻了。话说我现在研
: 究的RL以前居然叫neuro-dynamic programming。现在是风水轮流转,轮到神经网络了。

n******7
发帖数: 12463
14
好书,谢谢
根据fig 1.4, DL是ML的一个子集

【在 z*****3 的大作中提到】
: DL是representation learning。统计机器学习是上世纪80年代SVM代表的基于VC
: dimension统计理论的一系列算法把神经网络艹翻后兴起的。
: ML的理论简单来说就是最求最大限度的generalize,目的是输出hypothesis。
: DL也逃不出这个范围。
: 这本DL的书讲的很清楚。
: http://www.deeplearningbook.org/

c****3
发帖数: 10787
15
都是闭着眼睛,凭着自己想象瞎搞。说是模仿人,其实也是自己骗自己。挂着羊头卖狗
肉,还是怕没人信,说是全新发明的机器学习,和人没关系还差不多。
说是神经网络,其实连生物神经网络是如何编码,传信息的都不知道,更不要说里面是
具体干啥的了。还有意识和学习用概率法往上套更是瞎扯,连搞生物的都弄不清人的意
识和学习是怎么回事,搞计算机的能知道?那可以得诺贝尔奖了,可惜搞生物的不认可。
x****u
发帖数: 44466
16
说DL是ML的子集,就和说ISIS是美国一个自治领一样
本身DL这个名字就是为了不被ML斩尽杀绝而改的

【在 n******7 的大作中提到】
: 好书,谢谢
: 根据fig 1.4, DL是ML的一个子集

x****u
发帖数: 44466
17
CNN就是学猫眼看东西,理论实际都是这样,

可。

【在 c****3 的大作中提到】
: 都是闭着眼睛,凭着自己想象瞎搞。说是模仿人,其实也是自己骗自己。挂着羊头卖狗
: 肉,还是怕没人信,说是全新发明的机器学习,和人没关系还差不多。
: 说是神经网络,其实连生物神经网络是如何编码,传信息的都不知道,更不要说里面是
: 具体干啥的了。还有意识和学习用概率法往上套更是瞎扯,连搞生物的都弄不清人的意
: 识和学习是怎么回事,搞计算机的能知道?那可以得诺贝尔奖了,可惜搞生物的不认可。

c****3
发帖数: 10787
18
瞎编的你也信?
这就是挂羊头卖狗肉
他知道猫眼怎么看东西,猫脑里面如何工作,就能得诺贝尔奖了。

【在 x****u 的大作中提到】
: CNN就是学猫眼看东西,理论实际都是这样,
:
: 可。

x****u
发帖数: 44466
19
人家早就得了诺奖

【在 c****3 的大作中提到】
: 瞎编的你也信?
: 这就是挂羊头卖狗肉
: 他知道猫眼怎么看东西,猫脑里面如何工作,就能得诺贝尔奖了。

c****3
发帖数: 10787
20
牛啊!
一个搞计算机算法的,靠自己大脑无穷想象力,不用做实验,就破解猫脑视觉处理内部
奥秘,说是是那个大牛

【在 x****u 的大作中提到】
: 人家早就得了诺奖
相关主题
对于现在machine learning有个问题,请指教groovy 不错啊
CNN做NLP工程多吗?Facebook的用CNN作翻译怎么性能超过RNN的
为什么grid search伤人品[bssd] Neural network as a programming language
进入Programming版参与讨论
x****u
发帖数: 44466
21
动物视觉是早被破解的问题,做算法的不过是想出来了图灵机有效解法而已。

【在 c****3 的大作中提到】
: 牛啊!
: 一个搞计算机算法的,靠自己大脑无穷想象力,不用做实验,就破解猫脑视觉处理内部
: 奥秘,说是是那个大牛

c****3
发帖数: 10787
22
这是扯淡,你找个学生物的问问,对大脑视觉信号处理了解到什么程度

【在 x****u 的大作中提到】
: 动物视觉是早被破解的问题,做算法的不过是想出来了图灵机有效解法而已。
x****u
发帖数: 44466
23
http://www.nobelprize.org/nobel_prizes/medicine/laureates/1981/

【在 c****3 的大作中提到】
: 这是扯淡,你找个学生物的问问,对大脑视觉信号处理了解到什么程度
c****3
发帖数: 10787
24
这没啥稀奇,你以为别人不知道。只是发现功能模块在大脑那里,好像分层处理,里面
具体细节都不知道。
就靠算法大牛的想象力了

【在 x****u 的大作中提到】
: http://www.nobelprize.org/nobel_prizes/medicine/laureates/1981/
x****u
发帖数: 44466
25
所以说科学家半个世纪前就知道了视神经系统的物理结构,不知道的是具体权重是多少。
CNN就是有效的用数学方法在图灵机上训练出来了权重。

【在 c****3 的大作中提到】
: 这没啥稀奇,你以为别人不知道。只是发现功能模块在大脑那里,好像分层处理,里面
: 具体细节都不知道。
: 就靠算法大牛的想象力了

c****3
发帖数: 10787
26
物理结构有啥用,具体细节根本不知道。
一句话,全是这些人自己想象的。这点我早就看出来了,人工智能书的序言看完,就明
白是怎么回事了。

少。

【在 x****u 的大作中提到】
: 所以说科学家半个世纪前就知道了视神经系统的物理结构,不知道的是具体权重是多少。
: CNN就是有效的用数学方法在图灵机上训练出来了权重。

x****u
发帖数: 44466
27
因为你只看了序言。
NN实验结果告诉你,激活函数选什么不重要,重要的是结构和权重。其他的都是训练用
技巧。
猫本身不是训练出的视觉感受,这个权重是几亿年进化后天然就有的。

【在 c****3 的大作中提到】
: 物理结构有啥用,具体细节根本不知道。
: 一句话,全是这些人自己想象的。这点我早就看出来了,人工智能书的序言看完,就明
: 白是怎么回事了。
:
: 少。

c****3
发帖数: 10787
28
你是真信?
这种挂羊头卖狗肉,那么明显,一直以为大家都很容易看出来,没想到这么多人看不出

【在 x****u 的大作中提到】
: 因为你只看了序言。
: NN实验结果告诉你,激活函数选什么不重要,重要的是结构和权重。其他的都是训练用
: 技巧。
: 猫本身不是训练出的视觉感受,这个权重是几亿年进化后天然就有的。

x****u
发帖数: 44466
29
模型摆着你自己试试不就知道了?

【在 c****3 的大作中提到】
: 你是真信?
: 这种挂羊头卖狗肉,那么明显,一直以为大家都很容易看出来,没想到这么多人看不出

c*******9
发帖数: 9032
30
這人就是搞行為藝術的,你居然這麼耐心。

【在 x****u 的大作中提到】
: 模型摆着你自己试试不就知道了?
相关主题
深度学习对时间序列数据有什么好办法吗?问几个神经网络的问题
cnn大牛们,这种特征如何提取呢?我来科普下深度学习的应用范围吧
围棋人工智能Deep Learning就是在玩数学胡扯几句什么叫Deep Learning入门
进入Programming版参与讨论
c****3
发帖数: 10787
31
你觉得高大尚,旁人看了觉得是新时代的“缘木求鱼”。
号称叫学习,其实机器根本不懂什么是理解内容。用一个猜谜语做试金石,简单一试就
知道,这玩意搞来搞去也搞不出理解内容来.
这是挂羊头卖狗肉,明明和人的学习不是一回事,非要挂这个羊头,如此明显会看不出
。所以问你是真相信,还是因为工作假装相信。

【在 x****u 的大作中提到】
: 模型摆着你自己试试不就知道了?
1 (共1页)
进入Programming版参与讨论
相关主题
Facebook的用CNN作翻译怎么性能超过RNN的transfer learning是不是接近人类学习的本质了?
[bssd] Neural network as a programming languageDeep Learning/Machine Learning 对传统优化问题,可能做的更好吗?
深度学习对时间序列数据有什么好办法吗?Reinforcement Learning的思想精髓是什么?
cnn大牛们,这种特征如何提取呢?Question about learning C#
围棋人工智能Deep Learning就是在玩数学业余时间想做一个project
问几个神经网络的问题LSTM 是不是坨屎?
我来科普下深度学习的应用范围吧想上手deep learning的看过来
胡扯几句什么叫Deep Learning入门对于现在machine learning有个问题,请指教
相关话题的讨论汇总
话题: dl话题: 学习话题: ml话题: learning话题: learn