由买买提看人间百态

boards

本页内容为未名空间相应帖子的节选和存档,一周内的贴子最多显示50字,超过一周显示500字 访问原贴
Programming版 - [bssd] 广义相对论=>神经网络几何化?
相关主题
[bssd]有本书mxnet/tf的一个比较blog
volta一出,业余玩家都要玩完啦GOTO (2)
我来科普下深度学习的应用范围吧[bssd]AI这辆车赶快上
简单说说这几年机器学习的形势 (转载)聊两句wdong的内功总纲
前途是光明的,道路是曲折的Spark 和 Tensorflow 线性回归问题
卷积这东西真神了Theano, Spark ML, Microsoft’s CNTK, and Google’s TensorFlow
paper help[bssd]这波AI现在缺的就是语言或者操作系统吧?
js这么慢,d3怎么搞大数据呢?[bssd]ANN有用
相关话题的讨论汇总
话题: tensor话题: 加权话题: 几何话题: 平均话题: br
进入Programming版参与讨论
1 (共1页)
c*******v
发帖数: 2599
1
我对网上的GR讲法,tensor讲法非常不满意。
现在来个适合计算机人员的山寨版。
0.
线性函数的意思是,满足叠加和数乘两条规定
1.
vector就是一个一维数组v
2.
dual vector的意思是,对v做加权平均时候的权值组成的数组w
one form的意思是这个加权平均函数
3.
(m,n)tensor的意思是,对m个one form,n个vector都是线性的一个map,
或者说是对m个one form,n个vector再做一次加权平均。最后得到一个数字。
这个另一次加权平均函数,就叫做tensor.
所以Tensor是一个对running index复杂点的东西的加权平均函数。
你不可能在这个函数里面看到权值的平方。
4.
如果你知道一元函数的微积分。那么就可以推广到vector, tensor的
梯度,微积分,线积分,面积分,等等。这里形式上凑一下,没有多少难度。
多数都是线性函数。
5.
Einstein认为stress-energy tensor类比于质量,再定义一个Einstein tensor
可以求出来一个metric tensor.
这个metric tensor可以定义一个vector和自己的加权平均。这个平方形式的
加权平均,取代欧几里德距离,就得到一个新的非欧空间。
这个非欧空间的最小距离,就是物体受重力影响得到的轨迹.
这方程里的Einstein tensor,也就是一些加权平均函数,是怎么出来的?
猜出来的!
6.
neural network其实就是大规模的加权平均。
然后加上一些threshold作为upper/lower bound。
我非常肯定爱因斯坦方程离散化后可以看作是
neural network的一种。
7.
应该有不少neural network是有坐标free形式
ANN可以几何化
T*******x
发帖数: 8565
2
bssd 是啥意思?

【在 c*******v 的大作中提到】
: 我对网上的GR讲法,tensor讲法非常不满意。
: 现在来个适合计算机人员的山寨版。
: 0.
: 线性函数的意思是,满足叠加和数乘两条规定
: 1.
: vector就是一个一维数组v
: 2.
: dual vector的意思是,对v做加权平均时候的权值组成的数组w
: one form的意思是这个加权平均函数
: 3.

c*******v
发帖数: 2599
3
就是老邢去死的意思

bssd 是啥意思?

【在 T*******x 的大作中提到】
: bssd 是啥意思?
e*******o
发帖数: 4654
4
靠 看不懂
l*******m
发帖数: 1096
5
还是有些道理。广义相对论是基于黎曼几何的。不过在计算机视觉领域,一小部分人尝
试应用黎曼几何很长时间了,但是成果呢?

【在 c*******v 的大作中提到】
: 我对网上的GR讲法,tensor讲法非常不满意。
: 现在来个适合计算机人员的山寨版。
: 0.
: 线性函数的意思是,满足叠加和数乘两条规定
: 1.
: vector就是一个一维数组v
: 2.
: dual vector的意思是,对v做加权平均时候的权值组成的数组w
: one form的意思是这个加权平均函数
: 3.

r*g
发帖数: 3159
6
tensor本身是多重线性,但GR找到的关系是非线性的:把一个四阶tensor取各种平均(
求trace),得到的两阶张量可以描述曲率,然后和能动张量联系起来,就是GR方程。

【在 c*******v 的大作中提到】
: 我对网上的GR讲法,tensor讲法非常不满意。
: 现在来个适合计算机人员的山寨版。
: 0.
: 线性函数的意思是,满足叠加和数乘两条规定
: 1.
: vector就是一个一维数组v
: 2.
: dual vector的意思是,对v做加权平均时候的权值组成的数组w
: one form的意思是这个加权平均函数
: 3.

c*******v
发帖数: 2599
7
(1)
我的意思不是视觉那种应用。
视觉那种应用:
例如识别数字0,那么这个图旋转不论多少角度,都是一个洞。
然后你发现分辨率不够,加点权值,包装成黎曼几何的垃圾论文。
只要你不用x1××2+x2××2,而是用别的正定二次型,你都能
说自己是黎曼几何。
(2)
我的意思是,现在多维数组都是随便用的。
但是物理和几何中的张量,有别的附加要求。
assuming未来发现,对一类问题A,有用的神经网络必须是遵从
某个性质B。不管你是什么描述的神经网,都要遵从这个性质。
那就是神经网络几何化了。这个性质是坐标free的。那么(A,B)就是几何
例如,deep就是一个几何化的性质。坐标free的。
不管谁家的做视觉ANN,首要足够deep。
那有没有别的性质呢?有没有办法发现别的几何性质呢?
这个东西就是做题容易,出题难。黎曼当初的论文提出了
几个性质,让大家遵守,说这几条就是几何。
所以开创了黎曼几何。他没有具体workout别的东西。

【在 l*******m 的大作中提到】
: 还是有些道理。广义相对论是基于黎曼几何的。不过在计算机视觉领域,一小部分人尝
: 试应用黎曼几何很长时间了,但是成果呢?

c*******v
发帖数: 2599
8
牛顿力学是非线性的,要向后近似兼容,
Einstein不容易啊

【在 r*g 的大作中提到】
: tensor本身是多重线性,但GR找到的关系是非线性的:把一个四阶tensor取各种平均(
: 求trace),得到的两阶张量可以描述曲率,然后和能动张量联系起来,就是GR方程。

c*******9
发帖数: 9032
9
对理解神经网络的信息结构很有帮助。

【在 l*******m 的大作中提到】
: 还是有些道理。广义相对论是基于黎曼几何的。不过在计算机视觉领域,一小部分人尝
: 试应用黎曼几何很长时间了,但是成果呢?

w***g
发帖数: 5958
10
这一波AI有两个特点:
1. 水平低。
2. 浮躁。
你谈相对论,怕是不会有人听你的。

【在 c*******v 的大作中提到】
: 我对网上的GR讲法,tensor讲法非常不满意。
: 现在来个适合计算机人员的山寨版。
: 0.
: 线性函数的意思是,满足叠加和数乘两条规定
: 1.
: vector就是一个一维数组v
: 2.
: dual vector的意思是,对v做加权平均时候的权值组成的数组w
: one form的意思是这个加权平均函数
: 3.

相关主题
卷积这东西真神了mxnet/tf的一个比较blog
paper helpGOTO (2)
js这么慢,d3怎么搞大数据呢?[bssd]AI这辆车赶快上
进入Programming版参与讨论
T*******x
发帖数: 8565
11
那应该是lxqs啊。

【在 c*******v 的大作中提到】
: 就是老邢去死的意思
:
: bssd 是啥意思?

g****t
发帖数: 31659
12
我写些东西是因为
往往自己考虑的太简单,写出来才知道对错。跟coding 类似
的验证作用。


: 这一波AI有两个特点:

: 1. 水平低。

: 2. 浮躁。

: 你谈相对论,怕是不会有人听你的。



【在 w***g 的大作中提到】
: 这一波AI有两个特点:
: 1. 水平低。
: 2. 浮躁。
: 你谈相对论,怕是不会有人听你的。

g****t
发帖数: 31659
13
还一个特点,不少跨界人才都来了


: 这一波AI有两个特点:

: 1. 水平低。

: 2. 浮躁。

: 你谈相对论,怕是不会有人听你的。



【在 w***g 的大作中提到】
: 这一波AI有两个特点:
: 1. 水平低。
: 2. 浮躁。
: 你谈相对论,怕是不会有人听你的。

v*******e
发帖数: 11604
14
我从没试图过去了解tensor是什么。也不知道是什么。这个词我也不认得,只是见到过
几次,不知道什么意思,在我眼里它的意思就是“一个东西”。
虽然我不了解它,但是我觉得这个东西和AI没啥关系。
c*******9
发帖数: 9032
15
人类能理解的表示方式有限。想扯不上关系是很难的。

【在 v*******e 的大作中提到】
: 我从没试图过去了解tensor是什么。也不知道是什么。这个词我也不认得,只是见到过
: 几次,不知道什么意思,在我眼里它的意思就是“一个东西”。
: 虽然我不了解它,但是我觉得这个东西和AI没啥关系。

h*i
发帖数: 3446
16
如果要搞几何化,你都研究Grassmann了,研究tensor不如研究multivector (of
Cliford Algebra, aka. Geometric Algebra),tensor太general了,不适合几何化。
而multivector,与几何是一一对应的。
现代物理学(包括广义相对论,量子力学)用Geometric Algebra来描述非常简单明了
,这方面的书可以看看
https://www.amazon.com/Geometric-Algebra-Physicists-Chris-Doran/dp/
0521715954

【在 c*******v 的大作中提到】
: 我对网上的GR讲法,tensor讲法非常不满意。
: 现在来个适合计算机人员的山寨版。
: 0.
: 线性函数的意思是,满足叠加和数乘两条规定
: 1.
: vector就是一个一维数组v
: 2.
: dual vector的意思是,对v做加权平均时候的权值组成的数组w
: one form的意思是这个加权平均函数
: 3.

g****t
发帖数: 31659
17
我多年前phd论文是PDE的formal power series的研究。
写过不少代码。例如一个多元Fourier series的反函数,
梯度,积分,以及函数迭代,小扰动等等。


: 如果要搞几何化,你都研究Grassmann了,研究tensor不如研究multivector (
of

: Cliford Algebra, aka. Geometric Algebra),tensor太general了,不适合几
何化。

: 而multivector,与几何是一一对应的。

: 现代物理学(包括广义相对论,量子力学)用Geometric Algebra来描述非常简
单明了

: ,这方面的书可以看看

: https://www.amazon.com/Geometric-Algebra-Physicists-Chris-Doran/dp/

: 0521715954



【在 h*i 的大作中提到】
: 如果要搞几何化,你都研究Grassmann了,研究tensor不如研究multivector (of
: Cliford Algebra, aka. Geometric Algebra),tensor太general了,不适合几何化。
: 而multivector,与几何是一一对应的。
: 现代物理学(包括广义相对论,量子力学)用Geometric Algebra来描述非常简单明了
: ,这方面的书可以看看
: https://www.amazon.com/Geometric-Algebra-Physicists-Chris-Doran/dp/
: 0521715954

r*g
发帖数: 3159
18
对。这套东西很好,应该进入中学课本。
你看流行的向量点乘叉乘,结合律都没有,也没有除法,实在是不知道当时怎么竞争过
grassman/Clifford 的。

【在 h*i 的大作中提到】
: 如果要搞几何化,你都研究Grassmann了,研究tensor不如研究multivector (of
: Cliford Algebra, aka. Geometric Algebra),tensor太general了,不适合几何化。
: 而multivector,与几何是一一对应的。
: 现代物理学(包括广义相对论,量子力学)用Geometric Algebra来描述非常简单明了
: ,这方面的书可以看看
: https://www.amazon.com/Geometric-Algebra-Physicists-Chris-Doran/dp/
: 0521715954

c*****w
发帖数: 50
19
就是网络拓扑结构吧

【在 c*******v 的大作中提到】
: (1)
: 我的意思不是视觉那种应用。
: 视觉那种应用:
: 例如识别数字0,那么这个图旋转不论多少角度,都是一个洞。
: 然后你发现分辨率不够,加点权值,包装成黎曼几何的垃圾论文。
: 只要你不用x1××2+x2××2,而是用别的正定二次型,你都能
: 说自己是黎曼几何。
: (2)
: 我的意思是,现在多维数组都是随便用的。
: 但是物理和几何中的张量,有别的附加要求。

c*******9
发帖数: 9032
20
就像FP竞争不过OO。

【在 r*g 的大作中提到】
: 对。这套东西很好,应该进入中学课本。
: 你看流行的向量点乘叉乘,结合律都没有,也没有除法,实在是不知道当时怎么竞争过
: grassman/Clifford 的。

相关主题
聊两句wdong的内功总纲[bssd]这波AI现在缺的就是语言或者操作系统吧?
Spark 和 Tensorflow 线性回归问题[bssd]ANN有用
Theano, Spark ML, Microsoft’s CNTK, and Google’s TensorFlow量子计算机来啦(转自军版)
进入Programming版参与讨论
h*i
发帖数: 3446
21
很多东西都是人事。其实两者就没有竞争过。

【在 r*g 的大作中提到】
: 对。这套东西很好,应该进入中学课本。
: 你看流行的向量点乘叉乘,结合律都没有,也没有除法,实在是不知道当时怎么竞争过
: grassman/Clifford 的。

h*i
发帖数: 3446
22
FP与OO就没有竞争过。
属于关公战秦琼的话题。

【在 c*******9 的大作中提到】
: 就像FP竞争不过OO。
n******e
发帖数: 163
23
跨度够大的,这样的深挖难得!这个加权平均的核心思想是什么?在GR里挖不到,除了
去QM挖没别的。

【在 c*******v 的大作中提到】
: 我对网上的GR讲法,tensor讲法非常不满意。
: 现在来个适合计算机人员的山寨版。
: 0.
: 线性函数的意思是,满足叠加和数乘两条规定
: 1.
: vector就是一个一维数组v
: 2.
: dual vector的意思是,对v做加权平均时候的权值组成的数组w
: one form的意思是这个加权平均函数
: 3.

c*******9
发帖数: 9032
24
曲率计算要加权平均吧。

【在 n******e 的大作中提到】
: 跨度够大的,这样的深挖难得!这个加权平均的核心思想是什么?在GR里挖不到,除了
: 去QM挖没别的。

g****t
发帖数: 31659
25
Fourier变换就是加权平均啊
频率统计函数也是的
Acf,
卷积也是


: 曲率计算要加权平均吧。



【在 c*******9 的大作中提到】
: 曲率计算要加权平均吧。
c*******9
发帖数: 9032
26
嗯。所以不管变什么花样,人类认知方式就那么几种。就像阴阳五行放之四海而皆准。

【在 g****t 的大作中提到】
: Fourier变换就是加权平均啊
: 频率统计函数也是的
: Acf,
: 卷积也是
:
:
: 曲率计算要加权平均吧。
:

1 (共1页)
进入Programming版参与讨论
相关主题
[bssd]ANN有用前途是光明的,道路是曲折的
量子计算机来啦(转自军版)卷积这东西真神了
讨论程序语言没什么意思,functional programming还是不错的paper help
探讨下FaceID怎么做得?js这么慢,d3怎么搞大数据呢?
[bssd]有本书mxnet/tf的一个比较blog
volta一出,业余玩家都要玩完啦GOTO (2)
我来科普下深度学习的应用范围吧[bssd]AI这辆车赶快上
简单说说这几年机器学习的形势 (转载)聊两句wdong的内功总纲
相关话题的讨论汇总
话题: tensor话题: 加权话题: 几何话题: 平均话题: br