M*******a
发帖数: 1633 | 1 最近无聊在看这个，不理解为啥iterative算算到后来肯定会converge |
A*********c
发帖数: 430 | 2 因为过程中不停地乘一个stochastic matrix，所以由markov property保证了
convergence。
【在 M*******a 的大作中提到】
: 最近无聊在看这个，不理解为啥iterative算算到后来肯定会converge
|
M*******a
发帖数: 1633 | 3 您给证明下满足markov property必然converge行不？
【在 A*********c 的大作中提到】
: 因为过程中不停地乘一个stochastic matrix，所以由markov property保证了
: convergence。
|
y*******g
发帖数: 6599 | |
h********3
发帖数: 2075 | 5 你是说power iteration这个算法会converge吧。
你看看它的矩阵等式。
Perron-Frobenius Theorem: If M is a positive, column stochastic matrix, then:
1 is an eigenvalue of multiplicity one.
1 is the largest eigenvalue: all the other eigenvalues are in modulus
smaller than 1.
the eigenvector corresponding to eigenvalue 1 has all entries positive. In
particular, for the eigenvalue 1 there exists a unique eigenvector with the
sum of its entries equal to 1.
它其实是用largest eigenvector去近
似原来的矩阵，不断拉大largest eigenvector和其他eigenvector的贡献，最后导致迭
代下来的矩阵慢慢全部都变成largest eigenvector贡献出来的了。因为largest
eigenvector是固定的，所以它会converge。
【在 M*******a 的大作中提到】
: 最近无聊在看这个，不理解为啥iterative算算到后来肯定会converge
|
M*******a
发帖数: 1633 | 6 好像蛮复杂哈，我原本想有个什么直观解释就明白了的这种
then:
the
【在 h********3 的大作中提到】
: 你是说power iteration这个算法会converge吧。
: 你看看它的矩阵等式。
: Perron-Frobenius Theorem: If M is a positive, column stochastic matrix, then:
: 1 is an eigenvalue of multiplicity one.
: 1 is the largest eigenvalue: all the other eigenvalues are in modulus
: smaller than 1.
: the eigenvector corresponding to eigenvalue 1 has all entries positive. In
: particular, for the eigenvalue 1 there exists a unique eigenvector with the
: sum of its entries equal to 1.
: 它其实是用largest eigenvector去近
|
h********3
发帖数: 2075 | 7 从矩阵等式的分析应该算是很直接的了，而且也容易证明。
你也可以从random walk和markov chain去解释，那么markov chain最后会收敛到
stationary probability也是MCMC最核心的一个定理。你可以看看这个文章。
http://www.52nlp.cn/lda-math-mcmc-%E5%92%8C-gibbs-sampling1
【在 M*******a 的大作中提到】
: 好像蛮复杂哈，我原本想有个什么直观解释就明白了的这种
:
: then:
: the
|
c***z
发帖数: 6348 | |
