由买买提看人间百态

boards

本页内容为未名空间相应帖子的节选和存档,一周内的贴子最多显示50字,超过一周显示500字 访问原贴
Computation版 - 求教: Matlab 最大能够精确支持多大的整数?
相关主题
[转载] a stupid matlab questionMATLAB Matrix Numeric Tools Help site
matlab能管理多大的内存?>1Gwhat is wrong with my matlab?
ask a matlab questionMATLAB积分求教
perl的读取数据问题终于完成一模拟matlab基本矩阵运算的C库
请教一个c++问题Analytic solution for an ODE
帮忙推荐个PC机请教:如何用least square approach解超定方程组
弱问计算机server的问题 (转载)[转载] 有人知道如何把MATLAB .M 文件转换成C吗?
Fortran中数组可以多大?急!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!
相关话题的讨论汇总
话题: matlab话题: 精确话题: 数字话题: 整数话题: 能够
进入Computation版参与讨论
1 (共1页)
k*****y
发帖数: 221
1
2^300 或者 2^500有没有可能?2^1000哪?
我的数字格式: 1010101111111111010101
完全是二进制的形式。
在我的PC机上: P4 1.5G 512M WindowsXP pro
Matlab 6.5
发现到了2^300时,矩阵里面存储的已经不是精确的数字了。就是由于科学计数法
最右边的小位上面的数字都变成0了。
想知道是否有办法让Matlab能够精确的表示这些数字。
尝试过用bin2dec,但是好像Matlab最高只支持2^52,请问大侠们有什么好的建议?
1 (共1页)
进入Computation版参与讨论
相关主题
急!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!请教一个c++问题
Re: 急!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!帮忙推荐个PC机
[转载] Is the "bench" in Matlab reliable弱问计算机server的问题 (转载)
[转载] 大家看这个方程组用什么软件解Fortran中数组可以多大?
[转载] a stupid matlab questionMATLAB Matrix Numeric Tools Help site
matlab能管理多大的内存?>1Gwhat is wrong with my matlab?
ask a matlab questionMATLAB积分求教
perl的读取数据问题终于完成一模拟matlab基本矩阵运算的C库
相关话题的讨论汇总
话题: matlab话题: 精确话题: 数字话题: 整数话题: 能够