由买买提看人间百态

boards

本页内容为未名空间相应帖子的节选和存档,一周内的贴子最多显示50字,超过一周显示500字 访问原贴
Programming版 - matlab里面怎么设置最大最小数的精度?
相关主题
Matlab 中怎样设置坐标轴刻度的精度C中的精度问题
matlab C API 怎么用啊??请教关于float的精度和比较
数值计算里的几个损失精度的操作分母有理化是更准确吗?
[合集] 关于浮点数计算和underflow请有C++数值计算的同学帮忙看看,问题不难
如何实现微秒精度的time stamp这个给分数求和的Python程序为嘛陷入死循环出不来?大牛给帮忙看看。
请问c语言中double cast成float 会损失多少精度about multiple inheritance
double to float的精度损失?a malloc quesiton
[合集] Linux/Unix下时间的精度 (转载)multiple io thread有用没用啊?
相关话题的讨论汇总
话题: matlab话题: operations话题: values话题: e15话题: 精度
进入Programming版参与讨论
1 (共1页)
N******n
发帖数: 3003
1
我算p-value,要到E-52,因为分母要到远远大于E15,但是显示说E15以上就不准了。
谢谢
c****o
发帖数: 515
2
If the operations you plan to do with the p-values involve only
multiplication, division and exponentiation, take their logs and do
operations on the log-p values. Otherwise, you can use MATLAB's Java
interface to call java.math.BigDecimal
http://docs.oracle.com/javase/1.5.0/docs/api/java/math/BigDecim
N******n
发帖数: 3003
3
谢谢,我的计算包含nchoosek,里面的数字很大,log用了,没有作用。
谢谢,菜包,包子 will send to you.

【在 c****o 的大作中提到】
: If the operations you plan to do with the p-values involve only
: multiplication, division and exponentiation, take their logs and do
: operations on the log-p values. Otherwise, you can use MATLAB's Java
: interface to call java.math.BigDecimal
: http://docs.oracle.com/javase/1.5.0/docs/api/java/math/BigDecim

t****t
发帖数: 6806
4
这跟matlab没关系, 就是高精度数值计算. 如果算法不行就只好靠别人的包.

【在 N******n 的大作中提到】
: 谢谢,我的计算包含nchoosek,里面的数字很大,log用了,没有作用。
: 谢谢,菜包,包子 will send to you.

N******n
发帖数: 3003
5
谢谢,很有帮助。

【在 t****t 的大作中提到】
: 这跟matlab没关系, 就是高精度数值计算. 如果算法不行就只好靠别人的包.
1 (共1页)
进入Programming版参与讨论
相关主题
multiple io thread有用没用啊?如何实现微秒精度的time stamp
VNC for multiple users ( >= 2) (转载)请问c语言中double cast成float 会损失多少精度
one more interview questiondouble to float的精度损失?
Urgent help on how to get statistical informaiton of an algorithm[合集] Linux/Unix下时间的精度 (转载)
Matlab 中怎样设置坐标轴刻度的精度C中的精度问题
matlab C API 怎么用啊??请教关于float的精度和比较
数值计算里的几个损失精度的操作分母有理化是更准确吗?
[合集] 关于浮点数计算和underflow请有C++数值计算的同学帮忙看看,问题不难
相关话题的讨论汇总
话题: matlab话题: operations话题: values话题: e15话题: 精度