由买买提看人间百态

boards

本页内容为未名空间相应帖子的节选和存档,一周内的贴子最多显示50字,超过一周显示500字 访问原贴
Computation版 - 如何定义一个有效位数300为的浮点?
相关主题
[转载] 64位机比32位机作64位浮点运算快多少?matlab中复数运算如何增加有效位数。
谁推荐个测PC的浮点运算速度的程序?多谢震惊!中共这水平 打台湾真都替他们担心[作者不详]
Re: [转载] Re: 做计算买什么样的机器最好?Science抱怨美国超算被官僚制度所累
问一个矩阵乘法数值误差得问题厉害了!中国超算再度震惊了世界!
MATLAB在Nehalem(i7)系统下怎么才能完全利用1个核中国超级计算机星云或称霸全球超级计算机500强
different type of variable results difference in matlab第六代龙芯探秘:下代产品将用28nm制程制作
请教一个算法问题印度媒称中国超级计算机技术远远领先于印度
[合集] 如何找出一个32位数中最左边的1?美报:中国 “曙光6000”或为世界最高效计算机
相关话题的讨论汇总
话题: 有效位数话题: 浮点
进入Computation版参与讨论
1 (共1页)
p*w
发帖数: 124
1
by C?
a**a
发帖数: 416
2
http://www.jjj.de/hfloat/

【在 p*w 的大作中提到】
: by C?
p*w
发帖数: 124
3
cool, thank you!

【在 a**a 的大作中提到】
: http://www.jjj.de/hfloat/
1 (共1页)
进入Computation版参与讨论
相关主题
美报:中国 “曙光6000”或为世界最高效计算机MATLAB在Nehalem(i7)系统下怎么才能完全利用1个核
tgTNND的又把芯片白菜化了different type of variable results difference in matlab
最新超级计算机500强排名出炉:日本K夺冠请教一个算法问题
中国顶级雷达专家实现重大军事跨越![合集] 如何找出一个32位数中最左边的1?
[转载] 64位机比32位机作64位浮点运算快多少?matlab中复数运算如何增加有效位数。
谁推荐个测PC的浮点运算速度的程序?多谢震惊!中共这水平 打台湾真都替他们担心[作者不详]
Re: [转载] Re: 做计算买什么样的机器最好?Science抱怨美国超算被官僚制度所累
问一个矩阵乘法数值误差得问题厉害了!中国超算再度震惊了世界!
相关话题的讨论汇总
话题: 有效位数话题: 浮点