i********r
发帖数: 12113 | 1 x:decimal(30,10)
y:decimal(20,5)
x*y => decimal(30+20+1, 10+5)
这样precision就51>38，好像系统自动把scale降级到6，是不是这样？我怎么样才能提
高scale，比如保持10 | i****a
发帖数: 36252 | 2 Convert y to be the same pricision as x.
[发表自未名空间手机版 - m.mitbbs.com]
【在 i********r 的大作中提到】
: x:decimal(30,10)
: y:decimal(20,5)
: x*y => decimal(30+20+1, 10+5)
: 这样precision就51>38，好像系统自动把scale降级到6，是不是这样？我怎么样才能提
: 高scale，比如保持10
| B*****g
发帖数: 34098 | 3 ding。
always convert yourself instead of waitting for system
能提
【在 i****a 的大作中提到】
: Convert y to be the same pricision as x.
:
: [发表自未名空间手机版 - m.mitbbs.com]
| g***l
发帖数: 18555 | | i********r
发帖数: 12113 | 5 我这个例子举的不好。应该是
x(30, 5). y(20,10). convert y to x. then you lose scale of y
【在 i****a 的大作中提到】
: Convert y to be the same pricision as x.
:
: [发表自未名空间手机版 - m.mitbbs.com]
| i********r
发帖数: 12113 | 6 go to read manual
【在 g***l 的大作中提到】
: 这个怎么学的，精度也自己加起来了。
|
|
