12件ヒット
[1-12件を表示]
(0.007秒)
検索結果
先頭1件
-
bigdecimal (13.0)
-
bigdecimal は浮動小数点数演算ライブラリです。 任意の精度で 10 進表現された浮動小数点数を扱えます。
...1")
t = BigDecimal("-80")
while (u.nonzero? && u.exponent >= exp)
t = t * m25
u = t.div(k,sig)
pi = pi + u
k = k + two
end
u = BigDecimal("1")
k = BigDecimal("1")
w = BigDecimal("1")
t = BigDecimal("956")
while (u.nonzero? && u.exponent >= exp )
t = t.di...