12件ヒット
[1-12件を表示]
(0.013秒)
検索結果
先頭1件
-
bigdecimal (19.0)
-
bigdecimal は浮動小数点数演算ライブラリです。 任意の精度で 10 進表現された浮動小数点数を扱えます。
...) 数値に自動変換することはできません。
文字列を数値に自動変換したい場合は bigdecimal.c の
「/* #define ENABLE_NUMERIC_STRING */」のコメントを外してから、
再コンパイル、再インストールする必要があります。
文字列で数値を......1")
t = BigDecimal("-80")
while (u.nonzero? && u.exponent >= exp)
t = t * m25
u = t.div(k,sig)
pi = pi + u
k = k + two
end
u = BigDecimal("1")
k = BigDecimal("1")
w = BigDecimal("1")
t = BigDecimal("956")
while (u.nonzero? && u.exponent >= exp )
t = t.di...