11件ヒット
[1-11件を表示]
(0.020秒)
検索結果
先頭1件
-
bigdecimal (121.0)
-
bigdecimal は浮動小数点数演算ライブラリです。 任意の精度で 10 進表現された浮動小数点数を扱えます。
...decimal"
BigDecimal("1.0") / BigDecimal("0.0") #=> Infinity
BigDecimal("-1.0") / BigDecimal("0.0") #=> -Infinity
//}
無限大を表す BigDecimal オブジェクトを作成する場合、
Kernel.#BigDecimal の引数に "Infinity" や "-Infinity" を指定して
ください。(大文字小文......字を区別します)
//emlist[][ruby]{
require "bigdecimal"
BigDecimal("Infinity") # => Infinity
BigDecimal("+Infinity") # => Infinity
BigDecimal("-Infinity") # => -Infinity
//}
==== 非数(Not a Number)
0 / 0 のような未定義の計算を行った場合、非数(Not a Number)を表す値......y]{
require "bigdecimal"
BigDecimal("1.0") / BigDecimal("-Infinity") # => -0.0
//}
正の非常に小さな BigDecimal の値は 0 を表す値になります。
//emlist[][ruby]{
require "bigdecimal"
BigDecimal("1.0") / BigDecimal("Infinity") # => 0.0
//}
精度については BigDecimal.mode...