3件ヒット
[1-3件を表示]
(0.012秒)
種類
- インスタンスメソッド (2)
- 定数 (1)
ライブラリ
- ビルトイン (1)
-
bigdecimal
/ util (2)
検索結果
-
Float
:: DIG -> Integer (123307.0) -
Float が表現できる最大の 10 進桁数です。
...
Float が表現できる最大の 10 進桁数です。
通常はデフォルトで 15 です。... -
Float
# to _ d -> BigDecimal (40.0) -
自身を BigDecimal に変換します。
...自身を BigDecimal に変換します。
@param prec 計算結果の精度。省略した場合は Float::DIG + 1 です。
@return BigDecimal に変換したオブジェクト
//emlist[][ruby]{
require 'bigdecimal'
require 'bigdecimal/util'
p 1.0.to_d # => 0.1e1
p (1.0 / 0).to_d # => I... -
Float
# to _ d(prec) -> BigDecimal (40.0) -
自身を BigDecimal に変換します。
...自身を BigDecimal に変換します。
@param prec 計算結果の精度。省略した場合は Float::DIG + 1 です。
@return BigDecimal に変換したオブジェクト
//emlist[][ruby]{
require 'bigdecimal'
require 'bigdecimal/util'
p 1.0.to_d # => 0.1e1
p (1.0 / 0).to_d # => I...