るりまサーチ

最速Rubyリファレンスマニュアル検索!
10件ヒット [1-10件を表示] (0.010秒)
トップページ > クラス:Float[x] > クエリ:DIG[x]

ライブラリ

キーワード

検索結果

Float::DIG -> Fixnum (18102)

Float が表現できる最大の 10 進桁数

...
Float
が表現できる最大の 10 進桁数...

Float::MANT_DIG -> Fixnum (6102)

仮数部の Float::RADIX 進法での桁数

...仮数部の Float::RADIX 進法での桁数...

Float#round(ndigits = 0) -> Fixnum | Float (101)

自身ともっとも近い整数もしくは実数を返します。

...りません。

@param ndigits 丸める位を指定します。
ndigitsが0ならば、小数点以下を四捨五入し、整数を返します。
ndigitsが0以上ならば、小数点以下の指定された位で四捨五入されます。
ndigitsが0以下ならば、小...
...整数もしくは実数を返します。
ndigitsが0ならば、整数を返します。
ndigitsが0以上ならば、実数を返します。
ndigitsが0以下ならば、整数を返します。

@raise TypeError
ndigitsで指定されたオブジェクトが整数に...
...und(3) #=> 3.142
p t.round(0) #=> 3
p t.round(1) #=> 3.1

p t = t**10 #=> 93648.04747608298
p t.round(-0) #=> 93648
p t.round(-1) #=> 93650
p t.round(-2) #=> 93600
p t.round(-3) #=> 94000
p t.round(-100) #=> 0


@see Float#ceil, Float#floor, Float#truncate...

Float#to_d -> BigDecimal (7)

自身を BigDecimal に変換します。

...身を BigDecimal に変換します。

@param prec 計算結果の精度。省略した場合は Float::DIG + 1 です。

@return BigDecimal に変換したオブジェクト

自身を一度 Float#to_s で文字列に変換してから
Kernel.#BigDecimal で生成するので、精度に注意...

Float#to_d(prec) -> BigDecimal (7)

自身を BigDecimal に変換します。

...身を BigDecimal に変換します。

@param prec 計算結果の精度。省略した場合は Float::DIG + 1 です。

@return BigDecimal に変換したオブジェクト

自身を一度 Float#to_s で文字列に変換してから
Kernel.#BigDecimal で生成するので、精度に注意...

絞り込み条件を変える