45件ヒット
[1-45件を表示]
（0.113秒）
:![[x]](/images/drop-condition-icon.png "条件を削除"){kind=icon}
:別のキーワード
ライブラリ
- ビルトイン (21)
-
bigdecimal
/ util (24)
キーワード
- rationalize (12)
- round (9)
-
to
_ d (24)
検索結果
先頭4件
-
Float
# to _ d(prec) -> BigDecimal (132.0) -
自身を BigDecimal に変換します。
...換します。
@param prec 計算結果の精度。省略した場合は Float::DIG + 1 です。
@return BigDecimal に変換したオブジェクト
//emlist[][ruby]{
require 'bigdecimal'
require 'bigdecimal/util'
p 1.0.to_d # => 0.1e1
p (1.0 / 0).to_d # => Infinity
p (1.0 / 3).to_d /......(2.0 / 3).to_d # => 0.5e0
p ((1.0 / 3) / (2.0 / 3)).to_d # => 0.5e0
//}
@raise ArgumentError prec に負の数を指定した場合に発生します。... -
Float
# round(ndigits = 0 , half: :up) -> Integer | Float (114.0) -
自身ともっとも近い整数もしくは実数を返します。
...中央値 0.5, -0.5 はそれぞれ 1,-1 に切り上げされます。
いわゆる四捨五入ですが、偶数丸めではありません。
@param ndigits 丸める位を指定します。
ndigitsが0ならば、小数点以下を四捨五入し、整数を返します。
ndigit......ならば、小数点以上の指定された位で四捨五入されます。
@param half ちょうど半分の値の丸め方を指定します。
サポートされている値は以下の通りです。
* :up or nil: 0から遠い方に丸められます。
* :even: もっとも近い......返します。
@raise TypeError ndigits で指定されたオブジェクトが整数に変換できない場
合発生します。
//emlist[例][ruby]{
1.0.round # => 1
1.2.round # => 1
(-1.2).round # => -1
(-1.5).round # => -2
t = Math::PI # => 3.141592653589793... -
Float
# rationalize(eps) -> Rational (108.0) -
自身から eps で指定した許容誤差の範囲に収まるような Rational を返 します。
...自身から eps で指定した許容誤差の範囲に収まるような Rational を返
します。
eps を省略した場合は誤差が最も小さくなるような Rational を返しま
す。
@param eps 許容する誤差
//emlist[例][ruby]{
0.3.rationalize # => (3/10)
1.333.r... -
Float
# to _ d -> BigDecimal (32.0) -
自身を BigDecimal に変換します。
...換します。
@param prec 計算結果の精度。省略した場合は Float::DIG + 1 です。
@return BigDecimal に変換したオブジェクト
//emlist[][ruby]{
require 'bigdecimal'
require 'bigdecimal/util'
p 1.0.to_d # => 0.1e1
p (1.0 / 0).to_d # => Infinity
p (1.0 / 3).to_d /......(2.0 / 3).to_d # => 0.5e0
p ((1.0 / 3) / (2.0 / 3)).to_d # => 0.5e0
//}
@raise ArgumentError prec に負の数を指定した場合に発生します。...