40件ヒット
[1-40件を表示]
(0.014秒)
検索結果
先頭4件
-
BigDecimal
. mode(s) -> Integer | nil (19.0) -
BigDecimal の計算処理の制御方法を設定、確認します。
...ker's rounding)。
* BigDecimal::ROUND_CEILING 数値の大きい方に繰り上げます(ceil)。
* BigDecimal::ROUND_FLOOR 数値の小さい方に繰り下げます(floor)。
戻り値は指定後の flag の値です。第2引数に nil を指定すると、現状の設定値が返ります......。 mode メソッドでは丸め操作の位置をユーザが指定することはできません。丸め操作と位置を自分で制御したい場合は BigDecimal::limit や truncate/round/ceil/floor、 add/sub/mult/div といったインスタンスメソッドを使用して下さい。... -
BigDecimal
. mode(s , v) -> Integer | nil (19.0) -
BigDecimal の計算処理の制御方法を設定、確認します。
...ker's rounding)。
* BigDecimal::ROUND_CEILING 数値の大きい方に繰り上げます(ceil)。
* BigDecimal::ROUND_FLOOR 数値の小さい方に繰り下げます(floor)。
戻り値は指定後の flag の値です。第2引数に nil を指定すると、現状の設定値が返ります......。 mode メソッドでは丸め操作の位置をユーザが指定することはできません。丸め操作と位置を自分で制御したい場合は BigDecimal::limit や truncate/round/ceil/floor、 add/sub/mult/div といったインスタンスメソッドを使用して下さい。... -
Integer
. sqrt(n) -> Integer (13.0) -
非負整数 n の整数の平方根を返します。すなわち n の平方根以下の 最大の非負整数を返します。
...# => true
//}
Math.sqrt(n).floor と同等ですが、後者は浮動小数点数の精度の限界によって
真の値とは違う結果になることがあります。
//emlist[][ruby]{
Integer.sqrt(10**46) #=> 100000000000000000000000
Math.sqrt(10**46).floor #=> 9999999999999999161139... -
BigDecimal
. limit(n = nil) -> Integer (7.0) -
生成されるBigDecimalオブジェクトの最大桁数をn桁に制限します。 n を指定しない、または n が nil の場合は、現状の最大桁数が返ります。
...め処理が
実行されます。ただし、インスタンスメソッド (BigDecimal#truncate /
BigDecimal#round / BigDecimal#ceil / BigDecimal#floor /
BigDecimal#add/ BigDecimal#sub / BigDecimal#mult /
BigDecimal#div) の桁数制限は limit より優先されます。
//emlist[][ruby]{
requi...