検索結果

BigDecimal.limit(n = nil) -> Integer (6.0)

• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.1
• 3.3
• 3.4

• 特異メソッド

生成されるBigDecimalオブジェクトの最大桁数をn桁に制限します。 n を指定しない、または n が nil の場合は、現状の最大桁数が返ります。

...ッド (BigDecimal#truncate /
BigDecimal#round / BigDecimal#ceil / BigDecimal#floor /
BigDecimal#add/ BigDecimal#sub / BigDecimal#mult /
BigDecimal#div) の桁数制限は limit より優先されます。

//emlist[][ruby]{
require 'bigdecimal'
n = 0 # デフォルト値
mf = BigDecimal::limit(n)
/...

• BigDecimal

BigDecimal.mode(s) -> Integer | nil (6.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3
• 3.4

• 特異メソッド

BigDecimal の計算処理の制御方法を設定、確認します。

...:mode(BigDecimal::EXCEPTION_UNDERFLOW,flag)
f = BigDecimal::mode(BigDecimal::EXCEPTION_OVERFLOW,flag)
f = BigDecimal::mode(BigDecimal::EXCEPTION_ZERODIVIDE,flag)
f = BigDecimal::mode(BigDecimal::EXCEPTION_ALL,flag)
//}

* BigDecimal::EXCEPTION_NaN は結果が NaN になったときの指定です...

...指定です。
* BigDecimal::EXCEPTION_OVERFLOW は指数部がオーバーフローするときの指定です。
* BigDecimal::EXCEPTION_ZERODIVIDE はゼロによる割り算を実行したときの指定です。
* BigDecimal::EXCEPTION_ALL は、可能な全てに対して一括して設...

...TION_OVERFLOW のとき、+Infinity か -Infinity
* BigDecimal::EXCEPTION_ZERODIVIDE のとき、+Infinity か -Infinity

BigDecimal::EXCEPTION_INFINITY、BigDecimal::EXCEPTION_OVERFLOW、
BigDecimal::EXCEPTION_ZERODIVIDE は今のところ同じです。
戻り値は、設定後の値です。「...

• BigDecimal

BigDecimal.mode(s, v) -> Integer | nil (6.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3
• 3.4

• 特異メソッド

BigDecimal の計算処理の制御方法を設定、確認します。

...:mode(BigDecimal::EXCEPTION_UNDERFLOW,flag)
f = BigDecimal::mode(BigDecimal::EXCEPTION_OVERFLOW,flag)
f = BigDecimal::mode(BigDecimal::EXCEPTION_ZERODIVIDE,flag)
f = BigDecimal::mode(BigDecimal::EXCEPTION_ALL,flag)
//}

* BigDecimal::EXCEPTION_NaN は結果が NaN になったときの指定です...

...指定です。
* BigDecimal::EXCEPTION_OVERFLOW は指数部がオーバーフローするときの指定です。
* BigDecimal::EXCEPTION_ZERODIVIDE はゼロによる割り算を実行したときの指定です。
* BigDecimal::EXCEPTION_ALL は、可能な全てに対して一括して設...

...TION_OVERFLOW のとき、+Infinity か -Infinity
* BigDecimal::EXCEPTION_ZERODIVIDE のとき、+Infinity か -Infinity

BigDecimal::EXCEPTION_INFINITY、BigDecimal::EXCEPTION_OVERFLOW、
BigDecimal::EXCEPTION_ZERODIVIDE は今のところ同じです。
戻り値は、設定後の値です。「...

• BigDecimal

Integer#/(other) -> Numeric (6.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3
• 3.4

• インスタンスメソッド

除算の算術演算子。

...側の引数(対象)
@return 計算結果

//emlist[例][ruby]{
7 / 2 # => 3
7 / -2 # => -4
7 / 2.0 # => 3.5
7 / Rational(2, 1) # => (7/2)
7 / Complex(2, 0) # => ((7/2)+0i)

begin
2 / 0
rescue => e
e # => #<ZeroDivisionError: divided by 0>
end
//}

@see Integer#div, Integer#fdiv, Numeric#quo...

• Integer

Numeric#%(other) -> Numeric (6.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3
• 3.4

• インスタンスメソッド

self を other で割った余り r を返します。

...r < 0 のとき other < r <= 0
* q は整数

をみたす数です。
余り r は、other と同じ符号になります。
商 q は、Numeric#div (あるいは 「/」)で求められます。
modulo はメソッド % の呼び出しとして定義されています。

@param other 自身を...

...割る数を指定します。

//emlist[例][ruby]{
p 13.modulo(4) #=> 1
p (11.5).modulo(3.5) #=> 1.0
p 13.modulo(-4) #=> -3
p (-13).modulo(4) #=> 3
p (-13).modulo(-4) #=> -1
p (-11).modulo(3.5) #=> 3.0
//}

@see Numeric#divmod, Numeric#remainder...

• Numeric

絞り込み条件を変える

Numeric#modulo(other) -> Numeric (6.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3
• 3.4

• インスタンスメソッド

self を other で割った余り r を返します。

...r < 0 のとき other < r <= 0
* q は整数

をみたす数です。
余り r は、other と同じ符号になります。
商 q は、Numeric#div (あるいは 「/」)で求められます。
modulo はメソッド % の呼び出しとして定義されています。

@param other 自身を...

...割る数を指定します。

//emlist[例][ruby]{
p 13.modulo(4) #=> 1
p (11.5).modulo(3.5) #=> 1.0
p 13.modulo(-4) #=> -3
p (-13).modulo(4) #=> 3
p (-13).modulo(-4) #=> -1
p (-11).modulo(3.5) #=> 3.0
//}

@see Numeric#divmod, Numeric#remainder...

• Numeric

BigDecimal#/(other) -> BigDecimal (1.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3
• 3.4

• インスタンスメソッド

商を計算します。

商を計算します。

@param other self を割る数を指定します。

詳細は Numeric#quo を参照して下さい。

計算結果の精度についてはlib:bigdecimal#precisionを参照してください。

• BigDecimal

BigDecimal#quo(other) -> BigDecimal (1.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3
• 3.4

• インスタンスメソッド

商を計算します。

商を計算します。

@param other self を割る数を指定します。

詳細は Numeric#quo を参照して下さい。

計算結果の精度についてはlib:bigdecimal#precisionを参照してください。

• BigDecimal

Bignum#/(other) -> Fixnum | Bignum | Float (1.0)

• 2.1.0
• 2.2.0
• 2.3.0

• インスタンスメソッド

算術演算子。商を計算します。

算術演算子。商を計算します。

@param other 二項演算の右側の引数(対象)
@return 計算結果

• Bignum

Fixnum#/(other) -> Fixnum | Bignum | Float (1.0)

• 2.1.0
• 2.2.0
• 2.3.0

• インスタンスメソッド

算術演算子。商を計算します。

算術演算子。商を計算します。

@param other 二項演算の右側の引数(対象)
@return 計算結果

• Fixnum

絞り込み条件を変える