検索結果

BigDecimal::NAN -> BigDecimal (21417.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3

• 定数

NaN を表す BigDecimal オブジェクトを返します。

...
NaN を表す BigDecimal オブジェクトを返します。...

• BigDecimal

BigDecimal::EXCEPTION_NaN -> Integer (12417.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3

• 定数

BigDecimal の計算結果が NaN になった場合に例外を発生させるかどう かを設定、確認する際の値を返します。

...BigDecimal の計算結果が NaN になった場合に例外を発生させるかどう
かを設定、確認する際の値を返します。

BigDecimal.mode の第 1 引数に指定します。...

• BigDecimal

BigDecimal::SIGN_NaN -> Integer (9417.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3

• 定数

NaN に対応する BigDecimal#sign の値を返します。

...
NaN に対応する BigDecimal#sign の値を返します。...

• BigDecimal

Matrix#determinant_e -> Rational | Float (9402.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3

• インスタンスメソッド

このメソッドは deprecated です。 Matrix#determinant を代わりに使ってください。

...このメソッドは deprecated です。
Matrix#determinant を代わりに使ってください。...

• Matrix

Matrix#determinant -> Numeric (9400.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3

• インスタンスメソッド

行列式 (determinant) の値を返します。

...行列式 (determinant) の値を返します。

Float を使用すると、精度が不足するため、誤った結果が生じる可能性があることに注意してください。
代わりに、Rational や BigDecimal などの正確なオブジェクトを使用することを検討し...

...てください。

@raise ExceptionForMatrix::ErrDimensionMismatch 正方行列でない場合に発生します

//emlist[例][ruby]{
require 'matrix'

p Matrix[[2, 1], [-1, 2]].det #=> 5
p Matrix[[2.0, 1.0], [-1.0, 2.0]].det #=> 5.0
//}...

• BigDecimal
• Float
• Matrix
• Rational

絞り込み条件を変える

Matrix::LUPDecomposition#determinant -> Numeric (9400.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3

• インスタンスメソッド

元の行列の行列式の値を返します。 LUP 分解の結果を利用して計算します。

...元の行列の行列式の値を返します。
LUP 分解の結果を利用して計算します。

@see Matrix#determinant...

• Matrix::LUPDecomposition

JSON::State#allow_nan? -> bool (9351.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3

• インスタンスメソッド

NaN, Infinity, -Infinity を生成できる場合、真を返します。 そうでない場合は偽を返します。

...
NaN, Infinity, -Infinity を生成できる場合、真を返します。
そうでない場合は偽を返します。

//emlist[例][ruby]{
require "json"

json_state = JSON::State.new({})
json_state.allow_nan? # => false
json_state = JSON::State.new(allow_nan: true)
json_state.allow_nan? # => tr...

...ue
//}

@see 4627...

• JSON::State

BigDecimal#nan? -> bool (9317.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3

• インスタンスメソッド

self が NaN のときに true を返します。それ以外のときに false を返します。

...self が NaN のときに true を返します。それ以外のときに false を返します。...

• BigDecimal

Numeric (8202.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3

• クラス

数値を表す抽象クラスです。Integer や Float などの数値クラス は Numeric のサブクラスとして実装されています。

...値を表す抽象クラスです。Integer や Float などの数値クラス
は Numeric のサブクラスとして実装されています。

演算や比較を行うメソッド(+, -, *, /, <=>)は Numeric のサブクラスで定義されま
す。Numeric で定義されているメソッド...

...るメソッド
(+, -, *, /, %) を利用して定義されるものがほとんどです。
つまり Numeric で定義されているメソッドは、Numeric のサブクラスとして新たに数値クラスを定義した時に、
演算メソッド(+, -, *, /, %, <=>, coerce)だけを定義...

...Numeric Integer Fixnum Bignum Float Rational Complex
-------------------------------------------------------------------------------------------
modulo | o - o o o - -
nan? |...

...ger Float Rational Complex
--------------------------------------------------------------------------------
magnitude | o o o o o
modulo | o o o - -
nan...

• Float
• Integer

Float#next_float -> Float (6486.0)

• 2.3.0

• インスタンスメソッド

浮動小数点数で表現可能な self の次の値を返します。

...現可能な self の次の値を返します。

Float::MAX.next_float、Float::INFINITY.next_float は
Float::INFINITY を返します。Float::NAN.next_float は
Float::NAN を返します。

//emlist[例][ruby]{
p 0.01.next_float # => 0.010000000000000002
p 1.0.next_float # => 1.000000000000...

...0.next_float # => 100.00000000000001

p 0.01.next_float - 0.01 # => 1.734723475976807e-18
p 1.0.next_float - 1.0 # => 2.220446049250313e-16
p 100.0.next_float - 100.0 # => 1.4210854715202004e-14

f = 0.01; 20.times { printf "%-20a %s\n", f, f.to_s; f = f.next_float }
# => 0x1.47ae147ae147bp-7...

....47ae147ae147cp-7 0.010000000000000002
# 0x1.47ae147ae147dp-7 0.010000000000000004
# 0x1.47ae147ae147ep-7 0.010000000000000005
# 0x1.47ae147ae147fp-7 0.010000000000000007
# 0x1.47ae147ae148p-7 0.010000000000000009
# 0x1.47ae147ae1481p-7 0.01000000000000001
# 0x1.47ae147ae1482p-7 0...

• Float

絞り込み条件を変える