るりまサーチ

最速Rubyリファレンスマニュアル検索!
24件ヒット [1-24件を表示] (0.014秒)
トップページ > クエリ:float[x] > クエリ:Numeric[x] > クラス:Matrix[x]

別のキーワード

  1. _builtin float
  2. float to_d
  3. float rationalize
  4. json float
  5. fiddle type_float

ライブラリ

キーワード

検索結果

Matrix#det -> Numeric (109.0)

行列式 (determinant) の値を返します。

...

Float
を使用すると、精度が不足するため、誤った結果が生じる可能性があることに注意してください。
代わりに、Rational や BigDecimal などの正確なオブジェクトを使用することを検討してください。

@raise ExceptionForMatrix::E...
...rrDimensionMismatch 正方行列でない場合に発生します

//emlist[例][ruby]{
require 'matrix'

p Matrix[[2, 1], [-1, 2]].det #=> 5
p Matrix[[2.0, 1.0], [-1.0, 2.0]].det #=> 5.0
//}...

Matrix#determinant -> Numeric (109.0)

行列式 (determinant) の値を返します。

...

Float
を使用すると、精度が不足するため、誤った結果が生じる可能性があることに注意してください。
代わりに、Rational や BigDecimal などの正確なオブジェクトを使用することを検討してください。

@raise ExceptionForMatrix::E...
...rrDimensionMismatch 正方行列でない場合に発生します

//emlist[例][ruby]{
require 'matrix'

p Matrix[[2, 1], [-1, 2]].det #=> 5
p Matrix[[2.0, 1.0], [-1.0, 2.0]].det #=> 5.0
//}...