るりまサーチ

最速Rubyリファレンスマニュアル検索!
11件ヒット [1-11件を表示] (0.025秒)
トップページ > クエリ:BigDecimal[x] > クエリ:NAN[x] > クラス:Matrix[x]

別のキーワード

  1. bigdecimal/util to_d
  2. bigdecimal round
  3. bigdecimal div
  4. bigdecimal to_s
  5. bigdecimal mode

ライブラリ

検索結果

Matrix#determinant -> Numeric (3107.0)

行列式 (determinant) の値を返します。

...行列式 (determinant) の値を返します。

Float を使用すると、精度が不足するため、誤った結果が生じる可能性があることに注意してください。
代わりに、Rational や BigDecimal などの正確なオブジェクトを使用することを検討し...
...てください。

@raise ExceptionForMatrix::ErrDimensionMismatch 正方行列でない場合に発生します

//emlist[例][ruby]{
require 'matrix'

p Matrix[[2, 1], [-1, 2]].det #=> 5
p Matrix[[2.0, 1.0], [-1.0, 2.0]].det #=> 5.0
//}...