るりまサーチ

最速Rubyリファレンスマニュアル検索!
144件ヒット [101-144件を表示] (0.020秒)

別のキーワード

  1. _builtin float
  2. float to_d
  3. json float
  4. float rationalize
  5. fiddle type_float

キーワード

検索結果

<< < 1 2 >>

Matrix#det -> Numeric (10.0)

行列式 (determinant) の値を返します。

...

Float
を使用すると、精度が不足するため、誤った結果が生じる可能性があることに注意してください。
代わりに、Rational や BigDecimal などの正確なオブジェクトを使用することを検討してください。

@raise ExceptionForMatrix::E...
...rrDimensionMismatch 正方行列でない場合に発生します

//emlist[例][ruby]{
require 'matrix'

p Matrix[[2, 1], [-1, 2]].det #=> 5
p Matrix[[2.0, 1.0], [-1.0, 2.0]].det #=> 5.0
//}...

Matrix#determinant -> Numeric (10.0)

行列式 (determinant) の値を返します。

...

Float
を使用すると、精度が不足するため、誤った結果が生じる可能性があることに注意してください。
代わりに、Rational や BigDecimal などの正確なオブジェクトを使用することを検討してください。

@raise ExceptionForMatrix::E...
...rrDimensionMismatch 正方行列でない場合に発生します

//emlist[例][ruby]{
require 'matrix'

p Matrix[[2, 1], [-1, 2]].det #=> 5
p Matrix[[2.0, 1.0], [-1.0, 2.0]].det #=> 5.0
//}...

Matrix#rank -> Integer (10.0)

階数 (rank) を返します。

...階数 (rank) を返します。

Float
を使用すると、精度が不足するため、誤った結果が生じる可能性があることに注意してください。
代わりに、Rational や BigDecimal などの正確なオブジェクトを使用することを検討してください。...
...//emlist[][ruby]{
require 'matrix'
m = Matrix[[2, 6], [1, 3]]
m.rank # => 1
//}...

Matrix#round(ndigits = 0) -> Matrix (10.0)

行列の各要素を指定した桁数で丸めた行列を返します。

...行列の各要素を指定した桁数で丸めた行列を返します。

@see Float#round...
<< < 1 2 >>