8件ヒット
[1-8件を表示]
(0.093秒)
別のキーワード
種類
- インスタンスメソッド (5)
- 定数 (2)
- ライブラリ (1)
ライブラリ
- ビルトイン (3)
- bigdecimal (2)
- matrix (2)
クラス
- BigDecimal (2)
- Matrix (2)
- Rational (3)
キーワード
-
ROUND
_ HALF _ UP (1) -
ROUND
_ UP (1) - bigdecimal (1)
- ceil (1)
- eigen (1)
- eigensystem (1)
- floor (1)
検索結果
先頭5件
-
Rational
# round(precision = 0) -> Integer | Rational (55048.0) -
自身ともっとも近い整数を返します。
自身ともっとも近い整数を返します。
中央値 0.5, -0.5 はそれぞれ 1,-1 に切り上げされます。
@param precision 計算結果の精度
@raise TypeError precision に整数以外のものを指定すると発生します。
//emlist[例][ruby]{
Rational(3).round # => 3
Rational(2, 3).round # => 1
Rational(-3, 2).round # => -2
//}
precision を指定した場合は指定した桁数の数値と、上述の性質に最も近い整
数か Rational を返し... -
BigDecimal
:: ROUND _ HALF _ UP -> Integer (45604.0) -
BigDecimal の計算結果の丸め処理で四捨五入するかどうかを設定、確認 する際の値を返します。
BigDecimal の計算結果の丸め処理で四捨五入するかどうかを設定、確認
する際の値を返します。
BigDecimal.mode の第 2 引数に指定します。 -
BigDecimal
:: ROUND _ UP -> Integer (45604.0) -
BigDecimal の計算結果の丸め処理で全て切り上げするかどうかを設定、 確認する際の値を返します。
BigDecimal の計算結果の丸め処理で全て切り上げするかどうかを設定、
確認する際の値を返します。
BigDecimal.mode の第 2 引数に指定します。 -
bigdecimal (18091.0)
-
bigdecimal は浮動小数点数演算ライブラリです。 任意の精度で 10 進表現された浮動小数点数を扱えます。
bigdecimal は浮動小数点数演算ライブラリです。
任意の精度で 10 進表現された浮動小数点数を扱えます。
//emlist[][ruby]{
require 'bigdecimal'
a = BigDecimal("0.123456789123456789")
b = BigDecimal("123456.78912345678", 40)
print a + b # => 0.123456912580245903456789e6
//}
一般的な 10 進数の計算でも有用です。2 進数の浮動小数点演算には微小な誤
差があるのに対し、BigDecimal では正確な値を得る事がで... -
Matrix
# eigen -> Matrix :: EigenvalueDecomposition (619.0) -
行列の固有値と左右の固有ベクトルを保持したオブジェクトを返します。
行列の固有値と左右の固有ベクトルを保持したオブジェクトを返します。
Matrix::EigenvalueDecomposition は to_ary を定義しているため、
多重代入によって3つの行列(右固有ベクトル、固有値行列、左固有ベクトル)
を得ることができます。
これを [V, D, W] と書くと、
(元の行列が対角化可能ならば)、
D は対角行列で、 self == V*D*W, V = W.inverse を満たします。
D のそれぞれの対角成分が行列の固有値です。
//emlist[例][ruby]{
require 'matrix'
m = Matrix[[1, 2], [... -
Matrix
# eigensystem -> Matrix :: EigenvalueDecomposition (619.0) -
行列の固有値と左右の固有ベクトルを保持したオブジェクトを返します。
行列の固有値と左右の固有ベクトルを保持したオブジェクトを返します。
Matrix::EigenvalueDecomposition は to_ary を定義しているため、
多重代入によって3つの行列(右固有ベクトル、固有値行列、左固有ベクトル)
を得ることができます。
これを [V, D, W] と書くと、
(元の行列が対角化可能ならば)、
D は対角行列で、 self == V*D*W, V = W.inverse を満たします。
D のそれぞれの対角成分が行列の固有値です。
//emlist[例][ruby]{
require 'matrix'
m = Matrix[[1, 2], [... -
Rational
# ceil(precision = 0) -> Integer | Rational (619.0) -
自身と等しいかより大きな整数のうち最小のものを返します。
自身と等しいかより大きな整数のうち最小のものを返します。
@param precision 計算結果の精度
@raise TypeError precision に整数以外のものを指定すると発生します。
//emlist[例][ruby]{
Rational(3).ceil # => 3
Rational(2, 3).ceil # => 1
Rational(-3, 2).ceil # => -1
//}
precision を指定した場合は指定した桁数の数値と、上述の性質に最も近い整
数か Rational を返します。
//emlist[例][ruby]{
Ra... -
Rational
# floor(precision = 0) -> Integer | Rational (619.0) -
自身と等しいかより小さな整数のうち最大のものを返します。
自身と等しいかより小さな整数のうち最大のものを返します。
@param precision 計算結果の精度
@raise TypeError precision に整数以外のものを指定すると発生します。
//emlist[例][ruby]{
Rational(3).floor # => 3
Rational(2, 3).floor # => 0
Rational(-3, 2).floor # => -2
//}
Rational#to_i とは違う結果を返す事に注意してください。
//emlist[例][ruby]{
Rational(+7, 4).to_i # => ...