7件ヒット
[1-7件を表示]
（0.110秒）
:![[x]](/images/drop-condition-icon.png "条件を削除"){kind=icon}
:
:ライブラリ
- bigdecimal (6)
- matrix (1)
クラス
- BigDecimal (6)
- Matrix (1)
検索結果
先頭5件
-
BigDecimal
# nan? -> bool (69355.0) -
self が NaN のときに true を返します。それ以外のときに false を返します。
self が NaN のときに true を返します。それ以外のときに false を返します。 -
BigDecimal
# sign -> -3 | -2 | -1 | 0 | 1 | 2 | 3 (51418.0) -
自身の符号等の性質に応じて、Integer を返します。
自身の符号等の性質に応じて、Integer を返します。
符号が正であれば正の整数を返し、負であれば負の整数を返し、NaN であれば 0 を返します。
NaN であれば、 0。 BigDecimal::SIGN_NaN と同じです。
+0 であれば、 1。 BigDecimal::SIGN_POSITIVE_ZERO と同じです。
-0 であれば、-1。 BigDecimal::SIGN_NEGATIVE_ZERO と同じです。
有限の正の値 であれば、 2。 BigDecimal::SIGN_POSITIVE_FINITE ... -
BigDecimal
# split -> [Integer , String , Integer , Integer] (51154.0) -
BigDecimal 値を 0.xxxxxxx*10**n と表現したときに、 符号 (NaNのときは 0、それ以外は+1か-1になります)、 仮数部分の文字列("xxxxxxx")と、基数(10)、更に指数 n を配列で返します。
BigDecimal 値を 0.xxxxxxx*10**n と表現したときに、
符号 (NaNのときは 0、それ以外は+1か-1になります)、
仮数部分の文字列("xxxxxxx")と、基数(10)、更に指数 n を配列で返します。
//emlist[][ruby]{
require "bigdecimal"
a = BigDecimal("3.14159265")
f, x, y, z = a.split
//}
とすると、f = 1、x = "314159265"、y = 10、z = 1 になります。
従って、以下のようにする事で Float に変換することができます。
//em... -
BigDecimal
# finite? -> bool (51052.0) -
self が ∞または NaN でないときに true を返します。それ以外のときに false を返します。
self が ∞または NaN でないときに true を返します。それ以外のときに
false を返します。 -
BigDecimal
# to _ i -> Integer (51022.0) -
self の小数点以下を切り捨てて整数に変換します。
self の小数点以下を切り捨てて整数に変換します。
@raise FloatDomainError self が無限大や NaN であった場合に発生します。 -
BigDecimal
# to _ int -> Integer (51022.0) -
self の小数点以下を切り捨てて整数に変換します。
self の小数点以下を切り捨てて整数に変換します。
@raise FloatDomainError self が無限大や NaN であった場合に発生します。 -
Matrix
# determinant -> Numeric (9322.0) -
行列式 (determinant) の値を返します。
行列式 (determinant) の値を返します。
Float を使用すると、精度が不足するため、誤った結果が生じる可能性があることに注意してください。
代わりに、Rational や BigDecimal などの正確なオブジェクトを使用することを検討してください。
@raise ExceptionForMatrix::ErrDimensionMismatch 正方行列でない場合に発生します
//emlist[例][ruby]{
require 'matrix'
p Matrix[[2, 1], [-1, 2]].det #=> 5
p Matrix[[2.0, 1...