84件ヒット
[1-84件を表示]
(0.087秒)
ライブラリ
- bigdecimal (72)
- matrix (12)
クラス
- BigDecimal (72)
- Matrix (12)
検索結果
先頭5件
-
BigDecimal
# nan? -> bool (23118.0) -
self が NaN のときに true を返します。それ以外のときに false を返します。
...self が NaN のときに true を返します。それ以外のときに false を返します。... -
BigDecimal
# sign -> -3 | -2 | -1 | 0 | 1 | 2 | 3 (17139.0) -
自身の符号等の性質に応じて、Integer を返します。
...れば負の整数を返し、NaN であれば 0 を返します。
NaN であれば、 0。 BigDecimal::SIGN_NaN と同じです。
+0 であれば、 1。 BigDecimal::SIGN_POSITIVE_ZERO と同じです。
-0 であれば、-1。 BigDecimal::SIGN_NEGATIVE_ZERO と同......ば、 2。 BigDecimal::SIGN_POSITIVE_FINITE と同じです。
有限の負の値 であれば、-2。 BigDecimal::SIGN_NEGATIVE_FINITE と同じです。
+Infinity であれば、 3。 BigDecimal::SIGN_POSITIVE_INFINITE と同じです。
-Infinity であれば、-3。 BigDecimal::SIGN_NEG......です。
BigDecimal は、 0 であっても、+ か - の符号を持つことに注意して下さい。
(「lib:bigdecimal#internal_structure」を参照)
//emlist[][ruby]{
require "bigdecimal"
p BigDecimal("NaN").sign # => 0
p BigDecimal("0").sign # => 1
p BigDecimal("100").s... -
BigDecimal
# split -> [Integer , String , Integer , Integer] (17051.0) -
BigDecimal 値を 0.xxxxxxx*10**n と表現したときに、 符号 (NaNのときは 0、それ以外は+1か-1になります)、 仮数部分の文字列("xxxxxxx")と、基数(10)、更に指数 n を配列で返します。
...
BigDecimal 値を 0.xxxxxxx*10**n と表現したときに、
符号 (NaNのときは 0、それ以外は+1か-1になります)、
仮数部分の文字列("xxxxxxx")と、基数(10)、更に指数 n を配列で返します。
//emlist[][ruby]{
require "bigdecimal"
a = BigDecimal("3.14159265")
f......, x, y, z = a.split
//}
とすると、f = 1、x = "314159265"、y = 10、z = 1 になります。
従って、以下のようにする事で Float に変換することができます。
//emlist[][ruby]{
s = "0."+x
b = f*(s.to_f)*(y**z)
//}
@see BigDecimal#to_f... -
BigDecimal
# finite? -> bool (17017.0) -
self が ∞または NaN でないときに true を返します。それ以外のときに false を返します。
...self が ∞または NaN でないときに true を返します。それ以外のときに
false を返します。... -
BigDecimal
# to _ i -> Integer (17007.0) -
self の小数点以下を切り捨てて整数に変換します。
...self の小数点以下を切り捨てて整数に変換します。
@raise FloatDomainError self が無限大や NaN であった場合に発生します。... -
BigDecimal
# to _ int -> Integer (17007.0) -
self の小数点以下を切り捨てて整数に変換します。
...self の小数点以下を切り捨てて整数に変換します。
@raise FloatDomainError self が無限大や NaN であった場合に発生します。... -
Matrix
# determinant -> Numeric (3107.0) -
行列式 (determinant) の値を返します。
...行列式 (determinant) の値を返します。
Float を使用すると、精度が不足するため、誤った結果が生じる可能性があることに注意してください。
代わりに、Rational や BigDecimal などの正確なオブジェクトを使用することを検討し...