132件ヒット
[1-100件を表示]
（0.022秒）
:![[x]](/images/drop-condition-icon.png "条件を削除"){kind=icon}
:インスタンスメソッドライブラリ
- ビルトイン (33)
- bigdecimal (77)
- matrix (22)
クラス
- BigDecimal (77)
- Integer (33)
- Matrix (22)
検索結果
先頭5件
-
BigDecimal
# %(n) -> BigDecimal (17133.0) -
self を n で割った余りを返します。
...e 'bigdecimal'
x = BigDecimal((2**100).to_s)
( x % 3).to_i # => 1
(-x % 3).to_i # => 2
( x % -3).to_i # => -2
(-x % -3).to_i # => -1
//}
戻り値は n と同じ符号になります。これは BigDecimal#remainder とは
異なる点に注意してください。詳細は Numeric#%、
Numeric#r... -
BigDecimal
# modulo(n) -> BigDecimal (17133.0) -
self を n で割った余りを返します。
...e 'bigdecimal'
x = BigDecimal((2**100).to_s)
( x % 3).to_i # => 1
(-x % 3).to_i # => 2
( x % -3).to_i # => -2
(-x % -3).to_i # => -1
//}
戻り値は n と同じ符号になります。これは BigDecimal#remainder とは
異なる点に注意してください。詳細は Numeric#%、
Numeric#r... -
BigDecimal
# remainder(n) -> BigDecimal (17132.0) -
self を n で割った余りを返します。
...//emlist[][ruby]{
require 'bigdecimal'
x = BigDecimal((2**100).to_s)
x.remainder(3).to_i # => 1
(-x).remainder(3).to_i # => -1
x.remainder(-3).to_i # => 1
(-x).remainder(-3).to_i # => -1
//}
戻り値は self と同じ符号になります。これは BigDecimal#% とは異な
る点に注......意してください。詳細は Numeric#%、
Numeric#remainder を参照して下さい。... -
BigDecimal
# / (other) -> BigDecimal (17116.0) -
商を計算します。
...商を計算します。
@param other self を割る数を指定します。
詳細は Numeric#quo を参照して下さい。
計算結果の精度についてはlib:bigdecimal#precisionを参照してください。... -
BigDecimal
# div(other) -> BigDecimal (17116.0) -
商を計算します。
...商を計算します。
@param other self を割る数を指定します。
詳細は Numeric#quo を参照して下さい。
計算結果の精度についてはlib:bigdecimal#precisionを参照してください。... -
BigDecimal
# quo(other) -> BigDecimal (17116.0) -
商を計算します。
...商を計算します。
@param other self を割る数を指定します。
詳細は Numeric#quo を参照して下さい。
計算結果の精度についてはlib:bigdecimal#precisionを参照してください。... -
BigDecimal
# coerce(other) -> Array (17043.0) -
self と other が同じクラスになるよう、self か other を変換し [other, self] という配列にして返します。
...ェクト
BigDecimal#coerce は Ruby における強制型変換のための機能です。
BigDecimal オブジェクトとその他のオブジェクト間の各種の計算は
BigDecimal#coerce の結果を元に行われます。
//emlist[][ruby]{
require "bigdecimal"
a = BigDecimal("1.0")
b =......lf の有効桁数を
用いて変換を行います。
数値を表す文字列から BigDecimal オブジェクトに変換する機能はデフォ
ルトでは無効になっています。必要な場合は ENABLE_NUMERIC_STRING を有効に
して Ruby をコンパイルしてください。... -
Integer
# **(other) -> Numeric (109.0) -
算術演算子。冪(べき乗)を計算します。
...数になりそうなとき、警告を出したうえで Float::INFINITY を返します。
//emlist[計算を放棄して Float::INFINITY を返す例][ruby]{
p 100**9999999
# => warning: in a**b, b may be too big
# Infinity
//}
判定の閾値は変わりえます。
@see BigDecimal#power... -
Integer
# pow(other) -> Numeric (109.0) -
算術演算子。冪(べき乗)を計算します。
...数になりそうなとき、警告を出したうえで Float::INFINITY を返します。
//emlist[計算を放棄して Float::INFINITY を返す例][ruby]{
p 100**9999999
# => warning: in a**b, b may be too big
# Infinity
//}
判定の閾値は変わりえます。
@see BigDecimal#power... -
Matrix
# det -> Numeric (109.0) -
行列式 (determinant) の値を返します。
...と、精度が不足するため、誤った結果が生じる可能性があることに注意してください。
代わりに、Rational や BigDecimal などの正確なオブジェクトを使用することを検討してください。
@raise ExceptionForMatrix::ErrDimensionMismatch 正方...