212件ヒット
[1-100件を表示]
（0.029秒）
:![[x]](/images/drop-condition-icon.png "条件を削除"){kind=icon}
種類
- インスタンスメソッド (144)
- 文書 (44)
- ライブラリ (12)
- モジュール関数 (12)
ライブラリ
- ビルトイン (36)
- bigdecimal (84)
-
bigdecimal
/ jacobian (12) - matrix (24)
クラス
- BigDecimal (84)
- Integer (36)
- Matrix (24)
モジュール
- Jacobian (12)
キーワード
- % (12)
- ** (12)
-
/ (12) -
1
. 6 . 8から1 . 8 . 0への変更点(まとめ) (12) -
NEWS for Ruby 2
. 5 . 0 (8) -
NEWS for Ruby 2
. 6 . 0 (7) -
NEWS for Ruby 3
. 0 . 0 (5) - Ruby用語集 (12)
- coerce (12)
- det (12)
- determinant (12)
- div (12)
- jacobian (12)
- modulo (12)
- pow (24)
- quo (12)
- remainder (12)
検索結果
先頭5件
-
bigdecimal (38604.0)
-
bigdecimal は浮動小数点数演算ライブラリです。 任意の精度で 10 進表現された浮動小数点数を扱えます。
...bigdecimal は浮動小数点数演算ライブラリです。
任意の精度で 10 進表現された浮動小数点数を扱えます。
//emlist[][ruby]{
require 'bigdecimal'
a = BigDecimal("0.123456789123456789")
b = BigDecimal("123456.78912345678", 40)
print a + b # => 0.123456912580245903456......字列は (通常) 数値に自動変換することはできません。
文字列を数値に自動変換したい場合は bigdecimal.c の
「/* #define ENABLE_NUMERIC_STRING */」のコメントを外してから、
再コンパイル、再インストールする必要があります。
文字......ん。
"10XX"なら 10、"XXXX"は 0 と扱われます。
//emlist[][ruby]{
require "bigdecimal"
require "bigdecimal/math"
a = BigMath.E(20)
c = a * "0.123456789123456789123456789" # 文字列を BigDecimal に変換してから計算
//}
無限大や非数を表す文字列として、
"Infin... -
BigDecimal
# %(n) -> BigDecimal (17144.0) -
self を n で割った余りを返します。
...e 'bigdecimal'
x = BigDecimal((2**100).to_s)
( x % 3).to_i # => 1
(-x % 3).to_i # => 2
( x % -3).to_i # => -2
(-x % -3).to_i # => -1
//}
戻り値は n と同じ符号になります。これは BigDecimal#remainder とは
異なる点に注意してください。詳細は Numeric#%、
Numeric#r... -
BigDecimal
# modulo(n) -> BigDecimal (17144.0) -
self を n で割った余りを返します。
...e 'bigdecimal'
x = BigDecimal((2**100).to_s)
( x % 3).to_i # => 1
(-x % 3).to_i # => 2
( x % -3).to_i # => -2
(-x % -3).to_i # => -1
//}
戻り値は n と同じ符号になります。これは BigDecimal#remainder とは
異なる点に注意してください。詳細は Numeric#%、
Numeric#r... -
BigDecimal
# remainder(n) -> BigDecimal (17143.0) -
self を n で割った余りを返します。
...//emlist[][ruby]{
require 'bigdecimal'
x = BigDecimal((2**100).to_s)
x.remainder(3).to_i # => 1
(-x).remainder(3).to_i # => -1
x.remainder(-3).to_i # => 1
(-x).remainder(-3).to_i # => -1
//}
戻り値は self と同じ符号になります。これは BigDecimal#% とは異な
る点に注......意してください。詳細は Numeric#%、
Numeric#remainder を参照して下さい。... -
BigDecimal
# / (other) -> BigDecimal (17121.0) -
商を計算します。
...商を計算します。
@param other self を割る数を指定します。
詳細は Numeric#quo を参照して下さい。
計算結果の精度についてはlib:bigdecimal#precisionを参照してください。... -
BigDecimal
# div(other) -> BigDecimal (17121.0) -
商を計算します。
...商を計算します。
@param other self を割る数を指定します。
詳細は Numeric#quo を参照して下さい。
計算結果の精度についてはlib:bigdecimal#precisionを参照してください。... -
BigDecimal
# quo(other) -> BigDecimal (17121.0) -
商を計算します。
...商を計算します。
@param other self を割る数を指定します。
詳細は Numeric#quo を参照して下さい。
計算結果の精度についてはlib:bigdecimal#precisionを参照してください。... -
BigDecimal
# coerce(other) -> Array (17048.0) -
self と other が同じクラスになるよう、self か other を変換し [other, self] という配列にして返します。
...ェクト
BigDecimal#coerce は Ruby における強制型変換のための機能です。
BigDecimal オブジェクトとその他のオブジェクト間の各種の計算は
BigDecimal#coerce の結果を元に行われます。
//emlist[][ruby]{
require "bigdecimal"
a = BigDecimal("1.0")
b =......lf の有効桁数を
用いて変換を行います。
数値を表す文字列から BigDecimal オブジェクトに変換する機能はデフォ
ルトでは無効になっています。必要な場合は ENABLE_NUMERIC_STRING を有効に
して Ruby をコンパイルしてください。... -
Integer
# **(other) -> Numeric (210.0) -
算術演算子。冪(べき乗)を計算します。
...になりそうなとき、警告を出したうえで Float::INFINITY を返します。
//emlist[計算を放棄して Float::INFINITY を返す例][ruby]{
p 100**9999999
# => warning: in a**b, b may be too big
# Infinity
//}
判定の閾値は変わりえます。
@see BigDecimal#power......> -3
5.pow(2, -8) # => -7
//}
計算結果が巨大すぎるときは ArgumentError が発生します。
//emlist[計算結果が巨大すぎる例][ruby]{
p 100**9999999999999999999
# => exponent is too large (ArgumentError)
//}
判定の閾値は変わりえます。
@see BigDecimal#power...