検索結果

BigDecimal#mult(other, n) -> BigDecimal (18107.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3
• 3.4

• インスタンスメソッド

積を計算します。

...積を計算します。

self * other を最大で n 桁まで計算します。計算結果の精度が n より大きい
ときは BigDecimal.mode で指定された方法で丸められます。

@param other self に掛ける数を指定します。

@param n 有効桁数を整数で指定し...

...ます。0 を指定した場合は
BigDecimal#* と同じ値を返します。

@raise ArgumentError n に負の数を指定した場合に発生します。

@see BigDecimal#*...

• BigDecimal

BigDecimal.mode(s) -> Integer | nil (120.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3
• 3.4

• 特異メソッド

BigDecimal の計算処理の制御方法を設定、確認します。

...定、確認を行う項目を BigDecimal::EXCEPTION_*、
BigDecimal::ROUND_MODE のいずれかで指定します。

@param v 引数 s が BigDecimal::ROUND_MODE の場合は
BigDecimal::ROUND_MODE 以外の BigDecimal::_ROUND* のいず
れかを指定します。指定...

.../}

* BigDecimal::EXCEPTION_NaN は結果が NaN になったときの指定です。
* BigDecimal::EXCEPTION_INFINITY は結果が無限大(±Infinity)になったときの指定です。
* BigDecimal::EXCEPTION_UNDERFLOW は指数部がアンダーフローするときの指定です。
*...

...。 mode メソッドでは丸め操作の位置をユーザが指定することはできません。丸め操作と位置を自分で制御したい場合は BigDecimal::limit や truncate/round/ceil/floor、 add/sub/mult/div といったインスタンスメソッドを使用して下さい。...

• BigDecimal

BigDecimal.mode(s, v) -> Integer | nil (120.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3
• 3.4

• 特異メソッド

BigDecimal の計算処理の制御方法を設定、確認します。

...定、確認を行う項目を BigDecimal::EXCEPTION_*、
BigDecimal::ROUND_MODE のいずれかで指定します。

@param v 引数 s が BigDecimal::ROUND_MODE の場合は
BigDecimal::ROUND_MODE 以外の BigDecimal::_ROUND* のいず
れかを指定します。指定...

.../}

* BigDecimal::EXCEPTION_NaN は結果が NaN になったときの指定です。
* BigDecimal::EXCEPTION_INFINITY は結果が無限大(±Infinity)になったときの指定です。
* BigDecimal::EXCEPTION_UNDERFLOW は指数部がアンダーフローするときの指定です。
*...

...。 mode メソッドでは丸め操作の位置をユーザが指定することはできません。丸め操作と位置を自分で制御したい場合は BigDecimal::limit や truncate/round/ceil/floor、 add/sub/mult/div といったインスタンスメソッドを使用して下さい。...

• BigDecimal

bigdecimal (90.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3
• 3.4

• ライブラリ

bigdecimal は浮動小数点数演算ライブラリです。 任意の精度で 10 進表現された浮動小数点数を扱えます。

...常) 数値に自動変換することはできません。
文字列を数値に自動変換したい場合は bigdecimal.c の
「/* #define ENABLE_NUMERIC_STRING */」のコメントを外してから、
再コンパイル、再インストールする必要があります。
文字列で数値...

...ん。
"10XX"なら 10、"XXXX"は 0 と扱われます。

//emlist[][ruby]{
require "bigdecimal"
require "bigdecimal/math"

a = BigMath.E(20)
c = a * "0.123456789123456789123456789" # 文字列を BigDecimal に変換してから計算
//}

無限大や非数を表す文字列として、
"Infin...

...に注意して下さい。

注意：「+, -, *, /」では結果の精度(有効桁数)を自分で指定できません。
精度をコントロールしたい場合は、以下のインスタンスメソッドを使用します。

: add, sub, mult, div

これらのメソッドは先頭 (最...

• BigDecimal
• BigMath
• bigdecimal/jacobian
• bigdecimal/ludcmp
• bigdecimal/math
• bigdecimal/newton
• bigdecimal/util