検索結果

Numeric#div(other) -> Integer (18131.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3

• インスタンスメソッド

self を other で割った整数の商 q を返します。

...。
div はメソッド / を呼びだし、floorを取ることで計算されます。

メソッド / の定義はサブクラスごとの定義を用います。

@param other 自身を割る数を指定します。

//emlist[例][ruby]{
p 3.div(2) # => 1
p (-3).div(2) # => -2
p (-3.0).div(2) #...

• Numeric

Numeric (54.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3

• クラス

数値を表す抽象クラスです。Integer や Float などの数値クラス は Numeric のサブクラスとして実装されています。

...denominator | o o - - o o o
div | o - o o - - -
divmod | o - o o o - -...

...- - -
fdiv | o - o o o o o
finite? | - - - - o - -
floor | o o - -...

...ッドの動作一覧


Numeric#ceil, Numeric#floor, Numeric#round, Numeric#truncate
のふるまいの違いの表です。左の実数に対して各メソッドを呼ぶと表のような数を
返します。

| ceil floor round truncate
------------------...

...o o
digits | - o - - -
div | o o - - -
divmod | o o o - -
downto | -...

...- o - - -
fdiv | o o o o o
finite? | o - o - o
floor | o o o o -...

• Float
• Integer

bigdecimal (42.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3

• ライブラリ

bigdecimal は浮動小数点数演算ライブラリです。 任意の精度で 10 進表現された浮動小数点数を扱えます。

...す。

: add, sub, mult, div

これらのメソッドは先頭 (最左) の数字からの桁数を指定できます。

//emlist[][ruby]{
require "bigdecimal"
p BigDecimal("2").div(3, 12).to_s(10) # 2.0 / 3.0
# => 0.6666666666 67e0
//}

: truncate, round, ceil, floor

これらのメソッ...

...}

==== 自分で精度をコントロールしたい場合

自分で精度(有効桁数)をコントロールしたい場合は add、sub、mult、div 等のメソッドが使用できます。
以下の円周率を計算するプログラム例のように、求める桁数は自分で指定す...

...exp)
t = t * m25
u = t.div(k,sig)
pi = pi + u
k = k + two
end

u = BigDecimal("1")
k = BigDecimal("1")
w = BigDecimal("1")
t = BigDecimal("956")
while (u.nonzero? && u.exponent >= exp )
t = t.div(m57121,sig)
u = t.div(k,sig)
pi = pi + u
k =...

• BigDecimal
• BigMath
• bigdecimal/jacobian
• bigdecimal/ludcmp
• bigdecimal/math
• bigdecimal/newton
• bigdecimal/util

BigDecimal.mode(s) -> Integer | nil (24.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3

• 特異メソッド

BigDecimal の計算処理の制御方法を設定、確認します。

...:mode(BigDecimal::EXCEPTION_UNDERFLOW,flag)
f = BigDecimal::mode(BigDecimal::EXCEPTION_OVERFLOW,flag)
f = BigDecimal::mode(BigDecimal::EXCEPTION_ZERODIVIDE,flag)
f = BigDecimal::mode(BigDecimal::EXCEPTION_ALL,flag)
//}

* BigDecimal::EXCEPTION_NaN は結果が NaN になったときの指定です...

...指定です。
* BigDecimal::EXCEPTION_OVERFLOW は指数部がオーバーフローするときの指定です。
* BigDecimal::EXCEPTION_ZERODIVIDE はゼロによる割り算を実行したときの指定です。
* BigDecimal::EXCEPTION_ALL は、可能な全てに対して一括して設...

...ker's rounding)。
* BigDecimal::ROUND_CEILING 数値の大きい方に繰り上げます(ceil)。
* BigDecimal::ROUND_FLOOR 数値の小さい方に繰り下げます(floor)。

戻り値は指定後の flag の値です。第2引数に nil を指定すると、現状の設定値が返ります...

• BigDecimal

BigDecimal.mode(s, v) -> Integer | nil (24.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3

• 特異メソッド

BigDecimal の計算処理の制御方法を設定、確認します。

...:mode(BigDecimal::EXCEPTION_UNDERFLOW,flag)
f = BigDecimal::mode(BigDecimal::EXCEPTION_OVERFLOW,flag)
f = BigDecimal::mode(BigDecimal::EXCEPTION_ZERODIVIDE,flag)
f = BigDecimal::mode(BigDecimal::EXCEPTION_ALL,flag)
//}

* BigDecimal::EXCEPTION_NaN は結果が NaN になったときの指定です...

...指定です。
* BigDecimal::EXCEPTION_OVERFLOW は指数部がオーバーフローするときの指定です。
* BigDecimal::EXCEPTION_ZERODIVIDE はゼロによる割り算を実行したときの指定です。
* BigDecimal::EXCEPTION_ALL は、可能な全てに対して一括して設...

...ker's rounding)。
* BigDecimal::ROUND_CEILING 数値の大きい方に繰り上げます(ceil)。
* BigDecimal::ROUND_FLOOR 数値の小さい方に繰り下げます(floor)。

戻り値は指定後の flag の値です。第2引数に nil を指定すると、現状の設定値が返ります...

• BigDecimal

絞り込み条件を変える

BigDecimal.limit(n = nil) -> Integer (12.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3

• 特異メソッド

生成されるBigDecimalオブジェクトの最大桁数をn桁に制限します。 n を指定しない、または n が nil の場合は、現状の最大桁数が返ります。

...ただし、インスタンスメソッド (BigDecimal#truncate /
BigDecimal#round / BigDecimal#ceil / BigDecimal#floor /
BigDecimal#add/ BigDecimal#sub / BigDecimal#mult /
BigDecimal#div) の桁数制限は limit より優先されます。

//emlist[][ruby]{
require 'bigdecimal'
n = 0 # デフォ...

• BigDecimal