るりまサーチ

最速Rubyリファレンスマニュアル検索!
3882件ヒット [3801-3882件を表示] (0.096秒)
トップページ > クエリ:n[x] > クエリ:BASE[x]

別のキーワード

  1. etc sc_xopen_enh_i18n
  2. rsa n=
  3. rsa n
  4. pop n_mails
  5. pop n_bytes

ライブラリ

モジュール

キーワード

検索結果

<< < ... 37 38 39 >>

Etc::SC_V6_LP64_OFF64 -> Integer (102.0)

Etc.#sysconf の引数に指定します。

...Etc.#sysconf の引数に指定します。

詳細は sysconf(3) を参照してください。...

Etc::SC_V6_LPBIG_OFFBIG -> Integer (102.0)

Etc.#sysconf の引数に指定します。

...Etc.#sysconf の引数に指定します。

詳細は sysconf(3) を参照してください。...

Etc::SC_V7_ILP32_OFF32 -> Integer (102.0)

Etc.#sysconf の引数に指定します。

...Etc.#sysconf の引数に指定します。

詳細は sysconf(3) を参照してください。...

Etc::SC_V7_ILP32_OFFBIG -> Integer (102.0)

Etc.#sysconf の引数に指定します。

...Etc.#sysconf の引数に指定します。

詳細は sysconf(3) を参照してください。...

Etc::SC_V7_LP64_OFF64 -> Integer (102.0)

Etc.#sysconf の引数に指定します。

...Etc.#sysconf の引数に指定します。

詳細は sysconf(3) を参照してください。...

絞り込み条件を変える

Etc::SC_V7_LPBIG_OFFBIG -> Integer (102.0)

Etc.#sysconf の引数に指定します。

...Etc.#sysconf の引数に指定します。

詳細は sysconf(3) を参照してください。...

bigdecimal (78.0)

bigdecimal は浮動小数点数演算ライブラリです。 任意の精度で 10 進表現された浮動小数点数を扱えます。

...点数を扱えます。

//emlist[][ruby]{
require 'bigdecimal'
a = BigDecimal("0.123456789123456789")
b = BigDecimal("123456.78912345678", 40)
print a + b # => 0.123456912580245903456789e6
//}

一般的な 10 進数の計算でも有用です。2 進数の浮動小数点演算には微小な誤...
...[ruby]{
sum = 0
for i in (1..10000)
sum = sum + 0.0001
end
print sum # => 0.9999999999999062
//}

//emlist[例2: 0.0001 を 10000 回足す場合。(BigDecimal)][ruby]{
require 'bigdecimal'

sum = BigDecimal("0")
for i in (1..10000)
sum = sum + BigDecimal("0.0001")
end
print sum # => 0.1e1
//}...
...仮数部は unsigned long の配列 (以下の構造体要素 frac) で管理されます。
概念的には、以下のようになります。

<浮動小数点数> = 0.xxxxxxxxx * BASE ** n

ここで、x は仮数部を表す数字、BASE は基数 (10 進表現なら 10)、
n
は指数部を...
<< < ... 37 38 39 >>