るりまサーチ

最速Rubyリファレンスマニュアル検索!
12件ヒット [1-12件を表示] (0.009秒)

別のキーワード

  1. _builtin floatdomainerror
  2. floatdomainerror bignum
  3. floatdomainerror _builtin

ライブラリ

検索結果

BigMath.#sqrt(x, prec) -> BigDecimal (7.0)

x の平方根を prec で指定した精度で計算します。

...算結果の精度。

@raise FloatDomainError x に 0 以下、もしくは NaN が指定された場合に発生します。

@raise ArgumentError prec に 0 未満が指定された場合に発生します。

//emlist[][ruby]{
require "bigdecimal/math"

puts BigMath::sqrt(BigDecimal('2'), 10) #=...