66件ヒット
[1-66件を表示]
(0.013秒)
トップページ > :frac
別のキーワード
種類
- インスタンスメソッド (55)
- ライブラリ (11)
ライブラリ
- bigdecimal (11)
- date (22)
- time (22)
クラス
- BigDecimal (11)
- DateTime (22)
- Time (22)
キーワード
- bigdecimal (11)
- iso8601 (11)
-
sec
_ fraction (11) -
second
_ fraction (11) - xmlschema (11)
検索結果
先頭5件
-
BigDecimal
# frac -> BigDecimal (18101.0) -
self の小数部分を新しい BigDecimal オブジェクトにして返します。
self の小数部分を新しい BigDecimal オブジェクトにして返します。 -
DateTime
# sec _ fraction -> Rational (6100.0) -
秒の小数点以下の部分を表す分数を返します。
秒の小数点以下の部分を表す分数を返します。 -
DateTime
# second _ fraction -> Rational (6100.0) -
秒の小数点以下の部分を表す分数を返します。
秒の小数点以下の部分を表す分数を返します。 -
Time
# iso8601(fractional _ seconds = 0) -> String (100.0) -
XML Schema で定義されている dateTime として 表現される形式の文字列を返します。
...として
表現される形式の文字列をパースするためのクラスメソッド
Time.iso8601, Time.xmlschema もあります。
@param fractional_seconds 小数点以下の秒の桁数を整数で指定します。
省略した場合は0 となります。
@r... -
Time
# xmlschema(fractional _ seconds = 0) -> String (100.0) -
XML Schema で定義されている dateTime として 表現される形式の文字列を返します。
...として
表現される形式の文字列をパースするためのクラスメソッド
Time.iso8601, Time.xmlschema もあります。
@param fractional_seconds 小数点以下の秒の桁数を整数で指定します。
省略した場合は0 となります。
@r... -
bigdecimal (72.0)
-
bigdecimal は浮動小数点数演算ライブラリです。 任意の精度で 10 進表現された浮動小数点数を扱えます。
...Decimal内部で浮動小数点は構造体(Real)で表現されます。
そのうち仮数部は unsigned long の配列 (以下の構造体要素 frac) で管理されます。
概念的には、以下のようになります。
<浮動小数点数> = 0.xxxxxxxxx * BASE ** n
ここで、x は......配列 (frac) の各要素には最大で 4 桁の数字が格納されます。
浮動小数点構造体 (Real) は以下のようになっています。
typedef struct {
unsigned long MaxPrec; // 最大精度(frac[]の配列サイズ)
unsigned long Prec; // 精度(frac[]の使用......値(仮数部*BASE**exponent)
unsigned long frac[1]; // 仮数部の配列(可変)
} Real;
例えば BASE=10000 のとき 1234.56784321 という数字は、
0.1234 5678 4321*(10000)**1
ですから frac[0] = 1234、frac[1] = 5678、frac[2] = 4321、
Prec = 3、sign = 2、exponent = 1...