fx-JP500取説の例をDM42でやってみる⑤

| コメント(0) | トラックバック(0)

関数計算

円周率π

\(\pi=3.14159254\)(内部では\(\pi=3.14159265358980\))


\(\pi\)を表示してみます。

[][\(\pi\)]

20180809-21000583.bmp

DM42では、表示上\(\pi=3.14159265359\)と表示されますが、

[][SHOW]

20180809-21000871.bmp

内部では、\(\pi=3.141592653589793238462643383279503\)を使用しているようです。


自然対数の底\(e\)

\(e=2.718281828\)(内部では\(e=2.71828182845904\))


\(e\)を表示してみます。(\(e^{1}\)を表示)

[1][][\(e^{x}\)][][SHOW]

20180809-21003456.bmp 20180809-21003825.bmp

DM42では、表示上\(e=2.71828182846\)と表示されますが、内部では\(e=2.71828182845235360287471352662\)を使用しているようです。

DM42は内部で保持している桁が多いためより正確な計算結果を求める事ができるかと思います。

つづく

トラックバック(0)

トラックバックURL: http://taku.oops.jp/mt7/mt/mt-tb.cgi/14

コメントする

2018年8月

      1 2 3 4
5 6 7 8 9 10 11
12 13 14 15 16 17 18
19 20 21 22 23 24 25
26 27 28 29 30 31  

カテゴリ

ウェブページ

Powered by Movable Type 7.0.1

この記事について

このページは、gpsmanが2018年8月29日 00:53に書いた記事です。

ひとつ前の記事は「DM42 Firmwareアップデートしてみた」です。

最近のコンテンツはインデックスページで見られます。過去に書かれたものはアーカイブのページで見られます。