15
【浮動小数点方式の範囲設定について】
NORM1( 初期設定 ) と NORM2 の 2 種類の
浮動小数点方式を設定することができます。
結果がそれぞれ下記の範囲を超える場合は、
指数方式を用いて表示されます。
• NORM1:0.000000001≦|
x
|≦ 9,999,999,999
• NORM2:0.01≦|
x
|≦9,999,999,999
100000 ÷ 3=
[ 浮動小数点 (NORM1)]
j
100000
z
3
=
UU
33
'
333
.
33333
[ 固定小数点 (FIX) で
TAB を 2 に設定 ]
@
J
1
0
2
33
'
333
.
33
[ 指数 (SCI) で
SIG を 2 に指定 ]
@
J
1
1
2
3
.
3
b
04
[ 工学的指数 (ENG) で
TAB を 2 に指定 ]
@
J
1
2
2
33
.
33
b
03
[ 浮動小数点 (NORM1)]
@
J
1
3
33
'
333
.
33333
3 ÷1000=
[ 浮動小数点 (NORM1)]
j
3
z
1000
=
U
0
.
003
[ 浮動小数点 (NORM2)]
@
J
1
4
3
.
b
-
03
[ 浮動小数点 (NORM1)]
@
J
1
3
0
.
003
Summary of Contents for EL-5160S
Page 1: ......
Page 111: ...110 メ モ ...
Page 184: ...E 73 MEMO ...
Page 185: ...E 74 MEMO ...
Page 186: ...E 75 MEMO MEMO ...
Page 187: ...E 76 ...
Page 188: ......