Handle rounding of denorms correctly; make fp overflow a warning
[nasm.git] / test / floatx.asm
blobdd6f5118527d56849c84cdd9d4a18dba9001d02c
2 ; floatx.asm
4 ; Test hexadecimal floating-point numbers
6 %define Inf __Infinity__
7 %define NaN __QNaN__
9 ; 16-bit
10 dw 1.0
11 dw 0x1.0
12 dw 2.0
13 dw 0x2.0
14 dw 0x1.0p+1
15 dw 0x1.0p-1
16 dw 0x0.0
17 dw 0x1.23456789
18 dw 0x0.123456789
19 dw 0x0.0000123456789
20 dw 0x1.23456789p10
21 dw 0x1.23456789p+10
22 dw 0x1.23456789p-10
23 dw 0x0.123456789p10
24 dw 0x0.123456789p+10
25 dw 0x0.123456789abcdef0123456789abcdef012345p-10
26 dw 0x0.0000123456789
27 dw 0x0.0000123456789p+10
28 dw 0x0.0000123456789p-10
29 dw 0x1.0p-25 ; Underflow
30 dw 0x1.0p-24 ; Smallest denorm
31 dw 0x1.ffffffffffffffffffffffffffffp-16 ; Rounds to denorm
32 dw 0x1.0p-15 ; Denorm
33 dw 0x1.ffffffffffffffffffffffffffffp-15 ; Rounds to normal
34 dw 0x1.0p-14 ; Smallest non-denorm
35 dw 0x1.0p+15 ; Biggest possible exponent
36 dw 0x1.ffffffffffffffffffffffffffffp+15 ; Rounds to infinity
37 dw Inf ; Infinity
38 dw NaN
40 ; 32-bit
41 dd 1.0
42 dd 0x1.0
43 dd 2.0
44 dd 0x2.0
45 dd 0x1.0p+1
46 dd 0x1.0p-1
47 dd 0x0.0
48 dd 0x1.23456789
49 dd 0x0.123456789
50 dd 0x0.0000123456789
51 dd 0x1.23456789p10
52 dd 0x1.23456789p+10
53 dd 0x1.23456789p-10
54 dd 0x0.123456789p10
55 dd 0x0.123456789p+10
56 dd 0x0.123456789abcdef0123456789abcdef012345p-10
57 dd 0x0.0000123456789
58 dd 0x0.0000123456789p+10
59 dd 0x0.0000123456789p-10
60 dd 0x123456789.0
61 dd 0x0000123456789.0
62 dd 0x123456789.0p+0
63 dd 0x123456789.0p+64
64 dd 0x1.0p-150 ; Underflow
65 dd 0x1.0p-149 ; Smallest denorm
66 dd 0x1.ffffffffffffffffffffffffffffp-128 ; Rounds to denorm
67 dd 0x1.0p-127 ; Denorm
68 dd 0x1.ffffffffffffffffffffffffffffp-127 ; Rounds to normal
69 dd 0x1.0p-126 ; Smallest non-denorm
70 dd 0x1.0p+127 ; Biggest possible exponent
71 dd 0x1.ffffffffffffffffffffffffffffp+127 ; Rounds to infinity
72 dd Inf ; Infinity
73 dd NaN
75 ; 64-bit
76 dq 1.0
77 dq 0x1.0
78 dq 2.0
79 dq 0x2.0
80 dq 0x1.0p+1
81 dq 0x1.0p-1
82 dq 0x0.0
83 dq 0x1.23456789
84 dq 0x0.123456789
85 dq 0x0.0000123456789
86 dq 0x1.23456789p10
87 dq 0x1.23456789p+10
88 dq 0x1.23456789p-10
89 dq 0x0.123456789p10
90 dq 0x0.123456789p+10
91 dq 0x0.123456789abcdef0123456789abcdef012345p-10
92 dq 0x0.0000123456789
93 dq 0x0.0000123456789p+10
94 dq 0x0.0000123456789p-10
95 dq 0x123456789.0
96 dq 0x0000123456789.0
97 dq 0x123456789.0p+0
98 dq 0x123456789.0p+300
99 dq 0x1.0p-1075 ; Underflow
100 dq 0x1.0p-1074 ; Smallest denorm
101 dq 0x1.ffffffffffffffffffffffffffffp-1024 ; Rounds to denorm
102 dq 0x1.0p-1023 ; Denorm
103 dq 0x1.ffffffffffffffffffffffffffffp-1023 ; Rounds to normal
104 dq 0x1.0p-1022 ; Smallest non-denorm
105 dq 0x1.0p+1023 ; Biggest possible exponent
106 dq 0x1.ffffffffffffffffffffffffffffp+1023 ; Rounds to infinity
107 dq Inf ; Infinity
108 dq NaN
110 ; 80-bit
111 dt 1.0
112 dt 0x1.0
113 dt 2.0
114 dt 0x2.0
115 dt 0x1.0p+1
116 dt 0x1.0p-1
117 dt 0x0.0
118 dt 0x1.23456789
119 dt 0x0.123456789
120 dt 0x0.0000123456789
121 dt 0x1.23456789p10
122 dt 0x1.23456789p+10
123 dt 0x1.23456789p-10
124 dt 0x0.123456789p10
125 dt 0x0.123456789p+10
126 dt 0x0.123456789abcdef0123456789abcdef012345p-10
127 dt 0x0.0000123456789
128 dt 0x0.0000123456789p+10
129 dt 0x0.0000123456789p-10
130 dt 0x123456789.0
131 dt 0x0000123456789.0
132 dt 0x123456789.0p+0
133 dt 0x123456789.0p+1024
134 dt 0x1.0p-16446 ; Underflow
135 dt 0x1.0p-16445 ; Smallest denorm
136 dt 0x1.ffffffffffffffffffffffffffffp-16384 ; Rounds to denorm
137 dt 0x1.0p-16383 ; Denorm
138 dt 0x1.ffffffffffffffffffffffffffffp-16383 ; Rounds to normal
139 dt 0x1.0p-16382 ; Smallest non-denorm
140 dt 0x1.0p+16383 ; Biggest possible exponent
141 dq 0x1.ffffffffffffffffffffffffffffp+16383 ; Rounds to infinity
142 dt Inf ; Infinity
143 dt NaN
145 ; 128-bit
146 do 1.0
147 do 0x1.0
148 do 2.0
149 do 0x2.0
150 do 0x1.0p+1
151 do 0x1.0p-1
152 do 0x0.0
153 do 0x1.23456789
154 do 0x0.123456789
155 do 0x0.0000123456789
156 do 0x1.23456789p10
157 do 0x1.23456789p+10
158 do 0x1.23456789p-10
159 do 0x0.123456789p10
160 do 0x0.123456789p+10
161 do 0x0.123456789abcdef0123456789abcdef012345p-10
162 do 0x0.0000123456789
163 do 0x0.0000123456789p+10
164 do 0x0.0000123456789p-10
165 do 0x123456789.0
166 do 0x0000123456789.0
167 do 0x123456789.0p+0
168 do 0x123456789.0p+1024
169 do 0x1.0p-16495 ; Underflow
170 do 0x1.0p-16494 ; Smallest denorm
171 do 0x1.ffffffffffffffffffffffffffffffffp-16384 ; Rounds to denorm
172 do 0x1.0p-16383 ; Denorm
173 do 0x1.ffffffffffffffffffffffffffffffffp-16383 ; Rounds to normal
174 do 0x1.0p-16382 ; Smallest non-denorm
175 do 0x1.0p+16383 ; Biggest possible exponent
176 do 0x1.ffffffffffffffffffffffffffffffffp+16383 ; Rounds to infinity
177 do Inf ; Infinity
178 do NaN