Update decimal test data to the most recent set from Mike Cowlishaw.
[python.git] / Lib / test / decimaltestdata / ddScaleB.decTest
blob6ba3e3976f8fcbb5d50b8a2d220b902d815f452e
1 ------------------------------------------------------------------------\r
2 -- ddScalebB.decTest -- scale a decDouble by powers of 10             --\r
3 -- Copyright (c) IBM Corporation, 1981, 2008.  All rights reserved.   --\r
4 ------------------------------------------------------------------------\r
5 -- Please see the document "General Decimal Arithmetic Testcases"     --\r
6 -- at http://www2.hursley.ibm.com/decimal for the description of      --\r
7 -- these testcases.                                                   --\r
8 --                                                                    --\r
9 -- These testcases are experimental ('beta' versions), and they       --\r
10 -- may contain errors.  They are offered on an as-is basis.  In       --\r
11 -- particular, achieving the same results as the tests here is not    --\r
12 -- a guarantee that an implementation complies with any Standard      --\r
13 -- or specification.  The tests are not exhaustive.                   --\r
14 --                                                                    --\r
15 -- Please send comments, suggestions, and corrections to the author:  --\r
16 --   Mike Cowlishaw, IBM Fellow                                       --\r
17 --   IBM UK, PO Box 31, Birmingham Road, Warwick CV34 5JL, UK         --\r
18 --   mfc@uk.ibm.com                                                   --\r
19 ------------------------------------------------------------------------\r
20 version: 2.59\r
22 precision:   16\r
23 maxExponent: 384\r
24 minExponent: -383\r
25 extended:    1\r
26 clamp:       1\r
27 rounding:    half_even\r
29 -- Max |rhs| is 2*(384+16) = 800\r
31 -- Sanity checks\r
32 ddscb001 scaleb       7.50   10 -> 7.50E+10\r
33 ddscb002 scaleb       7.50    3 -> 7.50E+3\r
34 ddscb003 scaleb       7.50    2 -> 750\r
35 ddscb004 scaleb       7.50    1 -> 75.0\r
36 ddscb005 scaleb       7.50    0 -> 7.50\r
37 ddscb006 scaleb       7.50   -1 -> 0.750\r
38 ddscb007 scaleb       7.50   -2 -> 0.0750\r
39 ddscb008 scaleb       7.50  -10 -> 7.50E-10\r
40 ddscb009 scaleb      -7.50    3 -> -7.50E+3\r
41 ddscb010 scaleb      -7.50    2 -> -750\r
42 ddscb011 scaleb      -7.50    1 -> -75.0\r
43 ddscb012 scaleb      -7.50    0 -> -7.50\r
44 ddscb013 scaleb      -7.50   -1 -> -0.750\r
46 -- Infinities\r
47 ddscb014 scaleb  Infinity   1 -> Infinity\r
48 ddscb015 scaleb  -Infinity  2 -> -Infinity\r
49 ddscb016 scaleb  Infinity  -1 -> Infinity\r
50 ddscb017 scaleb  -Infinity -2 -> -Infinity\r
52 -- Next two are somewhat undefined in 754r; treat as non-integer\r
53 ddscb018 scaleb  10  Infinity -> NaN Invalid_operation\r
54 ddscb019 scaleb  10 -Infinity -> NaN Invalid_operation\r
56 -- NaNs are undefined in 754r; assume usual processing\r
57 -- NaNs, 0 payload\r
58 ddscb021 scaleb         NaN  1 -> NaN\r
59 ddscb022 scaleb        -NaN -1 -> -NaN\r
60 ddscb023 scaleb        sNaN  1 -> NaN Invalid_operation\r
61 ddscb024 scaleb       -sNaN  1 -> -NaN Invalid_operation\r
62 ddscb025 scaleb    4    NaN    -> NaN\r
63 ddscb026 scaleb -Inf   -NaN    -> -NaN\r
64 ddscb027 scaleb    4   sNaN    -> NaN Invalid_operation\r
65 ddscb028 scaleb  Inf  -sNaN    -> -NaN Invalid_operation\r
67 -- non-integer RHS\r
68 ddscb030 scaleb  1.23    1    ->  12.3\r
69 ddscb031 scaleb  1.23    1.00 ->  NaN Invalid_operation\r
70 ddscb032 scaleb  1.23    1.1  ->  NaN Invalid_operation\r
71 ddscb033 scaleb  1.23    1.01 ->  NaN Invalid_operation\r
72 ddscb034 scaleb  1.23    0.01 ->  NaN Invalid_operation\r
73 ddscb035 scaleb  1.23    0.11 ->  NaN Invalid_operation\r
74 ddscb036 scaleb  1.23    0.999999999 ->  NaN Invalid_operation\r
75 ddscb037 scaleb  1.23   -1    ->  0.123\r
76 ddscb038 scaleb  1.23   -1.00 ->  NaN Invalid_operation\r
77 ddscb039 scaleb  1.23   -1.1  ->  NaN Invalid_operation\r
78 ddscb040 scaleb  1.23   -1.01 ->  NaN Invalid_operation\r
79 ddscb041 scaleb  1.23   -0.01 ->  NaN Invalid_operation\r
80 ddscb042 scaleb  1.23   -0.11 ->  NaN Invalid_operation\r
81 ddscb043 scaleb  1.23   -0.999999999 ->  NaN Invalid_operation\r
82 ddscb044 scaleb  1.23    0.1         ->  NaN Invalid_operation\r
83 ddscb045 scaleb  1.23    1E+1        ->  NaN Invalid_operation\r
84 ddscb046 scaleb  1.23    1.1234E+6   ->  NaN Invalid_operation\r
85 ddscb047 scaleb  1.23    1.123E+4    ->  NaN Invalid_operation\r
87 -- out-of range RHS\r
88 ddscb120 scaleb  1.23    799         ->  Infinity Overflow Inexact Rounded\r
89 ddscb121 scaleb  1.23    800         ->  Infinity Overflow Inexact Rounded\r
90 ddscb122 scaleb  1.23    801         ->  NaN Invalid_operation\r
91 ddscb123 scaleb  1.23    802         ->  NaN Invalid_operation\r
92 ddscb124 scaleb  1.23   -799         ->  0E-398 Underflow Subnormal Inexact Rounded Clamped\r
93 ddscb125 scaleb  1.23   -800         ->  0E-398 Underflow Subnormal Inexact Rounded Clamped\r
94 ddscb126 scaleb  1.23   -801         ->  NaN Invalid_operation\r
95 ddscb127 scaleb  1.23   -802         ->  NaN Invalid_operation\r
97 -- NaNs, non-0 payload\r
98 -- propagating NaNs\r
99 ddscb861 scaleb  NaN01   -Inf     ->  NaN1\r
100 ddscb862 scaleb -NaN02   -1000    -> -NaN2\r
101 ddscb863 scaleb  NaN03    1000    ->  NaN3\r
102 ddscb864 scaleb  NaN04    Inf     ->  NaN4\r
103 ddscb865 scaleb  NaN05    NaN61   ->  NaN5\r
104 ddscb866 scaleb -Inf     -NaN71   -> -NaN71\r
105 ddscb867 scaleb -1000     NaN81   ->  NaN81\r
106 ddscb868 scaleb  1000     NaN91   ->  NaN91\r
107 ddscb869 scaleb  Inf      NaN101  ->  NaN101\r
108 ddscb871 scaleb  sNaN011  -Inf    ->  NaN11  Invalid_operation\r
109 ddscb872 scaleb  sNaN012  -1000   ->  NaN12  Invalid_operation\r
110 ddscb873 scaleb -sNaN013   1000   -> -NaN13  Invalid_operation\r
111 ddscb874 scaleb  sNaN014   NaN171 ->  NaN14  Invalid_operation\r
112 ddscb875 scaleb  sNaN015  sNaN181 ->  NaN15  Invalid_operation\r
113 ddscb876 scaleb  NaN016   sNaN191 ->  NaN191 Invalid_operation\r
114 ddscb877 scaleb -Inf      sNaN201 ->  NaN201 Invalid_operation\r
115 ddscb878 scaleb -1000     sNaN211 ->  NaN211 Invalid_operation\r
116 ddscb879 scaleb  1000    -sNaN221 -> -NaN221 Invalid_operation\r
117 ddscb880 scaleb  Inf      sNaN231 ->  NaN231 Invalid_operation\r
118 ddscb881 scaleb  NaN025   sNaN241 ->  NaN241 Invalid_operation\r
120 -- finites\r
121 ddscb051 scaleb          7   -2  -> 0.07\r
122 ddscb052 scaleb         -7   -2  -> -0.07\r
123 ddscb053 scaleb         75   -2  -> 0.75\r
124 ddscb054 scaleb        -75   -2  -> -0.75\r
125 ddscb055 scaleb       7.50   -2  -> 0.0750\r
126 ddscb056 scaleb      -7.50   -2  -> -0.0750\r
127 ddscb057 scaleb       7.500  -2  -> 0.07500\r
128 ddscb058 scaleb      -7.500  -2  -> -0.07500\r
129 ddscb061 scaleb          7   -1  -> 0.7\r
130 ddscb062 scaleb         -7   -1  -> -0.7\r
131 ddscb063 scaleb         75   -1  -> 7.5\r
132 ddscb064 scaleb        -75   -1  -> -7.5\r
133 ddscb065 scaleb       7.50   -1  -> 0.750\r
134 ddscb066 scaleb      -7.50   -1  -> -0.750\r
135 ddscb067 scaleb       7.500  -1  -> 0.7500\r
136 ddscb068 scaleb      -7.500  -1  -> -0.7500\r
137 ddscb071 scaleb          7    0  -> 7\r
138 ddscb072 scaleb         -7    0  -> -7\r
139 ddscb073 scaleb         75    0  -> 75\r
140 ddscb074 scaleb        -75    0  -> -75\r
141 ddscb075 scaleb       7.50    0  -> 7.50\r
142 ddscb076 scaleb      -7.50    0  -> -7.50\r
143 ddscb077 scaleb       7.500   0  -> 7.500\r
144 ddscb078 scaleb      -7.500   0  -> -7.500\r
145 ddscb081 scaleb          7    1  -> 7E+1\r
146 ddscb082 scaleb         -7    1  -> -7E+1\r
147 ddscb083 scaleb         75    1  -> 7.5E+2\r
148 ddscb084 scaleb        -75    1  -> -7.5E+2\r
149 ddscb085 scaleb       7.50    1  -> 75.0\r
150 ddscb086 scaleb      -7.50    1  -> -75.0\r
151 ddscb087 scaleb       7.500   1  -> 75.00\r
152 ddscb088 scaleb      -7.500   1  -> -75.00\r
153 ddscb091 scaleb          7    2  -> 7E+2\r
154 ddscb092 scaleb         -7    2  -> -7E+2\r
155 ddscb093 scaleb         75    2  -> 7.5E+3\r
156 ddscb094 scaleb        -75    2  -> -7.5E+3\r
157 ddscb095 scaleb       7.50    2  -> 750\r
158 ddscb096 scaleb      -7.50    2  -> -750\r
159 ddscb097 scaleb       7.500   2  -> 750.0\r
160 ddscb098 scaleb      -7.500   2  -> -750.0\r
162 -- zeros\r
163 ddscb111 scaleb          0  1 -> 0E+1\r
164 ddscb112 scaleb         -0  2 -> -0E+2\r
165 ddscb113 scaleb       0E+4  3 -> 0E+7\r
166 ddscb114 scaleb      -0E+4  4 -> -0E+8\r
167 ddscb115 scaleb     0.0000  5 -> 0E+1\r
168 ddscb116 scaleb    -0.0000  6 -> -0E+2\r
169 ddscb117 scaleb      0E-141 7 -> 0E-134\r
170 ddscb118 scaleb     -0E-141 8 -> -0E-133\r
172 -- Nmax, Nmin, Ntiny\r
173 ddscb132 scaleb  9.999999999999999E+384  +384 -> Infinity    Overflow Inexact Rounded\r
174 ddscb133 scaleb  9.999999999999999E+384  +10 -> Infinity     Overflow Inexact Rounded\r
175 ddscb134 scaleb  9.999999999999999E+384  +1  -> Infinity     Overflow Inexact Rounded\r
176 ddscb135 scaleb  9.999999999999999E+384   0  -> 9.999999999999999E+384\r
177 ddscb136 scaleb  9.999999999999999E+384  -1  -> 9.999999999999999E+383\r
178 ddscb137 scaleb  1E-383           +1  -> 1E-382\r
179 ddscb138 scaleb  1E-383           -0  -> 1E-383\r
180 ddscb139 scaleb  1E-383           -1  -> 1E-384          Subnormal\r
181 ddscb140 scaleb  1.000000000000000E-383  +1  -> 1.000000000000000E-382\r
182 ddscb141 scaleb  1.000000000000000E-383   0  -> 1.000000000000000E-383\r
183 ddscb142 scaleb  1.000000000000000E-383  -1  -> 1.00000000000000E-384 Subnormal Rounded\r
184 ddscb143 scaleb  1E-398          +1  -> 1E-397          Subnormal\r
185 ddscb144 scaleb  1E-398          -0  -> 1E-398         Subnormal\r
186 ddscb145 scaleb  1E-398          -1  -> 0E-398         Underflow Subnormal Inexact Rounded Clamped\r
188 ddscb150 scaleb  -1E-398         +1  -> -1E-397         Subnormal\r
189 ddscb151 scaleb  -1E-398         -0  -> -1E-398        Subnormal\r
190 ddscb152 scaleb  -1E-398         -1  -> -0E-398        Underflow Subnormal Inexact Rounded Clamped\r
191 ddscb153 scaleb  -1.000000000000000E-383 +1  -> -1.000000000000000E-382\r
192 ddscb154 scaleb  -1.000000000000000E-383 +0  -> -1.000000000000000E-383\r
193 ddscb155 scaleb  -1.000000000000000E-383 -1  -> -1.00000000000000E-384 Subnormal Rounded\r
194 ddscb156 scaleb  -1E-383          +1  -> -1E-382\r
195 ddscb157 scaleb  -1E-383          -0  -> -1E-383\r
196 ddscb158 scaleb  -1E-383          -1  -> -1E-384          Subnormal\r
197 ddscb159 scaleb  -9.999999999999999E+384 +1  -> -Infinity        Overflow Inexact Rounded\r
198 ddscb160 scaleb  -9.999999999999999E+384 +0  -> -9.999999999999999E+384\r
199 ddscb161 scaleb  -9.999999999999999E+384 -1  -> -9.999999999999999E+383\r
200 ddscb162 scaleb  -9E+384          +1  -> -Infinity        Overflow Inexact Rounded\r
201 ddscb163 scaleb  -1E+384          +1  -> -Infinity        Overflow Inexact Rounded\r
203 -- some Origami\r
204 -- (these check that overflow is being done correctly)\r
205 ddscb171 scaleb   1000E+365  +1 -> 1.000E+369\r
206 ddscb172 scaleb   1000E+366  +1 -> 1.000E+370\r
207 ddscb173 scaleb   1000E+367  +1 -> 1.000E+371\r
208 ddscb174 scaleb   1000E+368  +1 -> 1.000E+372\r
209 ddscb175 scaleb   1000E+369  +1 -> 1.0000E+373                  Clamped\r
210 ddscb176 scaleb   1000E+370  +1 -> 1.00000E+374                 Clamped\r
211 ddscb177 scaleb   1000E+371  +1 -> 1.000000E+375                Clamped\r
212 ddscb178 scaleb   1000E+372  +1 -> 1.0000000E+376               Clamped\r
213 ddscb179 scaleb   1000E+373  +1 -> 1.00000000E+377              Clamped\r
214 ddscb180 scaleb   1000E+374  +1 -> 1.000000000E+378             Clamped\r
215 ddscb181 scaleb   1000E+375  +1 -> 1.0000000000E+379            Clamped\r
216 ddscb182 scaleb   1000E+376  +1 -> 1.00000000000E+380           Clamped\r
217 ddscb183 scaleb   1000E+377  +1 -> 1.000000000000E+381          Clamped\r
218 ddscb184 scaleb   1000E+378  +1 -> 1.0000000000000E+382         Clamped\r
219 ddscb185 scaleb   1000E+379  +1 -> 1.00000000000000E+383        Clamped\r
220 ddscb186 scaleb   1000E+380  +1 -> 1.000000000000000E+384       Clamped\r
221 ddscb187 scaleb   1000E+381  +1 -> Infinity    Overflow Inexact Rounded\r
223 -- and a few more subnormal truncations\r
224 -- (these check that underflow is being done correctly)\r
225 ddscb201 scaleb  1.000000000000000E-383   0  -> 1.000000000000000E-383\r
226 ddscb202 scaleb  1.000000000000000E-383  -1  -> 1.00000000000000E-384 Subnormal Rounded\r
227 ddscb203 scaleb  1.000000000000000E-383  -2  -> 1.0000000000000E-385 Subnormal Rounded\r
228 ddscb204 scaleb  1.000000000000000E-383  -3  -> 1.000000000000E-386 Subnormal Rounded\r
229 ddscb205 scaleb  1.000000000000000E-383  -4  -> 1.00000000000E-387 Subnormal Rounded\r
230 ddscb206 scaleb  1.000000000000000E-383  -5  -> 1.0000000000E-388 Subnormal Rounded\r
231 ddscb207 scaleb  1.000000000000000E-383  -6  -> 1.000000000E-389 Subnormal Rounded\r
232 ddscb208 scaleb  1.000000000000000E-383  -7  -> 1.00000000E-390 Subnormal Rounded\r
233 ddscb209 scaleb  1.000000000000000E-383  -8  -> 1.0000000E-391 Subnormal Rounded\r
234 ddscb210 scaleb  1.000000000000000E-383  -9  -> 1.000000E-392 Subnormal Rounded\r
235 ddscb211 scaleb  1.000000000000000E-383  -10 -> 1.00000E-393 Subnormal Rounded\r
236 ddscb212 scaleb  1.000000000000000E-383  -11 -> 1.0000E-394 Subnormal Rounded\r
237 ddscb213 scaleb  1.000000000000000E-383  -12 -> 1.000E-395 Subnormal Rounded\r
238 ddscb214 scaleb  1.000000000000000E-383  -13 -> 1.00E-396 Subnormal Rounded\r
239 ddscb215 scaleb  1.000000000000000E-383  -14 -> 1.0E-397 Subnormal Rounded\r
240 ddscb216 scaleb  1.000000000000000E-383  -15 -> 1E-398 Subnormal Rounded\r
241 ddscb217 scaleb  1.000000000000000E-383  -16 -> 0E-398 Underflow Subnormal Inexact Rounded Clamped\r
242 ddscb218 scaleb  1.000000000000000E-383  -17 -> 0E-398 Underflow Subnormal Inexact Rounded Clamped\r