Update decimal test data to the most recent set from Mike Cowlishaw.
[python.git] / Lib / test / decimaltestdata / ddAbs.decTest
blobc6f5a7cda393c756bd925f577b108ade832f9c99
1 ------------------------------------------------------------------------\r
2 -- ddAbs.decTest -- decDouble absolute value, heeding sNaN            --\r
3 -- Copyright (c) IBM Corporation, 1981, 2008.  All rights reserved.   --\r
4 ------------------------------------------------------------------------\r
5 -- Please see the document "General Decimal Arithmetic Testcases"     --\r
6 -- at http://www2.hursley.ibm.com/decimal for the description of      --\r
7 -- these testcases.                                                   --\r
8 --                                                                    --\r
9 -- These testcases are experimental ('beta' versions), and they       --\r
10 -- may contain errors.  They are offered on an as-is basis.  In       --\r
11 -- particular, achieving the same results as the tests here is not    --\r
12 -- a guarantee that an implementation complies with any Standard      --\r
13 -- or specification.  The tests are not exhaustive.                   --\r
14 --                                                                    --\r
15 -- Please send comments, suggestions, and corrections to the author:  --\r
16 --   Mike Cowlishaw, IBM Fellow                                       --\r
17 --   IBM UK, PO Box 31, Birmingham Road, Warwick CV34 5JL, UK         --\r
18 --   mfc@uk.ibm.com                                                   --\r
19 ------------------------------------------------------------------------\r
20 version: 2.59\r
22 precision:   16\r
23 maxExponent: 384\r
24 minExponent: -383\r
25 extended:    1\r
26 clamp:       1\r
27 rounding:    half_even\r
29 ddabs001 abs '1'      -> '1'\r
30 ddabs002 abs '-1'     -> '1'\r
31 ddabs003 abs '1.00'   -> '1.00'\r
32 ddabs004 abs '-1.00'  -> '1.00'\r
33 ddabs005 abs '0'      -> '0'\r
34 ddabs006 abs '0.00'   -> '0.00'\r
35 ddabs007 abs '00.0'   -> '0.0'\r
36 ddabs008 abs '00.00'  -> '0.00'\r
37 ddabs009 abs '00'     -> '0'\r
39 ddabs010 abs '-2'     -> '2'\r
40 ddabs011 abs '2'      -> '2'\r
41 ddabs012 abs '-2.00'  -> '2.00'\r
42 ddabs013 abs '2.00'   -> '2.00'\r
43 ddabs014 abs '-0'     -> '0'\r
44 ddabs015 abs '-0.00'  -> '0.00'\r
45 ddabs016 abs '-00.0'  -> '0.0'\r
46 ddabs017 abs '-00.00' -> '0.00'\r
47 ddabs018 abs '-00'    -> '0'\r
49 ddabs020 abs '-2000000' -> '2000000'\r
50 ddabs021 abs '2000000'  -> '2000000'\r
52 ddabs030 abs '+0.1'            -> '0.1'\r
53 ddabs031 abs '-0.1'            -> '0.1'\r
54 ddabs032 abs '+0.01'           -> '0.01'\r
55 ddabs033 abs '-0.01'           -> '0.01'\r
56 ddabs034 abs '+0.001'          -> '0.001'\r
57 ddabs035 abs '-0.001'          -> '0.001'\r
58 ddabs036 abs '+0.000001'       -> '0.000001'\r
59 ddabs037 abs '-0.000001'       -> '0.000001'\r
60 ddabs038 abs '+0.000000000001' -> '1E-12'\r
61 ddabs039 abs '-0.000000000001' -> '1E-12'\r
63 -- examples from decArith\r
64 ddabs040 abs '2.1'     ->  '2.1'\r
65 ddabs041 abs '-100'    ->  '100'\r
66 ddabs042 abs '101.5'   ->  '101.5'\r
67 ddabs043 abs '-101.5'  ->  '101.5'\r
69 -- more fixed, potential LHS swaps/overlays if done by subtract 0\r
70 ddabs060 abs '-56267E-10'  -> '0.0000056267'\r
71 ddabs061 abs '-56267E-5'   -> '0.56267'\r
72 ddabs062 abs '-56267E-2'   -> '562.67'\r
73 ddabs063 abs '-56267E-1'   -> '5626.7'\r
74 ddabs065 abs '-56267E-0'   -> '56267'\r
76 -- subnormals and underflow\r
78 -- long operand tests\r
79 ddabs321 abs 1234567890123456  -> 1234567890123456\r
80 ddabs322 abs 12345678000  -> 12345678000\r
81 ddabs323 abs 1234567800   -> 1234567800\r
82 ddabs324 abs 1234567890   -> 1234567890\r
83 ddabs325 abs 1234567891   -> 1234567891\r
84 ddabs326 abs 12345678901  -> 12345678901\r
85 ddabs327 abs 1234567896   -> 1234567896\r
87 -- zeros\r
88 ddabs111 abs          0   -> 0\r
89 ddabs112 abs         -0   -> 0\r
90 ddabs113 abs       0E+6   -> 0E+6\r
91 ddabs114 abs      -0E+6   -> 0E+6\r
92 ddabs115 abs     0.0000   -> 0.0000\r
93 ddabs116 abs    -0.0000   -> 0.0000\r
94 ddabs117 abs      0E-141  -> 0E-141\r
95 ddabs118 abs     -0E-141  -> 0E-141\r
97 -- full coefficients, alternating bits\r
98 ddabs121 abs  2682682682682682         -> 2682682682682682\r
99 ddabs122 abs  -2682682682682682        -> 2682682682682682\r
100 ddabs123 abs  1341341341341341         -> 1341341341341341\r
101 ddabs124 abs  -1341341341341341        -> 1341341341341341\r
103 -- Nmax, Nmin, Ntiny\r
104 ddabs131 abs  9.999999999999999E+384   -> 9.999999999999999E+384\r
105 ddabs132 abs  1E-383                   -> 1E-383\r
106 ddabs133 abs  1.000000000000000E-383   -> 1.000000000000000E-383\r
107 ddabs134 abs  1E-398                   -> 1E-398 Subnormal\r
109 ddabs135 abs  -1E-398                  -> 1E-398 Subnormal\r
110 ddabs136 abs  -1.000000000000000E-383  -> 1.000000000000000E-383\r
111 ddabs137 abs  -1E-383                  -> 1E-383\r
112 ddabs138 abs  -9.999999999999999E+384  -> 9.999999999999999E+384\r
114 -- specials\r
115 ddabs520 abs 'Inf'    -> 'Infinity'\r
116 ddabs521 abs '-Inf'   -> 'Infinity'\r
117 ddabs522 abs   NaN    ->  NaN\r
118 ddabs523 abs  sNaN    ->  NaN   Invalid_operation\r
119 ddabs524 abs   NaN22  ->  NaN22\r
120 ddabs525 abs  sNaN33  ->  NaN33 Invalid_operation\r
121 ddabs526 abs  -NaN22  -> -NaN22\r
122 ddabs527 abs -sNaN33  -> -NaN33 Invalid_operation\r
124 -- Null tests\r
125 ddabs900 abs  # -> NaN Invalid_operation\r