summaryrefslogtreecommitdiffstats
path: root/Lib/test/decimaltestdata/dqToIntegral.decTest
blob: eb12387eab704ffc484cecbde4e6add80567315b (plain)
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
205
206
207
208
209
210
211
212
213
214
215
216
217
218
219
220
221
222
223
224
225
226
227
228
229
230
231
232
233
234
235
236
237
238
239
240
241
242
243
244
245
246
247
248
249
250
251
252
253
254
255
256
257
------------------------------------------------------------------------
-- dqToIntegral.decTest -- round Quad to integral value               --
-- Copyright (c) IBM Corporation, 2001, 2008.  All rights reserved.   --
------------------------------------------------------------------------
-- Please see the document "General Decimal Arithmetic Testcases"     --
-- at http://www2.hursley.ibm.com/decimal for the description of      --
-- these testcases.                                                   --
--                                                                    --
-- These testcases are experimental ('beta' versions), and they       --
-- may contain errors.  They are offered on an as-is basis.  In       --
-- particular, achieving the same results as the tests here is not    --
-- a guarantee that an implementation complies with any Standard      --
-- or specification.  The tests are not exhaustive.                   --
--                                                                    --
-- Please send comments, suggestions, and corrections to the author:  --
--   Mike Cowlishaw, IBM Fellow                                       --
--   IBM UK, PO Box 31, Birmingham Road, Warwick CV34 5JL, UK         --
--   mfc@uk.ibm.com                                                   --
------------------------------------------------------------------------
version: 2.59

-- This set of tests tests the extended specification 'round-to-integral
-- value-exact' operations (from IEEE 854, later modified in 754r).
-- All non-zero results are defined as being those from either copy or
-- quantize, so those are assumed to have been tested extensively
-- elsewhere; the tests here are for integrity, rounding mode, etc.
-- Also, it is assumed the test harness will use these tests for both
-- ToIntegralExact (which does set Inexact) and the fixed-name
-- functions (which do not set Inexact).

-- Note that decNumber implements an earlier definition of toIntegral
-- which never sets Inexact; the decTest operator for that is called
-- 'tointegral' instead of 'tointegralx'.

extended:    1
clamp:       1
precision:   34
maxExponent: 6144
minExponent: -6143
rounding:    half_even

dqintx001 tointegralx      0     ->  0
dqintx002 tointegralx      0.0   ->  0
dqintx003 tointegralx      0.1   ->  0  Inexact Rounded
dqintx004 tointegralx      0.2   ->  0  Inexact Rounded
dqintx005 tointegralx      0.3   ->  0  Inexact Rounded
dqintx006 tointegralx      0.4   ->  0  Inexact Rounded
dqintx007 tointegralx      0.5   ->  0  Inexact Rounded
dqintx008 tointegralx      0.6   ->  1  Inexact Rounded
dqintx009 tointegralx      0.7   ->  1  Inexact Rounded
dqintx010 tointegralx      0.8   ->  1  Inexact Rounded
dqintx011 tointegralx      0.9   ->  1  Inexact Rounded
dqintx012 tointegralx      1     ->  1
dqintx013 tointegralx      1.0   ->  1  Rounded
dqintx014 tointegralx      1.1   ->  1  Inexact Rounded
dqintx015 tointegralx      1.2   ->  1  Inexact Rounded
dqintx016 tointegralx      1.3   ->  1  Inexact Rounded
dqintx017 tointegralx      1.4   ->  1  Inexact Rounded
dqintx018 tointegralx      1.5   ->  2  Inexact Rounded
dqintx019 tointegralx      1.6   ->  2  Inexact Rounded
dqintx020 tointegralx      1.7   ->  2  Inexact Rounded
dqintx021 tointegralx      1.8   ->  2  Inexact Rounded
dqintx022 tointegralx      1.9   ->  2  Inexact Rounded
-- negatives
dqintx031 tointegralx     -0     -> -0
dqintx032 tointegralx     -0.0   -> -0
dqintx033 tointegralx     -0.1   -> -0  Inexact Rounded
dqintx034 tointegralx     -0.2   -> -0  Inexact Rounded
dqintx035 tointegralx     -0.3   -> -0  Inexact Rounded
dqintx036 tointegralx     -0.4   -> -0  Inexact Rounded
dqintx037 tointegralx     -0.5   -> -0  Inexact Rounded
dqintx038 tointegralx     -0.6   -> -1  Inexact Rounded
dqintx039 tointegralx     -0.7   -> -1  Inexact Rounded
dqintx040 tointegralx     -0.8   -> -1  Inexact Rounded
dqintx041 tointegralx     -0.9   -> -1  Inexact Rounded
dqintx042 tointegralx     -1     -> -1
dqintx043 tointegralx     -1.0   -> -1  Rounded
dqintx044 tointegralx     -1.1   -> -1  Inexact Rounded
dqintx045 tointegralx     -1.2   -> -1  Inexact Rounded
dqintx046 tointegralx     -1.3   -> -1  Inexact Rounded
dqintx047 tointegralx     -1.4   -> -1  Inexact Rounded
dqintx048 tointegralx     -1.5   -> -2  Inexact Rounded
dqintx049 tointegralx     -1.6   -> -2  Inexact Rounded
dqintx050 tointegralx     -1.7   -> -2  Inexact Rounded
dqintx051 tointegralx     -1.8   -> -2  Inexact Rounded
dqintx052 tointegralx     -1.9   -> -2  Inexact Rounded
-- next two would be NaN using quantize(x, 0)
dqintx053 tointegralx    10E+60  -> 1.0E+61
dqintx054 tointegralx   -10E+60  -> -1.0E+61

-- numbers around precision
dqintx060 tointegralx '56267E-17'   -> '0'      Inexact Rounded
dqintx061 tointegralx '56267E-5'    -> '1'      Inexact Rounded
dqintx062 tointegralx '56267E-2'    -> '563'    Inexact Rounded
dqintx063 tointegralx '56267E-1'    -> '5627'   Inexact Rounded
dqintx065 tointegralx '56267E-0'    -> '56267'
dqintx066 tointegralx '56267E+0'    -> '56267'
dqintx067 tointegralx '56267E+1'    -> '5.6267E+5'
dqintx068 tointegralx '56267E+9'    -> '5.6267E+13'
dqintx069 tointegralx '56267E+10'   -> '5.6267E+14'
dqintx070 tointegralx '56267E+11'   -> '5.6267E+15'
dqintx071 tointegralx '56267E+12'   -> '5.6267E+16'
dqintx072 tointegralx '56267E+13'   -> '5.6267E+17'
dqintx073 tointegralx '1.23E+96'    -> '1.23E+96'
dqintx074 tointegralx '1.23E+6144'  -> #47ffd300000000000000000000000000 Clamped

dqintx080 tointegralx '-56267E-10'  -> '-0'      Inexact Rounded
dqintx081 tointegralx '-56267E-5'   -> '-1'      Inexact Rounded
dqintx082 tointegralx '-56267E-2'   -> '-563'    Inexact Rounded
dqintx083 tointegralx '-56267E-1'   -> '-5627'   Inexact Rounded
dqintx085 tointegralx '-56267E-0'   -> '-56267'
dqintx086 tointegralx '-56267E+0'   -> '-56267'
dqintx087 tointegralx '-56267E+1'   -> '-5.6267E+5'
dqintx088 tointegralx '-56267E+9'   -> '-5.6267E+13'
dqintx089 tointegralx '-56267E+10'  -> '-5.6267E+14'
dqintx090 tointegralx '-56267E+11'  -> '-5.6267E+15'
dqintx091 tointegralx '-56267E+12'  -> '-5.6267E+16'
dqintx092 tointegralx '-56267E+13'  -> '-5.6267E+17'
dqintx093 tointegralx '-1.23E+96'   -> '-1.23E+96'
dqintx094 tointegralx '-1.23E+6144' -> #c7ffd300000000000000000000000000 Clamped

-- subnormal inputs
dqintx100 tointegralx        1E-299 -> 0  Inexact Rounded
dqintx101 tointegralx      0.1E-299 -> 0  Inexact Rounded
dqintx102 tointegralx     0.01E-299 -> 0  Inexact Rounded
dqintx103 tointegralx        0E-299 -> 0

-- specials and zeros
dqintx120 tointegralx 'Inf'       ->  Infinity
dqintx121 tointegralx '-Inf'      -> -Infinity
dqintx122 tointegralx   NaN       ->  NaN
dqintx123 tointegralx  sNaN       ->  NaN  Invalid_operation
dqintx124 tointegralx     0       ->  0
dqintx125 tointegralx    -0       -> -0
dqintx126 tointegralx     0.000   ->  0
dqintx127 tointegralx     0.00    ->  0
dqintx128 tointegralx     0.0     ->  0
dqintx129 tointegralx     0       ->  0
dqintx130 tointegralx     0E-3    ->  0
dqintx131 tointegralx     0E-2    ->  0
dqintx132 tointegralx     0E-1    ->  0
dqintx133 tointegralx     0E-0    ->  0
dqintx134 tointegralx     0E+1    ->  0E+1
dqintx135 tointegralx     0E+2    ->  0E+2
dqintx136 tointegralx     0E+3    ->  0E+3
dqintx137 tointegralx     0E+4    ->  0E+4
dqintx138 tointegralx     0E+5    ->  0E+5
dqintx139 tointegralx    -0.000   -> -0
dqintx140 tointegralx    -0.00    -> -0
dqintx141 tointegralx    -0.0     -> -0
dqintx142 tointegralx    -0       -> -0
dqintx143 tointegralx    -0E-3    -> -0
dqintx144 tointegralx    -0E-2    -> -0
dqintx145 tointegralx    -0E-1    -> -0
dqintx146 tointegralx    -0E-0    -> -0
dqintx147 tointegralx    -0E+1    -> -0E+1
dqintx148 tointegralx    -0E+2    -> -0E+2
dqintx149 tointegralx    -0E+3    -> -0E+3
dqintx150 tointegralx    -0E+4    -> -0E+4
dqintx151 tointegralx    -0E+5    -> -0E+5
-- propagating NaNs
dqintx152 tointegralx   NaN808    ->  NaN808
dqintx153 tointegralx  sNaN080    ->  NaN80  Invalid_operation
dqintx154 tointegralx  -NaN808    -> -NaN808
dqintx155 tointegralx -sNaN080    -> -NaN80  Invalid_operation
dqintx156 tointegralx  -NaN       -> -NaN
dqintx157 tointegralx -sNaN       -> -NaN    Invalid_operation

-- examples
rounding:    half_up
dqintx200 tointegralx     2.1    -> 2            Inexact Rounded
dqintx201 tointegralx   100      -> 100
dqintx202 tointegralx   100.0    -> 100          Rounded
dqintx203 tointegralx   101.5    -> 102          Inexact Rounded
dqintx204 tointegralx  -101.5    -> -102         Inexact Rounded
dqintx205 tointegralx   10E+5    -> 1.0E+6
dqintx206 tointegralx  7.89E+77  -> 7.89E+77
dqintx207 tointegralx   -Inf     -> -Infinity


-- all rounding modes
rounding:    half_even
dqintx210 tointegralx     55.5   ->  56  Inexact Rounded
dqintx211 tointegralx     56.5   ->  56  Inexact Rounded
dqintx212 tointegralx     57.5   ->  58  Inexact Rounded
dqintx213 tointegralx    -55.5   -> -56  Inexact Rounded
dqintx214 tointegralx    -56.5   -> -56  Inexact Rounded
dqintx215 tointegralx    -57.5   -> -58  Inexact Rounded

rounding:    half_up

dqintx220 tointegralx     55.5   ->  56  Inexact Rounded
dqintx221 tointegralx     56.5   ->  57  Inexact Rounded
dqintx222 tointegralx     57.5   ->  58  Inexact Rounded
dqintx223 tointegralx    -55.5   -> -56  Inexact Rounded
dqintx224 tointegralx    -56.5   -> -57  Inexact Rounded
dqintx225 tointegralx    -57.5   -> -58  Inexact Rounded

rounding:    half_down

dqintx230 tointegralx     55.5   ->  55  Inexact Rounded
dqintx231 tointegralx     56.5   ->  56  Inexact Rounded
dqintx232 tointegralx     57.5   ->  57  Inexact Rounded
dqintx233 tointegralx    -55.5   -> -55  Inexact Rounded
dqintx234 tointegralx    -56.5   -> -56  Inexact Rounded
dqintx235 tointegralx    -57.5   -> -57  Inexact Rounded

rounding:    up

dqintx240 tointegralx     55.3   ->  56  Inexact Rounded
dqintx241 tointegralx     56.3   ->  57  Inexact Rounded
dqintx242 tointegralx     57.3   ->  58  Inexact Rounded
dqintx243 tointegralx    -55.3   -> -56  Inexact Rounded
dqintx244 tointegralx    -56.3   -> -57  Inexact Rounded
dqintx245 tointegralx    -57.3   -> -58  Inexact Rounded

rounding:    down

dqintx250 tointegralx     55.7   ->  55  Inexact Rounded
dqintx251 tointegralx     56.7   ->  56  Inexact Rounded
dqintx252 tointegralx     57.7   ->  57  Inexact Rounded
dqintx253 tointegralx    -55.7   -> -55  Inexact Rounded
dqintx254 tointegralx    -56.7   -> -56  Inexact Rounded
dqintx255 tointegralx    -57.7   -> -57  Inexact Rounded

rounding:    ceiling

dqintx260 tointegralx     55.3   ->  56  Inexact Rounded
dqintx261 tointegralx     56.3   ->  57  Inexact Rounded
dqintx262 tointegralx     57.3   ->  58  Inexact Rounded
dqintx263 tointegralx    -55.3   -> -55  Inexact Rounded
dqintx264 tointegralx    -56.3   -> -56  Inexact Rounded
dqintx265 tointegralx    -57.3   -> -57  Inexact Rounded

rounding:    floor

dqintx270 tointegralx     55.7   ->  55  Inexact Rounded
dqintx271 tointegralx     56.7   ->  56  Inexact Rounded
dqintx272 tointegralx     57.7   ->  57  Inexact Rounded
dqintx273 tointegralx    -55.7   -> -56  Inexact Rounded
dqintx274 tointegralx    -56.7   -> -57  Inexact Rounded
dqintx275 tointegralx    -57.7   -> -58  Inexact Rounded

-- Int and uInt32 edge values for testing conversions
dqintx300 tointegralx -2147483646  -> -2147483646
dqintx301 tointegralx -2147483647  -> -2147483647
dqintx302 tointegralx -2147483648  -> -2147483648
dqintx303 tointegralx -2147483649  -> -2147483649
dqintx304 tointegralx  2147483646  ->  2147483646
dqintx305 tointegralx  2147483647  ->  2147483647
dqintx306 tointegralx  2147483648  ->  2147483648
dqintx307 tointegralx  2147483649  ->  2147483649
dqintx308 tointegralx  4294967294  ->  4294967294
dqintx309 tointegralx  4294967295  ->  4294967295
dqintx310 tointegralx  4294967296  ->  4294967296
dqintx311 tointegralx  4294967297  ->  4294967297