python-2.5.2/win32/Lib/test/decimaltestdata/ddMinMag.decTest
changeset 0 ae805ac0140d
equal deleted inserted replaced
-1:000000000000 0:ae805ac0140d
       
     1 ------------------------------------------------------------------------
       
     2 -- ddMinMag.decTest -- decDouble minnummag                            --
       
     3 -- Copyright (c) IBM Corporation, 1981, 2007.  All rights reserved.   --
       
     4 ------------------------------------------------------------------------
       
     5 -- Please see the document "General Decimal Arithmetic Testcases"     --
       
     6 -- at http://www2.hursley.ibm.com/decimal for the description of      --
       
     7 -- these testcases.                                                   --
       
     8 --                                                                    --
       
     9 -- These testcases are experimental ('beta' versions), and they       --
       
    10 -- may contain errors.  They are offered on an as-is basis.  In       --
       
    11 -- particular, achieving the same results as the tests here is not    --
       
    12 -- a guarantee that an implementation complies with any Standard      --
       
    13 -- or specification.  The tests are not exhaustive.                   --
       
    14 --                                                                    --
       
    15 -- Please send comments, suggestions, and corrections to the author:  --
       
    16 --   Mike Cowlishaw, IBM Fellow                                       --
       
    17 --   IBM UK, PO Box 31, Birmingham Road, Warwick CV34 5JL, UK         --
       
    18 --   mfc@uk.ibm.com                                                   --
       
    19 ------------------------------------------------------------------------
       
    20 version: 2.57
       
    21 
       
    22 -- we assume that base comparison is tested in compare.decTest, so
       
    23 -- these mainly cover special cases and rounding
       
    24 precision:   16
       
    25 maxExponent: 384
       
    26 minExponent: -383
       
    27 extended:    1
       
    28 clamp:       1
       
    29 rounding:    half_even
       
    30 
       
    31 -- sanity checks
       
    32 ddmng001 minmag  -2  -2  -> -2
       
    33 ddmng002 minmag  -2  -1  -> -1
       
    34 ddmng003 minmag  -2   0  ->  0
       
    35 ddmng004 minmag  -2   1  ->  1
       
    36 ddmng005 minmag  -2   2  -> -2
       
    37 ddmng006 minmag  -1  -2  -> -1
       
    38 ddmng007 minmag  -1  -1  -> -1
       
    39 ddmng008 minmag  -1   0  ->  0
       
    40 ddmng009 minmag  -1   1  -> -1
       
    41 ddmng010 minmag  -1   2  -> -1
       
    42 ddmng011 minmag   0  -2  ->  0
       
    43 ddmng012 minmag   0  -1  ->  0
       
    44 ddmng013 minmag   0   0  ->  0
       
    45 ddmng014 minmag   0   1  ->  0
       
    46 ddmng015 minmag   0   2  ->  0
       
    47 ddmng016 minmag   1  -2  ->  1
       
    48 ddmng017 minmag   1  -1  -> -1
       
    49 ddmng018 minmag   1   0  ->  0
       
    50 ddmng019 minmag   1   1  ->  1
       
    51 ddmng020 minmag   1   2  ->  1
       
    52 ddmng021 minmag   2  -2  -> -2
       
    53 ddmng022 minmag   2  -1  -> -1
       
    54 ddmng023 minmag   2   0  ->  0
       
    55 ddmng025 minmag   2   1  ->  1
       
    56 ddmng026 minmag   2   2  ->  2
       
    57 
       
    58 -- extended zeros
       
    59 ddmng030 minmag   0     0   ->  0
       
    60 ddmng031 minmag   0    -0   -> -0
       
    61 ddmng032 minmag   0    -0.0 -> -0.0
       
    62 ddmng033 minmag   0     0.0 ->  0.0
       
    63 ddmng034 minmag  -0     0   -> -0
       
    64 ddmng035 minmag  -0    -0   -> -0
       
    65 ddmng036 minmag  -0    -0.0 -> -0
       
    66 ddmng037 minmag  -0     0.0 -> -0
       
    67 ddmng038 minmag   0.0   0   ->  0.0
       
    68 ddmng039 minmag   0.0  -0   -> -0
       
    69 ddmng040 minmag   0.0  -0.0 -> -0.0
       
    70 ddmng041 minmag   0.0   0.0 ->  0.0
       
    71 ddmng042 minmag  -0.0   0   -> -0.0
       
    72 ddmng043 minmag  -0.0  -0   -> -0
       
    73 ddmng044 minmag  -0.0  -0.0 -> -0.0
       
    74 ddmng045 minmag  -0.0   0.0 -> -0.0
       
    75 
       
    76 ddmng046 minmag   0E1  -0E1 -> -0E+1
       
    77 ddmng047 minmag  -0E1   0E2 -> -0E+1
       
    78 ddmng048 minmag   0E2   0E1 ->  0E+1
       
    79 ddmng049 minmag   0E1   0E2 ->  0E+1
       
    80 ddmng050 minmag  -0E3  -0E2 -> -0E+3
       
    81 ddmng051 minmag  -0E2  -0E3 -> -0E+3
       
    82 
       
    83 -- Specials
       
    84 ddmng090 minmag  Inf  -Inf   -> -Infinity
       
    85 ddmng091 minmag  Inf  -1000  -> -1000
       
    86 ddmng092 minmag  Inf  -1     -> -1
       
    87 ddmng093 minmag  Inf  -0     -> -0
       
    88 ddmng094 minmag  Inf   0     ->  0
       
    89 ddmng095 minmag  Inf   1     ->  1
       
    90 ddmng096 minmag  Inf   1000  ->  1000
       
    91 ddmng097 minmag  Inf   Inf   ->  Infinity
       
    92 ddmng098 minmag -1000  Inf   -> -1000
       
    93 ddmng099 minmag -Inf   Inf   -> -Infinity
       
    94 ddmng100 minmag -1     Inf   -> -1
       
    95 ddmng101 minmag -0     Inf   -> -0
       
    96 ddmng102 minmag  0     Inf   ->  0
       
    97 ddmng103 minmag  1     Inf   ->  1
       
    98 ddmng104 minmag  1000  Inf   ->  1000
       
    99 ddmng105 minmag  Inf   Inf   ->  Infinity
       
   100 
       
   101 ddmng120 minmag -Inf  -Inf   -> -Infinity
       
   102 ddmng121 minmag -Inf  -1000  -> -1000
       
   103 ddmng122 minmag -Inf  -1     -> -1
       
   104 ddmng123 minmag -Inf  -0     -> -0
       
   105 ddmng124 minmag -Inf   0     ->  0
       
   106 ddmng125 minmag -Inf   1     ->  1
       
   107 ddmng126 minmag -Inf   1000  ->  1000
       
   108 ddmng127 minmag -Inf   Inf   -> -Infinity
       
   109 ddmng128 minmag -Inf  -Inf   -> -Infinity
       
   110 ddmng129 minmag -1000 -Inf   -> -1000
       
   111 ddmng130 minmag -1    -Inf   -> -1
       
   112 ddmng131 minmag -0    -Inf   -> -0
       
   113 ddmng132 minmag  0    -Inf   ->  0
       
   114 ddmng133 minmag  1    -Inf   ->  1
       
   115 ddmng134 minmag  1000 -Inf   ->  1000
       
   116 ddmng135 minmag  Inf  -Inf   -> -Infinity
       
   117 
       
   118 -- 2004.08.02 754r chooses number over NaN in mixed cases
       
   119 ddmng141 minmag  NaN -Inf    ->  -Infinity
       
   120 ddmng142 minmag  NaN -1000   ->  -1000
       
   121 ddmng143 minmag  NaN -1      ->  -1
       
   122 ddmng144 minmag  NaN -0      ->  -0
       
   123 ddmng145 minmag  NaN  0      ->  0
       
   124 ddmng146 minmag  NaN  1      ->  1
       
   125 ddmng147 minmag  NaN  1000   ->  1000
       
   126 ddmng148 minmag  NaN  Inf    ->  Infinity
       
   127 ddmng149 minmag  NaN  NaN    ->  NaN
       
   128 ddmng150 minmag -Inf  NaN    -> -Infinity
       
   129 ddmng151 minmag -1000 NaN    -> -1000
       
   130 ddmng152 minmag -1   -NaN    -> -1
       
   131 ddmng153 minmag -0    NaN    -> -0
       
   132 ddmng154 minmag  0   -NaN    ->  0
       
   133 ddmng155 minmag  1    NaN    ->  1
       
   134 ddmng156 minmag  1000 NaN    ->  1000
       
   135 ddmng157 minmag  Inf  NaN    ->  Infinity
       
   136 
       
   137 ddmng161 minmag  sNaN -Inf   ->  NaN  Invalid_operation
       
   138 ddmng162 minmag  sNaN -1000  ->  NaN  Invalid_operation
       
   139 ddmng163 minmag  sNaN -1     ->  NaN  Invalid_operation
       
   140 ddmng164 minmag  sNaN -0     ->  NaN  Invalid_operation
       
   141 ddmng165 minmag -sNaN  0     -> -NaN  Invalid_operation
       
   142 ddmng166 minmag -sNaN  1     -> -NaN  Invalid_operation
       
   143 ddmng167 minmag  sNaN  1000  ->  NaN  Invalid_operation
       
   144 ddmng168 minmag  sNaN  NaN   ->  NaN  Invalid_operation
       
   145 ddmng169 minmag  sNaN sNaN   ->  NaN  Invalid_operation
       
   146 ddmng170 minmag  NaN  sNaN   ->  NaN  Invalid_operation
       
   147 ddmng171 minmag -Inf  sNaN   ->  NaN  Invalid_operation
       
   148 ddmng172 minmag -1000 sNaN   ->  NaN  Invalid_operation
       
   149 ddmng173 minmag -1    sNaN   ->  NaN  Invalid_operation
       
   150 ddmng174 minmag -0    sNaN   ->  NaN  Invalid_operation
       
   151 ddmng175 minmag  0    sNaN   ->  NaN  Invalid_operation
       
   152 ddmng176 minmag  1    sNaN   ->  NaN  Invalid_operation
       
   153 ddmng177 minmag  1000 sNaN   ->  NaN  Invalid_operation
       
   154 ddmng178 minmag  Inf  sNaN   ->  NaN  Invalid_operation
       
   155 ddmng179 minmag  NaN  sNaN   ->  NaN  Invalid_operation
       
   156 
       
   157 -- propagating NaNs
       
   158 ddmng181 minmag  NaN9   -Inf   -> -Infinity
       
   159 ddmng182 minmag -NaN8    9990  ->  9990
       
   160 ddmng183 minmag  NaN71   Inf   ->  Infinity
       
   161 
       
   162 ddmng184 minmag  NaN1    NaN54 ->  NaN1
       
   163 ddmng185 minmag  NaN22  -NaN53 ->  NaN22
       
   164 ddmng186 minmag -NaN3    NaN6  -> -NaN3
       
   165 ddmng187 minmag -NaN44   NaN7  -> -NaN44
       
   166 
       
   167 ddmng188 minmag -Inf     NaN41 -> -Infinity
       
   168 ddmng189 minmag -9999   -NaN33 -> -9999
       
   169 ddmng190 minmag  Inf     NaN2  ->  Infinity
       
   170 
       
   171 ddmng191 minmag  sNaN99 -Inf    ->  NaN99 Invalid_operation
       
   172 ddmng192 minmag  sNaN98 -11     ->  NaN98 Invalid_operation
       
   173 ddmng193 minmag -sNaN97  NaN8   -> -NaN97 Invalid_operation
       
   174 ddmng194 minmag  sNaN69 sNaN94  ->  NaN69 Invalid_operation
       
   175 ddmng195 minmag  NaN95  sNaN93  ->  NaN93 Invalid_operation
       
   176 ddmng196 minmag -Inf    sNaN92  ->  NaN92 Invalid_operation
       
   177 ddmng197 minmag  088    sNaN91  ->  NaN91 Invalid_operation
       
   178 ddmng198 minmag  Inf   -sNaN90  -> -NaN90 Invalid_operation
       
   179 ddmng199 minmag  NaN    sNaN86  ->  NaN86 Invalid_operation
       
   180 
       
   181 -- old rounding checks
       
   182 ddmng221 minmag -12345678000 1  -> 1
       
   183 ddmng222 minmag 1 -12345678000  -> 1
       
   184 ddmng223 minmag -1234567800  1  -> 1
       
   185 ddmng224 minmag 1 -1234567800   -> 1
       
   186 ddmng225 minmag -1234567890  1  -> 1
       
   187 ddmng226 minmag 1 -1234567890   -> 1
       
   188 ddmng227 minmag -1234567891  1  -> 1
       
   189 ddmng228 minmag 1 -1234567891   -> 1
       
   190 ddmng229 minmag -12345678901 1  -> 1
       
   191 ddmng230 minmag 1 -12345678901  -> 1
       
   192 ddmng231 minmag -1234567896  1  -> 1
       
   193 ddmng232 minmag 1 -1234567896   -> 1
       
   194 ddmng233 minmag 1234567891  1   -> 1
       
   195 ddmng234 minmag 1 1234567891    -> 1
       
   196 ddmng235 minmag 12345678901 1   -> 1
       
   197 ddmng236 minmag 1 12345678901   -> 1
       
   198 ddmng237 minmag 1234567896  1   -> 1
       
   199 ddmng238 minmag 1 1234567896    -> 1
       
   200 
       
   201 -- from examples
       
   202 ddmng280 minmag '3'   '2'  ->  '2'
       
   203 ddmng281 minmag '-10' '3'  ->  '3'
       
   204 ddmng282 minmag '1.0' '1'  ->  '1.0'
       
   205 ddmng283 minmag '1' '1.0'  ->  '1.0'
       
   206 ddmng284 minmag '7' 'NaN'  ->  '7'
       
   207 
       
   208 -- expanded list from min/max 754r purple prose
       
   209 -- [explicit tests for exponent ordering]
       
   210 ddmng401 minmag  Inf    1.1     ->  1.1
       
   211 ddmng402 minmag  1.1    1       ->  1
       
   212 ddmng403 minmag  1      1.0     ->  1.0
       
   213 ddmng404 minmag  1.0    0.1     ->  0.1
       
   214 ddmng405 minmag  0.1    0.10    ->  0.10
       
   215 ddmng406 minmag  0.10   0.100   ->  0.100
       
   216 ddmng407 minmag  0.10   0       ->  0
       
   217 ddmng408 minmag  0      0.0     ->  0.0
       
   218 ddmng409 minmag  0.0   -0       -> -0
       
   219 ddmng410 minmag  0.0   -0.0     -> -0.0
       
   220 ddmng411 minmag  0.00  -0.0     -> -0.0
       
   221 ddmng412 minmag  0.0   -0.00    -> -0.00
       
   222 ddmng413 minmag  0     -0.0     -> -0.0
       
   223 ddmng414 minmag  0     -0       -> -0
       
   224 ddmng415 minmag -0.0   -0       -> -0
       
   225 ddmng416 minmag -0     -0.100   -> -0
       
   226 ddmng417 minmag -0.100 -0.10    -> -0.10
       
   227 ddmng418 minmag -0.10  -0.1     -> -0.1
       
   228 ddmng419 minmag -0.1   -1.0     -> -0.1
       
   229 ddmng420 minmag -1.0   -1       -> -1
       
   230 ddmng421 minmag -1     -1.1     -> -1
       
   231 ddmng423 minmag -1.1   -Inf     -> -1.1
       
   232 -- same with operands reversed
       
   233 ddmng431 minmag  1.1    Inf     ->  1.1
       
   234 ddmng432 minmag  1      1.1     ->  1
       
   235 ddmng433 minmag  1.0    1       ->  1.0
       
   236 ddmng434 minmag  0.1    1.0     ->  0.1
       
   237 ddmng435 minmag  0.10   0.1     ->  0.10
       
   238 ddmng436 minmag  0.100  0.10    ->  0.100
       
   239 ddmng437 minmag  0      0.10    ->  0
       
   240 ddmng438 minmag  0.0    0       ->  0.0
       
   241 ddmng439 minmag -0      0.0     -> -0
       
   242 ddmng440 minmag -0.0    0.0     -> -0.0
       
   243 ddmng441 minmag -0.0    0.00    -> -0.0
       
   244 ddmng442 minmag -0.00   0.0     -> -0.00
       
   245 ddmng443 minmag -0.0    0       -> -0.0
       
   246 ddmng444 minmag -0      0       -> -0
       
   247 ddmng445 minmag -0     -0.0     -> -0
       
   248 ddmng446 minmag -0.100 -0       -> -0
       
   249 ddmng447 minmag -0.10  -0.100   -> -0.10
       
   250 ddmng448 minmag -0.1   -0.10    -> -0.1
       
   251 ddmng449 minmag -1.0   -0.1     -> -0.1
       
   252 ddmng450 minmag -1     -1.0     -> -1
       
   253 ddmng451 minmag -1.1   -1       -> -1
       
   254 ddmng453 minmag -Inf   -1.1     -> -1.1
       
   255 -- largies
       
   256 ddmng460 minmag  1000   1E+3    ->  1000
       
   257 ddmng461 minmag  1E+3   1000    ->  1000
       
   258 ddmng462 minmag  1000  -1E+3    -> -1E+3
       
   259 ddmng463 minmag  1E+3   -384    -> -384
       
   260 ddmng464 minmag -384    1E+3    -> -384
       
   261 ddmng465 minmag -1E+3   1000    -> -1E+3
       
   262 ddmng466 minmag -384   -1E+3    -> -384
       
   263 ddmng467 minmag -1E+3   -384    -> -384
       
   264 
       
   265 -- subnormals
       
   266 ddmng510 minmag  1.00E-383       0  ->   0
       
   267 ddmng511 minmag  0.1E-383        0  ->   0
       
   268 ddmng512 minmag  0.10E-383       0  ->   0
       
   269 ddmng513 minmag  0.100E-383      0  ->   0
       
   270 ddmng514 minmag  0.01E-383       0  ->   0
       
   271 ddmng515 minmag  0.999E-383      0  ->   0
       
   272 ddmng516 minmag  0.099E-383      0  ->   0
       
   273 ddmng517 minmag  0.009E-383      0  ->   0
       
   274 ddmng518 minmag  0.001E-383      0  ->   0
       
   275 ddmng519 minmag  0.0009E-383     0  ->   0
       
   276 ddmng520 minmag  0.0001E-383     0  ->   0
       
   277 
       
   278 ddmng530 minmag -1.00E-383       0  ->   0
       
   279 ddmng531 minmag -0.1E-383        0  ->   0
       
   280 ddmng532 minmag -0.10E-383       0  ->   0
       
   281 ddmng533 minmag -0.100E-383      0  ->   0
       
   282 ddmng534 minmag -0.01E-383       0  ->   0
       
   283 ddmng535 minmag -0.999E-383      0  ->   0
       
   284 ddmng536 minmag -0.099E-383      0  ->   0
       
   285 ddmng537 minmag -0.009E-383      0  ->   0
       
   286 ddmng538 minmag -0.001E-383      0  ->   0
       
   287 ddmng539 minmag -0.0009E-383     0  ->   0
       
   288 ddmng540 minmag -0.0001E-383     0  ->   0
       
   289 
       
   290 
       
   291 -- Null tests
       
   292 ddmng900 minmag 10  # -> NaN Invalid_operation
       
   293 ddmng901 minmag  # 10 -> NaN Invalid_operation