Fix exponent offsets
authorAleksandar Kostovic <alexandar.kostovic@gmail.com>
Wed, 8 May 2019 15:11:48 +0000 (17:11 +0200)
committerAleksandar Kostovic <alexandar.kostovic@gmail.com>
Wed, 8 May 2019 15:11:48 +0000 (17:11 +0200)
src/ieee754/fpsqrt/fsqrt.py

index 0c8aa1e539f1e9e61d6d8b89610900cda9312a0b..3f63ce780fce0056db0b8937ad4de335024f8faa 100644 (file)
@@ -93,14 +93,14 @@ def normalise(s, m, e, lowbits):
     if (e == 128 & m !=0):
         # these are in IEEE754 format, this function returns s,e,m not z
         s = 1           # sign (so, s=1)
-        e = 127         # exponent (minus 128, so e = 127
+        e = 128         # exponent (minus 127, so e = 128
         m = 1<<22     # high bit of mantissa, so m = 1<<22 i think
 
     #if the num is Inf, then adjust (to normalised +/-INF)
     if (e == 128):
         # these are in IEEE754 format, this function returns s,e,m not z
         s = 1       # s is already s, so do nothing to s.
-        e = 127  # have to subtract 128, so e = 127 (again)
+        e = 128  # have to subtract 127, so e = 128 (again)
         m = 0     # mantissa... so m=0
 
     return s, m, e