]> gitweb.michael.orlitzky.com - spline3.git/commitdiff
Update the arbitrary instance for Cube to use smaller coordinates.
authorMichael Orlitzky <michael@orlitzky.com>
Tue, 4 Oct 2011 03:53:42 +0000 (23:53 -0400)
committerMichael Orlitzky <michael@orlitzky.com>
Tue, 4 Oct 2011 03:53:42 +0000 (23:53 -0400)
src/Cube.hs

index 6e67d4cd4d6d3c7311a7c095e4b43be9387ba69b..7fa4bfe1656e04191f5152c5635001e7a2d4323c 100644 (file)
@@ -49,9 +49,13 @@ instance Arbitrary Cube where
       fv' <- arbitrary :: Gen FunctionValues
       (Positive tet_vol) <- arbitrary :: Gen (Positive Double)
       return (Cube h' i' j' k' fv' tet_vol)
-        where
-          coordmin = -268435456 -- -(2^29 / 2)
-          coordmax = 268435456  -- +(2^29 / 2)
+      where
+        -- The idea here is that, when cubed in the volume formula,
+        -- these numbers don't overflow 64 bits. This number is not
+        -- magic in any other sense than that it does not cause test
+        -- failures, while 2^23 does.
+        coordmax = 4194304 -- 2^22
+        coordmin = -coordmax
 
 
 instance Show Cube where