[Gambas-user] numerical error in Gambas??

Rob sourceforge-raindog2 at ...94...
Wed Mar 31 21:03:02 CEST 2004


On Wednesday 31 March 2004 13:43, Jesper Holm wrote:
> I have not have any response on my problem. Could anyone
> please confirm that Gambas DO indeed work on
> multplication/division?

Unfortunately, I can confirm your results.  Worse, they differ 
even from yours on my machine, which is an athlon.

I added "dim j as float" and "j = (1.0/i)" to the program and 
made it print i, j and the product:

i: 1.66 j: 0.602409638554 i*j: 1
i: 1.661 j: 0.602046959663 i*j: 1
i: 1.662 j: 0.601684717208 i*j: 1
i: 1.663 j: 0.601322910403 i*j: 1
i: 1.664 j: 0.600961538462 i*j: 1
i: 1.665 j: 0.600600600601 i*j: 1
i: 1.666 j: 0.600240096038 i*j: 1
i: 1.667 j: 0.599880023995 i*j: 1
i: 1.668 j: 0.599520383693 i*j: 1
i: 1.669 j: 0.599161174356 i*j: 0.1
i: 1.67 j: 0.59880239521 i*j: 1
i: 1.671 j: 0.598444045482 i*j: 0.1
i: 1.672 j: 0.598086124402 i*j: 1
i: 1.673 j: 0.597728631201 i*j: 1
i: 1.674 j: 0.597371565114 i*j: 1
i: 1.675 j: 0.597014925373 i*j: 0.1
i: 1.676 j: 0.596658711217 i*j: 1
i: 1.677 j: 0.596302921884 i*j: 1
i: 1.678 j: 0.595947556615 i*j: 1
i: 1.679 j: 0.595592614652 i*j: 0.1
i: 1.68 j: 0.595238095238 i*j: 1
i: 1.681 j: 0.59488399762 i*j: 0.1
i: 1.682 j: 0.594530321046 i*j: 1
i: 1.683 j: 0.594177064765 i*j: 0.1
i: 1.684 j: 0.593824228029 i*j: 1
i: 1.685 j: 0.593471810089 i*j: 1
i: 1.686 j: 0.593119810202 i*j: 1
i: 1.687 j: 0.592768227623 i*j: 1
i: 1.688 j: 0.592417061611 i*j: 1
i: 1.689 j: 0.592066311427 i*j: 1
i: 1.69 j: 0.591715976331 i*j: 1
i: 1.691 j: 0.591366055588 i*j: 1
i: 1.692 j: 0.591016548463 i*j: 1
i: 1.693 j: 0.590667454223 i*j: 1
i: 1.694 j: 0.590318772137 i*j: 0.1
i: 1.695 j: 0.589970501475 i*j: 1
i: 1.696 j: 0.589622641509 i*j: 1
i: 1.697 j: 0.589275191514 i*j: 1
i: 1.698 j: 0.588928150766 i*j: 1
i: 1.699 j: 0.58858151854 i*j: 1
i: 1.7 j: 0.588235294118 i*j: 1

Rob





More information about the User mailing list