半精度浮点数,可视化

2020-12-22 01:55:31

只要我一直在编程,我几乎就理所当然地认为浮点数和连续实数之间的任何差异都几乎可以忽略。 尝试在移动GPU上使用半精度浮点会告诉我,并非总是像我们希望的那样精确。 这款笔记本没有解决真正出现问题的浮点运算,但是它代表了自己为自己确切确定浮点数在数字行上的位置的尝试。 大约有