这牵涉到float32在计算机里的存储。原来,十进制小数,要用32位的二进制整数来表示。参考这个图。其实关键要看最后一位是0还是1?判断的原则是:看用哪个,距离实际值近。我已经把这个搞懂了。参考:IEEE-754 Floating Point Converter
我已经写代码计算 任何一个正实数的 IEEE754的计算机表示了。
这牵涉到float32在计算机里的存储。原来,十进制小数,要用32位的二进制整数来表示。参考这个图。其实关键要看最后一位是0还是1?判断的原则是:看用哪个,距离实际值近。我已经把这个搞懂了。参考:IEEE-754 Floating Point Converter
我已经写代码计算 任何一个正实数的 IEEE754的计算机表示了。
大模型不是直接做的“字符”的计算,而是将字符变成一个数字,也就是变成了 token 来处理。
在控制台输入0.1+0.2,会得出以下结果 即不等于0.3。下面我们说一下原因。 一、存储原理 1.
举报文章
请选择举报类型
补充说明
0/200
上传截图
格式支持JPEG/PNG/JPG,图片不超过1.9M