深入了解浮点运算——CPU和GPU算力是如何计算的
2024年1月18日 - 网易
R:基数,表示十进制数R就是10,表示二进制数R就是2E:指数,用整数表示,例如前面看到的10^-1,-1即是指数如果我们要在计算机中,用浮点数表示一个数字,只需要确认这几个变量即可。举个例子:将十进制数0.125转换为浮点数,我们可以使用二进制浮点数表示。符号位(S):由于数字为正数,所以S=...
详情
R:基数,表示十进制数R就是10,表示二进制数R就是2E:指数,用整数表示,例如前面看到的10^-1,-1即是指数如果我们要在计算机中,用浮点数表示一个数字,只需要确认这几个变量即可。举个例子:将十进制数0.125转换为浮点数,我们可以使用二进制浮点数表示。符号位(S):由于数字为正数,所以S=...