机器学习中的新数学,加速AI训练离不开数字表示方式和基本计算的变革
2022年11月26日 - 腾讯新闻
将两个低精度数字相乘可能会导致数字太小或太大而无法表示给定的bit长度——分别称为下溢和上溢;另外,将一个大的低精度数和一个小的低精度数相加时,会发生swamping现象,导致较小的数字完全丢失。混合精度对于改善上溢、下溢和swamping问题具有重要作用,其中使用低精度输入执行计算并产生更高精度的输出,...
详情
2015考研计算机专业基础综合试题
2014年12月29日 - 新浪
14.下列有关浮点数加减运算的叙述中,正确的是()Ⅰ.对阶操作不会引起阶码上溢或下溢Ⅱ.右规和尾数舍入都可能引起阶码上溢Ⅲ.左规时可能引起阶码下溢Ⅳ.尾数溢出时结果不一定溢出A。仅ⅡⅢB。仅ⅠⅡⅣC。仅ⅠⅢⅣD.ⅠⅡⅢⅣ15.假定主存地址为32位,按字节编址,主存和Cache之间采用直接映...
详情