2025年度中国证监会招考职位专业科目笔试考试大纲

计算机发展历程、计算机系统层次结构、计算机性能指标2.数据的表示和运算数制与编码、定点数的表示和运算、浮点数的表示和运算3.存储器层次结构存储器的分类、存储器的层次化结构、半导体随机存取存储器、主存储器与CPU的连接、高速缓冲存储器(Cache)、虚拟存储器4.指令系统指令格式、指令的寻址方式、CISC...

芯片设计五部曲之四 | 电磁玄学宗师——射频芯片

在时域分析上,计算量大,在频域上计算量小。常用工具Spectre,有针对AVX512指令集优化(以并行方式对大量整数或浮点数执行算术运算)。射频芯片设计的计算特性,在模拟芯片的基础上,还是很不相同的。射频电路对频率敏感,通常在频域中建模,在频域和时域分析上,计算量均较大。常用FEM有限元分析法对目标电磁场空间进行...

深入了解浮点运算——CPU和GPU算力是如何计算的

其实,浮点数是采用科学计数法的方式来表示的,例如十进制小数1.234,用科学计数法表示,可以有多种方式:1.234=1.234*10^01.234=12.34*10^-11.234=123.4*10^-2用这种科学计数法的方式表示小数时,小数点的位置就变得漂浮不定了。使用同样的规则,对于二进制数,我们也可以用科学计数法表示,也...

具身大模型研究综述|算法|机器人|鲁棒性|离散化|神经网络|大语言...

量化技术:将模型中的浮点数参数转换为低精度的表示,减少模型大小和计算需求,同时保持模型性能。模型蒸馏:通过训练将大模型的知识转移到小模型中,可以尽可能保持性能的同时提高速度。调整计算单元:通过利用更高速的上层存储计算单元,减少对低速更下层存储器的访问次数,来提升模型的训练性能,如flashattention。5.3数...

基于FPGA的高速流水线浮点乘法器设计与实现

2.1浮点数的表示规则本设计采用单精度IEEE754格式2。设参与运算的两个数A、B均为单精度浮点数,即:2.2浮点乘法器的硬件系统结构本设计用于专用浮点FFT处理器,因此对运算速度有较高要求。为了保证浮点乘法器可以稳定运行在80M以下,本设计采用了流水线技术。流水线技术可提高同步电路的运行速度,加...

图解计算机中数据的表示形式

移码表示法是在数X上增加一个偏移量来定义的,常用于表示浮点数中的阶码(www.e993.com)2024年11月10日。如果机器字长为n,规定偏移量为2^n-1^。实际上,在偏移2^n-1^的情况下,只要将补码的符号位取反就可以获得相应的移码。码制总结我们来看下面的表格,这里,我直接使用八位的二进制数来表示相应的数值。

定点小数的表示方法

定点小数,是指小数点准确固定在数据某个位置上的小数,从实用角度看,都把小数点固定在最高数据位的左边,小数点前边再设一位符号位。按此规则,任何一个小数都可以被写成:N=NS.N-1N-2…N-M如果在计算机中用m+1个二进制位表示上述小数,则可以用最高(最左)一个二进制位表示符号(如用0表示正...

深度学习模型部署与优化:策略与实践;L40S与A100、H100的对比分析

通过将模型的参数量化为不同位数的数据类型,可以根据实际需求来降低模型的存储大小。一般来说,深度神经网络中的参数使用单精度浮点数表示,但如果可以近似使用有符号整数来表示参数,那么量化后的权重参数存储大小可以减少到原来的四分之一。量化位数越少,模型压缩率越高。

叶志豪:介绍强化学习及其在 NLP 上的应用 | 分享总结

Valuefunction:分为两种,一个是V-valuefunction,一个是Q-valuefunction,但是这里因为时间有限,我们就只介绍Q-valuefunction,它表示的是未来的总的reward的一个估计,或者是一个期望,它表示当前策略的一个状况,也就是当前策略的一个好坏程度,它的定义是上图(下)的一行公式(截自教材),公式中都是顺时...

深入理解计算机系统 ——CAEer 视角

常用的数据类型有这么几种,字符型、整数型以及浮点型,其中字符型一般用来存储字符串中的单个字符,整数型则用来存储各种长度的整数,浮点型则是用来存储不同精度的浮点数。1.4寻址和字节顺序如果一个数据跨越多个存储字节,那么就必须要对数据的存放顺序进行规定,几乎所有机器,多字节对象都被储存在连续的字节序列中。对...