...模型抗振方法及装置专利,提高了透明元件多表面形貌的测量精度
涉及光学干涉测量技术领域,通过获取混叠干涉图组,利用快速傅里叶变换分离混叠干涉图组中每个像素所包含的信号,并进行解析得到不同表面的初始相位;根据初始相位和初始移相量计算变化补偿因子;根据最小二乘法拟合方法和变化补偿因子计算干涉条纹强度公式中的未知参数;根据最小二乘法拟合方法和未知参数计算移相量;根据移相量...
沐曦科技申请基于误差补偿的线性拟合对数近似乘法器专利,提高近似...
包括第一变换电路、第二变换电路、误差补偿电路、对数编码加法器、误差补偿加法器、三段式线性拟合电路和输出移位器,第一变换电路和第二变换电路均包括首位1检测电路、尾数获取电路和拼接电路,首位1检测电路分别与尾数获取电路和所述拼接电路相连接,尾数获取电路分别与拼接电路和误差补偿电路相连接误差补偿电路与误差补偿...
ADC INL误差——最佳拟合线、总未调整误差、绝对和相对精度
端点方法使用第一个和最后一个代码来推导参考线,而最佳拟合方法使用最佳拟合线作为其参考。无论使用端点还是最佳拟合方法,ADC的静态传输特性都可以根据码中心或转换点来定义(用于INL计算)。ADC的精度通常用三种规格表示:绝对精度、相对精度和TUE。
...作:用物理学革新 Transformer 注意力,「大海捞针」精度暴涨 30%!
具体来说,给定输入序列X∈??^{N×d_model},首先将其投影为Q、K、V矩阵Q_1,Q_2,K_1,K_2∈??^{N×d},V∈??^{N×2??d},然后是差分注意力算子DiffAttn(·)通过公式(1)计算输出:λ被初始化为常量λ_{init}∈(0,1),并依照公式(2)与其他权重参数同步更新:其中,λ_??...
《微观量化百问》第十四期丨模型和模型训练中的过拟合
所以将机器学习应用到量化投资领域时,在模型训练中如何预防和避免过拟合显得尤为重要,需要综合考虑预测精度、模型可解释性、模型鲁棒性和计算复杂性等因素。其中金融时间序列预测必须避免使用未来信息,有时更倾向于随着时间的推移将时间序列分成训练、验证和测试块,即进行前向验证,而非模型超参数优化中的交叉验证。
...高效将机械臂各关节电流值转换为机械臂末端力矩值,提高拟合精度
亿嘉和取得一项基于深度学习的机械臂力控制专利,能够以端到端的方式高效将机械臂各关节电流值转换为机械臂末端力矩值,提高拟合精度,力矩,关节,拟合,亿嘉和,深度学习,机械臂力
...带确定方法专利,可通过关键点的连接实现对减速带的高精度拟合
由此,通过特征图可以快速地确定目标图像中减速带的关键点位置,有利于提升确定减速带的速度,并且,通过减速带关键点将减速带简化为线形,进而通过多个减速带关键点确定减速带,通过多个减速带关键点的连接实现对减速带的高精度拟合,简单高效,且能保证准确性。
...取得提高精度和时效性的专利,提高DSP在Sar成像中的计算精度与...
专利摘要显示,本发明涉及一种基于DSP实现Sar成像中提高精度和时效性的方法,提高DSP计算精度:DSP在计算复乘因子时,常常需要根据两个矢量拟合出系数,但是拟合出来的误差较大,导致成像质量不高,为此将拟合系数与矢量进行ployval()后,再与原矢量相减后再次拟合得到拟合系数的误差值,与原拟合系数相加,可得到精度较高的拟合...
...的融合方法、电子设备及存储介质专利,提升了车道线融合的精度...
沿所述基础车道线的延伸方向,依次连接所述融合点,形成与多个原始车道线对应的融合车道线,融合车道线的走向与基础车道线走向相同。本申请提供的车道线的融合方法,通过原始车道线直接计算生成融合点,且得到的融合点准确性较高,无需采用传统几何模型拟合得到车道线,提升了车道线融合的精度和速度。
...页岩气可采储量评估方法、系统及设备专利,提升可采储量预测精度
动态数据和静态数据,预测气井的可采储量;S2,测试已开发区页岩气井生产过程中的烷烃碳同位素,计算得到稳定碳同位素产能系数;S3,进行拟合分析,建立稳定碳同位素产能系数与可采储量之间的拟合关系式;S4,测试获得未开发气井的碳同位素产能系数,将碳同位素产能系数代入稳定碳同位素产能系数与可采储量的拟合关系式中确定未...