注意力机制量化剪枝优化方法

面向基于注意力机制模型的巨大计算和访存开销问题,研究量化和剪枝协同优化的模型压缩技术,提出针对注意力机制中查询、键、值、概率共四个激活值矩阵的对称线性定点量化方法。同时,提出概率矩阵剪枝方法和渐进式剪枝策略,有效降低剪枝精度损失。在不同数据集上的实验结果表明,针对典型基于注意力机制模型BERT,在较低或者没有精度损失的情况下该优化方法可达到4位或8位定点量化、0.93～0.98的稀疏度,大幅度降低模型计算量,为加速量化稀疏模型的推理奠定良好的基础。     

许地山小说中宗教救赎的流变

宗教救赎是许地山小说的创作意图和重要特质,它或隐或显地贯穿于许地山的整个小说创作中。他的小说对现实人生和终极理想进行了交错关注,而宗教救赎的意涵也在关注中不断变化。     

一种RetinaNet与SE融合的航空取证目标检测算法

针对在开展航空侦察取证时缺乏自动化、智能化取证手段的情况,提出了一种基于Reti-naNet与SE融合的航空取证目标检测算法,解决目标尺度变化大、数据集中类别不均衡的问题,并通过SE (squeeze-excitations)模块引入注意力机制进一步改进性能.该改进算法中的特征金字塔网络FPN可有效应对目标尺寸变化较大...     

基于显著性的红外图像强固定模式噪声抑制*

本文针对红外成像设备对天远距离观测中得到的小目标、强固定模式噪声这一类典型数据提出基于显著性的红外图像强固定模式噪声抑制算法。文中首先对此类图像数据进行特性分析,指出图像中目标区域相对于背景固定模式噪声区域是显著的,利用显著性检测算法分离出图像中目标区域及背景,对不同区域分别采取不同处理,仅基于单幅图像信息实现强固定模式噪声的有效抑制。最后,通过大量小目标、强固定模式噪声红外图像对算法性能进行测试,结果表明,本算法能够准确提取出图像中目标区域,实现图像中强固定模式噪声的有效抑制。     

提高理工科学生听力水平的探讨

本文紧紧围绕目前理工科学生实际听力水平状况,详细分析了影响理工科学生听力水平提高的两大制约因素,即语言因素和心理因素;讨论了语言教师针对这两大因素如何加强听力教学;最后根据全国四、六级英语统考题型,提出了听力测试中的有关技巧。     

The politics of defense revival in Argentina

In marked contrast with previous decades, defense issues in Argentina have started to receive increasing political attention over the last few years. The main goal of this article is to account for this new found interest in defense policy. The article contends that this revival could be accounted for by both the implementation of a neo-developmentalist strategy and a type of control that emphasizes civilian oversight over the armed forces. Both factors have promoted the implementation of policies that favored an increase in the military budget, the reconstruction of the defense industry and the establishment of a new military doctrine. This article evaluates the impact of factors that have not been previously considered by the literature on defense attention in South America.     

浅议注意力分配在射击教学中的正确运用

影响射击技能提高的因素很多,其中一个主要因素是注意力分配的问题。影响注意力分配的因素有内因、外因,也有平时不被注意的客观原因。本文就射击教学中如何正确处理和解决好这些因素对注意力的影响,进行了探讨和分析。     

基于相关度和注意力聚焦的图像内容检索

基于内容的检索中对图像和视频帧的处理是以色彩、形状和纹理等为基本特征,这些特征在图像背景比较单一的情况下容易获得。一旦图像背景为色彩和纹理均很复杂的图像时,图像中目标的颜色和形状等特征就很难获得。若将从计算机视觉中引出的相关度和注意力聚焦两个概念用于从复杂背景图像中定位和选取最有关的信息,则能够有效地检索到最匹配的图像。本文通过对相关度和注意力聚焦两个概念的讨论,介绍了计算机视觉对基于内容检索的作用,尤其是在可视示例查询ＱＶＥ（ＱｕｅｒｙｂｙＶｉｓｕａｌＥｘａｍｐｌｅ）的情况下从大图像数据库中检索图像的情况     

学科类型、刺激对注意分配的影响

本研究从刺激类型、学科类型来探讨个体注意分配的差异。本研究采用2×2×2混合设计,其中学科(理科、文科)、性别(男生、女生)为组间变量、刺激类型(声刺激、光刺激)为组内变量;因变量为反应时。实验结果表明:不同学科类型学生的注意分配差异性显著,理科学生的注意分配反应时低于文科学生的注意分配能力;不同的刺激类型的注意分配差异显著,光选择反应的反应时低于声选择反应时;不同性别学生的注意分配能力的差异不显著。结论:学科类型、刺激类型影响个体的注意分配能力。     

面向时空交通栅格流量预测的3D通道注意力网络

城市交通流量预测对交通管理和公共安全具有重要意义。然而,交通栅格流量数据中的规律在时刻变化,在城市中存在全局范围的时空间关系,并且不同特征通道在每个城市区域上有不同的重要性。为解决这些挑战并做出更准确的预测,设计了一种新颖的时空神经网络模型——3D通道注意力网络(three-dimensional channel-wise attention networks,3D-CANet)。提出一个3D通道内注意力(three-dimensional inner channel attention,3D-InnerCA)单元来动态捕获各个通道中不同的全局时空相关性,同时设计通道间注意力(inter channel attention,InterCA)单元来自适应地重校准每个区域上不同特征通道的贡献。在3个真实交通栅格流量数据集上的实验结果表明,3D-CANet模型的预测能力优于其他对比方法,证明了模型的有效性。