注意力机制量化剪枝优化方法

面向基于注意力机制模型的巨大计算和访存开销问题,研究量化和剪枝协同优化的模型压缩技术,提出针对注意力机制中查询、键、值、概率共四个激活值矩阵的对称线性定点量化方法。同时,提出概率矩阵剪枝方法和渐进式剪枝策略,有效降低剪枝精度损失。在不同数据集上的实验结果表明,针对典型基于注意力机制模型BERT,在较低或者没有精度损失的情况下该优化方法可达到4位或8位定点量化、0.93～0.98的稀疏度,大幅度降低模型计算量,为加速量化稀疏模型的推理奠定良好的基础。     

如何提高战时文化工作效能

现代战争中的文化工作，除了要体现平时文化工作的特点外，更重要的是要体现出它的战斗性、鼓动性和对抗性。所以，在工作的组织、内容的选择以及方法的运用上，也就应该有所侧重。     

多核数字信号处理卷积算法并行优化

针对国防科技大学自主研发的异构多核数字信号处理(digital signal processing, DSP)芯片的特征以及卷积算法自身特点,提出了一种面向多核DSP架构的高性能多核并行卷积实现方案。针对1×1卷积提出了特征图级多核并行方案;针对卷积核大于1的卷积提出了窗口级多核并行优化设计,同时提出了逐元素向量化计算的核内并行优化实现。实验结果表明,所提并行优化方法实现单核计算效率最高能达到64.95%,在带宽受限情况下,多核并行扩展效率可达到48.36%～88.52%,在典型网络ResNet50上的执行性能与E5-2640 CPU相比,获得了5.39倍性能加速。     

如何计算伊拉克战争的代价？

历史告诉我们,军事上的胜利,并不等于达到了政治上的目的。伊拉克战争就是这样。战争给伊拉克造成了巨大的损失,美国自身也是代价惨重,世界为之付出的代价则难以估量。     

无人机自驾仪硬件加固方案设计与可靠性分析

自驾仪是无人机实现自主飞行与自主完成各项任务的核心器件。现有商用无人机自驾仪大多没有进行硬件加固,直接用来执行重大任务时有一定风险。通过分析可知自驾仪组成模块中对安全性和可靠性影响最大的模块为控制解算器。根据逐步提高的容错需求,使用复位器、计数器、反相器、选择器等简单器件以及在芯片内部添加简单代码,分别设计了单机复位加固方案、双机热备加固方案、硬件切换和软件切换双机互备加固方案。重点研究了加固方案的可靠性随时间的变化关系,并进行了对比分析。对加固方案的工作机制进行了模拟,分析了这些方案在处理故障时的系统异常输出时间等容错特性。计算表明,这些加固方案可以显著提高系统的可靠性,其中双机互备加固方案的可靠性最高。该研究对于指导高可靠性自驾仪设计时在容错效果与复杂度、成本等方面进行折中具有较大的参考意义。     

高性能异构加速器MiniGo算子优化方法

根据高性能异构加速器的特性和MiniGo的训练模式提出了一种高效的并行计算方法。对片上计算资源进行合理规划,实现异构设备之间的流水并行优化;根据异构设备间存在共享存储段设计了共享内存编码模式,减少数据传输开销;根据数字信号处理簇内具有多计算资源的特点结合算子计算-访存特性设计了不同的算子并行计算优化策略。同时,面向TensorFlow实现了一个易于使用的高性能计算库。实验结果显示,该方法实现了典型算子的多核并行计算。相对于单核,卷积算子加速比为24.69。相较于裁剪版8核FT2000+CPU,该方法训练和自博弈执行速度加速比分别为3.83和1.5。     

美国海军基地——罗斯福·罗兹

Puetro Rico是美国在本国最重要的军事基地之一——美国海军罗斯福·罗兹RO-RO基地的所在地。在维科斯(Vieques)岛的东端,占地大约9,000英亩,岛上占地22,000英亩,和194,000平方英里的周围水域及领空,用于海军演习和海陆两用训练。它是美国在世界上最大的海军基地。