欢迎访问西安知识产权运营服务平台

< a href=' '>web对话
  • 一种基于脉动阵列自注意力机制的实现系统及方法
一种基于脉动阵列自注意力机制的实现系统及方法 授权有效中;
  • 专利(申请)号: CN202310215066.1
  • 专利类型: 发明;
  • 主分类: G物理;
  • 产业领域: 神经网络
  • 专利来源: 高校;
  • 申请日: 2023-03-08
  • 原始申请人: 西安电子科技大学
  • 当前专利权人: 西安电子科技大学
  • 交易方式: 转让;
  • 其他交易方式:
  • 参考价格(元): ¥100000
  • 联系方式: 远诺技术转移中心-龚18329540641

一种基于脉动阵列自注意力机制的实现系统及方法,系统包括:预处理单元:对输入矩阵进行处理并传输,PE计算单元:对处理后的数据进行缓存、乘法运算、累加操作,输出乘加结果,脉动阵列:乘加结果进行横向和纵向传递,重复上述操作,直至完成乘加计算;矩阵乘法计算单元:获得矩阵和K矩阵的乘积矩阵;自注意力机制模块:获得模块输出Attention(Q、K、V);方法是一种基于脉动阵列自注意力机制的实现系统的应用;本发明通过利用带反馈机制的PE计算单元组成脉动阵列模块,同时采用并行输入的方式,应用于自注意力机制算法,实现了自注意力机制的硬件计算设计,具有提高脉动阵列的计算带宽、在高计算带宽的同时实现较高的计算准确度,提高工作效率的特点。


×
发送意向

申请须知:申请人无需注册账号即可提交交易意向,交易意向一经提交不可查询或更改,请准确填写相关信息;平台运营人员将在3-5个工作日内查看交易意向并与您联系,感谢阅读。