腾讯申请多头注意力处理方法专利，降低转换开销_财经分析

腾讯申请多头注意力处理方法专利，降低转换开销

创始人

2025-12-30 19:21:19

0次

国家知识产权局信息显示，腾讯云计算（北京）有限责任公司申请一项名为“多头注意力处理方法、相关装置和介质”的专利，公开号CN121234993A，申请日期为2024年6月。

专利摘要显示，本公开提供一种多头注意力处理方法、相关装置和介质，方法包括：将第一权重矩阵切分，得到第一数目个第一权重矩阵子块，并分配至各个处理单元；将各个处理单元对应的输入矩阵子块拼接成输入矩阵，分发到每个处理单元；通过每个处理单元，基于输入矩阵、和与处理单元对应的第一权重矩阵子块，计算处理单元对应的第一变换后子块，并进行注意力计算，得到第一待分散归约子块；将第一待分散归约子块分成与各个处理单元对应的多个待分散归约分块，将单个处理单元对应的待分散归约分块归约为单个处理单元对应的注意力结果子块。本公开能够在保持大的输入矩阵子块的多头注意力处理效率的同时，降低转换开销。本公开用于人工智能助手，机器翻译等场景。

天眼查资料显示，腾讯云计算（北京）有限责任公司，成立于2010年，位于北京市，是一家以从事互联网和相关服务为主的企业。企业注册资本104250万人民币。通过天眼查大数据分析，腾讯云计算（北京）有限责任公司共对外投资了37家企业，参与招投标项目5000次，专利信息1666条，此外企业还拥有行政许可14个。

声明：市场有风险，投资需谨慎。本文为AI基于第三方数据生成，仅供参考，不构成个人投资建议。

来源：市场资讯

企业方法显示注意力多头投资矩阵处理开销专利矩阵子块单元子块

上一篇：原创血亏警告！白银还敢炒？三个生死线必须知道

下一篇：《荣耀出征》手游现已内测！游戏代币、强化宝石、特权等全部免费体验！

腾讯申请多头注意力处理方法专利，降低转换开销

相关内容

热门资讯