天眼查App信息显示，华为技术有限公司申请的“AI模型的运行方法、装置、程序产品和存储介质”专利已在9月5日正式公布。这一专利的出现，在机器学习技术领域引发了广泛关注，为AI模型运行效率的提升提供了新的解决思路。
在AI模型的运行过程中，数据处理流程的优化至关重要。华为此次公布的专利聚焦于减少因嵌入向量搬运所带来的延时问题。该专利方法应用于包含处理器且连接计算卡的主机。具体而言，处理器会确定AI模型相邻的两组输入数据中，在第二数据组（后训练的数据组）中但不在第一数据组（先训练的数据组）中的第一数据。随后，将第一数据对应的第一嵌入向量预取至处理器的第一内存，并确定第一嵌入向量信息。在第二数据组于计算卡上进行处理的过程中，依据第一嵌入向量信息，把第一嵌入向量从第一内存预取至计算卡的第二内存。
通过这种数据预取机制，能够在计算卡处理数据的同时，将所需嵌入向量从主机端预取至计算卡内存，实现数据搬运与计算并行。传统模式下，数据搬运往往会占用大量时间，导致处理延时，而华为的这一创新方案打破了这一困境，极大地提升了数据处理速度。举例来说，在一些需要实时处理大量数据的AI应用场景中，如智能安防监控中的实时目标识别、金融交易中的风险实时评估等，快速的数据处理能力意味着能够更快地做出决策，提高系统的响应性能和整体效率。
业内专家认为，华为这一专利技术展示了其在AI领域持续深耕的技术实力和创新能力。随着AI技术在各个行业的广泛应用，对模型运行效率的要求也越来越高。华为的这项专利技术有望为众多AI应用场景提供更高效的解决方案，进一步推动AI技术在产业中的落地应用，助力企业提升竞争力，在全球AI竞争中占据更有利的地位。
此外，华为在AI领域的专利布局不止于此。此前，华为还申请了多项与AI相关的专利，涵盖模型部署、模型处理等多个方面。例如，名为“人工智能模型部署方法、计算机系统、计算机可读存储介质及计算机程序产品”的专利，通过灵活调配参数的存储位置，有效提升了资源利用率；“一种AI模型的生成方法及装置”专利则在一定程度上提升了生成AI模型的效率、降低了资源消耗。这些专利共同构成了华为在AI领域的技术护城河，彰显了其在推动AI技术发展方面的决心和努力。
