上海友道智途科技有限公司在2024年12月申请的一项专利，该专利涉及基于transformer模型的GPU推理性能优化，同时还会提及该公司的一些基本情况。
根据金融界2025年5月1日消息，国家知识产权局的信息表明，上海友道智途科技有限公司申请了一项专利。这个专利名为“一种基于transformer模型的GPU推理性能优化方法、系统、设备及存储介质”，其公开号为CN119886347A，申请日期是2024年12月。
从专利摘要能够得知，此项发明公开的基于transformer模型的GPU推理性能优化方法、系统、设备及存储介质属于通用的transformer模型推理性能调优策略。这种策略可以适用于多种应用场景以及模型类型。它通过自定义算子替换和融合的方式，来优化Attention算子、LayerNorm算子、GBR算子、GB算子等。这样做能够显著减少计算量或者内存的使用，从而提升模型性能。具体的优化步骤涵盖了迭代搜索、模式匹配、算子替换和融合等，这些步骤有助于提高深度学习模型的训练速度和推理速度，并且能够降低资源消耗和成本。
再看天眼查的资料，上海友道智途科技有限公司成立于2021年，位于上海市，主要从事软件和信息技术服务业。该企业的注册资本达到了113333.3333万人民币。经过天眼查大数据分析可知，上海友道智途科技有限公司对外投资了2家企业，参与招投标项目13次。在财产线索方面，它有商标信息20条，专利信息229条，另外还拥有行政许可44个。
上海友道智途科技有限公司的专利申请情况及其公司基本信息。该公司的专利对基于transformer模型的GPU推理性能进行优化，采用多种优化手段提升模型性能，同时公司在经营方面有多项成果体现，如对外投资、参与招投标等，并且拥有众多商标、专利和行政许可等。
原创文章，作者：Admin，如若转载，请注明出处：https://www.camerich.net/archives/1308.html
