百度申請針對混合使用多種型號芯片算力集群訓(xùn)練策略專利低成本快速確定訓(xùn)練策略
金融界2025年1月18日消息，國家知識產(chǎn)權(quán)局信息顯示，北京百度網(wǎng)訊科技有限公司申請一項名為“針對混合使用多種型號芯片的算力集群的訓(xùn)練策略確定方法及相關(guān)裝置”的專利，公開號 CN 119312097 A，申請日期為2024年12月。
專利摘要顯示，本公開提供了針對混合使用多種型號芯片的算力集群的訓(xùn)練策略確定方法及相關(guān)裝置，涉及圖形處理芯片、算力集群、大模型、模型訓(xùn)練等技術(shù)領(lǐng)域。該方法包括確定構(gòu)成算力集群的各目標型號芯片和對應(yīng)的數(shù)量占比；針對每種目標型號芯片，均確定目標型號芯片在預(yù)設(shè)性能種類的性能評價和各性能種類在每種備選訓(xùn)練策略下的權(quán)重分布；針對每種備選訓(xùn)練策略，均使用其分別匹配于每種目標型號芯片的權(quán)重分布對各相應(yīng)的預(yù)設(shè)性能種類下的性能評價結(jié)合各相應(yīng)的數(shù)量占比進行加權(quán)處理，得到對應(yīng)的綜合訓(xùn)練評價；基于各綜合訓(xùn)練評價的評價參數(shù)，確定目標訓(xùn)練策略。應(yīng)用本方案可低成本、快速的確定適合混合使用多型號芯片的算力集群在訓(xùn)練大模型時使用的訓(xùn)練策略。
天眼查資料顯示，北京百度網(wǎng)訊科技有限公司，成立于2001年，位于北京市，是一家以從事互聯(lián)網(wǎng)和相關(guān)服務(wù)為主的企業(yè)。企業(yè)注冊資本1342128萬人民幣，實繳資本1342128萬人民幣。通過天眼查大數(shù)據(jù)分析，北京百度網(wǎng)訊科技有限公司共對外投資了74家企業(yè)，參與招投標項目2806次，知識產(chǎn)權(quán)方面有商標信息973條，專利信息5000條，此外企業(yè)還擁有行政許可47個。