金融界2024年10月28日消息,國家知識產(chǎn)權(quán)局信息顯示,珠海全志科技股份有限公司申請一項名為“一種面向芯片設(shè)計的神經(jīng)架構(gòu)搜索方法”的專利,公開號 CN 118821863 A ,申請日期為2024年6月。
專利摘要顯示,本發(fā)明公開了一種面向芯片設(shè)計的神經(jīng)架構(gòu)搜索方法,該方法包括:使用經(jīng)過訓(xùn)練的包含多種卷積算子的大型神經(jīng)網(wǎng)絡(luò)構(gòu)建超網(wǎng)絡(luò);然后使用隨機(jī)松弛方法轉(zhuǎn)化不可微分的目標(biāo)函數(shù)為可微分目標(biāo)函數(shù),利用實驗將芯片的性能建模為硬件模型利用多變量幾何信息優(yōu)化搜索方法,結(jié)合蒙特卡洛法估計梯度進(jìn)行神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和神經(jīng)網(wǎng)絡(luò)參數(shù)的優(yōu)化;基于實驗對特定芯片的硬件性能進(jìn)行建模,結(jié)合基于實驗獲取的硬件模型,采用動態(tài)規(guī)劃方法對已訓(xùn)練的超網(wǎng)絡(luò)進(jìn)行結(jié)構(gòu)搜索,確定最終的目標(biāo)網(wǎng)絡(luò)。本發(fā)明可以在計算能力受限或者具有特定性能要求的芯片上高效地搜索出最優(yōu)高效的網(wǎng)絡(luò)結(jié)構(gòu)。
本文源自金融界