題目:基于非對(duì)稱(chēng)激活函數(shù)的神經(jīng)網(wǎng)絡(luò)權(quán)值初始化方法研究
時(shí)間:2024年6月13日(周四)上午10:00
地點(diǎn):香港臺(tái)山商會(huì)大樓605
主講人:劉業(yè)峰教授
歡迎全校師生參加!
機(jī)械與自動(dòng)化工程學(xué)院
2024年6月7日
主講人簡(jiǎn)介:
劉業(yè)峰,博士,教授,沈陽(yáng)工學(xué)院科技處處長(zhǎng)兼學(xué)科建設(shè)處處長(zhǎng),遼寧省數(shù)控機(jī)床信息物理融合與智能制造重點(diǎn)實(shí)驗(yàn)室副主任,沈陽(yáng)航空航天大學(xué)自動(dòng)化學(xué)院、沈陽(yáng)理工大學(xué)自動(dòng)化與電氣工程學(xué)院兼職研究生導(dǎo)師。以機(jī)械加工、汽車(chē)、電力上廣泛應(yīng)用的磁性材料釹鐵硼的實(shí)際生產(chǎn)過(guò)程和以高檔數(shù)控機(jī)床為主的車(chē)間信息物理融合與智能制造為研究對(duì)象,長(zhǎng)期開(kāi)展基于問(wèn)題導(dǎo)向的生產(chǎn)過(guò)程資源優(yōu)化,并能夠?qū)⒀芯砍晒M(jìn)行轉(zhuǎn)化和產(chǎn)業(yè)化。主要研究方向:復(fù)雜工業(yè)系統(tǒng)建模、優(yōu)化決策理論與技術(shù)、工業(yè)人工智能。近幾年主持和參與19項(xiàng)科研項(xiàng)目,發(fā)表論文60余篇,獲2022年度遼寧省科技進(jìn)步獎(jiǎng)三等獎(jiǎng)(第一完成人),4次獲遼寧省普通高等教育本科教學(xué)成果獎(jiǎng)一等獎(jiǎng),擔(dān)任多家重要期刊雜志的審稿專(zhuān)家。
內(nèi)容簡(jiǎn)介:
神經(jīng)網(wǎng)絡(luò)的權(quán)值初始化對(duì)網(wǎng)絡(luò)學(xué)習(xí)過(guò)程具有重要影響,且初始權(quán)值的選取與激活函數(shù)的激活區(qū)間相關(guān),基于線(xiàn)性區(qū)間容忍解方法(LIT),將網(wǎng)絡(luò)權(quán)值的初始化問(wèn)題轉(zhuǎn)化為計(jì)算線(xiàn)性區(qū)間系統(tǒng)的容忍解問(wèn)題,給出了針對(duì)非對(duì)稱(chēng)性激活函數(shù)的改進(jìn)權(quán)值初始化方法。方法給出了基于神經(jīng)網(wǎng)絡(luò)系統(tǒng)的容忍解定理,對(duì)定理進(jìn)行了證明,并給出了確定初始權(quán)值區(qū)間的求解算法,通過(guò)數(shù)值實(shí)驗(yàn)驗(yàn)證了本文定理和給出算法的有效性,該方法擴(kuò)大了神經(jīng)網(wǎng)絡(luò)激活函數(shù)的選取范圍,具有一定的理論意義和實(shí)踐應(yīng)用價(jià)值。