近日,第34屆國際人工智能聯(lián)合會議(International Joint Conference on Artificial Intelligence, 簡稱為IJCAI)公布了論文錄用結(jié)果,信機學(xué)院趙勤課題組撰寫的論文“Wave-driven Graph Neural Networks with Energy Dynamics for Over-smoothing Mitigation”被會議錄用,2023級碩士研究生吳沛晗和青年教師祁宏達為共同第一作者,趙勤副教授為通訊作者,上海師范大學(xué)為唯一署名單位。
過平滑是圖神經(jīng)網(wǎng)絡(luò)中一個長期存在的挑戰(zhàn),隨著網(wǎng)絡(luò)深度增加,節(jié)點嵌入會變得難以區(qū)分,從根本上限制了其在需要細粒度區(qū)分任務(wù)上的有效性。這一問題源于基于擴散的傳播機制,該機制會抑制對保持特征多樣性至關(guān)重要的高頻信息。
研究提出了一種波動驅(qū)動的圖神經(jīng)網(wǎng)絡(luò)框架,通過波動方程重新定義特征傳播。與擴散不同,波動方程結(jié)合了二階動力學(xué),平衡平滑和振蕩行為以保留高頻分量,同時確保有效的信息流動。為增強波動方程在圖結(jié)構(gòu)上離散化的穩(wěn)定性和收斂性,研究引入了受動能與勢能動力學(xué)啟發(fā)的能量機制,通過平衡時間演化和結(jié)構(gòu)對齊來穩(wěn)定傳播。實驗表明,此框架實現(xiàn)了最先進的性能,有效緩解了過平滑問題,并支持構(gòu)建更深層、更具表達力的架構(gòu)。
IJCAI是人工智能領(lǐng)域歷史最悠久的學(xué)術(shù)會議,也是國際人工智能領(lǐng)域三大旗艦會議之一,被譽為“人工智能界的奧林匹克”,代表著國際人工智能研究的最高水平和發(fā)展方向。其論文錄用率為計算機頂級會議中最低,今年僅為19.3%。這是我校首次在IJCAI上發(fā)表論文,也標志著我校在人工智能領(lǐng)域研究取得突破性進展,得到了國際同行的認可。該項研究成果依托于我校的上海市科委上海智能教育大數(shù)據(jù)工程技術(shù)研究中心,得到了國家重點研發(fā)計劃(2022YFB4501704)、國家自然科學(xué)基金(61702333、62302308)等項目的資助。論文的發(fā)表也表明我校計算機學(xué)科和工程中心的科研水平在學(xué)校建設(shè)發(fā)展戰(zhàn)略指引下得到了顯著的提升。
(供稿、圖片:信機學(xué)院)