報告人：胡旭明 副研究員 助理教授 香港科技大學（廣州）
報告時間：2024年9月25日（周三）14:00
報告地點：bet356手机版唯一官网九龍湖校區計算機樓513室
報告摘要：報告将深入分析大語言模型生成幻覺現象的成因，并評估這些現象對模型可靠性的影響。報告将介紹不确定性感知的模型對齊（U2Align）和檢索增強生成（RAG）的方法，這些方法旨在提升模型輸出的準确性和可信度。此外，報告還将探讨針對外部攻擊的水印防禦技術，包括魯棒的語義水印和公開可驗證的水印，以增強模型在面對惡意攻擊時的防禦能力。通過對這些防禦方法的介紹和分析，本報告将為大語言模型的可靠性和安全性提供新的見解。
報告人簡介：胡旭明，香港科技大學（廣州）人工智能學域副研究員、助理教授、博士生導師，羊城學者。胡旭明博士于清華大學獲得博士學位，導師是 Philip S. Yu教授（ACM/IEEE Fellow）。胡旭明博士主要研究方向為自然語言處理、大模型及相關領域應用，緻力于探索可信大模型，并且整合多模态數據到大模型以獲得更全面的通用人工智能。胡旭明博士主持了廣東省青年人才項目，廣州市高層次人才項目以及一系列企業橫向項目；參與了國家自然科學基金委重大項目和重點項目，國家科技部重點研發計劃項目，相關研究成果落地阿裡巴巴和AWS Glue的包括智能問答、智能搜索等多個應用場景。近五年，胡旭明博士在ICLR、ACL、EMNLP、NAACL、TKDE、SIGIR等大模型領域國際頂級期刊和會議上發表了10餘篇第一作者文章，被引1000餘次。擔任ACL、EMNLP、NAACL、EACL等頂級國際會議的領域主席以及ACL Rolling Review的執行編輯，并且組織了2023年國際大數據競賽、2022年重慶市人工智能競賽，吸引了全球超過3000多支隊伍參賽。胡旭明博士曾獲得的部分榮譽包括KDD Cup全賽道全球季軍，北京市優秀畢業生、清華大學優秀畢業生、清華大學優秀博士學位論文等。
