復(fù)旦大學(xué)計(jì)算機(jī)科學(xué)技術(shù)學(xué)院院長(zhǎng)姜育剛：人工智能算法治理|達(dá)觀WAIC回顧
在2021世界人工智能大會(huì)中，達(dá)觀數(shù)據(jù)與浦東青聯(lián)聯(lián)合舉辦了“未來(lái)辦公 文本賦能”智能語(yǔ)義分析應(yīng)用論壇，多位專家學(xué)者圍繞人工智能算法、語(yǔ)義分析、智能辦公機(jī)器人應(yīng)用等話題展開(kāi)了一場(chǎng)精彩的交流盛宴。
復(fù)旦大學(xué)教授、博士生導(dǎo)師
復(fù)旦大學(xué)計(jì)算機(jī)科學(xué)技術(shù)學(xué)院院長(zhǎng)、軟件學(xué)院姜育剛
復(fù)旦大學(xué)計(jì)算機(jī)科學(xué)技術(shù)學(xué)院院長(zhǎng)姜育剛以人工智能算法治理的角度分享，內(nèi)容圍繞目前人工智能算法治理現(xiàn)狀與問(wèn)題、研究進(jìn)展與局限和未來(lái)展望三個(gè)方面展開(kāi)。對(duì)于人工智能發(fā)展現(xiàn)狀，姜院長(zhǎng)表示目前人工智能在很多領(lǐng)域都取得了初步的成功，例如智慧金融、智能客服、自動(dòng)駕駛、智能制造，智能檔案，智慧醫(yī)療等等，很多行業(yè)都在體驗(yàn)著AI帶來(lái)的便利。但與此同時(shí)，人工智能也存在著算法不透明、不公平、不安全、不友好、隱私泄漏、算法濫用等隱患，有待進(jìn)一步突破。對(duì)此問(wèn)題，姜院長(zhǎng)分別從人工智能算法的透明性、公平性、安全性、隱私保護(hù)和濫用監(jiān)測(cè)五個(gè)方面和大家分享了最新的研究進(jìn)展和局限。
在大家最關(guān)注的透明度與可解釋性上，整個(gè)深度學(xué)習(xí)的框架決定了AI系統(tǒng)目前很難做到非常透明。姜院長(zhǎng)分享了如何通過(guò)可視化的方式，利用熱力圖可視化類別激活圖、模型梯度與敏感度，實(shí)現(xiàn)模型可解釋的研究?jī)?nèi)容。他表示，如果想做到模型絕對(duì)的可解釋，亟需深度學(xué)習(xí)基礎(chǔ)理論的突破，以構(gòu)建天然可解釋的訓(xùn)練及測(cè)試算法。
從公平性的角度來(lái)說(shuō)，姜院長(zhǎng)認(rèn)為在進(jìn)行模型訓(xùn)練和設(shè)計(jì)時(shí)，想辦法消除有可能存在的地域、性別、種族等潛在偏見(jiàn)是值得關(guān)注與研究的方向，亟需在訓(xùn)練過(guò)程中引入人文社科知識(shí)，確保數(shù)據(jù)、模型的公平性。
在安全性方面，姜院長(zhǎng)介紹了對(duì)抗樣本防御、后門攻擊防御，以及魯棒性評(píng)估這三種方式。???對(duì)抗樣本防御：目前最有效的防御方式是將對(duì)抗樣本加到模型中，強(qiáng)制模型對(duì)于這些對(duì)抗樣本生成正確的預(yù)測(cè)，這也是目前被認(rèn)為最有效的防御的手段；???后門攻擊防御：該領(lǐng)域的研究比較新，最近一兩年才引起關(guān)注，也急需研究統(tǒng)一的標(biāo)準(zhǔn)和評(píng)測(cè)方法；
???魯棒性評(píng)估：通過(guò)集成不同的對(duì)抗攻擊方法，進(jìn)行無(wú)限制攻擊測(cè)試以發(fā)現(xiàn)模型的安全漏洞，同時(shí)通過(guò)不同強(qiáng)度的對(duì)抗樣本攻擊來(lái)有效評(píng)估模型魯棒性。達(dá)觀在NLP方面做的文本魯棒性評(píng)估工具很好，復(fù)旦計(jì)算機(jī)學(xué)院也與達(dá)觀數(shù)據(jù)進(jìn)行了深入的合作。
談及隱私保護(hù)，姜院長(zhǎng)表示非常有代表性的就是聯(lián)邦學(xué)習(xí)，聯(lián)邦學(xué)習(xí)可以利用分布式學(xué)習(xí)在保證數(shù)據(jù)隱私安全及合法合規(guī)的基礎(chǔ)上，實(shí)現(xiàn)共同建模，提升智能模型學(xué)習(xí)效果。但需有效的模型聚合方法，處理來(lái)自不同設(shè)備、不同分布的數(shù)據(jù)。?
關(guān)于濫用檢測(cè)，姜院長(zhǎng)主要圍繞機(jī)器生成文本檢測(cè)方向，利用文本統(tǒng)計(jì)特性如詞頻、詞頻排序、文本熵值等檢測(cè)文本是否為機(jī)器生成，同時(shí)借助可視化方法對(duì)檢測(cè)結(jié)果進(jìn)行展示。也提出需要具有強(qiáng)泛化能力的算法。
在分享最后，姜院長(zhǎng)倡導(dǎo)發(fā)展以人為本的人工智能，呼吁以人工智能向善、改善人類生活為目的來(lái)推進(jìn)人工智能算法的研究與應(yīng)用。在設(shè)計(jì)過(guò)程中除了產(chǎn)品層面的指標(biāo)，還需考慮公平公正、和諧、友好、尊重隱私、安全可控、可解釋等維度因素，以此引導(dǎo)人工智能的健康發(fā)展。同時(shí)提倡“技術(shù)+規(guī)則”雙輪驅(qū)動(dòng)的算法治理，技術(shù)與規(guī)則聯(lián)動(dòng)，一方面研究更符合規(guī)則的人工智能算法，發(fā)展評(píng)估技術(shù)以度量現(xiàn)有人工智能算法的合規(guī)程度；另一方面通過(guò)規(guī)則自頂向下約束人工智能技術(shù)活動(dòng)，牽引其健康發(fā)展。
