國外有IBM沃森的醫(yī)療AI產(chǎn)品做出錯(cuò)誤診斷并開出不安全藥物的教訓(xùn)，國內(nèi)有杭州動(dòng)物園發(fā)生的“中國人臉識(shí)別..案”的案例……近年來，人工智能的監(jiān)管問題已成為其發(fā)展道路上不可忽視的關(guān)鍵問題。

4月12日，“AI可信專題論壇”在上海召開，..們圍繞人工智能是否可信這一關(guān)鍵問題展開了深入探討。中國科學(xué)院院士何積豐指出：“技術(shù)的發(fā)展從來都是一把雙刃劍，人工智能在給人類社會(huì)帶來便利的同時(shí),也帶來了新的安全問題及風(fēng)險(xiǎn)?！?/span>

“人工智能發(fā)展仍舊面臨諸多挑戰(zhàn)?！本〇|集團(tuán)技術(shù)委員會(huì)主席、京東人工智能研究院院長周博文指出，真實(shí)世界環(huán)境開放、邊界和規(guī)則模糊、數(shù)據(jù)噪音多、AI模型的部分結(jié)果難以信賴等引發(fā)的問題層出不窮。如智能攝像頭將公交車上的廣告人物識(shí)別為闖紅燈者、AI寫作軟件創(chuàng)作核材料被盜的假新聞、智能音箱建議使用者自殺等，這些人工智能暴露的問題已經(jīng)逐漸與人們的生活密切相關(guān)。

復(fù)旦大學(xué)計(jì)算機(jī)學(xué)院院長姜育剛指出，要通過“技術(shù)+規(guī)則”雙輪驅(qū)動(dòng)算法治理?！凹夹g(shù)與規(guī)則聯(lián)動(dòng)，一方面研究更符合規(guī)則的人工智能算法，發(fā)展評(píng)估技術(shù)以度量現(xiàn)有人工智能算法的合規(guī)程度；另一方面通過規(guī)則自頂向下約束人工智能技術(shù)活動(dòng)牽引其健康發(fā)展?！?/span>

清華大學(xué)人工智能國際治理研究院副院長梁正對(duì)該會(huì)議上發(fā)布的《人工智能治理框架與實(shí)施路徑》報(bào)告內(nèi)容進(jìn)行介紹時(shí)表示，當(dāng)前人工智能治理的挑戰(zhàn)主要集中于三個(gè)方面：數(shù)據(jù)、算法、平臺(tái)等新興治理對(duì)象的涌現(xiàn)使得追責(zé)的難度不斷增大；人工智能技術(shù)的發(fā)展和應(yīng)用場景的拓寬使得潛在的重大技術(shù)、經(jīng)濟(jì)和道德風(fēng)險(xiǎn)開始沖擊人類社會(huì)現(xiàn)存的價(jià)值體系和競爭格局；現(xiàn)存的法律、監(jiān)管制度供給的缺陷和全球范圍內(nèi)靈活、有效治理機(jī)制的缺失問題進(jìn)一步凸顯。

“在治理過程中，除了應(yīng)對(duì)以上挑戰(zhàn)所帶來的風(fēng)險(xiǎn)外，還須實(shí)現(xiàn)發(fā)展與治理的平衡，既要避免規(guī)范不足導(dǎo)致的社會(huì)問題，也要避免過度監(jiān)管阻滯技術(shù)的發(fā)展?！绷赫f。

文章轉(zhuǎn)載自“人民網(wǎng)”，如有侵權(quán)，請(qǐng)聯(lián)系客服QQ747146668進(jìn)行刪除！