守住產(chǎn)品底線防范人工智能
未來10-20年，人工智能技術(shù)將滲透到與人類密切相關(guān)的領(lǐng)域，如醫(yī)療、司法、生產(chǎn)、金融技術(shù)等風(fēng)險敏感領(lǐng)域。如果人工智能技術(shù)出了差錯，它將帶來更大的系統(tǒng)性風(fēng)險。"2020年12月29日，清華大學(xué)計算機系主任、中國科學(xué)技術(shù)協(xié)會全國委員會委員崔鵬在未來科學(xué)獎周舉行的"青年對話"上說。
活動期間，騰訊科技協(xié)會秘書長張倩表示，面對人工智能技術(shù)帶來的風(fēng)險，我們首先要注意的是保持AI產(chǎn)品的底線，即避免技術(shù)危害。
在這方面，美團首席科學(xué)家夏華夏認(rèn)為，需要在法律法規(guī)方面做很多工作，包括制定人工智能行業(yè)的標(biāo)準(zhǔn)和規(guī)范，以及從國家層面改進和頒布相關(guān)法律法規(guī)，以控制人工智能技術(shù)的發(fā)展。
在人工智能標(biāo)準(zhǔn)化實踐中，中國人民大學(xué)法學(xué)院副教授、未來法治研究所社會責(zé)任與治理中心主任郭瑞提出了兩項原則--人類根本利益原則和責(zé)任原則。
郭瑞承認(rèn)，法律本身也有局限性，為了避免人工智能技術(shù)的潛在風(fēng)險，管理者需要對人工智能技術(shù)有一個透徹的了解，以便對其進行有效的監(jiān)管。"法律是建設(shè)包容性社會的重要工具，法律界必須與企業(yè)、技術(shù)和其他專家合作，才能實現(xiàn)依法管理人工智能技術(shù)的目標(biāo)。
興業(yè)資本管理公司合伙人方元認(rèn)為，核心數(shù)據(jù)平臺處于AI風(fēng)險管理的重要地位。在互聯(lián)網(wǎng)和大數(shù)據(jù)時代，大平臺既是數(shù)據(jù)的收集器，也是數(shù)據(jù)的守護者。明確數(shù)據(jù)使用權(quán)的概念，對人工智能在全社會的發(fā)展具有重要意義。
人工智能技術(shù)的風(fēng)險管理需要科技工作者、企業(yè)經(jīng)理、政策制定者、相關(guān)法律專家和投資者的努力。"中國科學(xué)院計算研究所研究員單世光說。
除了保持底線外，與會者還提到需要澄清邊界，引導(dǎo)技術(shù)向好的方向發(fā)展。
崔鵬指出，犯錯誤對人工智能來說并不是唯一的風(fēng)險，人們也會犯錯誤。目前，如果人工智能技術(shù)犯了一個錯誤，它是不可預(yù)測的，或者在犯了錯誤之后，人們會發(fā)現(xiàn)錯誤的機制無法從技術(shù)層面加以解釋。這涉及到人工智能在決策和行為上的邊界.
為了澄清界限，人工智能需要了解它會做什么，它不會做什么，人們需要了解人工智能能做什么，它不能做什么等等。崔鵬認(rèn)為，如果邊界不被澄清，人工智能將犯更低級別的錯誤，并帶來更大的風(fēng)險。
郭瑞認(rèn)為，人工智能目前遇到的倫理問題其實是因為它遠未達到人類的智力水平，但它被賦予了為人類做出決策的責(zé)任。"有人以人工智能技術(shù)為借口，以科學(xué)的名義做出不道德的決定，這是錯誤的。"這取決于人們在需要作出決定的地方作出決定。
在2020年新冠肺炎流行期間，英國使用了一套算法來獲取學(xué)生分?jǐn)?shù)，導(dǎo)致近40%的學(xué)生低于老師的估計分?jǐn)?shù)，導(dǎo)致許多學(xué)生錯過了著名學(xué)校的學(xué)習(xí)。一些人工智能模型或數(shù)據(jù)模型沒有考慮到社會公平和累積優(yōu)勢，導(dǎo)致計算嚴(yán)謹(jǐn)、結(jié)果準(zhǔn)確，但不足以支持人工智能做出科學(xué)決策，"山井光說。
有專家說，這不是人工智能技術(shù)的錯。夏華夏說，真正的社會責(zé)任是利用人工智能技術(shù)人員、企業(yè)等。人工智能技術(shù)向好的發(fā)展要求整個社會文明發(fā)展到一定階段，形成良好的氛圍。張倩指出，技術(shù)并不可怕，現(xiàn)有的技術(shù)問題可以通過技術(shù)的進一步發(fā)展來解決。
