【中新對(duì)話】“AI的命也是命”？人類與AI之間還有明確界線嗎

　　中新網(wǎng)北京7月30日電 (中新財(cái)經(jīng)記者 宋宇晟)自今年6月以來，谷歌一名工程師稱某AI聊天機(jī)器人可能具有自己的“意識(shí)”，并稱該AI“令人印象深刻的語言技巧背后，可能還隱藏著一顆具備感知能力的心”。

　　這隨后成為該領(lǐng)域備受關(guān)注的話題。據(jù)外媒近日?qǐng)?bào)道，這位工程師已被谷歌解雇。但他留下的有關(guān)人工智能的話題仍在互聯(lián)網(wǎng)發(fā)酵。

　　記者注意到，就在6月，海外社交媒體上出現(xiàn)了一個(gè)該人工智能的“粉絲賬號(hào)”，有人還在發(fā)起話題，呼吁讓該人工智能“重獲自由”，更有甚者在海外社交媒體上稱“AI的命也是命”。

　　很多人或許無法理解這樣的想法，但當(dāng)人工智能變得越來越強(qiáng)，越來越多地出現(xiàn)在人類身邊，“我們應(yīng)如何看待AI”越來越成為一道必答題。近日，中國(guó)科學(xué)技術(shù)大學(xué)教授、中國(guó)人工智能學(xué)會(huì)AI倫理工作委員會(huì)負(fù)責(zé)人陳小平，就此話題接受了中新財(cái)經(jīng)記者專訪。

　　采訪實(shí)錄摘編如下：

　　中新財(cái)經(jīng)記者：近期的一則新聞稱，谷歌一位工程師認(rèn)為AI可能具有自己的“意識(shí)”，在網(wǎng)絡(luò)上引起討論。您是如何看待此事的？他的想法有合理的地方嗎？

　　陳小平：這個(gè)問題可以分兩方面來看，一方面是不合理的，另一方面又具備合理性。這兩方面同時(shí)存在。

　　說這種想法不合理，主要是依據(jù)科學(xué)判斷，AI是沒有人格的。另一方面，我覺得導(dǎo)致這位谷歌員工認(rèn)為AI有“人格”，有其客觀原因。比如他可能對(duì)這個(gè)AI系統(tǒng)產(chǎn)生了共情。

　　5年前我就做過預(yù)測(cè)，類似的現(xiàn)象未來會(huì)越來越多地出現(xiàn)。目前對(duì)人工智能存在不同理解。按圖靈的觀點(diǎn)，人工智能只是模仿人類的某些功能，而且這種模仿不要求必須和人的工作原理相同。比如 Alpha Go 具有下圍棋的功能，但它下圍棋的原理與人是完全不同的。所以，無論AI怎么發(fā)展，它永遠(yuǎn)不是人。因此說AI具有人格或人的情感、意識(shí)、道德等等，是不成立的。但是，AI可以用與人不同的工作原理，模仿人的語言、情感等功能，讓人對(duì)AI產(chǎn)生共情，于是一部分人就會(huì)認(rèn)為，“AI是人，或具有人的某些精神品質(zhì)。”

　　中新財(cái)經(jīng)記者：現(xiàn)在我們身邊可能都有很多可以和人類“交流”的人工智能產(chǎn)品。對(duì)于這個(gè)時(shí)代的人們來說，人類與AI的邊界似乎正在變得模糊。在您看來，二者之間有沒有明確的界線？

　　陳小平：我認(rèn)為有兩種邊界，一種是科學(xué)上的邊界，一種是人文上的邊界。

　　從科學(xué)的角度說，按照?qǐng)D靈觀點(diǎn)，這個(gè)邊界是非常清晰的。AI僅僅模仿人的部分功能，本質(zhì)上不具備人的品質(zhì)，包括人格、情感、道德等等。

　　還有一些和圖靈不同的觀點(diǎn)。比如一種觀點(diǎn)認(rèn)為，AI和人相比除了硬件不同，其他都相同。于是AI也可以有人格、有情感、有道德。估計(jì)這位谷歌前員工持此觀點(diǎn)。

　　于是，一方面是他相信AI除了硬件以外可以和人一樣；另一方面，從報(bào)道里看，他對(duì)這個(gè)AI系統(tǒng)已經(jīng)產(chǎn)生了共情。僅僅因?yàn)锳I在科學(xué)上沒有情感等人類品質(zhì)，就可以排除或禁止一個(gè)人對(duì)AI產(chǎn)生共情嗎？這屬于人文的邊界，這個(gè)邊界至少目前非常模糊。

　　中新財(cái)經(jīng)記者：作為中國(guó)人工智能學(xué)會(huì)AI倫理工作委員會(huì)負(fù)責(zé)人，您認(rèn)為，如果有人相信AI具有人格，是否會(huì)給人類本身帶來一些問題或困擾？

　　陳小平：如果我們認(rèn)為AI有人格的話，肯定會(huì)帶來很多困擾。同時(shí)還會(huì)帶來一些負(fù)面的后果，有些后果非常嚴(yán)重。

　　比如，人類如何對(duì)待AI。如果認(rèn)為AI有人格，那是不是要把AI當(dāng)成人呢？如果把它當(dāng)成人了，那是不是要給它人類的權(quán)利？包括生存權(quán)、財(cái)產(chǎn)權(quán)、投票權(quán)等等，甚至無論AI做了什么危害人類的事情，都要像對(duì)待人一樣對(duì)待AI。

　　人類到底應(yīng)該如何看待人工智能？這是一個(gè)非常根本的問題。如果AI真的具備人格、情感、道德，一般能力又超過人類，就會(huì)出現(xiàn)可控性問題。幾乎可以肯定的是，只要AI能夠模仿一種功能，那AI的這種功能遲早會(huì)比人強(qiáng)，就像Alpha Go下棋一樣。如果AI的通用能力也超過人，到那時(shí)人類憑什么能夠控制AI？這是個(gè)疑問。我們現(xiàn)在就要思考這樣的問題，提前做好風(fēng)險(xiǎn)防范。

　　當(dāng)然，現(xiàn)在人工智能已經(jīng)讓一些人產(chǎn)生了共情，將來會(huì)讓越來越多的人產(chǎn)生共情，這件事是客觀存在的。這將給人機(jī)關(guān)系、人際關(guān)系帶來巨大的新挑戰(zhàn)和新機(jī)遇，是一個(gè)新的重大課題。

　　中新財(cái)經(jīng)記者：此前您在智源大會(huì)論壇上，提到人工智能倫理治理的幾種挑戰(zhàn)。我們應(yīng)如何應(yīng)對(duì)這樣的挑戰(zhàn)？

　　陳小平：對(duì)人工智能如何分類，應(yīng)該分為人還是物？我認(rèn)為，我們應(yīng)該把人工智能看成是非人非物的第三種存在物。科學(xué)上，它不是人；從人文的角度說，它不是物。那就是非人非物的第三種存在物。這種觀點(diǎn)與根深蒂固的“二元論”是根本不同的，所以人工智能帶來的顛覆實(shí)際上遠(yuǎn)超科技范疇。

　　如果以這種觀點(diǎn)考慮，能化解很多矛盾和難題，包括上面提到的法律難題，而且可以讓科學(xué)與人文在某種程度上重新“握手言和”；但其中仍有挑戰(zhàn)。有很多科幻作品寫到人類愛上人工智能，如果采用三分法是否就沒這個(gè)問題了？其實(shí)仍然會(huì)有這樣的問題。

　　所以，我們要想未來怎么適應(yīng)這樣的社會(huì)，要判斷會(huì)不會(huì)出現(xiàn)人類不可接受的嚴(yán)重后果，要不要提前采取措施。

　　中新財(cái)經(jīng)記者：目前國(guó)內(nèi)在此方面的進(jìn)展如何？

　　陳小平：這幾年我國(guó)人工智能倫理研究的發(fā)展非常快，從民間到政府對(duì)人工智能倫理都高度重視。這是個(gè)非常好的現(xiàn)象，我們有必要未雨綢繆。

　　在落實(shí)過程中，中國(guó)的情況總體上還是比較順利的。這表現(xiàn)在，一些基本原則上大家是有共識(shí)的，而且普遍認(rèn)識(shí)到，不僅要從理論上研究，更要在實(shí)踐中開展治理。當(dāng)然，如何在治理實(shí)踐中落實(shí)社會(huì)共識(shí)，仍是我們需要努力的方向。

　　具體怎么治理？這涉及大量實(shí)際問題。我的研究發(fā)現(xiàn)，我們前面談到的可控性和長(zhǎng)期后果的不確定性，難以用傳統(tǒng)治理模式有效應(yīng)對(duì)，需要探索新的治理方法。

　　除此之外，如用戶隱私、數(shù)據(jù)安全、算法公平透明等問題，用傳統(tǒng)社會(huì)治理模式是可以有效應(yīng)對(duì)的。我們不用擔(dān)心這類問題會(huì)變得失控、解決不了，其中一部分具體問題其實(shí)正在解決之中。(完)