【核心提示】對機(jī)器人倫理問題的解答，其重要性可能并不亞于技術(shù)性問題的發(fā)展進(jìn)步。包括科學(xué)家、倫理學(xué)家在內(nèi)的各領(lǐng)域?qū)W者應(yīng)通力協(xié)作，共同解決需要面對的各種難題。
2004年1月，第一屆機(jī)器人倫理學(xué)國際研討會(huì)在意大利圣雷莫召開，正式提出了“機(jī)器人倫理學(xué)”這個(gè)術(shù)語。機(jī)器人倫理學(xué)研究涉及許多領(lǐng)域，包括機(jī)器人學(xué)、計(jì)算機(jī)科學(xué)、人工智能、哲學(xué)、倫理學(xué)、神學(xué)、生物學(xué)、生理學(xué)、認(rèn)知科學(xué)、神經(jīng)學(xué)、法學(xué)、社會(huì)學(xué)、心理學(xué)以及工業(yè)設(shè)計(jì)等。2005年，“歐洲機(jī)器人研究網(wǎng)絡(luò)”專門資助研究人員進(jìn)行機(jī)器人倫理學(xué)研究，希望能為機(jī)器人倫理研究設(shè)計(jì)路線圖。此后，機(jī)器人倫理研究得到越來越多西方學(xué)者的關(guān)注。
目前，機(jī)器人已經(jīng)在教育、醫(yī)療、軍事、家庭生活等多個(gè)領(lǐng)域廣泛應(yīng)用。隨著技術(shù)的發(fā)展與進(jìn)步，幾乎可以肯定的是，將來機(jī)器人的應(yīng)用會(huì)更加廣泛。機(jī)器人與人類關(guān)系的未來發(fā)展，很可能和個(gè)人電腦與人類關(guān)系的發(fā)展歷程類似。若干年后，或許人們離開機(jī)器人會(huì)感覺難以適從。但是，與電腦不同的是，機(jī)器人不僅僅是一臺(tái)機(jī)器，它在許多地方與人類類似，甚至非常接近人類。因而，由此引發(fā)的倫理問題也更加尖銳。在機(jī)器人應(yīng)用日益廣泛的現(xiàn)代社會(huì)，人們是否應(yīng)該給機(jī)器人的應(yīng)用設(shè)定一個(gè)限度?比如，兒童看護(hù)機(jī)器人目前在韓國、日本和一些歐洲國家得到重視。日本和韓國已經(jīng)開發(fā)出實(shí)用的兒童護(hù)理機(jī)器人，具備了電視游戲、語音識(shí)別、面部識(shí)別以及會(huì)話等多種功能。它們裝有視覺和聽覺監(jiān)視器，可以移動(dòng)，自主處理一些問題，在孩子離開規(guī)定范圍還會(huì)報(bào)警。精確的量化研究表明，與機(jī)器人相處幾個(gè)月后，幼兒會(huì)像對待小伙伴那樣對待機(jī)器人，而不是將其看作玩具。
顯然，兒童看護(hù)機(jī)器人可以作為幼兒的親密玩伴，特別是對缺少小伙伴的幼兒，它們的效果比一般的玩具要好得多。類似的研究也表明，機(jī)器人可以和小學(xué)生相互學(xué)習(xí)、相互影響，甚至在某些方面形成一致。而且，人們也開始注意從孩子的角度來研發(fā)機(jī)器人，使之更受孩子的喜歡。
毫無疑問，兒童看護(hù)機(jī)器人可以減輕家長的負(fù)擔(dān)，使他們能有更多的自由時(shí)間。但是，機(jī)器人是否可以取代，或者說在多大程度上可以代替成人的照顧?如果把孩子完全交給機(jī)器人，會(huì)發(fā)生什么樣的情況?雖然機(jī)器人技術(shù)的發(fā)展會(huì)使兒童護(hù)理機(jī)器人功能越來越全面，但家長的照顧與機(jī)器人的看護(hù)還是有著根本性的區(qū)別。如果孩子與機(jī)器人一起長大，他們可能會(huì)認(rèn)為與機(jī)器人在一起的世界是真實(shí)的，與人類在一起的世界反而讓他們更難接受。對于幼兒的健康成長來說，家人的關(guān)愛是無法替代的，機(jī)器人只能起到輔助作用。
又如，現(xiàn)代軍用機(jī)器人在現(xiàn)代科技武裝下?lián)碛辛嗽絹碓綇?qiáng)大的威力。軍用機(jī)器人擁有較高的作戰(zhàn)效率、全天候作戰(zhàn)能力、絕對服從命令、較低的作戰(zhàn)費(fèi)用以及可以降低人員傷亡等優(yōu)點(diǎn)，使得世界各軍事大國都在不遺余力地開發(fā)軍用機(jī)器人，其自主程度也在不斷提高。
但是，軍用機(jī)器人與人類向善的本性是沖突的。軍事歷史學(xué)家馬歇爾的研究表明，二戰(zhàn)期間，大約只有15%—20%的美國步兵能夠或愿意向敵人開火。也就是說，當(dāng)發(fā)現(xiàn)敵人時(shí)，80%左右的步兵不愿意開火或只是朝著敵人頭頂?shù)奶炜臻_槍。馬歇爾把產(chǎn)生這種現(xiàn)象的原因歸結(jié)為各種恐懼，其中之一是人們普遍持有的一種根深蒂固的觀念，那就是殺人根本就是錯(cuò)誤的。在馬歇爾看來，大多數(shù)士兵厭惡戰(zhàn)爭是一種普遍現(xiàn)象。雖然馬歇爾的研究方法受到一些學(xué)者的批判，其數(shù)據(jù)也被認(rèn)為可能并不精確，但其基本觀點(diǎn)——許多士兵并不愿意殺戮，這個(gè)發(fā)現(xiàn)在對其他戰(zhàn)爭的分析中也得到了印證。
與人類相比，軍用機(jī)器人(特別是自主軍用機(jī)器人)在戰(zhàn)場上的應(yīng)用會(huì)導(dǎo)致巨大的破壞。它們沒有恐懼感，很可能對人類沒有同情心，自然就不會(huì)對目標(biāo)手下留情。一旦啟動(dòng)，它們強(qiáng)大的破壞力會(huì)使其成為真正的冷血“殺人機(jī)器”。而且，軍用機(jī)器人不知疲倦，可以長途奔襲，超越視距通訊，它們的戰(zhàn)斗時(shí)間似乎只受所攜帶的油量或電池電量限制。
從理論上講，這樣的軍用機(jī)器人的確令人恐懼。因此，研究人員試圖使軍用機(jī)器人像人類那樣遵守某些公認(rèn)的道德規(guī)范，使之成為“人工道德行為體”。但是，軍用機(jī)器人究竟應(yīng)該遵守哪些道德規(guī)范?這些規(guī)范在機(jī)器人當(dāng)中如何實(shí)現(xiàn)?令人遺憾的是，在目前的技術(shù)條件下，軍用機(jī)器人還難以識(shí)別戰(zhàn)斗人員與非戰(zhàn)斗人員。如果把現(xiàn)在的軍用機(jī)器人放到城市里的話，它們很可能會(huì)去破壞公交車和小轎車。即使具有倫理敏感性的軍用機(jī)器人是可以研制成功的，但是，再完善的設(shè)計(jì)也可能會(huì)出錯(cuò)，如果機(jī)器人犯錯(cuò)之后，應(yīng)該由誰來負(fù)責(zé)?諸如此類的問題仍然困擾著哲學(xué)家與科學(xué)家。
另外，隨著機(jī)器人與人類的相似度越來越高，另一些問題也突顯出來。比如，機(jī)器人是否應(yīng)該擁有權(quán)利?人類是否可以隨意毀掉機(jī)器人?人與機(jī)器人的區(qū)別究竟應(yīng)該是什么?早在20世紀(jì)80年代，美國規(guī)劃師—未來學(xué)家麥克納利和亞圖拉就撰文認(rèn)為，機(jī)器人將來會(huì)擁有權(quán)利。對機(jī)器人權(quán)利的思考是我們考查權(quán)利問題的新維度，可能需要我們重新認(rèn)識(shí)權(quán)利概念及其意義。
毋庸諱言，作為一種重要的技術(shù)發(fā)明，機(jī)器人將會(huì)對現(xiàn)代社會(huì)產(chǎn)生重要影響，也必然會(huì)產(chǎn)生一些亟待解決的倫理問題。對這些倫理問題的解答，其重要性可能并不亞于技術(shù)性問題的發(fā)展進(jìn)步。包括科學(xué)家、倫理學(xué)家在內(nèi)的各個(gè)領(lǐng)域的學(xué)者應(yīng)該通力協(xié)作，共同解決需要面對的各種難題。必須強(qiáng)調(diào)的是，在機(jī)器人倫理研究方面，科學(xué)家擔(dān)負(fù)著重要的道義責(zé)任。目前，已有一些科學(xué)家參與到機(jī)器人倫理問題的研究，期待更多科學(xué)家能認(rèn)識(shí)到自己的社會(huì)責(zé)任，積極主動(dòng)地參與相關(guān)研究。
（作者單位：上海交通大學(xué)科學(xué)史與科學(xué)文化研究院）