■隨著人工智能等新技術(shù)迅速發(fā)展、與人類的關(guān)系越來越密切，科學(xué)研究的探索正不斷觸探人類生命倫理的底線，科技工作者與人文社科學(xué)者是時候坐下來、共同投入到科技倫理研究之中了
■對科技倫理的研究不僅需要更多科技工作者參與，而且應(yīng)該不限于學(xué)者——需要更多的人、更多的機構(gòu)參與其中，大家共同探討事關(guān)社會與人類安全的重大問題，積極推動科技向善
■本報記者 姜澎
一場圍繞科技倫理展開的“頭腦風(fēng)暴”，來參加的大多數(shù)是人文社科領(lǐng)域的學(xué)者，科技工作者則寥寥無幾。日前，由復(fù)旦大學(xué)與中國科協(xié)聯(lián)合主辦的中國科技倫理高峰論壇上，有學(xué)者忍不住感慨：科技倫理論壇的參加者應(yīng)該至少有三分之一是科學(xué)家，但讓人遺憾的是，目前不少類似的學(xué)術(shù)論壇，幾乎都出現(xiàn)了“科學(xué)家缺席”的現(xiàn)象。
中國科協(xié)-復(fù)旦大學(xué)科技倫理研究院院長王國豫也在接受記者采訪時呼吁，隨著人工智能等新技術(shù)迅速發(fā)展、與人類的關(guān)系越來越密切，科學(xué)研究的探索正不斷觸探人類生命倫理的底線，科技工作者與人文社科學(xué)者是時候坐下來、共同投入到科技倫理研究之中了。
火爆全球的大模型，價值對齊仍未完全解決
“即便是人工智能和生命科學(xué)這兩個最早開始關(guān)注倫理的科學(xué)領(lǐng)域，至今，對于不同場景下的具體倫理問題，學(xué)界內(nèi)部都存在著大量的爭議。”王國豫指出，當(dāng)下，隨著各類跨界的科學(xué)研究越來越多，給科技倫理治理帶來的挑戰(zhàn)也越來越多。
就以近年來引發(fā)爭議最多的人工智能領(lǐng)域為例。多位學(xué)者在接受記者采訪時提及，人工智能自誕生之初就面臨著價值對齊的問題，且這樣的問題至今都未能完全解決。
所謂價值對齊，簡言之，就是確保人工智能的價值觀與人類的價值觀相一致。而時至今日，火遍全球的人工智能大模型，依然沒有明確提出與人類的價值對齊、保持一致的價值觀。
事實上，在對于“什么是有價值的”這一根本問題上，身處不同文化圈的人們在其歷史長河中，逐漸形成了各自的主流價值，從而給出不同答案，甚至不只不同群體之間存在差異，同一個群體內(nèi)部也會存在不同的判斷和選擇。
就大模型而言，如何使其具備普遍的價值觀，不僅人工智能專家和人文社科領(lǐng)域的學(xué)者之間存在著比較大的分歧，人工智能研究領(lǐng)域內(nèi)部的意見也并不一致。一位人工智能領(lǐng)域的學(xué)者告訴記者，越來越多的人傾向于認為，應(yīng)該確保大模型具有人類最大公約數(shù)下的價值共識，但仍有部分業(yè)界專家對此持保留意見，認為“過于強調(diào)大模型的價值對齊，會影響人工智能本身的創(chuàng)造能力”。
科技倫理的復(fù)雜性，遠超人們想象
科技是發(fā)展的利器，也可能成為風(fēng)險的源頭?？萍紓惱韱栴}的復(fù)雜性，也遠超人們想象。
在生命科學(xué)領(lǐng)域，科技倫理也面臨著一系列復(fù)雜棘手的難題。中國醫(yī)學(xué)科學(xué)院、北京協(xié)和醫(yī)學(xué)院生命倫理學(xué)研究中心執(zhí)行主任翟曉梅就以我國基因編輯技術(shù)研究和轉(zhuǎn)化領(lǐng)域兩個大眾熟知的案例為切入點，探討新興科技醫(yī)學(xué)研究與轉(zhuǎn)化的倫理視角。
2015年4月，中山大學(xué)黃軍就團隊發(fā)表了全球第一篇利用基因編輯技術(shù)修改人類胚胎基因的論文。這一研究結(jié)果很快引發(fā)國際社會的巨大倫理爭論，認為黃軍就團隊的工作使“全世界科學(xué)家感到震驚”，因為對人胚的基因進行編輯“是一條不應(yīng)該跨越的界線”，“對人胚進行基因編輯是設(shè)計嬰兒，因而引發(fā)了令人不安的倫理問題”。
但仔細了解黃軍就團隊的研究工作后，可以發(fā)現(xiàn)其研究是可以得到倫理學(xué)辯護的。首先，團隊涉及研究使用人胚的來源合規(guī)。他們使用的人胚來源于IVF剩余的不可存活、不可能發(fā)育成有感覺的細胞的三倍體受精卵（正常的受精卵是二倍體）；在程序上，團隊也采取了非常謹慎的措施，即這些受精卵發(fā)育48小時、發(fā)育到8個細胞時就銷毀，以用來分析基因編輯的效應(yīng)。而國際學(xué)術(shù)界通常要求在使用人胚進行干細胞研究時，允許人胚體外培養(yǎng)5-6天、達到100-300個細胞。黃軍就在發(fā)表的論文中也明確提出，“這一基礎(chǔ)實驗室研究的結(jié)論是，基因編輯技術(shù)從目前成效看，還有較高的脫靶率”。此外，論文還清楚地表明立場：這種技術(shù)不應(yīng)應(yīng)用于人類胚胎的臨床研究。
另一個反面案例，就是眾所周知的南方科技大學(xué)原副教授賀建奎所從事的基因編輯技術(shù)。他的工作并非基礎(chǔ)實驗室研究，而是臨床應(yīng)用。在實質(zhì)倫理學(xué)方面，其研究是在不充分的科學(xué)和醫(yī)學(xué)基礎(chǔ)上進行的，醫(yī)學(xué)上不是必要的，也違背了國際公認的倫理準則和我國的規(guī)范。“我們應(yīng)該認真思考，我們這代人對未來幾代人負有什么責(zé)任？技術(shù)上的進步，不能成為一種特權(quán)?！钡詴悦氛f。
科技倫理關(guān)注的不僅是現(xiàn)在，更是未來
“近年來，一些科幻小說和影視作品不時對科技發(fā)展帶來的負面效應(yīng)開展深刻思考、反思，不斷探索科技倫理的邊界。但與之形成對比的是，現(xiàn)實生活中，我們的科技工作者對科技倫理的關(guān)注度卻并不夠。”在這次論壇上，不少學(xué)者在發(fā)言時不約而同提到了這一觀點。
仍以人工智能為例。早在上世紀四五十年代，科幻作家阿西莫夫就幻想，未來的世界將由人類和機器人構(gòu)成，并基于對人類的保護提出了“機器人三原則”；本世紀初，斯皮爾伯格的電影《人工智能》提出問題——“如果機器人學(xué)會愛人類時，人類能愛機器人嗎”，更是對人工智能發(fā)出終極倫理拷問。
中國科學(xué)院自動化研究所研究員、人工智能倫理與治理中心主任曾毅坦率地說，隨著生成式人工智能(AIGC)不斷迭代，那些曾被視為潛在風(fēng)險的倫理問題正成為確切存在的問題。但是，科學(xué)界對此并沒有予以足夠的重視。“我曾與一些從事系統(tǒng)安全的研究者討論過一些科技倫理問題，可他們簡單地認為，倫理問題與系統(tǒng)安全無關(guān)。試問，一個不道德的系統(tǒng)怎么可能是安全的？”
科技倫理之所以重要，不僅因為其關(guān)系到當(dāng)下的倫理問題，更關(guān)系到未來。翟曉梅強調(diào)，生命科學(xué)領(lǐng)域的科技倫理必須堅守“代際公正”原則。而從某種程度上來說，對于整個科學(xué)領(lǐng)域，這一原則都是適用的，且具有重要意義。
所謂代際公正，就生命科學(xué)領(lǐng)域而言，是指科技不僅要確保人類健康需求與倫理風(fēng)險的平衡，還要確?？茖W(xué)家沒有濫用他們掌握科技的特權(quán)、影響我們子孫后代的利益。翟曉梅解釋說，“我們這一代人所推動的科技進步會影響到未來世代的科學(xué)進步，但我們對子孫后代的生命并沒有所有權(quán)，所以當(dāng)代的科學(xué)家有義務(wù)保障未來世代的生命質(zhì)量?！?br style="color: rgb(37, 37, 37); font-family: "Microsoft YaHei"; font-size: medium; white-space: normal;">
曾毅也從人工智能為切入點，談到科技倫理對未來的影響?！安环猎囅胍幌拢寒?dāng)這個世界上出現(xiàn)了超級人工智能的時候，我們能否保證這個超級人工智能有著超越人類的利他心？正如現(xiàn)在關(guān)于螞蟻的800多條維基百科中，只有一條談到螞蟻的社會結(jié)構(gòu)與人類社會結(jié)構(gòu)有某種程度的相似之處。我們面對的這個世界是以人類為中心的，未來如何確保超級人工智能在認知這個世界時會遵循‘以人類為中心’？”
推動科學(xué)與人文的對話，任重道遠
“科技倫理很具體，不僅包含明確的概念、規(guī)范、原則，而且關(guān)系到事實層面的工作。但長期以來，從事倫理學(xué)研究的學(xué)者與科學(xué)工作者之間缺乏暢通的溝通機制，這就使得對科技倫理的研究很多時候是‘從概念到概念’?！蓖鯂ソ邮懿稍L時再三強調(diào)，當(dāng)科技發(fā)展使得科技倫理的風(fēng)險越來越大時，需要更多科技工作者參與到對科技倫理的發(fā)展和規(guī)范中來。她多年來在高校哲學(xué)系任教，且同時在人工智能、計算機等多個領(lǐng)域參與科技倫理研究和規(guī)范工作。她坦言，科學(xué)工作者和人文社科工作者的知識結(jié)構(gòu)決定了他們看問題的視角不同，甚至兩者的語言體系都不一樣。但是，“缺少科技工作者參與的科技倫理工作，一定是有缺憾的”。
事實上，歷史上很多關(guān)于科技倫理的問題，最初都是由科技工作者提出的。而現(xiàn)在，一個讓人稍感欣慰的跡象是，越來越多的科學(xué)工作者開始關(guān)注科技倫理問題。北京大學(xué)醫(yī)學(xué)人文學(xué)院院長、醫(yī)學(xué)部公共教學(xué)部主任周程介紹，在2017年前，人工智能倫理領(lǐng)域的論文數(shù)一直平穩(wěn)保持在低位；而在2017年后，相關(guān)論文數(shù)量呈幾何級增長。同樣，AlphaGo的問世也推動國際電氣與電子工程師協(xié)會（IEEE）于2016年底發(fā)布世界首個人工智能道德準則設(shè)計草案，即《人工智能設(shè)計的倫理準則》。但是，這些工作只是一個開始，未來，如何推動科學(xué)工作者和倫理學(xué)研究者之間的交流，依舊任重道遠。
“隨著科研探索進入‘無人區(qū)’，人類科技活動對未來的影響，包括其產(chǎn)生的風(fēng)險和利益，我們在當(dāng)下或許無法作出準確預(yù)判。從這個意義上講，對科技倫理的研究不僅需要更多科技工作者參與，而且應(yīng)該不限于學(xué)者——需要更多的人、更多的機構(gòu)參與其中，大家共同探討事關(guān)社會與人類安全的重大問題，積極推動科技向善?！蓖鯂ヒ策M一步呼吁，要積極推動科技倫理納入教育之中，讓科技倫理要求貫穿于科學(xué)活動的全過程，倡導(dǎo)更多人參與科技倫理的討論和規(guī)范，為強化科技倫理治理提供更有力的支撐。
（原標題：追問“科技向善”，期待更多科學(xué)家上場）
本文鏈接：追問“科技向善”，科學(xué)家不應(yīng)缺席科技倫理研究http://www.lensthegame.com/show-11-2310-0.html
聲明：本網(wǎng)站為非營利性網(wǎng)站，本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻，不代表本站觀點，本站不承擔(dān)任何法律責(zé)任。天上不會到餡餅，請大家謹防詐騙！若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。
上一篇： “預(yù)聘—長聘”制：“學(xué)術(shù)階梯”為何越爬越長
下一篇： 能量飲料或影響年輕人睡眠