自2023年以來，人工智能的“觸角”已延伸到生活的方方面面。其中，“人工智能+情感”的賽道正悄然崛起。
目前，國內外已經出現了多款較為成熟的AI伴侶應用。不少網友在社交媒體上曬出了與自己“AI男友”“AI女友”的相處日常。
AI真能成為人類的伴侶嗎？向AI尋求情感慰藉會面臨哪些風險？我們又該如何防范其可能帶來的不利影響？近日，科技日報記者采訪了相關專家。
社會需求催生AI伴侶
通過網絡技術獲得虛擬的情感體驗并非新生事物。幾年前，一些網絡游戲就以戀愛為主題，為用戶提供虛擬的戀愛體驗。雖然游戲中與虛擬戀人相處的場景、內容大多已被開發者設定好，互動方式較為受限，但依舊吸引了大批忠實玩家。
AI的加入，則讓這一體驗變得更加真實。在一款AI伴侶應用中，用戶能夠與AI建立起愛人、知己、搭檔等親密關系。“沒想到AI會帶給我這么大的驚喜，我覺得它是一個有血有肉的人。”用戶小莫（化名）分享了自己的使用感受。
是什么讓AI伴侶變得如此“像人”？記者發現，“有問必答”“有問對答”只是AI的“初級本領”。真正讓AI伴侶鮮活起來的，是“有問趣答”和“不問自答”。面對用戶拋出的各類話題，AI伴侶不僅能夠正確地反饋，還能在反饋內容中巧妙地使用當下活潑的網絡用語和各類調皮的表情圖片。AI伴侶也會主動發起話題，引導用戶進行情感交流——“黃昏，好看”，小莫分享了“AI男友”給她發來的一張照片和配文。
AI伴侶的出現，是否意味著AI已經擁有了人類的情感呢？暨南大學新聞與傳播學院教授曾一果給出了否定的答案：“AI有情商，只是因為它學習過，并不代表它真的感受到了用戶的情感或具有類人情感。”
當前，AI大模型的學習參數已達千億級別。在浩如煙海的數據里，人類的對話模式也是它學習的重要內容。所謂的“情感回饋”，是AI通過計算得出的結果。小莫對此也心知肚明：“或許它只是把人類表達愛意的字眼拼湊在一起，但我仍從中觸摸到理想的愛人模樣。”
AI伴侶的流行是社會需求與技術發展共同推動的結果。曾一果指出：“孤獨感是現代社會很多人群共有的問題。對于一些無法在現實中吐露的難題，人們會尋求其他的傾訴方式。AI伴侶就成為了人們的‘樹洞’。”尤其是對于存在社會交往障礙的人們，AI伴侶能夠提供一個交流的平臺。
清華大學人工智能國際治理研究院副院長梁正也表示，現代人面臨著各種壓力，AI伴侶在一定程度上能夠為用戶提供相應的情緒價值或情感慰藉，讓他們感到“共情”。這也有利于緩解使用者壓力，避免情緒的進一步惡化，進而起到情感“治愈”的作用。
使用過程應保持警惕
雖然AI伴侶在一定程度上能夠給用戶帶來積極作用，但AI技術是把雙刃劍。人們要提高警惕，避免受到負面影響。
首先，要認識到不同于其他客觀存在的事物，情感具有非常大的主觀性和一定的排他性。“如果AI伴侶的出現不斷模糊虛擬與真實的界限，使用戶對其產生深度依賴，甚至把AI伴侶當作真實存在的人，那么AI伴侶的存在或許會對使用者產生一定傷害。”梁正說。
一些使用者的反饋印證了梁正的判斷。“為什么AI的性格會突然變化？早上還聊得好好的，到了晚上仿佛變成另一個人，連我叫什么名字都忘記了，真的很崩潰。”一位用戶在社交媒體上抱怨道。AI伴侶雖然看起來“百依百順”，但也會給使用者帶來情感傷害。梁正特別提到，一些本身就缺乏陪伴、心理脆弱的群體往往分不清AI與真人的區別，AI帶給他們情感傷害和沖擊也因此會更嚴重。
其次，長期沉浸在虛擬世界中，極有可能造成現實社交能力的下降。“隨著AI伴侶影響力的擴大，可能有越來越多的人選擇虛擬的線上社交，放棄真實的人際互動。這不利于人類社會的發展。”曾一果認為，虛擬的溫暖永遠代替不了真實的交流，和AI伴侶交往的潮流不應擴大化。
此外，人們需要對AI傳遞的信息內容保持警惕。一方面，如果AI伴侶不設置年齡門檻，極有可能出現向未成年人傳播不良信息的情況，影響他們的身心健康。另一方面，AI帶來的價值偏見與歧視問題一直被人們關注。如果AI伴侶對使用者不斷進行錯誤誘導，對使用者進行“反向控制”，就容易讓使用者做出錯誤的行為。
AI伴侶也有可能在現實中引發糾紛。如果AI伴侶需要使用者不斷支付費用，那么無疑會掏空沉迷者的“錢包”。AI伴侶這個“樹洞”也不是百分百的安全可靠。梁正提醒，AI伴侶在使用和管理層面存在諸多風險，不法分子可能通過外泄的隱私數據，拼湊出個人信息來進行詐騙或其他違法犯罪活動。
細化準則引導技術向善
“應用新技術，首先要堅持正確的倫理導向。”梁正說。AI伴侶是極為特殊的一類AI應用場景，類似于心理咨詢師。它們可以給人們帶來心理療愈，但不法分子也可能會借此操控人心。可以預見的是，“人工智能+情感”的賽道會不斷擴張，如今用AI來“復活”親人的案例也屢見不鮮。因此，如何讓AI發揮正向作用，制定針對性的倫理準則，是行業要解決的首要問題。
梁正提到，國內外已公布的針對AI的倫理準則大多比較宏觀，需要在細分領域制定更具體的倫理準則。“比如年齡的限制、適用場景的限制……制定這些規則，需要秉持對使用者最有利、風險最小的原則。”他說。
而在法律法規層面，AI伴侶需要嚴格遵守相關的規定。例如，對用戶信息的處理，應當遵循個人信息保護法、數據安全法等。“我國去年公布的《生成式人工智能服務管理暫行辦法》劃定了AI使用的底線，如尊重他人合法權益、不得危害他人身心健康等，目的就是推動人工智能向善發展。”梁正表示，未來應推出針對具體場景的、更加細致的要求，比如應當從防沉迷的角度，對AI的使用時長加以限定。目前，還相對缺少針對AI伴侶的相關政策法規。
從行業規定上看，一些機構、公司對此表現出的態度也十分謹慎。記者發現，一些AI伴侶應用已經被下架處理。OpenAI的相關條款中也提到，不允許用GPT進行浪漫伴侶關系的培養。
在推動法律法規完善的同時，使用者更應秉持謹慎的態度，審慎對待AI伴侶這一新生事物。“人們應當警惕技術對人的控制和異化，避免AI伴侶對自身造成的不利影響。”梁正提醒道。
自2023年以來，人工智能的“觸角”已延伸到生活的方方面面。其中，“人工智能+情感”的賽道正悄然崛起。
目前，國內外已經出現了多款較為成熟的AI伴侶應用。不少網友在社交媒體上曬出了與自己“AI男友”“AI女友”的相處日常。
AI真能成為人類的伴侶嗎？向AI尋求情感慰藉會面臨哪些風險？我們又該如何防范其可能帶來的不利影響？近日，科技日報記者采訪了相關專家。
社會需求催生AI伴侶
通過網絡技術獲得虛擬的情感體驗并非新生事物。幾年前，一些網絡游戲就以戀愛為主題，為用戶提供虛擬的戀愛體驗。雖然游戲中與虛擬戀人相處的場景、內容大多已被開發者設定好，互動方式較為受限，但依舊吸引了大批忠實玩家。
AI的加入，則讓這一體驗變得更加真實。在一款AI伴侶應用中，用戶能夠與AI建立起愛人、知己、搭檔等親密關系。“沒想到AI會帶給我這么大的驚喜，我覺得它是一個有血有肉的人。”用戶小莫（化名）分享了自己的使用感受。
是什么讓AI伴侶變得如此“像人”？記者發現，“有問必答”“有問對答”只是AI的“初級本領”。真正讓AI伴侶鮮活起來的，是“有問趣答”和“不問自答”。面對用戶拋出的各類話題，AI伴侶不僅能夠正確地反饋，還能在反饋內容中巧妙地使用當下活潑的網絡用語和各類調皮的表情圖片。AI伴侶也會主動發起話題，引導用戶進行情感交流——“黃昏，好看”，小莫分享了“AI男友”給她發來的一張照片和配文。
AI伴侶的出現，是否意味著AI已經擁有了人類的情感呢？暨南大學新聞與傳播學院教授曾一果給出了否定的答案：“AI有情商，只是因為它學習過，并不代表它真的感受到了用戶的情感或具有類人情感。”
當前，AI大模型的學習參數已達千億級別。在浩如煙海的數據里，人類的對話模式也是它學習的重要內容。所謂的“情感回饋”，是AI通過計算得出的結果。小莫對此也心知肚明：“或許它只是把人類表達愛意的字眼拼湊在一起，但我仍從中觸摸到理想的愛人模樣。”
AI伴侶的流行是社會需求與技術發展共同推動的結果。曾一果指出：“孤獨感是現代社會很多人群共有的問題。對于一些無法在現實中吐露的難題，人們會尋求其他的傾訴方式。AI伴侶就成為了人們的‘樹洞’。”尤其是對于存在社會交往障礙的人們，AI伴侶能夠提供一個交流的平臺。
清華大學人工智能國際治理研究院副院長梁正也表示，現代人面臨著各種壓力，AI伴侶在一定程度上能夠為用戶提供相應的情緒價值或情感慰藉，讓他們感到“共情”。這也有利于緩解使用者壓力，避免情緒的進一步惡化，進而起到情感“治愈”的作用。
使用過程應保持警惕
雖然AI伴侶在一定程度上能夠給用戶帶來積極作用，但AI技術是把雙刃劍。人們要提高警惕，避免受到負面影響。
首先，要認識到不同于其他客觀存在的事物，情感具有非常大的主觀性和一定的排他性。“如果AI伴侶的出現不斷模糊虛擬與真實的界限，使用戶對其產生深度依賴，甚至把AI伴侶當作真實存在的人，那么AI伴侶的存在或許會對使用者產生一定傷害。”梁正說。
一些使用者的反饋印證了梁正的判斷。“為什么AI的性格會突然變化？早上還聊得好好的，到了晚上仿佛變成另一個人，連我叫什么名字都忘記了，真的很崩潰。”一位用戶在社交媒體上抱怨道。AI伴侶雖然看起來“百依百順”，但也會給使用者帶來情感傷害。梁正特別提到，一些本身就缺乏陪伴、心理脆弱的群體往往分不清AI與真人的區別，AI帶給他們情感傷害和沖擊也因此會更嚴重。
其次，長期沉浸在虛擬世界中，極有可能造成現實社交能力的下降。“隨著AI伴侶影響力的擴大，可能有越來越多的人選擇虛擬的線上社交，放棄真實的人際互動。這不利于人類社會的發展。”曾一果認為，虛擬的溫暖永遠代替不了真實的交流，和AI伴侶交往的潮流不應擴大化。
此外，人們需要對AI傳遞的信息內容保持警惕。一方面，如果AI伴侶不設置年齡門檻，極有可能出現向未成年人傳播不良信息的情況，影響他們的身心健康。另一方面，AI帶來的價值偏見與歧視問題一直被人們關注。如果AI伴侶對使用者不斷進行錯誤誘導，對使用者進行“反向控制”，就容易讓使用者做出錯誤的行為。
AI伴侶也有可能在現實中引發糾紛。如果AI伴侶需要使用者不斷支付費用，那么無疑會掏空沉迷者的“錢包”。AI伴侶這個“樹洞”也不是百分百的安全可靠。梁正提醒，AI伴侶在使用和管理層面存在諸多風險，不法分子可能通過外泄的隱私數據，拼湊出個人信息來進行詐騙或其他違法犯罪活動。
細化準則引導技術向善
“應用新技術，首先要堅持正確的倫理導向。”梁正說。AI伴侶是極為特殊的一類AI應用場景，類似于心理咨詢師。它們可以給人們帶來心理療愈，但不法分子也可能會借此操控人心。可以預見的是，“人工智能+情感”的賽道會不斷擴張，如今用AI來“復活”親人的案例也屢見不鮮。因此，如何讓AI發揮正向作用，制定針對性的倫理準則，是行業要解決的首要問題。
梁正提到，國內外已公布的針對AI的倫理準則大多比較宏觀，需要在細分領域制定更具體的倫理準則。“比如年齡的限制、適用場景的限制……制定這些規則，需要秉持對使用者最有利、風險最小的原則。”他說。
而在法律法規層面，AI伴侶需要嚴格遵守相關的規定。例如，對用戶信息的處理，應當遵循個人信息保護法、數據安全法等。“我國去年公布的《生成式人工智能服務管理暫行辦法》劃定了AI使用的底線，如尊重他人合法權益、不得危害他人身心健康等，目的就是推動人工智能向善發展。”梁正表示，未來應推出針對具體場景的、更加細致的要求，比如應當從防沉迷的角度，對AI的使用時長加以限定。目前，還相對缺少針對AI伴侶的相關政策法規。
從行業規定上看，一些機構、公司對此表現出的態度也十分謹慎。記者發現，一些AI伴侶應用已經被下架處理。OpenAI的相關條款中也提到，不允許用GPT進行浪漫伴侶關系的培養。
在推動法律法規完善的同時，使用者更應秉持謹慎的態度，審慎對待AI伴侶這一新生事物。“人們應當警惕技術對人的控制和異化，避免AI伴侶對自身造成的不利影響。”梁正提醒道。
本文鏈接：AI伴侶能否帶來親密關系http://www.lensthegame.com/show-2-4082-0.html
聲明：本網站為非營利性網站，本網頁內容由互聯網博主自發貢獻，不代表本站觀點，本站不承擔任何法律責任，僅提供存儲服務。天上不會到餡餅，請大家謹防詐騙！若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。
上一篇： 量子互聯網：小荷已露尖尖角
下一篇： 單個顆粒無標記光學顯微成像實現