1月30日消息，美國時間周一，微軟為其人工智能文本轉(zhuǎn)圖像生成工具Designer引入了更多保護措施，禁止人們用它來制作名人的非自愿假照片。據(jù)悉，上周在X上瘋傳的泰勒·斯威夫特（Taylor Swift）人工智能生成裸照來自4chan和Telegram頻道，迫使微軟做出了改變。
微軟發(fā)言人證實了這一事件，并表示：“我們對此已展開調(diào)查，并正采取相應措施解決問題。我們的行為準則明確禁止使用我們的工具創(chuàng)建成人或未經(jīng)同意的私密內(nèi)容。任何違反我們政策的行為，尤其是反復嘗試制作這類內(nèi)容，都將導致用戶無法繼續(xù)使用我們的服務(wù)。我們有一支龐大的團隊，致力于根據(jù)我們負責任的人工智能原則開發(fā)各種安全系統(tǒng)，包括內(nèi)容過濾、操作監(jiān)控和濫用檢測等，以減少系統(tǒng)的濫用可能性，并為用戶創(chuàng)造一個更安全的環(huán)境。”
微軟強調(diào)，一項正在進行的調(diào)查無法證實X上斯威夫特的假裸照是用Designer制作的，但該公司將繼續(xù)加強其文本過濾提示，并解決濫用其服務(wù)的問題。上周五，微軟首席執(zhí)行官薩蒂亞·納德拉（Satya Nadella）在接受采訪時表示，“我們有責任”為人工智能工具增加更多“護欄”，以防止它們制作有害內(nèi)容。上周末，X開始徹底屏蔽對“泰勒·斯威夫特”的搜索。
納德拉說：“這關(guān)乎全球社會在規(guī)范上的融合。我們可以做到這一點，尤其是在法律、執(zhí)法部門和科技平臺的共同努力下。我相信，我們可以管理的范圍遠遠超過我們目前的認知。”
經(jīng)過404 Media等媒體測試以及4chan和Telegram上的消息顯示，用戶利用漏洞生成圖像的操作已不再有效。
在斯威夫特人工智能生成圖片上周引發(fā)關(guān)注之前，Designer已經(jīng)阻止用戶生成帶有“泰勒·斯威夫特裸體”等文字提示的圖片，但Telegram和4chan上的用戶發(fā)現(xiàn)，他們可以通過稍微拼錯名人的名字，以及描述不使用任何性術(shù)語但會導致性暗示的圖片來繞過這些保護。
微軟修復漏洞后，引發(fā)了網(wǎng)友熱議。根據(jù)404 Media的報道，Telegram上的一名用戶在頻道中寫道：“我認為微軟的Designer已經(jīng)被打補丁了。”
另一位用戶回應道：“好像它再也無法生成名人的照片了。即使是搜索克洛伊·莫瑞茲（Chloe Moretz），也只會生成普通的金發(fā)女孩。我嘗試更換服務(wù)器和賬號，但得到的結(jié)果都是一樣的。”
還有用戶表示：“我覺得它現(xiàn)在已經(jīng)完蛋了。Ariana,、Kylie Jenner,、Lisa、Zendaya這樣的名人，現(xiàn)在都只展示出與她們長相或種族相似的普通女孩照片。”
404 Media并未公布Telegram頻道的名稱，因為Telegram并未刪除該頻道，而且通常不會從其平臺上刪除太多有害內(nèi)容。該頻道擁有數(shù)萬名成員，但404 Media并未公布特定用戶的身份。分享Telegram頻道的名稱只會吸引更多人關(guān)注它，無益于為有害內(nèi)容的目標提供任何追索權(quán)。
盡管Telegram頻道仍在分享人工智能生成的成人圖片，其中一些似乎是用其他人工智能工具生成的，還有一些是從其他網(wǎng)站上提取的。雖然該頻道的重點是利用微軟的Designer這一免費且易于使用的工具，但有許多其他方法可以在網(wǎng)上制作這種有害的內(nèi)容。例如，目前任何人都可以下載名人模型并在自己的電腦上本地運行，以生成有害內(nèi)容。在4chan上，一些用戶聲稱他們已經(jīng)發(fā)現(xiàn)了必應和Designer的新漏洞。
Telegram頻道上的一位用戶表示：“我堅信，如果這里被關(guān)閉了，我們會找到其他地方來制作人工智能內(nèi)容。”（小小）
本文鏈接：微軟修復漏洞，旗下AI不能再生成名人假裸照http://www.lensthegame.com/show-3-8308-0.html
聲明：本網(wǎng)站為非營利性網(wǎng)站，本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。