世界衛(wèi)生組織（WHO）警告稱，引入基于人工智能（AI）的醫(yī)療保健技術(shù)可能對(duì)低收入國(guó)家人群是“危險(xiǎn)的”。
據(jù)《自然》報(bào)道，WHO于1月18日發(fā)布了一份大型多模態(tài)模型（LMMs）新指南，指出技術(shù)的使用和開發(fā)不能只由科技公司和富裕國(guó)家決定，這一點(diǎn)至關(guān)重要。該機(jī)構(gòu)表示，如果沒有根據(jù)資源不足地區(qū)人們的數(shù)據(jù)對(duì)模型進(jìn)行訓(xùn)練，那么這些算法很可能無(wú)法為人們提供良好的服務(wù)。
“作為技術(shù)飛躍的一部分，我們最不希望看到的是世界各國(guó)社會(huì)結(jié)構(gòu)中的不平等和偏見被傳播或放大。”WHO數(shù)字健康與創(chuàng)新總監(jiān)Alain Labrique表示。
事實(shí)上，WHO首份關(guān)于AI醫(yī)療保健的指南發(fā)布于2021年。但在生成式人工智能浪潮的推動(dòng)下，LMMs的威力和可用性迅速提高，這促使WHO在首份指南發(fā)布不到3年后就進(jìn)行了更新。
WHO表示，LMMs是歷史上被采用速度最快的消費(fèi)應(yīng)用程序，其中醫(yī)療保健是一個(gè)很受歡迎的目標(biāo)。AI模型可以生成臨床筆記、填寫表格并幫助醫(yī)生診斷和治療患者，因此一些公司和醫(yī)療保健供應(yīng)商正在開發(fā)特定的AI工具。
但LMMs在為人們帶來(lái)便利的同時(shí)，又存在不少隱患，WHO更新指南的目的就是確保LMMs的爆發(fā)式增長(zhǎng)能夠促進(jìn)和保護(hù)公眾健康，而非破壞公眾健康。
WHO警告在最壞的情況下，全球可能出現(xiàn)“惡性競(jìng)爭(zhēng)”，即公司為了搶先發(fā)布，而忽視應(yīng)用程序的無(wú)效性和不安全性。這甚至增加了模式坍塌的可能性，從而進(jìn)入一個(gè)虛假信息循環(huán)，基于不準(zhǔn)確或虛假信息訓(xùn)練出來(lái)的LMMs會(huì)污染互聯(lián)網(wǎng)等公共信息來(lái)源。
“生成式AI有潛力改善醫(yī)療保健，但前提是開發(fā)、監(jiān)管和使用這些技術(shù)的人能夠識(shí)別并充分考慮相關(guān)風(fēng)險(xiǎn)。”WHO首席科學(xué)家Jeremy Farrar表示。
在Labrique看來(lái)，這些強(qiáng)大工具的操作決不能只靠科技公司完成，各國(guó)政府必須合作，以有效監(jiān)管AI技術(shù)的開發(fā)和使用。民間社會(huì)團(tuán)體和接受醫(yī)療保健的人必須為L(zhǎng)MMs開發(fā)和部署的各個(gè)階段作出貢獻(xiàn)，這包括監(jiān)督和監(jiān)管。
WHO強(qiáng)調(diào)，鑒于這些模型的訓(xùn)練、部署和維護(hù)成本高昂，LMMs開發(fā)有可能被行業(yè)主導(dǎo)，目前已經(jīng)有令人信服的證據(jù)表明，在AI研究方面，大型公司正在排擠高校和政府，而博士生和教職員工以前所未有的規(guī)模離開學(xué)術(shù)界投身其中。
指南建議，從事醫(yī)療保健或科學(xué)研究的LMMs開發(fā)人員應(yīng)接受與醫(yī)生相同水平的道德培訓(xùn)。此外，各國(guó)政府可以要求開發(fā)者注冊(cè)早期算法，以鼓勵(lì)公布負(fù)面結(jié)果，防止出現(xiàn)偏見和炒作。
本文鏈接：世衛(wèi)警告醫(yī)療AI對(duì)貧窮國(guó)家構(gòu)成危險(xiǎn)http://www.lensthegame.com/show-11-2337-0.html
聲明：本網(wǎng)站為非營(yíng)利性網(wǎng)站，本網(wǎng)頁(yè)內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會(huì)到餡餅，請(qǐng)大家謹(jǐn)防詐騙！若有侵權(quán)等問題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。
上一篇： 全球變暖導(dǎo)致北極河流“生銹”？