英國「衛報」調查發現,谷歌(Google)搜尋引擎的人工智慧(AI)摘要可能提供不實且誤導的健康資訊,讓用戶面臨風險,Google因此已移除部分相關AI摘要。
Google表示,其AI摘要(AI Overviews)運用生成式AI,針對特定主題或問題提供重點資訊的概要,這項功能「實用又可靠」。
然而衛報(The Guardian)報導,部分出現在搜尋結果頂端的AI摘要提供了不準確的健康資訊,用戶因此面臨健康受損的風險。
在專家稱為「危險且令人憂心」的一項案例中,Google提供了關於重大肝功能檢查(LFT)的不實資訊,恐導致罹患嚴重肝病的民眾誤以為自己還很健康。
衛報發現,在Google搜尋「肝臟血液檢查結果正常範圍」會出現一大堆數字,卻缺乏相關脈絡說明,也沒有考慮到患者的國籍、性別、族裔或年齡。
專家指出,Google的AI摘要提供的正常數值,可能與實際臨床的正常數值具有顯著差距。摘要恐導致重症患者誤以為自己檢驗結果正常,因此未再接受後續醫療評估。
在衛報進行調查之後,Google已移除搜尋「肝臟血液檢查結果正常範圍」及「肝功能檢查結果正常範圍」等問題會出現的AI英文摘要。
Google發言人表示:「我們不針對搜尋結果中個別移除的內容發表評論。AI摘要呈現的脈絡若有部分疏漏,我們會致力改進,同時按照我們的政策採取適當行動。」
英國肝臟信託基金會(British Liver Trust)的傳播與政策主管赫布迪奇(Vanessa Hebditch)對此表示肯定,但也警告「若以別種方式提出問題,仍可能出現含有誤導資訊的AI摘要」,且他們擔心其他AI產出的健康資訊可能也有不實狀況。
衛報發現,若在Google輸入「肝功能檢查參考範圍」等陳述稍有變化但其實相同的問題,仍會觸發AI摘要出現,赫布迪奇對此深表擔憂。
赫布迪奇說明:「肝功能檢查是多項血液檢查的組合,解讀檢查結果並決定後續行動的判斷相當複雜,遠非對照一組數字那麼簡單。」
「然而,AI摘要以粗體呈現一系列檢查(的數值),讀者很容易就忽略這些數值甚至未必適用他們自己的檢查。」
「此外AI摘要未警告用戶,即便檢查結果正常,他們仍可能患有嚴重肝病,需要接受進一步治療。這類虛假的安心感可能非常有害。」
Google在全球搜尋引擎市場擁有91%市占率,這家科技巨擘表示正在檢查衛報提供的其他新案例。
赫布迪奇也談到,他們更擔心的是Google只處理單一搜尋結果、下架特定的AI摘要,「卻沒有正視AI摘要對醫療健康領域造成的更廣泛問題」。
(相關資訊來自CNA)
|
|
主機規劃:
|
網頁空間 網路空間 主機托管 伺服器 vps虛擬專屬主機 商用伺服器 企業郵局 主機代管 | |
|
|
電子商務:
|
開店 網路商店 osc改版 Web 程式設計 身分證驗證 網路詢價 | |
|
|
網頁形象:
|
網頁公司 網站架設 平面設計 網站改版 網站製作 網站設計 企業架站 廣告設計 多媒體 手機網站 | |
|
|
網站推廣:
|
網站排名 搜尋引擎登錄 網站行銷 排序優先 網站維護 廣告交換 關鍵字排名 | |
|
|
程式系統:
|
金流自動化 Web 程式設計 api應用程式 網路客服系統 | |
|
|
網路服務:
|
SSL憑證 搜尋引擎登錄 | |
|
|
網域名稱:
|
網址查詢 網址代管 搶註網址 網址買賣 動態DNS 網址買賣 | |
|
|
客戶廣告:
|
輪椅 病床 rollformer roll former 眼乾 精美手工雕刻香爐 新竹光纖網路 網頁設計 |