科技日報北京2月9日電 (記者劉霞)據(jù)英國《新科學(xué)家》網(wǎng)站8日報道,谷歌人工智能(AI)搜索工具Bard在推廣活動中,在回答與詹姆斯·韋布空間望遠(yuǎn)鏡有關(guān)的問題時犯下事實性錯誤,加劇了人們對這些工具還沒有準(zhǔn)備好集成到搜索引擎中的擔(dān)憂。
英國牛津大學(xué)的凱莉莎·維茲表示,有證據(jù)表明,使用此類AI聊天機(jī)器人為網(wǎng)絡(luò)搜索提供結(jié)果發(fā)生得太快了,“大規(guī)模制造錯誤信息的可能性很大”。
去年11月,得到微軟加持的美國加州初創(chuàng)企業(yè)OpenAI推出了聊天機(jī)器人ChatGPT,這一系統(tǒng)短短兩個月就有了上億用戶。
ChatGPT攪動了互聯(lián)網(wǎng)江湖的“一池春水”。谷歌本周宣布,將推出AI工具Bard,測試后將其整合到自己的搜索引擎內(nèi),為用戶提供定制答復(fù),而非僅僅列出相關(guān)網(wǎng)站列表。中國搜索引擎巨頭百度公司近日也宣布了類似計劃。2月7日,微軟為其搜索引擎必應(yīng)推出了自己的AI搜索服務(wù)。
但有專家警告說,這類機(jī)器人可能會給出不準(zhǔn)確的回答,因為它們基于信息的統(tǒng)計性而非準(zhǔn)確性輸出結(jié)果。2月8日,谷歌在推特上發(fā)布的一則廣告顯示,Bard在回答“關(guān)于詹姆斯·韋布空間望遠(yuǎn)鏡(JWST),我可以告訴我9歲孩子它有何新發(fā)現(xiàn)?”這一問題時,給出了錯誤的結(jié)果。
Bard給出的一個答案是:第一張?zhí)栂低庑行堑恼掌蒍WST拍攝。但哈佛—史密森天體物理中心的格蘭特·特朗布萊指出,這并非事實,2004年歐洲南方天文臺的甚大望遠(yuǎn)鏡(VLT)拍攝了第一張系外行星照片。
維茲表示,這個錯誤說明,在精確度很重要的情況下,依賴AI模型存在一定風(fēng)險。她說:“這完美地顯示了統(tǒng)計系統(tǒng)最重要的弱點,這些系統(tǒng)旨在根據(jù)統(tǒng)計分析給出(看似合理)的答案,而非給出真實的答案!