訂閱
糾錯(cuò)
加入自媒體
當(dāng)前位置： OFweek 人工智能網(wǎng)   >  正文

OpenAI語(yǔ)音轉(zhuǎn)寫(xiě)工具被曝嚴(yán)重缺陷：憑空捏造大段虛假內(nèi)容

2024-10-28 16:10
快科技
關(guān)注

快科技10月28日消息，據(jù)報(bào)道，OpenAI旗下的AI語(yǔ)音轉(zhuǎn)寫(xiě)工具Whisper被曝存在嚴(yán)重缺陷，竟會(huì)無(wú)中生有地創(chuàng)造大段乃至整句的虛假信息，這一消息引起了廣泛關(guān)注。

尤為引人注目的是，有醫(yī)療機(jī)構(gòu)公開(kāi)承認(rèn)采用了Whisper來(lái)記錄醫(yī)生與患者間的會(huì)診內(nèi)容，此舉迅速在網(wǎng)絡(luò)上掀起了軒然大波。

目前，包括美國(guó)明尼蘇達(dá)州曼卡托診所、洛杉磯兒童醫(yī)院在內(nèi)的眾多醫(yī)療機(jī)構(gòu)，已有超過(guò)30000名臨床醫(yī)生和40個(gè)衛(wèi)生系統(tǒng)開(kāi)始使用法國(guó)AI診療公司Nabla基于Whisper開(kāi)發(fā)的工具。

然而，值得注意的是，OpenAI此前已明確發(fā)出警告，指出Whisper不宜在“高風(fēng)險(xiǎn)領(lǐng)域”內(nèi)應(yīng)用。

一位機(jī)器學(xué)習(xí)工程師在初步分析超過(guò)100小時(shí)的Whisper轉(zhuǎn)錄數(shù)據(jù)時(shí)，驚人地發(fā)現(xiàn)其中約有一半的內(nèi)容存在“幻覺(jué)”現(xiàn)象，即轉(zhuǎn)寫(xiě)內(nèi)容與原始語(yǔ)音嚴(yán)重不符。

關(guān)于Whisper這一嚴(yán)重缺陷的具體成因，目前仍不得而知。但有軟件開(kāi)發(fā)者推測(cè)，這些虛構(gòu)內(nèi)容的產(chǎn)生往往與語(yǔ)音中的停頓、背景噪音或音樂(lè)播放等因素有關(guān)。

針對(duì)此問(wèn)題，OpenAI方面表示，公司正在積極研究如何有效降低虛構(gòu)內(nèi)容的產(chǎn)生，并對(duì)研究人員的發(fā)現(xiàn)表示感謝。同時(shí)，OpenAI還承諾將在后續(xù)的模型更新中融入相應(yīng)的反饋機(jī)制，以期進(jìn)一步提升轉(zhuǎn)寫(xiě)的準(zhǔn)確性和可靠性。

OpenAI語(yǔ)音轉(zhuǎn)寫(xiě)工具被曝嚴(yán)重缺陷：憑空捏造大段虛假內(nèi)容

作者：鹿角來(lái)源：快科技

       原文標(biāo)題 : OpenAI語(yǔ)音轉(zhuǎn)寫(xiě)工具被曝嚴(yán)重缺陷：憑空捏造大段虛假內(nèi)容

聲明： 本文由入駐維科號(hào)的作者撰寫(xiě)，觀點(diǎn)僅代表作者本人，不代表OFweek立場(chǎng)。如有侵權(quán)或其他問(wèn)題，請(qǐng)聯(lián)系舉報(bào)。

發(fā)表評(píng)論

共0條評(píng)論，0人參與

請(qǐng)輸入評(píng)論內(nèi)容...

請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字

您提交的評(píng)論過(guò)于頻繁，請(qǐng)輸入驗(yàn)證碼繼續(xù)

  • 看不清，點(diǎn)擊換一張  刷新

暫無(wú)評(píng)論

暫無(wú)評(píng)論

    掃碼關(guān)注公眾號(hào)
    OFweek人工智能網(wǎng)
    獲取更多精彩內(nèi)容
    文章糾錯(cuò)
    x
    *文字標(biāo)題：
    *糾錯(cuò)內(nèi)容：
    聯(lián)系郵箱：
    *驗(yàn) 證 碼：

    粵公網(wǎng)安備 44030502002758號(hào)