隨著人工智能越來越擅長模仿人類的聲音，人們越來越擔(dān)心AI技術(shù)可能會反過來攻擊人們，例如幫助犯罪分子獲取個(gè)人銀行賬戶，并傳播錯(cuò)誤信息。

　　當(dāng)?shù)貢r(shí)間9月24日，OpenAI宣布針對ChatGPT訂閱用戶推出高級語音功能，起訂價(jià)為每月20美元，該工具可實(shí)現(xiàn)更自然流暢的對話。

　　OpenAI在今年5月就已經(jīng)宣布這項(xiàng)新的語音功能，不過由于ChatGPT的聲音之一Sky被指與2013年電影《她》中斯嘉麗·約翰遜的聲音相似疑似侵權(quán)，OpenAI將Sky暫時(shí)下線。

　　今年早些時(shí)候，OpenAI還曾推出語音復(fù)制工具Voice Engine，但當(dāng)時(shí)并未向公眾開放，理由是“合成語音濫用的可能性”。

　　隨著人工智能越來越擅長模仿人類的聲音，人們越來越擔(dān)心AI技術(shù)可能會反過來攻擊人們，例如幫助犯罪分子獲取個(gè)人銀行賬戶，并傳播錯(cuò)誤信息。

　　近日，英國網(wǎng)絡(luò)貸款機(jī)構(gòu)Starling Bank警告稱，數(shù)百萬人可能成為利用人工智能克隆聲音騙局的受害者。

　　這家英國銀行表示，詐騙者能夠利用人工智能從某人在網(wǎng)上發(fā)布的視頻和音頻中復(fù)制出其聲音，這些音頻只需要持續(xù)三秒鐘，詐騙者就可以識別該人的朋友和家人，并使用人工智能克隆的聲音打電話索要錢財(cái)。而大部分人不了解存在此類AI語音克隆詐騙，還有一部分人會按對方的要求匯款，造成財(cái)產(chǎn)損失。

　　“人們經(jīng)常在網(wǎng)上發(fā)布包含自己聲音錄音的內(nèi)容，卻從未想過這些錄音會被一些不法分子利用，成為詐騙案的受害者?！盨tarling Bank在一份聲明中表示。

　　對此，星展集團(tuán)首席執(zhí)行官高博德日前接受第一財(cái)經(jīng)記者采訪時(shí)表示：“我們更希望人工智能可以成為發(fā)現(xiàn)騙局的工具，實(shí)際上這種技術(shù)本身非常適合用來檢測異常情況，從而將有嫌疑的行為標(biāo)注出來，進(jìn)行深入的調(diào)查分析?！?/p>

　　高博德表示，星展銀行已經(jīng)開展了很多工作，這些工作將為未來防范人工智能詐騙奠定基礎(chǔ)。“現(xiàn)在，包括新加坡在內(nèi)的很多政府都非常重視數(shù)據(jù)標(biāo)注的格式，制定相應(yīng)的標(biāo)準(zhǔn)和指導(dǎo)方針，我認(rèn)為，這對于未來相關(guān)AI監(jiān)管措施的落地非常重要?！彼麑Φ谝回?cái)經(jīng)記者說道。

　　伴隨著AI快速發(fā)展和廣泛應(yīng)用，其帶來的風(fēng)險(xiǎn)和挑戰(zhàn)也在增多。在這一背景下，AI的治理已經(jīng)引起全球企業(yè)的高度關(guān)注。

　　2019年，新加坡就成為首個(gè)推出AI治理框架的國家，為企業(yè)和消費(fèi)者提供負(fù)責(zé)任使用AI的指南，這一指南在2022年就進(jìn)行了更新，涵蓋生成式AI。

　　“我們認(rèn)為迭代學(xué)習(xí)的方法是更加明智的，這樣才有可能盡量避免AI帶來的所有潛在危害?！毙录悠抡紫疉I官員何瑞敏在今年的上海世界人工智能大會上表示。

　　近日，聯(lián)合國人工智能高級咨詢機(jī)構(gòu)發(fā)布了一份關(guān)于人工智能（AI）治理的重要報(bào)告，呼吁國際社會共同努力，建立一個(gè)真正意義上的全球性AI監(jiān)管和治理機(jī)制。

　　“人工智能技術(shù)在某種程度上體現(xiàn)了現(xiàn)代社會的趨勢，整個(gè)宏觀治理框架必須進(jìn)行調(diào)整和適應(yīng)，以應(yīng)對這些風(fēng)險(xiǎn)?！备卟┑聦Φ谝回?cái)經(jīng)記者表示。

　　與此同時(shí)，AI技術(shù)的快速應(yīng)用正在改變企業(yè)和經(jīng)濟(jì)全球人工智能相關(guān)產(chǎn)品市場持續(xù)增長。貝恩公司在9月25日發(fā)布的第五次年度全球科技報(bào)告中預(yù)計(jì)，AI相關(guān)市場規(guī)模有望在2027年接近1萬億美元。