專題：2024亞布力企業(yè)家第二十屆夏季年會(huì)

　　新浪科技訊 8月31日下午消息，2024亞布力企業(yè)家第二十屆夏季年會(huì)在廣州舉行。論壇期間，在東方甄選直播間，新東方教育科技集團(tuán)董事長(zhǎng)俞敏洪與多位企業(yè)家對(duì)話。360集團(tuán)創(chuàng)始人、董事長(zhǎng)周鴻祎在直播間談到國(guó)內(nèi)人工智能發(fā)展面臨的主要挑戰(zhàn)。

　　周鴻祎表示，有一個(gè)挑戰(zhàn)是對(duì)錯(cuò)誤，對(duì)創(chuàng)新的寬容、理解和和包容。他表示，人工智能一定會(huì)出錯(cuò)，但不知道它在什么情況下會(huì)莫名其妙的出錯(cuò)。

　　“所以這里面有兩種可能，一種是大模型自身會(huì)產(chǎn)生幻覺，”他認(rèn)為，幻覺是大模型真正有智力的一種體現(xiàn)，這是它先天決定的。

　　周鴻祎表示，也研究了對(duì)付幻覺的方法，比如說用知識(shí)對(duì)齊，也就是當(dāng)大模型產(chǎn)生內(nèi)容之后，去找內(nèi)容來做對(duì)標(biāo)，但這里面又會(huì)有一個(gè)陷阱，就是曾幾何時(shí)我們都認(rèn)為網(wǎng)上的內(nèi)容都是對(duì)的，只要是印成印刷體的內(nèi)容都是對(duì)的，所以用搜索引擎來做對(duì)齊，但現(xiàn)在發(fā)現(xiàn)網(wǎng)上也有很多內(nèi)容被污染了或者被“投毒”了。

　　“比如，如果網(wǎng)上貼了很多關(guān)于俞老師的負(fù)面，完全是無中生有，但這個(gè)帖子又沒被刪掉，就會(huì)被當(dāng)成事實(shí)，進(jìn)入事實(shí)庫(kù)之后，可能大模型就開始亂說俞老師的壞話。”他還談到，Google最近也犯了這樣的錯(cuò)誤，有人在Google里問怎么吃石頭，Google就認(rèn)真回答說吃石頭要磨細(xì)了吃，咽不下的時(shí)候還用水來送服，石頭有很豐富的營(yíng)養(yǎng)，就成為一個(gè)丑聞。原來谷歌是從一個(gè)社區(qū)論壇抓取的內(nèi)容，那里有人惡搞，模擬科普文章，寫了如何吃石頭，然后就被谷歌抓取了，谷歌就認(rèn)為這個(gè)文章都是對(duì)的。

　　周鴻祎指出，以后在網(wǎng)上還需要解決的問題是用大模型來判斷內(nèi)容到底對(duì)不對(duì)，但前提是要有一些對(duì)的內(nèi)容，那就需要人工篩選一些內(nèi)容。

　　他認(rèn)為，未來隨著大模型用的越來越多之后，一定會(huì)在回答某些問題的時(shí)候可能口出亂言，碰到這種情況，建議用戶還是寬容一點(diǎn)，發(fā)現(xiàn)漏洞可以主動(dòng)通知對(duì)方去修正，而不是大肆渲染，變成巨大的事件。

　　新浪聲明：所有會(huì)議實(shí)錄均為現(xiàn)場(chǎng)速記整理，未經(jīng)演講者審閱，新浪網(wǎng)登載此文出于傳遞更多信息之目的，并不意味著贊同其觀點(diǎn)或證實(shí)其描述。