財(cái)聯(lián)社8月30日訊（編輯 馬蘭）美國(guó)人工智能行業(yè)正在逐步接受政府的指導(dǎo)。周四，OpenAI和甲骨文宣布將與美國(guó)人工智能安全研究所簽署合作協(xié)議。

該研究所隸屬于美國(guó)商務(wù)部國(guó)家標(biāo)準(zhǔn)與技術(shù)研究所。其在一份新聞稿中表示，該所將在各公司的主要新模型公開(kāi)發(fā)布之前，以及發(fā)布之后獲得這些模型的使用權(quán)。

OpenAI及甲骨文則指出，它們已經(jīng)同意向人工智能安全研究所提供新模型的測(cè)試權(quán)利，在通過(guò)測(cè)試后，模型再面向公眾發(fā)布。

OpenAI首席執(zhí)行官奧爾特曼表示，很高興與人工智能安全研究所達(dá)成協(xié)議，以對(duì)該公司的模型進(jìn)行預(yù)發(fā)布測(cè)試。

該公司首席戰(zhàn)略官Jason Kwon也指出，公司相信該研究所發(fā)揮著關(guān)鍵作用，以確保美國(guó)AI界負(fù)責(zé)任地開(kāi)發(fā)人工智能，希望能與研究所一起為全球其他國(guó)家提供一個(gè)可被借鑒的管理框架。

進(jìn)擊的監(jiān)管

美國(guó)人工智能安全研究所成立于2023年，距離拜登發(fā)布美國(guó)史上首個(gè)人工智能行政命令不過(guò)寥寥數(shù)日。其也是白宮對(duì)人工智能進(jìn)行評(píng)估、指導(dǎo)以及研究的關(guān)鍵機(jī)構(gòu)。

美國(guó)人工智能安全研究所所長(zhǎng)Elizabeth Kelly表示，與OpenAI和甲骨文的協(xié)議只是一個(gè)開(kāi)始，其代表了研究所管理人工智能未來(lái)的重要里程碑。

而就在本周三，作為美國(guó)科技前沿的加利福尼亞州議會(huì)通過(guò)了一項(xiàng)備受質(zhì)疑的人工智能安全法案，其強(qiáng)制要求公司對(duì)成本或計(jì)算能力達(dá)到一定規(guī)模的人工智能模型進(jìn)行安全測(cè)試，并提供其他保障措施。

該法案的通過(guò)可能迫使不少科技公司進(jìn)一步向監(jiān)管“投誠(chéng)”，以換取盡可能大的創(chuàng)新自由。

除此之外，OpenAI也一直因?yàn)榘踩珕?wèn)題而受到批評(píng)。據(jù)該公司前雇員Daniel Kokotajlo指出，在過(guò)去幾個(gè)月里，公司出現(xiàn)了緩慢而穩(wěn)定的離職潮，關(guān)注人工智能長(zhǎng)期風(fēng)險(xiǎn)的OpenAI員工有一半已經(jīng)離職。

其可能證明了OpenAI內(nèi)部對(duì)于新模型安全性能的忽視正在引發(fā)內(nèi)部的普遍不滿。這當(dāng)然也引發(fā)了美國(guó)政府部門的關(guān)注，而選擇此時(shí)與美國(guó)人工智能安全研究所合作，或許正是OpenAI打消外界疑慮的最好宣傳之一。