美國《財(cái)富》雜志發(fā)表了一篇《薩姆·奧爾特曼和其他技術(shù)專家警告，人工智能構(gòu)成“滅絕風(fēng)險(xiǎn)”，危險(xiǎn)程度與疫情、核戰(zhàn)不相上下》的報(bào)道，全文摘編如下：

技術(shù)專家和計(jì)算機(jī)科學(xué)專家警告說，人工智能對人類生存構(gòu)成的威脅與核戰(zhàn)爭和全球大流行病相比不相上下，就連替人工智能打頭陣的商界領(lǐng)袖也對這項(xiàng)技術(shù)威脅人類的生存發(fā)出了警告。

非營利研究機(jī)構(gòu)人工智能安全中心30日發(fā)表了一份“關(guān)于人工智能風(fēng)險(xiǎn)的聲明”，在聲明上簽字的有300多人，開放人工智能研究中心的首席執(zhí)行官薩姆·奧爾特曼也是其中一個。這封信雖然簡短，但它概括了人工智能的風(fēng)險(xiǎn)。信中說：“降低人工智能滅絕人類的風(fēng)險(xiǎn)以及降低流行病和核戰(zhàn)爭等其他影響全社會的風(fēng)險(xiǎn)，應(yīng)該成為全球優(yōu)先考慮的事項(xiàng)。”

這封信的開頭稱，這份聲明旨在就如何針對人工智能技術(shù)可能導(dǎo)致世界滅亡的能力做好準(zhǔn)備“開啟討論”。其他簽名者包括前谷歌工程師杰弗里·欣頓和蒙特利爾大學(xué)計(jì)算機(jī)科學(xué)家約舒亞·本喬。由于這兩人對現(xiàn)代計(jì)算機(jī)科學(xué)的貢獻(xiàn)，他們被譽(yù)為人工智能教父。近幾周來，本喬和欣頓已多次就人工智能技術(shù)在不久的將來可能發(fā)展出何種危險(xiǎn)能力發(fā)出警告。欣頓最近離開了谷歌，以便能夠更公開地討論人工智能的風(fēng)險(xiǎn)。

這不是第一封呼吁進(jìn)一步關(guān)注先進(jìn)人工智能研究在沒有政府更嚴(yán)格監(jiān)管的情況下可能帶來何種災(zāi)難性結(jié)果的信。今年3月，超過1000名技術(shù)專家以該技術(shù)具有破壞性的潛力為由，呼吁暫停研究先進(jìn)人工智能6個月，埃隆·馬斯克也是其中之一。

奧爾特曼本月警告國會，隨著技術(shù)飛速發(fā)展，監(jiān)管已經(jīng)跟不上了。

與之前的那封信不一樣，奧爾特曼簽署的這份最新聲明沒有提出任何具體目標(biāo)，只是呼吁展開討論。而欣頓本月早些時候在接受美國有線電視新聞網(wǎng)采訪時說，他沒有在3月份的那封信上簽字。

盡管包括開放人工智能研究中心甚至谷歌在內(nèi)的頂尖人工智能研究機(jī)構(gòu)的高管呼吁各國政府在監(jiān)管人工智能方面盡快采取行動，但一些專家警告說，在當(dāng)前的一些問題——包括虛假信息和可能存在的偏見——已經(jīng)造成嚴(yán)重破壞的情況下，討論這項(xiàng)技術(shù)未來威脅人類生存的風(fēng)險(xiǎn)是適得其反的。還有人甚至認(rèn)為，奧爾特曼等首席執(zhí)行官借著公開討論人工智能的風(fēng)險(xiǎn)，實(shí)際上一直試圖轉(zhuǎn)移人們對該技術(shù)目前已存在問題的注意力。

但預(yù)言人工智能將帶來世界末日的人也警告說，這項(xiàng)技術(shù)發(fā)展得過快，以至于風(fēng)險(xiǎn)可能很快變成一個問題，是人力所不能及的。人們越來越擔(dān)心，能夠自我思考和思辨的超級人工智能成為現(xiàn)實(shí)的速度超乎許多人的預(yù)料。一些專家警告說，這項(xiàng)技術(shù)目前并不符合人類的利益和福祉。

欣頓本月在接受《華盛頓郵報(bào)》采訪時說，超級人工智能正在快速發(fā)展，現(xiàn)在可能只剩下20年的時間了，現(xiàn)在是時候就先進(jìn)人工智能的風(fēng)險(xiǎn)進(jìn)行對話了。

他說：“這并不是科幻小說?！?/p>