人工智能教父警告科技可能會(huì)消滅人類

2024-12-31 20:57?來(lái)源 溫州在線

溫州在線科技新聞，“人工智能教父”警告科技可能會(huì)消滅人類，諾貝爾物理學(xué)獎(jiǎng)獲得者杰弗里·辛頓（GeoffreyHinton）擔(dān)心該技術(shù)可能會(huì)在未來(lái)30年內(nèi)導(dǎo)致人類滅絕。

常被稱為人工智能（AI）“教父”的英裔加拿大計(jì)算機(jī)科學(xué)家GeoffreyHinton擔(dān)心該技術(shù)可能會(huì)在未來(lái)30年內(nèi)導(dǎo)致人類滅絕。

Hinton教授今年早些時(shí)候因其在該領(lǐng)域的工作而獲得諾貝爾物理學(xué)獎(jiǎng)，他估計(jì)人工智能在未來(lái)三十年有“10%到20%”的可能性導(dǎo)致人類滅絕。這比他之前預(yù)測(cè)的10%的可能性有所增加。

在接受BBC廣播四臺(tái)“今日”節(jié)目采訪時(shí)，Hinton被問及他對(duì)潛在人工智能災(zāi)難的看法是否發(fā)生了變化。他回答說(shuō)：“不完全是，10%到20%。”當(dāng)被問及賠率是否增加時(shí)，辛頓說(shuō)：“如果有的話。你看，我們以前從未遇到過比我們更聰明的事物。”

他補(bǔ)充道：“你知道多少個(gè)更聰明的東西被一個(gè)不太聰明的東西控制的例子？例子很少。有一個(gè)母親和一個(gè)嬰兒。進(jìn)化花了很多功夫讓嬰兒控制母親，但這大概是我所知道的唯一例子。”

辛頓先生也是多倫多大學(xué)的名譽(yù)教授，他將人類與先進(jìn)的人工智能系統(tǒng)相比，形容為幼兒。“我喜歡這樣想：想象一下你自己和一個(gè)三歲的孩子。我們將成為三歲的孩子，”他說(shuō)。

當(dāng)他于2023年辭去谷歌職務(wù)，更自由地談?wù)摬皇鼙O(jiān)管的人工智能開發(fā)的危險(xiǎn)時(shí)，他對(duì)這項(xiàng)技術(shù)的擔(dān)憂首次為公眾所知。他警告說(shuō)，“壞人”可能會(huì)利用人工智能造成傷害。

談及人工智能發(fā)展的快速進(jìn)展，Hinton表示：“我沒想到我們會(huì)達(dá)到現(xiàn)在的水平。我想在未來(lái)的某個(gè)時(shí)刻我們會(huì)到達(dá)這里。”

他對(duì)該領(lǐng)域的專家現(xiàn)在預(yù)測(cè)人工智能系統(tǒng)可能在未來(lái)20年內(nèi)變得比人類更聰明表示擔(dān)憂，稱這是“一個(gè)非常可怕的想法”。

辛頓強(qiáng)調(diào)了政府監(jiān)管的必要性，并指出發(fā)展速度“非常非常快，比我預(yù)期的快得多”。他警告說(shuō)，僅僅依靠受利益驅(qū)動(dòng)的大公司并不能保證人工智能的安全發(fā)展。“唯一能夠迫使這些大公司在安全方面進(jìn)行更多研究的就是政府監(jiān)管，”他補(bǔ)充道。

編輯： yujeu