辛頓說(shuō)，AI未來(lái)與人類智能的差距、就像是人類與青蛙的差別一樣大。 他還提到，AI可能會(huì)幫助威權(quán)政府摧毀真相或操縱選民，在美國(guó)當(dāng)前極為分裂的政治氛圍下，這樣的威脅應(yīng)該不難想象。
根據(jù)白宮周四公布的「背景說(shuō)明資料」，AI是當(dāng)代最強(qiáng)大的科技之一，但為了把握AI所帶來(lái)的機(jī)遇，必須先降低相關(guān)風(fēng)險(xiǎn)。
辛頓：GPT-4知識(shí)量較任何人多出數(shù)百倍
麻省理工科技評(píng)論網(wǎng)站周三報(bào)導(dǎo)，辛頓在宣布辭去Google工作前4天受訪時(shí)表示，新一代大型語(yǔ)言模型(特別是OpenAI 3月發(fā)表的GPT-4)讓他意識(shí)到、機(jī)器有一天可能比他原先想象的還要聰明。
辛頓說(shuō)，有時(shí)他認(rèn)為GPT-4就像外星人登陸，人們沒(méi)有意識(shí)到是因?yàn)樗麄兊挠⒄Z(yǔ)說(shuō)得很流利。 辛頓指出，GPT-4的知識(shí)量較任何人多出數(shù)百倍，也許是它實(shí)際上有一個(gè)比人類更好的學(xué)習(xí)算法。
紐約時(shí)報(bào)周一報(bào)道，辛頓受訪時(shí)表示，他發(fā)現(xiàn)AI經(jīng)常從大量的分析數(shù)據(jù)中學(xué)到意想不到的行為，AI未來(lái)可能危及人類。
與辛頓、Meta首席AI科學(xué)家楊立昆一同在2018年獲得計(jì)算機(jī)科學(xué)界最高榮譽(yù)「圖靈獎(jiǎng)」的蒙特婁大學(xué)知名AI學(xué)者Yoshua Bengio日前與特斯拉CEO伊隆馬斯克(Elon Musk)等人透過(guò)非營(yíng)利組織《生命未來(lái)研究所(FLI)》發(fā)表公開(kāi)信、 呼吁針對(duì)比GPT-4更強(qiáng)大的系統(tǒng)暫停訓(xùn)練6個(gè)月，理由是社會(huì)、人類可能面臨潛在風(fēng)險(xiǎn)。
