（原標(biāo)題：當(dāng)AI進(jìn)攻人類）

“我對(duì)自己一生從事的工作感到有些后悔”。

這是被業(yè)界稱為“AI教父”的谷歌公司副總裁杰弗里·辛頓(Geoffrey Hinton)于4月底從谷歌公司離職后所發(fā)表的言論。他之所以從谷歌離職，是因?yàn)楦惺艿搅俗詮腃hatGPT出現(xiàn)后引發(fā)的大型科技公司追逐浪潮，正在對(duì)就業(yè)和整個(gè)人類構(gòu)成威脅。

在他離職前幾天，馬斯克等上千名科技行業(yè)領(lǐng)袖與高管簽署了聯(lián)名信，呼吁暫停比ChatGPT-4更先進(jìn)的版本研發(fā)。馬斯克在一次采訪中稱，人工智能是我們最值得擔(dān)憂的，他做了一個(gè)非常形象的比喻：

“如果一個(gè)蟻穴剛好在人類要修的公路上，人類會(huì)怎么做？這正像人工智能機(jī)器人在面對(duì)人類時(shí)可能做的。

杰弗里·辛頓并不是因?yàn)閾?dān)心AI的威脅而從谷歌離職的第一人，在谷歌公司，甚至于在美國科技行業(yè)，因?yàn)閾?dān)心AI發(fā)展威脅人類發(fā)展而離職的人，早在2016年開始涌現(xiàn)。

一、算法的威脅

2016年，特里斯坦·哈里斯——這位谷歌的內(nèi)部道德設(shè)計(jì)師決定離職，此時(shí)的他已經(jīng)意識(shí)到，F(xiàn)acebook、谷歌（YouTube、谷歌搜索）、推特這樣的互聯(lián)網(wǎng)科技公司為了商業(yè)利益，利用算法吸引人上癮的產(chǎn)品設(shè)計(jì)，是不道德的。這已經(jīng)成為：

“人類生存的一大威脅”。

他想到了對(duì)抗。實(shí)際上，特里斯坦·哈里斯任職谷歌期間，谷歌有知名的“不作惡”準(zhǔn)則。但這一準(zhǔn)則并沒有阻擋住算法基于商業(yè)利益走向偏路。離職兩年后，特里斯坦·哈里斯拉著Facebook和Google等大公司離職或在職的技術(shù)專家，建立了一個(gè)叫“人道科技中心”（Center for Humane Technology）的組織，這個(gè)組織在2018年成立，用來——

對(duì)抗硅谷互聯(lián)網(wǎng)公司讓人上癮的設(shè)計(jì)理論。

除了特里斯坦·哈里斯，參與這個(gè)中心工作的人，還有前Facebook運(yùn)營(yíng)經(jīng)理；蘋果公司和谷歌前通訊主管林恩·?？怂梗磺癋acebook高管戴夫·莫林；Facebook早期投資人羅杰·麥克納米。

2017年前后，很多硅谷公司的高管，感覺到了算法操持的互聯(lián)網(wǎng)平臺(tái)，出現(xiàn)了道德倫理危機(jī)，紛紛離開了所在公司，2020年，網(wǎng)飛（Netflix）公司拍攝了一部紀(jì)錄片叫《監(jiān)視資本主義：智能陷阱》。片中，Pinterest 的前總經(jīng)理、Facebook的前盈利總監(jiān)Tim Kkendall說他擔(dān)心算法操縱的世界最終導(dǎo)致美國內(nèi)戰(zhàn)；一個(gè)從谷歌出來的工程師，擔(dān)心整個(gè)互聯(lián)網(wǎng)產(chǎn)業(yè)的道德淪喪……

曾與馬克·扎克伯格（Mark Zuckerberg）一起創(chuàng)辦了Facebook的克里斯·休斯(Chris Hughes)離職后多年后，批評(píng)Facebook說，“扎克伯格是個(gè)好人。但令我感到憤怒的是，他對(duì)增長(zhǎng)的關(guān)注導(dǎo)致他為了點(diǎn)擊而犧牲了安全和道德底線”。

這樣嚴(yán)重的擔(dān)憂，是什么導(dǎo)致的，問題出在哪兒呢？

免責(zé)聲明：信息網(wǎng)轉(zhuǎn)載此文目的在于傳遞更多信息，不代表本站的觀點(diǎn)和立場(chǎng)。文章內(nèi)容僅供參考，不構(gòu)成投資建議。如果您發(fā)現(xiàn)網(wǎng)站上有侵犯您的知識(shí)產(chǎn)權(quán)的作品，請(qǐng)與我們?nèi)〉寐?lián)系，我們會(huì)及時(shí)修改或刪除。

Tags：[db:TAG標(biāo)簽](1530873)

轉(zhuǎn)載請(qǐng)標(biāo)注：信息網(wǎng)——當(dāng)AI進(jìn)攻人類