(資料圖片僅供參考)

6月10日，在2023北京智源大會上，圖靈獎得主、中國科學(xué)院院士姚期智與加州伯克利分校教授Stuart Russell在AI安全與對齊專題論壇進(jìn)行了專家對談。

姚期智認(rèn)為，在考慮如何控制AI的問題前，人類需要先真正解決自身的問題。對于AI技術(shù)，當(dāng)前正是一個重要窗口。在AGI被創(chuàng)造之前、在軍備競賽開展之前，我們急需形成共識，共同合作搭建一個AI治理結(jié)構(gòu)。

“我們應(yīng)該如何阻止人類生產(chǎn)強大的AI機器，以免以犧牲他人為代價來實現(xiàn)他們的個人目標(biāo)？”在對談中，姚期智表示，“我們不應(yīng)該假設(shè)機器是公正的，機器可能會試圖改變?nèi)祟惖男袨椋鼫?zhǔn)確來說，可能是機器的所有者想要改變其他人的行為，而這種意圖隱藏在某些復(fù)雜程序背后?！?/strong>

加州伯克利分校教授Stuart Russell在會上表示，通用人工智能（AGI）還沒達(dá)到，大語言模型只是其中一塊拼圖，我們連拼圖最終會是什么樣子，缺哪些還不確定。

他表示，ChatGPT和GPT-4沒有在“回答”問題，它們不理解世界。

Russell認(rèn)為，人工智能應(yīng)該是一門科學(xué)，在某種意義上，我們理解我們構(gòu)建的結(jié)構(gòu)如何與我們想要它們擁有的屬性相關(guān)聯(lián)。就像我們制造飛機一樣，飛機有物理形狀和發(fā)動機等等。我們可以展示這與我們想要的屬性之間的關(guān)系，那就是留在空氣中：

目前，特別是大型語言模型領(lǐng)域，并不是一門這樣的科學(xué)。我們不知道它為什么會帶來財產(chǎn)。它存在我們甚至不知道它有什么屬性。我們當(dāng)然不能將這些與內(nèi)部發(fā)生的事情聯(lián)系起來，因為我們不了解內(nèi)部發(fā)生的事情。因此從這個意義上說，人工智能是一門更深層次的科學(xué)。

Russell指出，最重要的擔(dān)憂來自于科技公司之間似乎不受約束的競爭，他們已經(jīng)表示不會停止開發(fā)越來越強大的系統(tǒng)，無論風(fēng)險如何。人類可能會失去對世界和我們自己未來的控制，就像大猩猩因為人類而失去了對自己未來的控制一樣。