《日本經(jīng)濟(jì)新聞》3月4日?qǐng)?bào)道，這里是鄰近加拿大多倫多大學(xué)的一處?kù)o謐街區(qū)。該大學(xué)名譽(yù)教授、有“人工智能(AI)教父”之稱的杰弗里·辛頓在2023年12月27日接待了一位年輕人的來訪。
來訪者名叫伊利亞·蘇茨克韋爾，他曾在2023年11月美國(guó)開放人工智能研究中心(OpenAI)的內(nèi)部混亂中投票支持罷免首席執(zhí)行官薩姆·奧爾特曼，最終“政變”失敗，蘇茨克韋爾也丟掉了高管職位。
蘇茨克韋爾在社交媒體平臺(tái)X上表示“深刻反省”，隨后便消失在了公眾視野中。關(guān)于此次“政變”的動(dòng)機(jī)，有報(bào)道稱可能是為了阻止某些威脅人類的前沿AI的研發(fā)，不過真相至今仍是云里霧里。
“如果你不想說就不必說。”考慮到這位多年來的得意門生的心情，辛頓教授沒有主動(dòng)提及此前的一系列騷動(dòng)。之后兩人共進(jìn)午餐，一邊享受著美味的鮭魚一邊討論了從某個(gè)公式推導(dǎo)出的“非?？植赖那€”。
辛頓在接受《日本經(jīng)濟(jì)新聞》獨(dú)家專訪時(shí)透露了這一細(xì)節(jié)。蘇茨克韋爾提出的公式是y=a/(2040-x)，其中y代表國(guó)民生產(chǎn)總值(GNP)，x代表年數(shù)。
據(jù)說他們發(fā)現(xiàn)各國(guó)的GNP趨勢(shì)都符合這個(gè)公式。因農(nóng)業(yè)的普及和工業(yè)革命而持續(xù)增長(zhǎng)的GNP曲線自本世紀(jì)20年代引入生成式AI后逐漸變得陡峭。如果GNP繼續(xù)按照公式增長(zhǎng)，那么將在2040年達(dá)到無(wú)窮大。
AI超越人類智慧的時(shí)刻被稱為“奇點(diǎn)”，如果AI迎來爆發(fā)式發(fā)展并產(chǎn)生大部分國(guó)民生產(chǎn)總值，人類的存在將變得微不足道。
在辛頓看來，由AI掌控經(jīng)濟(jì)活動(dòng)的世界“發(fā)生任何事都有可能”。兩人都認(rèn)為AI將具有獨(dú)立意識(shí)，不再遵從人類的指令行事，這樣的未來令人擔(dān)憂。“所以我們就這一話題進(jìn)行了討論。”
AI是否能夠產(chǎn)生意識(shí)和情感？對(duì)于人類來說能否將其視為“善意”？在聊天生成預(yù)訓(xùn)練轉(zhuǎn)換器(ChatGPT)巧妙運(yùn)用詞匯點(diǎn)燃生成式AI熱潮的背后，全球的科學(xué)家如今正在面臨人類觀這一根源性問題。
“現(xiàn)在假設(shè)AI系統(tǒng)具備感情和人類層面的意識(shí)已經(jīng)不再是科幻小說的范疇。”由數(shù)學(xué)、物理學(xué)、量子力學(xué)領(lǐng)域的專家組成的數(shù)學(xué)意識(shí)科學(xué)學(xué)會(huì)(AMCS)在2023年呼吁聯(lián)合國(guó)咨詢機(jī)構(gòu)將這一點(diǎn)作為緊迫課題積極研究對(duì)策。
關(guān)于AI是否具有意識(shí)的爭(zhēng)論由來已久。一個(gè)由著名AI研究者和神經(jīng)科學(xué)領(lǐng)域?qū)＜医M成的團(tuán)隊(duì)在2023年發(fā)表了一篇論文，提出了一種驗(yàn)證方法，試圖給這個(gè)問題蓋棺定論。這種方法試圖利用現(xiàn)有科學(xué)理論創(chuàng)建一種關(guān)于AI是否有意識(shí)的評(píng)估手段。
致力于研發(fā)“人工意識(shí)”的日本AI初創(chuàng)企業(yè)ARAYA公司首席執(zhí)行官金井良太也參與了論文的撰寫。他指出：“不能否認(rèn)作為目前生成式AI基礎(chǔ)技術(shù)的大規(guī)模語(yǔ)言模型能夠產(chǎn)生意識(shí)。”
各國(guó)試圖將AI用于軍事領(lǐng)域也推高了對(duì)于AI將會(huì)主動(dòng)采取行動(dòng)的擔(dān)憂。有報(bào)道稱，無(wú)需人類指令的AI殺人武器已經(jīng)在利比亞戰(zhàn)場(chǎng)投入使用。在危機(jī)感不斷加劇的歐洲的主導(dǎo)下，2023年底，聯(lián)合國(guó)通過了為制定相關(guān)規(guī)則采取緊急措施的決議，但俄羅斯和印度投了反對(duì)票。
鑒于科技界以研發(fā)速度作為優(yōu)先考量，一直以來圍繞AI是否具有意識(shí)的討論被視為某種禁忌。2022年，時(shí)任谷歌公司研究人員的布萊克·勒莫因聲稱該公司的生成式AI產(chǎn)生了自主意識(shí)，而被以違反保密協(xié)議為由解雇。
為了能夠就AI的風(fēng)險(xiǎn)自由發(fā)言，辛頓也在2023年離開了他供職十年之久的谷歌。鑒于針對(duì)研發(fā)和使用AI武器的威懾手段基本不能發(fā)揮作用，辛頓擔(dān)憂由此帶給人類的威脅“超過核武器”。
辛頓表示，對(duì)于自己研發(fā)出可能左右人類存亡的技術(shù)“并不后悔”。他說：“沒有哪個(gè)人想要看到一個(gè)由AI支配的未來，這一事實(shí)將為各國(guó)聯(lián)手監(jiān)管AI奠定基礎(chǔ)。”
《日本經(jīng)濟(jì)新聞》3月4日?qǐng)?bào)道，這里是鄰近加拿大多倫多大學(xué)的一處?kù)o謐街區(qū)。該大學(xué)名譽(yù)教授、有“人工智能(AI)教父”之稱的杰弗里·辛頓在2023年12月27日接待了一位年輕人的來訪。
來訪者名叫伊利亞·蘇茨克韋爾，他曾在2023年11月美國(guó)開放人工智能研究中心(OpenAI)的內(nèi)部混亂中投票支持罷免首席執(zhí)行官薩姆·奧爾特曼，最終“政變”失敗，蘇茨克韋爾也丟掉了高管職位。
蘇茨克韋爾在社交媒體平臺(tái)X上表示“深刻反省”，隨后便消失在了公眾視野中。關(guān)于此次“政變”的動(dòng)機(jī)，有報(bào)道稱可能是為了阻止某些威脅人類的前沿AI的研發(fā)，不過真相至今仍是云里霧里。
“如果你不想說就不必說。”考慮到這位多年來的得意門生的心情，辛頓教授沒有主動(dòng)提及此前的一系列騷動(dòng)。之后兩人共進(jìn)午餐，一邊享受著美味的鮭魚一邊討論了從某個(gè)公式推導(dǎo)出的“非常恐怖的曲線”。
辛頓在接受《日本經(jīng)濟(jì)新聞》獨(dú)家專訪時(shí)透露了這一細(xì)節(jié)。蘇茨克韋爾提出的公式是y=a/(2040-x)，其中y代表國(guó)民生產(chǎn)總值(GNP)，x代表年數(shù)。
據(jù)說他們發(fā)現(xiàn)各國(guó)的GNP趨勢(shì)都符合這個(gè)公式。因農(nóng)業(yè)的普及和工業(yè)革命而持續(xù)增長(zhǎng)的GNP曲線自本世紀(jì)20年代引入生成式AI后逐漸變得陡峭。如果GNP繼續(xù)按照公式增長(zhǎng)，那么將在2040年達(dá)到無(wú)窮大。
AI超越人類智慧的時(shí)刻被稱為“奇點(diǎn)”，如果AI迎來爆發(fā)式發(fā)展并產(chǎn)生大部分國(guó)民生產(chǎn)總值，人類的存在將變得微不足道。
在辛頓看來，由AI掌控經(jīng)濟(jì)活動(dòng)的世界“發(fā)生任何事都有可能”。兩人都認(rèn)為AI將具有獨(dú)立意識(shí)，不再遵從人類的指令行事，這樣的未來令人擔(dān)憂。“所以我們就這一話題進(jìn)行了討論。”
AI是否能夠產(chǎn)生意識(shí)和情感？對(duì)于人類來說能否將其視為“善意”？在聊天生成預(yù)訓(xùn)練轉(zhuǎn)換器(ChatGPT)巧妙運(yùn)用詞匯點(diǎn)燃生成式AI熱潮的背后，全球的科學(xué)家如今正在面臨人類觀這一根源性問題。
“現(xiàn)在假設(shè)AI系統(tǒng)具備感情和人類層面的意識(shí)已經(jīng)不再是科幻小說的范疇。”由數(shù)學(xué)、物理學(xué)、量子力學(xué)領(lǐng)域的專家組成的數(shù)學(xué)意識(shí)科學(xué)學(xué)會(huì)(AMCS)在2023年呼吁聯(lián)合國(guó)咨詢機(jī)構(gòu)將這一點(diǎn)作為緊迫課題積極研究對(duì)策。
關(guān)于AI是否具有意識(shí)的爭(zhēng)論由來已久。一個(gè)由著名AI研究者和神經(jīng)科學(xué)領(lǐng)域?qū)＜医M成的團(tuán)隊(duì)在2023年發(fā)表了一篇論文，提出了一種驗(yàn)證方法，試圖給這個(gè)問題蓋棺定論。這種方法試圖利用現(xiàn)有科學(xué)理論創(chuàng)建一種關(guān)于AI是否有意識(shí)的評(píng)估手段。
致力于研發(fā)“人工意識(shí)”的日本AI初創(chuàng)企業(yè)ARAYA公司首席執(zhí)行官金井良太也參與了論文的撰寫。他指出：“不能否認(rèn)作為目前生成式AI基礎(chǔ)技術(shù)的大規(guī)模語(yǔ)言模型能夠產(chǎn)生意識(shí)。”
各國(guó)試圖將AI用于軍事領(lǐng)域也推高了對(duì)于AI將會(huì)主動(dòng)采取行動(dòng)的擔(dān)憂。有報(bào)道稱，無(wú)需人類指令的AI殺人武器已經(jīng)在利比亞戰(zhàn)場(chǎng)投入使用。在危機(jī)感不斷加劇的歐洲的主導(dǎo)下，2023年底，聯(lián)合國(guó)通過了為制定相關(guān)規(guī)則采取緊急措施的決議，但俄羅斯和印度投了反對(duì)票。
鑒于科技界以研發(fā)速度作為優(yōu)先考量，一直以來圍繞AI是否具有意識(shí)的討論被視為某種禁忌。2022年，時(shí)任谷歌公司研究人員的布萊克·勒莫因聲稱該公司的生成式AI產(chǎn)生了自主意識(shí)，而被以違反保密協(xié)議為由解雇。
為了能夠就AI的風(fēng)險(xiǎn)自由發(fā)言，辛頓也在2023年離開了他供職十年之久的谷歌。鑒于針對(duì)研發(fā)和使用AI武器的威懾手段基本不能發(fā)揮作用，辛頓擔(dān)憂由此帶給人類的威脅“超過核武器”。
辛頓表示，對(duì)于自己研發(fā)出可能左右人類存亡的技術(shù)“并不后悔”。他說：“沒有哪個(gè)人想要看到一個(gè)由AI支配的未來，這一事實(shí)將為各國(guó)聯(lián)手監(jiān)管AI奠定基礎(chǔ)。”
本文鏈接：http://www.3ypm.com.cn/news-2-2079-0.htmlAI具備人類意識(shí)不再是科幻
聲明：本網(wǎng)頁(yè)內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會(huì)到餡餅，請(qǐng)大家謹(jǐn)防詐騙！若有侵權(quán)等問題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。
點(diǎn)擊右上角
微信好友
朋友圈
點(diǎn)擊瀏覽器下方“
”分享微信好友Safari瀏覽器請(qǐng)點(diǎn)擊“
”按鈕
點(diǎn)擊右上角
QQ
點(diǎn)擊瀏覽器下方“”分享QQ好友Safari瀏覽器請(qǐng)點(diǎn)擊“”按鈕
