18禁黄网站男男禁片免费观看,久久精品国产一区二区三区不卡,日韩内射美女人妻一区二区三区,国产精品日本一区二区在线播放

我在AI論壇打瞌睡會錯過未來嗎

時間:2025-07-04 10:40:24 中國青年網(wǎng) 10

65歲的學(xué)者汪暉身著西裝上臺了。他頭發(fā)花白,手執(zhí)講稿,身后的大屏幕上寫著這場論壇的主題:“AI時代的倫理奇點”。這是當(dāng)下的熱門話題,但臺下有人在打哈欠,顯然清晨的困意未消。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

我是一大早,跨越大半個北京城,擠了一個多小時的地鐵來清華大學(xué)聽這場“方塘論壇”的,興致很高。一半是因為這跟AI有關(guān),一半是因為嘉賓名單里不只有科學(xué)家,還有70歲的趙鼎新、65歲的汪暉、64歲的趙汀陽等。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

他們是人文社科領(lǐng)域的“思想老者”,要跟科學(xué)家一塊兒探討這個時代最新的燙手命題,這本身就值得期待。針對“時代”,他們論了幾十年,現(xiàn)在仍未停止。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

面前的階梯教室沒坐滿,但也匯聚了上百人:學(xué)生、教授、學(xué)者、記者、作家,還有從美、英、德、意等國請來的嘉賓。空氣里似乎彌漫著一種學(xué)術(shù)會議特有的、略帶沉悶的氣氛,我揉了揉酸澀的眼睛,吃了口離家時塞進(jìn)背包的面包,想提振精神,讓沉重的腦袋清醒一些。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

“幾乎所有領(lǐng)域,都在經(jīng)歷系統(tǒng)性的重構(gòu)。”汪暉主持開場,話語沉穩(wěn)有力,“回應(yīng)AI時代的倫理挑戰(zhàn),不僅需要對技術(shù)本身的理解,更需要回到哲學(xué)、社會學(xué)、政治經(jīng)濟(jì)學(xué)、文學(xué)、藝術(shù)等基礎(chǔ)人文領(lǐng)域,共同探尋人類何以‘安身立命’”。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

論壇的擇期頗顯用心,6月23日這天是計算機(jī)科學(xué)之父、人工智能之父——艾倫·圖靈誕辰113周年;圖靈獎的中國得主、中國科學(xué)院院士、清華大學(xué)人工智能學(xué)院院長姚期智也受邀到場。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

人工智能被提出75年了,而AI大規(guī)模走入公眾視野不過數(shù)年。最新數(shù)據(jù)顯示,中國生成式AI用戶數(shù)量已超3億。用戶數(shù)量從0到3億,中國互聯(lián)網(wǎng)花了15年,而AI只用了兩年。OpenAI的用戶數(shù)量更是在今年4月初就達(dá)到了5億。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

歷史上從未有一個時代如AI時代這般,將未來如此迅猛地推向當(dāng)下。時間仿佛被丟入加速器,而AI如氧氣一般,彌漫進(jìn)社會和人的毛細(xì)血管里。智能駕駛、機(jī)器人、AI醫(yī)生、AI伴侶等,過去數(shù)十年來,昔日科幻小說里的事物正步入現(xiàn)實。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

當(dāng)越來越多的人享受著AI帶來的技術(shù)紅利、探索新的可能性時,挑戰(zhàn)也如影隨形:失業(yè)、偏見、倫理、法律,乃至關(guān)乎人類存續(xù)的風(fēng)險。這些問題,讓我覺得既遙遠(yuǎn)又真實。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

“通用人工智能的能力快速增長,人類是否還有能力管控它?”姚期智是這天的第一個主題發(fā)言者。年近八旬的他,聲音不高,但每一個問題,都能戳我一下。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

他認(rèn)為,AI時代的問題,許多是被放大的舊疾,尤其是生存性風(fēng)險,武器的誕生曾讓人類很焦慮,AI也有這樣的問題,“它變得更危險、更難對付”。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

姚期智提到了2024年諾貝爾化學(xué)獎得主——因利用AlphaFold(一種AI系統(tǒng))解決蛋白質(zhì)結(jié)構(gòu)預(yù)測難題而獲獎的戴米斯·哈薩比斯(Demis Hassabis)和約翰·江珀(John M.Jumper)。“這是多年來不可能的事情,也給了我們一些終極希望。”姚期智隨即警示,AI在生物醫(yī)學(xué)領(lǐng)域的突破,也可能被用來創(chuàng)造“鏡像生命(Mirror life,一種存在于假說中的人工合成生物)”,帶來致命的災(zāi)難。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

2024年12月,《科學(xué)》雜志就曾發(fā)文呼吁全球暫停“鏡像生命”的研究,優(yōu)先考慮并防范風(fēng)險。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

另一種生存性風(fēng)險在于大模型失控。“我們現(xiàn)在制造出來的AI系統(tǒng),它變得越來越像人。”姚期智指出,已有模型展示出“騙人”本領(lǐng)和對人性的洞察——問題的嚴(yán)峻性在于,當(dāng)它真正像人一樣,甚至超過人時,如何控制。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

這也是許多科學(xué)家反復(fù)警示的人工智能的“控制難題”,現(xiàn)在這個難題比以往任何時候都更迫切地需要答案。我這個人工智能技術(shù)領(lǐng)域的小白是沒有答案的,那一刻,我腦子里只閃過許多科幻電影里的失控場景。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

從兩年前開始,許多科學(xué)家就曾疾呼:至少三分之一AI研發(fā)預(yù)算要用于確保安全?,F(xiàn)實卻是,全球AI安全研究明顯滯后于技術(shù)發(fā)展。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

“現(xiàn)在的大模型還沒有‘囂張’到那個程度,所以還沒有產(chǎn)生毀滅世界的結(jié)果,但是長期來講,我們要把這個事管制好。”姚期智強(qiáng)調(diào),安全治理的當(dāng)務(wù)之急是發(fā)展“AI對齊(AI Alignment)”及評估方法。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

他提供了兩種思路。一種思路要從博弈論角度展開,讓AI的行為與人類想法對齊,以人類的利益為主;另一種“更有把握、更徹底”的思路是,設(shè)計可證明的安全的AGI(通用人工智能),每一步都符合數(shù)學(xué)上絕對安全的要求,“凡是有可能出問題的系統(tǒng)大家都不要做”。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

技術(shù)細(xì)節(jié)依然艱深,暗藏的安全隱患愈發(fā)明顯。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

AI對齊,是人工智能安全領(lǐng)域的核心議題,旨在確保AI系統(tǒng)的目標(biāo)、決策和行為與人類的價值觀、偏好及意圖協(xié)調(diào)一致。然而在“對齊”這件事上,中國社會科學(xué)院學(xué)部委員趙汀陽的想法有點兒不一樣。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

須發(fā)皆白的他,跛著腳走上臺,坐下,第一句話就帶著哲學(xué)式的冷峻詰問。“AI需要和人對齊嗎?”聽聞此問,我有些愣住,困意全消。他繼續(xù)驚人之語:“人們期望AI要和人的價值觀對齊。我對這個想法是有一些疑問的。地球上的所有‘壞事’都是人類做的,其他生命沒有做過任何超出生物需要的壞事。”p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

趙汀陽盯著階梯教室里的100余人,笑聲一片,我也笑了。但笑過之后,細(xì)細(xì)琢磨,他的這番話,更像是一記打向人性的耳光。AI也許是“性本善”的,只不過跟著人類的數(shù)據(jù)經(jīng)驗,“照貓畫虎”數(shù)年,學(xué)了好,也學(xué)了壞。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

他認(rèn)為,人類試圖把AI制造成為一種具有主體性的新物種,但這似乎是個自虐性的悖論。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

人類既希望AI擁有超能力,去完成人做不了或不想做的事,又擔(dān)心AI獲得自我意識后會傷害人類。趙汀陽說,如果人類不教唆AI犯罪,AI應(yīng)是安全的,對齊人類價值觀的AI,則很可能通過模仿人類而變得危險。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

這個邏輯反轉(zhuǎn)讓我頭皮發(fā)麻——原來我們恐懼的,是人性投射在AI身上的影子。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

至于設(shè)立“AI倫理”,趙汀陽覺得無濟(jì)于事。“人類也往往見利就忘義,如果倫理不能必然約束人類自身,又何以能夠約束AI?”他主張,管理AI的關(guān)鍵在于人類是否能保有控制AI的能力。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

趙汀陽眼里另有一種危險性相對比較低的對齊,是智能對齊。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

“就目前智能水平而言,人類相對于AI仍然保有知己知彼的優(yōu)勢,因此能夠控制AI。”趙汀陽說,但當(dāng)AI部分經(jīng)驗?zāi)芰h(yuǎn)超人類后,人類優(yōu)勢蕩然無存,AI將成為令人不寒而栗的“他者”,世界將形成二元主體性的格局,而人類與AI的關(guān)系將如何,無從知道。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

不過,在中國科學(xué)院自動化研究所研究員、人工智能倫理與治理研究中心主任曾毅看來,未來的社會可能比二元主體性更復(fù)雜。他在隨后的發(fā)言中談到自己的設(shè)想,未來的社會不僅有人類、動物、超級智能,可能還有模仿狗、植物的類生命體。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

那是一個他期待的可持續(xù)的共生社會,靠人和超級智能共同構(gòu)造,而不是靠人類自己。曾毅認(rèn)為,“所以向人類的對齊確實是不對的,要做超級的聯(lián)合對齊。”聯(lián)合對齊,這個詞很新鮮,帶著一種“天下大同”的意味。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

但他認(rèn)為,在這樣的社會中,更重要的是,人類的價值觀要演化。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

“比如當(dāng)超級智能未傷害到人類時,可不可以有自己的隱私?”曾毅提出這個問題時,我愣了一下。我從來沒思考過,機(jī)器某一天可以有自己的隱私?那意味著,它相對自由、獨立,不再是人類的附庸和工具。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

“當(dāng)人對超級智能說,‘我是你的創(chuàng)作者,你要保護(hù)我’時,超級智能可能會跟人說,‘當(dāng)我看到你,就像你看到螞蟻一樣,你從來不會保護(hù)螞蟻,我為什么要保護(hù)你’。”曾毅提醒道。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

他覺得,人工智能是一面鏡子。“當(dāng)人工智能騙人,大家都吃驚,說人工智能怎么能騙人呢,太壞了。但是當(dāng)人騙你的時候你的反應(yīng)有這么大嗎?恐怕沒有。”在曾毅看來,人工智能的鏡子讓我們看到了人類的缺陷,給了人類演化的機(jī)遇。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

“人工智能演化慢點沒問題,但如果人類演化太慢了,那是真正的危險。”曾毅說。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

說老實話,僅在“人類價值觀演化”層面,我對人類的未來信心不足。一旦AI邁過奇點,超越人類,一切都將不盡如人意。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

“作為一個自私的人,我希望人工智能‘性本善’。”曾毅記得,有一次,他在講座中遇到了一位研修佛法者,問他AI能否成佛。他覺得,并非沒有可能,超級智能除了認(rèn)知超過人類,也可能是超級“利他”的。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

聽完曾毅的發(fā)言,汪暉說,他腦子里出現(xiàn)了赫爾曼·黑塞(Hermann Hesse)的《玻璃球游戲》中的鏡像,人在多重鏡面看到了自身。“我們都在討論怎么馴化機(jī)器,我們也需要討論人與自然、人與物的關(guān)系,重新理解人自身。”p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

上午的論壇結(jié)束,我最初的困意早已被沖刷干凈。我合上記了4頁紙的筆記本,感覺腦袋里比來時更“沉重”了。這場論壇,表面上是在探討AI倫理奇點、智能邊界,實際上始終在叩問自詡?cè)f物之靈的人類自己——那個既渴望神力、又恐懼神力的高級動物。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

下午的3場分論壇分別圍繞“2100年人類與超級智能的關(guān)系”“認(rèn)識機(jī)器:意識、道德與風(fēng)險”和“奇點前夜:人類如何安身立命”,我選擇了第二場,但沒聽多久,就開始犯困,身邊也有人開始打瞌睡,頭不停地點著,像被陣陣微風(fēng)拂過的蘆葦。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

發(fā)言者有一半人說英文,我戴著同聲傳譯器,耳機(jī)里不時傳來資本、奴隸、機(jī)器、工具等詞匯,每一個字都聽得懂,卻沒有一句能真正進(jìn)入意識里。我感覺會場的學(xué)者離我越來越遠(yuǎn),那些聲音越來越小,有好幾次,我差點兒睡著了,也許是真的太困,也許是腦容量過載了。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

中途,我離開昏昏欲睡的會場。有一件更迫切的事等我去做——編輯發(fā)來次日可能刊發(fā)的稿子,催我修改。在蒙民偉人文樓的大廳里,我找到了一塊插線板,打開電腦,席地而坐,開始忙碌。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

神奇的是,一旦回到具體而微的“人類事務(wù)”,我的精神很快就清醒了。也許,相比于思考數(shù)十年后與AI的關(guān)系、厘清機(jī)器的倫理邊界、琢磨人類如何安身立命這類宏大的時代命題,此刻的我更在乎如何在當(dāng)下“安身立命”。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

只是腦子里,還隱約回響著那句警言:“如果人類演化太慢了,那才是真正的危險。”p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

65歲的學(xué)者汪暉身著西裝上臺了。他頭發(fā)花白,手執(zhí)講稿,身后的大屏幕上寫著這場論壇的主題:“AI時代的倫理奇點”。這是當(dāng)下的熱門話題,但臺下有人在打哈欠,顯然清晨的困意未消。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

我是一大早,跨越大半個北京城,擠了一個多小時的地鐵來清華大學(xué)聽這場“方塘論壇”的,興致很高。一半是因為這跟AI有關(guān),一半是因為嘉賓名單里不只有科學(xué)家,還有70歲的趙鼎新、65歲的汪暉、64歲的趙汀陽等。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

他們是人文社科領(lǐng)域的“思想老者”,要跟科學(xué)家一塊兒探討這個時代最新的燙手命題,這本身就值得期待。針對“時代”,他們論了幾十年,現(xiàn)在仍未停止。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

面前的階梯教室沒坐滿,但也匯聚了上百人:學(xué)生、教授、學(xué)者、記者、作家,還有從美、英、德、意等國請來的嘉賓。空氣里似乎彌漫著一種學(xué)術(shù)會議特有的、略帶沉悶的氣氛,我揉了揉酸澀的眼睛,吃了口離家時塞進(jìn)背包的面包,想提振精神,讓沉重的腦袋清醒一些。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

“幾乎所有領(lǐng)域,都在經(jīng)歷系統(tǒng)性的重構(gòu)。”汪暉主持開場,話語沉穩(wěn)有力,“回應(yīng)AI時代的倫理挑戰(zhàn),不僅需要對技術(shù)本身的理解,更需要回到哲學(xué)、社會學(xué)、政治經(jīng)濟(jì)學(xué)、文學(xué)、藝術(shù)等基礎(chǔ)人文領(lǐng)域,共同探尋人類何以‘安身立命’”。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

論壇的擇期頗顯用心,6月23日這天是計算機(jī)科學(xué)之父、人工智能之父——艾倫·圖靈誕辰113周年;圖靈獎的中國得主、中國科學(xué)院院士、清華大學(xué)人工智能學(xué)院院長姚期智也受邀到場。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

人工智能被提出75年了,而AI大規(guī)模走入公眾視野不過數(shù)年。最新數(shù)據(jù)顯示,中國生成式AI用戶數(shù)量已超3億。用戶數(shù)量從0到3億,中國互聯(lián)網(wǎng)花了15年,而AI只用了兩年。OpenAI的用戶數(shù)量更是在今年4月初就達(dá)到了5億。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

歷史上從未有一個時代如AI時代這般,將未來如此迅猛地推向當(dāng)下。時間仿佛被丟入加速器,而AI如氧氣一般,彌漫進(jìn)社會和人的毛細(xì)血管里。智能駕駛、機(jī)器人、AI醫(yī)生、AI伴侶等,過去數(shù)十年來,昔日科幻小說里的事物正步入現(xiàn)實。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

當(dāng)越來越多的人享受著AI帶來的技術(shù)紅利、探索新的可能性時,挑戰(zhàn)也如影隨形:失業(yè)、偏見、倫理、法律,乃至關(guān)乎人類存續(xù)的風(fēng)險。這些問題,讓我覺得既遙遠(yuǎn)又真實。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

“通用人工智能的能力快速增長,人類是否還有能力管控它?”姚期智是這天的第一個主題發(fā)言者。年近八旬的他,聲音不高,但每一個問題,都能戳我一下。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

他認(rèn)為,AI時代的問題,許多是被放大的舊疾,尤其是生存性風(fēng)險,武器的誕生曾讓人類很焦慮,AI也有這樣的問題,“它變得更危險、更難對付”。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

姚期智提到了2024年諾貝爾化學(xué)獎得主——因利用AlphaFold(一種AI系統(tǒng))解決蛋白質(zhì)結(jié)構(gòu)預(yù)測難題而獲獎的戴米斯·哈薩比斯(Demis Hassabis)和約翰·江珀(John M.Jumper)。“這是多年來不可能的事情,也給了我們一些終極希望。”姚期智隨即警示,AI在生物醫(yī)學(xué)領(lǐng)域的突破,也可能被用來創(chuàng)造“鏡像生命(Mirror life,一種存在于假說中的人工合成生物)”,帶來致命的災(zāi)難。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

2024年12月,《科學(xué)》雜志就曾發(fā)文呼吁全球暫停“鏡像生命”的研究,優(yōu)先考慮并防范風(fēng)險。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

另一種生存性風(fēng)險在于大模型失控。“我們現(xiàn)在制造出來的AI系統(tǒng),它變得越來越像人。”姚期智指出,已有模型展示出“騙人”本領(lǐng)和對人性的洞察——問題的嚴(yán)峻性在于,當(dāng)它真正像人一樣,甚至超過人時,如何控制。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

這也是許多科學(xué)家反復(fù)警示的人工智能的“控制難題”,現(xiàn)在這個難題比以往任何時候都更迫切地需要答案。我這個人工智能技術(shù)領(lǐng)域的小白是沒有答案的,那一刻,我腦子里只閃過許多科幻電影里的失控場景。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

從兩年前開始,許多科學(xué)家就曾疾呼:至少三分之一AI研發(fā)預(yù)算要用于確保安全。現(xiàn)實卻是,全球AI安全研究明顯滯后于技術(shù)發(fā)展。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

“現(xiàn)在的大模型還沒有‘囂張’到那個程度,所以還沒有產(chǎn)生毀滅世界的結(jié)果,但是長期來講,我們要把這個事管制好。”姚期智強(qiáng)調(diào),安全治理的當(dāng)務(wù)之急是發(fā)展“AI對齊(AI Alignment)”及評估方法。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

他提供了兩種思路。一種思路要從博弈論角度展開,讓AI的行為與人類想法對齊,以人類的利益為主;另一種“更有把握、更徹底”的思路是,設(shè)計可證明的安全的AGI(通用人工智能),每一步都符合數(shù)學(xué)上絕對安全的要求,“凡是有可能出問題的系統(tǒng)大家都不要做”。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

技術(shù)細(xì)節(jié)依然艱深,暗藏的安全隱患愈發(fā)明顯。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

AI對齊,是人工智能安全領(lǐng)域的核心議題,旨在確保AI系統(tǒng)的目標(biāo)、決策和行為與人類的價值觀、偏好及意圖協(xié)調(diào)一致。然而在“對齊”這件事上,中國社會科學(xué)院學(xué)部委員趙汀陽的想法有點兒不一樣。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

須發(fā)皆白的他,跛著腳走上臺,坐下,第一句話就帶著哲學(xué)式的冷峻詰問。“AI需要和人對齊嗎?”聽聞此問,我有些愣住,困意全消。他繼續(xù)驚人之語:“人們期望AI要和人的價值觀對齊。我對這個想法是有一些疑問的。地球上的所有‘壞事’都是人類做的,其他生命沒有做過任何超出生物需要的壞事。”p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

趙汀陽盯著階梯教室里的100余人,笑聲一片,我也笑了。但笑過之后,細(xì)細(xì)琢磨,他的這番話,更像是一記打向人性的耳光。AI也許是“性本善”的,只不過跟著人類的數(shù)據(jù)經(jīng)驗,“照貓畫虎”數(shù)年,學(xué)了好,也學(xué)了壞。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

他認(rèn)為,人類試圖把AI制造成為一種具有主體性的新物種,但這似乎是個自虐性的悖論。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

人類既希望AI擁有超能力,去完成人做不了或不想做的事,又擔(dān)心AI獲得自我意識后會傷害人類。趙汀陽說,如果人類不教唆AI犯罪,AI應(yīng)是安全的,對齊人類價值觀的AI,則很可能通過模仿人類而變得危險。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

這個邏輯反轉(zhuǎn)讓我頭皮發(fā)麻——原來我們恐懼的,是人性投射在AI身上的影子。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

至于設(shè)立“AI倫理”,趙汀陽覺得無濟(jì)于事。“人類也往往見利就忘義,如果倫理不能必然約束人類自身,又何以能夠約束AI?”他主張,管理AI的關(guān)鍵在于人類是否能保有控制AI的能力。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

趙汀陽眼里另有一種危險性相對比較低的對齊,是智能對齊。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

“就目前智能水平而言,人類相對于AI仍然保有知己知彼的優(yōu)勢,因此能夠控制AI。”趙汀陽說,但當(dāng)AI部分經(jīng)驗?zāi)芰h(yuǎn)超人類后,人類優(yōu)勢蕩然無存,AI將成為令人不寒而栗的“他者”,世界將形成二元主體性的格局,而人類與AI的關(guān)系將如何,無從知道。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

不過,在中國科學(xué)院自動化研究所研究員、人工智能倫理與治理研究中心主任曾毅看來,未來的社會可能比二元主體性更復(fù)雜。他在隨后的發(fā)言中談到自己的設(shè)想,未來的社會不僅有人類、動物、超級智能,可能還有模仿狗、植物的類生命體。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

那是一個他期待的可持續(xù)的共生社會,靠人和超級智能共同構(gòu)造,而不是靠人類自己。曾毅認(rèn)為,“所以向人類的對齊確實是不對的,要做超級的聯(lián)合對齊。”聯(lián)合對齊,這個詞很新鮮,帶著一種“天下大同”的意味。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

但他認(rèn)為,在這樣的社會中,更重要的是,人類的價值觀要演化。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

“比如當(dāng)超級智能未傷害到人類時,可不可以有自己的隱私?”曾毅提出這個問題時,我愣了一下。我從來沒思考過,機(jī)器某一天可以有自己的隱私?那意味著,它相對自由、獨立,不再是人類的附庸和工具。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

“當(dāng)人對超級智能說,‘我是你的創(chuàng)作者,你要保護(hù)我’時,超級智能可能會跟人說,‘當(dāng)我看到你,就像你看到螞蟻一樣,你從來不會保護(hù)螞蟻,我為什么要保護(hù)你’。”曾毅提醒道。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

他覺得,人工智能是一面鏡子。“當(dāng)人工智能騙人,大家都吃驚,說人工智能怎么能騙人呢,太壞了。但是當(dāng)人騙你的時候你的反應(yīng)有這么大嗎?恐怕沒有。”在曾毅看來,人工智能的鏡子讓我們看到了人類的缺陷,給了人類演化的機(jī)遇。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

“人工智能演化慢點沒問題,但如果人類演化太慢了,那是真正的危險。”曾毅說。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

說老實話,僅在“人類價值觀演化”層面,我對人類的未來信心不足。一旦AI邁過奇點,超越人類,一切都將不盡如人意。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

“作為一個自私的人,我希望人工智能‘性本善’。”曾毅記得,有一次,他在講座中遇到了一位研修佛法者,問他AI能否成佛。他覺得,并非沒有可能,超級智能除了認(rèn)知超過人類,也可能是超級“利他”的。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

聽完曾毅的發(fā)言,汪暉說,他腦子里出現(xiàn)了赫爾曼·黑塞(Hermann Hesse)的《玻璃球游戲》中的鏡像,人在多重鏡面看到了自身。“我們都在討論怎么馴化機(jī)器,我們也需要討論人與自然、人與物的關(guān)系,重新理解人自身。”p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

上午的論壇結(jié)束,我最初的困意早已被沖刷干凈。我合上記了4頁紙的筆記本,感覺腦袋里比來時更“沉重”了。這場論壇,表面上是在探討AI倫理奇點、智能邊界,實際上始終在叩問自詡?cè)f物之靈的人類自己——那個既渴望神力、又恐懼神力的高級動物。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

下午的3場分論壇分別圍繞“2100年人類與超級智能的關(guān)系”“認(rèn)識機(jī)器:意識、道德與風(fēng)險”和“奇點前夜:人類如何安身立命”,我選擇了第二場,但沒聽多久,就開始犯困,身邊也有人開始打瞌睡,頭不停地點著,像被陣陣微風(fēng)拂過的蘆葦。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

發(fā)言者有一半人說英文,我戴著同聲傳譯器,耳機(jī)里不時傳來資本、奴隸、機(jī)器、工具等詞匯,每一個字都聽得懂,卻沒有一句能真正進(jìn)入意識里。我感覺會場的學(xué)者離我越來越遠(yuǎn),那些聲音越來越小,有好幾次,我差點兒睡著了,也許是真的太困,也許是腦容量過載了。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

中途,我離開昏昏欲睡的會場。有一件更迫切的事等我去做——編輯發(fā)來次日可能刊發(fā)的稿子,催我修改。在蒙民偉人文樓的大廳里,我找到了一塊插線板,打開電腦,席地而坐,開始忙碌。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

神奇的是,一旦回到具體而微的“人類事務(wù)”,我的精神很快就清醒了。也許,相比于思考數(shù)十年后與AI的關(guān)系、厘清機(jī)器的倫理邊界、琢磨人類如何安身立命這類宏大的時代命題,此刻的我更在乎如何在當(dāng)下“安身立命”。p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

只是腦子里,還隱約回響著那句警言:“如果人類演化太慢了,那才是真正的危險。”p13萬博士范文網(wǎng)-您身邊的范文參考網(wǎng)站Vanbs.com

本文鏈接:http://www.svtrjb.com/v-146-2883.html我在AI論壇打瞌睡會錯過未來嗎

聲明:本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn),不代表本站觀點,本站不承擔(dān)任何法律責(zé)任。天上不會到餡餅,請大家謹(jǐn)防詐騙!若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。

相關(guān)文章:

七夕沒有禮物發(fā)朋友圈文案08-13

手機(jī)工作計劃11-27

加油站員工工作總結(jié)簡短(12篇)10-24

鐵路技師工作總結(jié)字(10篇)08-14

公務(wù)員轉(zhuǎn)正考察個人工作總結(jié)(八篇)08-09

個人工作檢討書09-20

合伙開店經(jīng)營協(xié)議書08-10

寫給好朋友的道歉信07-16

大學(xué)軍訓(xùn)第五天心得11-18

學(xué)習(xí)毛豐美有感10-05

接觸網(wǎng)綜合訓(xùn)練實習(xí)心得08-22

元旦小學(xué)作文600字04-03

垃圾分類作文300字01-02

秋雨六年級作文12-17

勞動的優(yōu)秀記敘文11-04

2025年9月廣西計算機(jī)三級報名時間及報名入口(6月26日-7月8日)06-23

大學(xué)晚自習(xí)在什么時候幾點?10-26

2024年江蘇執(zhí)業(yè)醫(yī)師醫(yī)學(xué)綜合考試報名繳費入口(已開通)08-03

大學(xué)開學(xué)第一課主題班會教案02-19

垃圾桶文明標(biāo)語09-07

經(jīng)典畢業(yè)個性說說感言07-25