全場判讀:冠軍是開場政府雪梨大學。WUDC 決賽只公布冠軍,其他三隊的名次與評審講評都沒有公開,以下的勝負原因是依發言內容推測。開場政府贏在三件事:PM 一開始就鎖住反事實:不做影響力,資源就轉去 AI 的其他能力(#4);DPM 加入全新的「信任」層次,並預先說明論點不論 AI 多強都成立(#15、#16);最後在 OW 發言時用一個質詢點破閉幕反對延伸的滑移(#42)。其他三隊各有強項:開場反對的非獨有分析(#20)、閉幕反對的框架與對閉幕政府的拆解(#30、#40)。但也各有大問題:開場反對押了兩個高風險論點,閉幕政府背刺開場政府而且數字誇大,閉幕反對沒有回應關鍵質詢。
開場政府一方面說 AI 能操縱任何人(PM),一方面說大家最後誰都不信(DPM)。反對席抓了兩次(#17、#30),開場政府用「短期與長期」修補(#33)。OW 則從另一端進攻:AI 得像神一樣,開場政府的論點才成立(#43)。DPM 先前說過論點不論 AI 強弱都成立(#16),這個預先權衡讓攻擊效果打了折扣。
主持人依序介紹四隊:開場政府雪梨大學 USU A、開場反對史丹佛 A、閉幕政府地主索菲亞大學 A、閉幕反對劍橋 A;再介紹九人評審團,由 Miloš Marjanović 擔任主席。
意圖
程序性開場。BP 賽制下四隊各自排名,決賽只公布冠軍。
原話依據
“first in opening government USAUA”首先,開場政府,USU A(字幕誤作 USAUA)
“Second opening opposition Stanford A, please come on stage.”第二,開場反對,史丹佛 A,請上台。
#2主持人開場與辯題
重點
宣讀資訊說明:「影響人類」指 AI 系統透過模仿人類特徵與行為來影響人,例如像人一樣的策略性談判、說服與情感互動。辯題:「本院反對發展以影響人類為最佳化目標的 AI 系統。」評審主席提醒觀眾別在發言中途鼓掌。
意圖
題目在這時才公布,四隊只有 15 分鐘準備,不能上網查資料。
原話依據
“Human influence refers to the ability of AI systems to exert influence over humans by mimicking human features and behaviors.”「影響人類」指 AI 系統透過模仿人類特徵與行為來影響人類的能力。
“This house opposes the development of AI systems to optimize for human influence.”本院反對發展以影響人類為最佳化目標的 AI 系統。
“The capacity of AI to be not only smarter than any person alive, but also more persuasive than any person alive, also more human than any person alive, will, if we allow it, forever end that equity and forever jeopardize our society.”AI 不只可能比任何活著的人更聰明,還可能比任何人更有說服力、比任何人更像人;如果我們放任,這會永遠終結那份平等,永遠危及我們的社會。
“First, I will explain what the counterfactual is.”首先,我會說明反事實是什麼。
#4Jack Story(首相 PM)・開場政府首相 PM
重點
反事實:反對方的世界裡這種系統不存在,資源轉去最佳化 AI 的其他能力,例如運算、蛋白質摺疊、能源效率與安全性。接著說明 AI 為什麼遠比人會操縱:算力與資料近乎無限,能從眼球的細微動作判斷情緒;更關鍵的是可以「無限客製化」,對每個人都像對最親近的人那樣說話,人類講者卻只有一種人格,換太多說法會被當成虛偽。
這段反事實後來變成 OG 對付閉幕反對的武器(#42 的質詢);但「AI 會用自己的小型核電廠」之類的描述偏誇張。
原話依據
“So the development of systems optimizing for this capacity just does not exist.”所以以這種能力為最佳化目標的系統就是不存在。
“they have only one personality”他們只有一種人格
“But AIS can be infinitely targeted.”但 AI 可以無限精準地鎖定對象。
#5Jack Story(首相 PM)・開場政府首相 PM
重點
三種傷害:政府用 AI 製造宣傳與假訊息(舉俄羅斯在中非扶植政權的資訊行動);精準廣告讓人把錢花在不會帶來快樂的東西上;AI 公司本身的權力:已經有人和 AI 男女友談戀愛,ChatGPT 改版時還會難過,如果每次互動都像在跟人互動,政府監管 AI 就像要「帶走一個人」。並斷言掌控 AI 的多半是惡意行為者。
意圖
從國家、市場、企業三個層次鋪陳傷害,讓下半場的隊友有東西可以延伸。
破綻與效果
「掌控 AI 的人多半是惡意的」是很強的斷言,只用「他們累積了權力與財富」支撐,屬於可以被攻擊的跳躍。
發言問題
跳躍「掌控 AI 的多半是惡意行為者」 只用「他們累積了權力與財富」支撐,論證不足。
原話依據
“That looks like the wave of Russian operations in central Africa propping up regimes”就像俄羅斯在中非一波波扶植政權的行動
“When any attempts by a government to regulate an AI is an attempt by a government to remove a human.”到時候,政府任何監管 AI 的嘗試,都會變成政府試圖帶走一個「人」。
“Isn't it better to have efficient convincing of propaganda as opposed to an education system that wastes tens of years convincing its population of it?”有效率的說服式宣傳,不是比一個花幾十年才說服人民的教育體系更好嗎?
#7Jack Story(首相 PM)・開場政府首相 PM
重點
回應質詢:教育體系洗腦的效果其實很差,很多人反而被教成反政權;而且花 20 年洗腦很貴,很多政府做不到,換成 AI 就「超便宜、超簡單」。接著談 AI 本身的惡意誘因:訓練資料本身有毒(舉 Grok 與 Twitter)、AI 讀不懂人類的隱含脈絡,指令不夠精確就可能違法、詐騙。最後提出尾部風險:軟弱的總統被說服,把核武密碼交給 AI。
“But on our side, super cheap, super easy. Why not radicalize your population?”但在我們這邊(原話如此,指發展這種 AI 的世界),超便宜、超簡單,何不把你的人民激進化?
“What if there is a particularly weak and susceptible president who can just be convinced to give AI control of the nuclear codes?”如果有一個特別軟弱、容易受影響的總統,被說服把核武密碼交給 AI 呢?
#8Jack Story(首相 PM)・開場政府首相 PM
重點
比較雙方的好處:讓「人做得到、AI 做不到」的事繼續存在,人類才保有經濟上的位置與身分認同;不做影響力的 AI 可以專心做人類做不到的事,例如複雜數學與蛋白質摺疊,也更容易監管。
意圖
在對方發言前先把對方的好處降級。
破綻與效果
「AI 永遠不能直接面對人、永遠不會被信任」是在描述政府方的世界,卻講得像必然,稍嫌跳躍。
原話依據
“it is good that AI has something that humans cannot do or the humans have something that AI cannot do rather”AI 有人類做不到的事是好事,或者應該說,人類有 AI 做不到的事才是好事
“are tools of control, are tools of manipulation, are tools of destruction”是控制的工具、操縱的工具、毀滅的工具
反對黨領袖 LO|Elizabeth Li(開場反對)
#9Elizabeth Li(反對黨領袖 LO)・開場反對反對黨領袖 LO
重點
致謝後以孤獨開場:數以百萬計的人陷在孤獨裡,因為沒人理解而自我破壞、變得憤世嫉俗、攻擊別人。路線:一、這是治療孤獨的方法;二、經濟整合。並先批評 OG「不具比較性」:深偽、宣傳不靠 AI 變得更有情感智慧也做得到,而且 AI 在雙方世界都會繼續發展;真正的差別是把情感智慧設為目標,不只帶來情感連結,也讓 AI 更能被究責。
“It's the fact that a it gives people an easy way out where many people find social interaction incredibly hard.”因為網路給了人一條簡單的出口,而很多人覺得社交非常困難。
“In the absence of AI, this still cannot be fixed by any alternatives.”沒有 AI 的話,任何替代方案都還是解決不了這個問題。
#11閉幕政府質詢・閉幕政府反對黨領袖 LO發言中
重點
閉幕政府的質詢,語氣反諷:「別忘了回應開場政府的假訊息論點,就說 AI 出現後人們會更不信任看到的資訊。」
意圖
可能是設套:如果 LO 說人會不信任 AI,就和「AI 能撫慰孤獨」互相衝突。(字幕不完整,意圖是分析者的推測)
原話依據
“don't forget also to respond to opening government's point on misinformation”別忘了也回應開場政府關於假訊息的論點
#12Elizabeth Li(反對黨領袖 LO)・開場反對反對黨領袖 LO
重點
回應質詢:人如果不信任,正好是公司不會這樣做 AI 的理由;而且就算是假訊息,只要你覺得被傾聽、最後感覺好一點,那就是好處。接著翻轉 OG:現在的 AI 已經在為經濟等目的做情感操縱,差別在於把情感影響設成明確目標,才能用情感提示做人類回饋強化學習(RLHF),在每一步抓出 AI 是否失準;再加上 AI 公司高度舉債,信任一旦崩盤就會直接打擊股價與投資,所以公司有修正的誘因。
“So if people become distrustful, it's a great reason as to why people will not make the AI in this way.”所以如果人們變得不信任,那正好是大家不會這樣做 AI 的理由。
“If you feel like you're being heard, if you feel like you're being listened to, and you feel better at the end of it, that is still an impact at the end of this debate.”如果你覺得自己被聽見、被傾聽,最後感覺好一點,那在這場辯論裡仍然算是一個影響。
“which means you have more ability to catch AI being misaligned at every step of the process.”這代表你更有能力在過程的每一步抓到 AI 失準。
#13Elizabeth Li(反對黨領袖 LO)・開場反對反對黨領袖 LO
重點
第二論點「經濟整合」:社工、客服等工作需要情感智慧;企業用 AI 取代人來省錢,省下的錢投入仍需要人力的產業(營建、化工),創造更多工作與創新,例如治療阿茲海默症。
“But I think this is a fallacy with the economy will always try to use all of its spare resources to the fullest of its capacity”但我認為這是謬誤,因為經濟總是會盡可能把多餘的資源用到極致
副首相 DPM|Udai Kamath(開場政府)
#14Udai Kamath(副首相 DPM)・開場政府副首相 DPM
重點
DPM 開場:AI 的力量在補足人類,不在取代人類;情感與連結讓人類獨特、有用,在 AI 時代仍有位置。兩個觀察:辯題涵蓋所有操縱,不只是情感;以及開場反對的「絕望」:每個論點都從「這很難」出發,所以就放棄,接受明顯壞的東西。回應宣傳論點:好政府會繼續用教育教批判思考;壞政府要宣傳,「我希望它越花時間越好、越花錢越好」。
“for whatever weird knife closing government has in plan for the second debate in a row”為了閉幕政府連續第二場不知道準備了什麼奇怪的「背刺」
“Imagine a speaker so persuasive it could convince you of any possible argument. So like slightly more persuasive than I am.”想像一個講者,有說服力到能讓你相信任何論點。大概就比我再強一點點。
“you should just never be persuaded because you know it could equally convince you of the opposite of the truth”你就永遠不該被說服,因為你知道它同樣能說服你相信與真相相反的事
“But emotion sweeps you up.”但情感會把你捲走。
#16Udai Kamath(副首相 DPM)・開場政府副首相 DPM
重點
為什麼信任最重要:沒有信任就沒有連結(開場反對要的坦白與脆弱都不會發生),銀行、政府等制度也都建立在信任上。監管:AI 會用這種能力抵抗監管,比任何遊說都有效;而且少一種 AI 要管,監管更簡單。最後預先權衡:不論你相不相信超級智慧,論點都成立。AI 很強的話,就是生物武器與核武;只比今天強一點點,也足以把人擠出經濟。
意圖
讓評審不必先判斷「AI 會有多強」就能投票。
手法
「不論 AI 多強都成立」是標準的高階權衡,提前擋住 OW 後來「AI 又不是神」的攻擊。
破綻與效果
「沒有信任,社會就無法存在」說得太滿,但在 BP 推演影響的層次上還算可以接受。
原話依據
“How could the banking system exist if we do not trust that our money will be there tomorrow?”如果我們不相信錢明天還在,銀行體系要怎麼存在?
“Finally, I would want to note that our argument applies regardless of how powerful you believe AI will be in the future.”最後我要指出,不論你認為 AI 未來會有多強,我們的論點都成立。
#17反對席質詢(推測為閉幕反對)・閉幕反對副首相 DPM發言中
重點
反對席質詢:到底是 Jack 說得對,AI 是像神一樣的說服機器?還是你說得對,因為一切都不真實,我們什麼都不信?「現在誰才是宣傳者?」
“You could come meet people like at this great tournament.”你可以來認識人,像在這場很棒的比賽裡。
“It's just wireheading. You're just taking heroin.”這只是直接刺激大腦的快感迴路,你就是在吸海洛因。
“What makes relationships meaningful is the fact that a real person chose to engage with you, to challenge you, to make you a better person, not just make you feel good in the moment.”讓關係有意義的,是一個真實的人選擇和你互動、挑戰你、讓你成為更好的人,而不只是讓你當下感覺很好。
反對黨副領袖 DLO|Amitai Ben Porat(開場反對)
#19Amitai Ben Porat(反對黨副領袖 DLO)・開場反對反對黨副領袖 DLO
重點
致謝後直接擁抱對方的比喻:「DPM 完全懂我們的論點。我們就是要給人海洛因,我們覺得被操縱很好。」接著界定辯題:這題是「說服本身作為功能」;如果說服只是達成其他目的(換工作、採用某個模型、經濟效率)的手段,就不屬於反方要辯護的部分,OG 得把它歸給其他 AI 功能。
“The beauty of our argument is that the DPM understands it completely. We want to offer heroin to people.”我們論點的美妙之處在於 DPM 完全懂了。我們就是要給人海洛因。
“But if it is an operative part of your end goal to convince people in order to achieve a different end goal, that is not our side of the motion.”但如果說服人只是為了達成另一個最終目標的一環,那就不是我們這一方要辯護的。
#20Amitai Ben Porat(反對黨副領袖 DLO)・開場反對反對黨副領袖 DLO
重點
非本題獨有的分析:一、其他 AI 不用懂人也能說服,例如用賽局理論說「別家公司都用了,你該害怕」;二、光靠資料生成能力就能做深偽,所以 OG 擔心的假訊息與不信任反正都會發生。規模論證:OG 說 AI 更懂人、規模更大,但必須說明規模如何改變傷害;恐懼這種反應不需要深入理解人就能觸發。
“Game theoretic arguments about the fear that your company should face when other companies are accepting it”用賽局理論說服你:別家公司都在用了,你的公司應該害怕
“But panel arguments about scale require you to understand why the scale changes the harm that they talk about.”但各位評審,規模論證要求你說明規模為什麼會改變他們說的傷害。
#21Amitai Ben Porat(反對黨副領袖 DLO)・開場反對反對黨副領袖 DLO
重點
指出 OG 漏掉的第二個負擔:不需要接受「AI 說服獨一無二」。政府不了解每個公民怎麼想,所以改用「拿走你能接觸的東西」:中國用審查、防火長城和學校宣傳。如果 AI 能持續餵你「信任中共」的敘事,政府就不必封鎖那麼多資訊,「審查有效率,總比必須大範圍審查好」。
意圖
回應 PM 的宣傳傷害:AI 宣傳取代更粗暴的控制手段。
破綻與效果
全場最大膽的論點,也最容易引起反感:說「更有效的宣傳比較好」,等於接受 DPM 的「壞事變便宜」框架。邏輯上也有缺口:極權政府有了 AI 宣傳,沒有理由就此放棄審查。
發言問題
風險「更有效的宣傳比較好」 邏輯上,極權政府有了 AI 宣傳也沒有理由放棄審查;修辭上,這等於接受 DPM「壞事變便宜」的框架。
原話依據
“That means that China reacts to wish through censorship through the great firewall and through propagandizing in school systems.”這就是為什麼中國的回應方式是審查:防火長城,還有在學校體系裡宣傳。
“It is much better that censorship is effective than when censorship has to be wideband in order to delude you.”審查有效率,總比必須大範圍審查才能矇騙你好得多。
#22Amitai Ben Porat(反對黨副領袖 DLO)・開場反對反對黨副領袖 DLO
重點
回到孤獨:DPM 說去交朋友,卻沒處理 Liz 的重點:就算有了關係,很多話我們還是不敢說,例如對未來的懷疑、不想讓人知道的念頭。能對 AI 傾訴最深的感受、聽到「你母親過世的痛會過去」這樣的安慰,就能把最沉重的部分卸給 AI,在真人面前先展現好的一面,真人關係反而變多。對方說人會不再想要真正的關係,但社會的理想(電影、父母)永遠是兩個人的關係,AI 只是退路。
“the problem is that there are many things we will never say because of our fear of how limiting they are to our ability to form a relationship.”問題是有很多話我們永遠不會說,因為怕它們會妨礙我們建立關係。
“So the relationships we get with real humans grow.”所以我們和真人的關係會變多。
#23閉幕政府質詢・閉幕政府反對黨副領袖 DLO發言中
重點
閉幕政府質詢:「就算這些都對,AI 是我們世界最大的禍害,它摧毀我們的星球、摧毀我們的大腦。」
意圖
在上半場先替閉幕政府的延伸(環境與大腦)占位。
破綻與效果
沒有問句,比較像宣言;DLO 一句「你可以在延伸裡解釋」就打發掉了。
原話依據
“I think AI is the biggest blight upon our world. It destroys our planet. It destroys our brain.”我認為 AI 是我們世界最大的禍害。它摧毀我們的星球,摧毀我們的大腦。
#24Amitai Ben Porat(反對黨副領袖 DLO)・開場反對反對黨副領袖 DLO
重點
權衡 AI 為什麼通常會善待我們:AI 不知道我們什麼時候會退出,一旦它不再給安慰,或像 PM 說的改掉你的 AI 男友,你就會發現自己在跟機器說話;所以為了維持「對方是人」的錯覺,它不會用真人不會用的方式傷害你,就算擁有者是富人菁英也一樣。最後翻轉 OG 的「改做其他 AI」:LLM 用同一批使用資料推敲人的心理需求,和以運算能力為主的研發是不同部門,兩者不互斥。
意圖
回應 DPM 的「AI 會被擁有者拿來榨取」。
手法
「怕被識破」的誘因機制很漂亮,而且用的是 OG 自己的例子(AI 男友改版)。
破綻與效果
「不互斥」的翻轉時間不夠,講得很亂(「這就是翻轉。」),等於只說了結論。
原話依據
“So, in order to not break the suspension of this belief where you're talking to a real human, the AI never wants to hurt you in ways that the human would not”所以為了不打破你以為在跟真人說話的錯覺,AI 永遠不想用真人不會用的方式傷害你
“That was the flip.”這就是翻轉。
政府成員 MG|Velina Andonova(閉幕政府)
#25Velina Andonova(政府成員 MG)・閉幕政府政府成員 MG
重點
簡短致謝(提到在歐洲賽決賽開始的某件事要在世界賽完成,全場尖叫)後,以排比開場:「為什麼要破壞沙漠,只為了問 ChatGPT 天氣,明明看窗外就知道?為什麼要污染水,只為了問 Character AI 一個可以問朋友的問題?為什麼要毀掉人腦,只為了不用寫大學申請文?」延伸:這會大量增加原本可以由人做、或根本沒意義的 AI 使用,好處很小、傷害很大,傷害星球,也傷害大腦。
意圖
閉幕隊伍必須帶出開場隊伍沒有的新東西(延伸),CG 選了環境與認知能力。
破綻與效果
開場有力,但延伸的前提是「本題會大量增加 AI 使用」,這需要證明;否則等於在辯「AI 好不好」,而不是「AI 要不要最佳化影響力」。
發言問題
離題延伸在辯 AI 好不好,不是辯最佳化影響力 環境與大腦的傷害主要來自 AI 被使用,閉幕政府必須證明是「最佳化說服力」造成使用暴增,這一環只有斷言。
原話依據
“Why do we destroy the desert so that we can ask Chajipi about the weather when we can just look outside?”為什麼要破壞沙漠,只為了問 ChatGPT(字幕作 Chajipi)天氣,明明看窗外就知道?
“Closing government extension here is incredibly simple and incredibly easily debate winning.”閉幕政府的延伸非常簡單,而且非常輕鬆就能贏下這場辯論。
“There's short and long-term arguments.”這是短期和長期兩種論點。
#34Sophie Hannigan(反對成員 MO)・閉幕反對反對成員 MO
重點
「每次有人想用質詢澄清張力,我都覺得很好笑,因為那代表你被打中了。」回應:短期操縱不切實際,因為懷疑早就存在;就算有一個月的宣傳比較嚴重,也看不出傷害有多大。再預先回應「可以用邪惡的價值觀訓練」:AI 持續學習,最後會匯集大量人群的近似價值,而大家都在乎身邊的人、在乎一定的自由。第四點:AI 能用人聽得懂的方式解釋政策結果,讓決策者更能判斷。總結:「如果你要 AI 為你工作,就讓它像你。」
意圖
拿下質詢這一回合,再把延伸收成一句口號。
手法
「質詢就是被打中」是典型的對評審喊話:把對方的修補變成己方得分的證據。
破綻與效果
「一個月」是 MO 自己替對方設定的時間長度,開場政府並沒有說短期只有一個月。
發言問題
替對方設限「一個月的宣傳」 開場政府沒有說短期只有一個月,MO 自己設定時間長度,再說它不嚴重。
原話依據
“I always find it funny when people try to clear up attention in a POI because you know you hit on it, right?”每次有人想在質詢裡澄清張力(字幕作 attention),我都覺得很好笑,因為那就代表你被打中了,對吧?
“If you want AI to work for you, make it like you.”如果你要 AI 為你工作,就讓它像你。
政府黨鞭 GW|Alek Selveliev(閉幕政府)
#35Alek Selveliev(政府黨鞭 GW)・閉幕政府政府黨鞭 GW
重點
致謝並引 Dr. Dre 的歌詞宣布這是自己最後一場比賽;接著說「我是進步派自由主義者,會是個好的進步派家長;但如果看到我的孩子用 AI,我會揍他」,「這世上沒有比這個什麼都不做的無用東西更大的惡」。
“If I see my child using AI, I'll beat his [ __ ] ass.”如果我看到我的孩子用 AI,我會揍他(字幕消音)。
“There is no greater harm on this world.”這世上沒有更大的傷害。
#36Alek Selveliev(政府黨鞭 GW)・閉幕政府政府黨鞭 GW
重點
回應閉幕反對的「照樣能寫申請文」:一、會寫申請文的 AI 本來就是先朝說服人的方向發展出來的,因為對話市場大、對話比數學或論文容易模仿,之後才用這些資料訓練其他能力;二、就算有用的 AI 還是會出現,普及程度也會低很多,因為說服力是它最大的銷售手段(「外面天氣如何?」「好問題!」);三、AI 用途越多,資料越多。結論:就算消滅不了 AI,至少能大幅放慢它。
意圖
補強被 MO 打掉的前提:使用量的不對稱。
破綻與效果
第一點是閉幕政府最有分量的機制(說服先行,其他能力跟上),但沒有證據,而且和開場政府的反事實相反:開場政府說其他 AI 能力會發展得更好,GW 說其他 AI 會變慢。
發言問題
矛盾和開場政府的反事實相反 開場政府說不做影響力,其他 AI 能力會發展得更好;GW 說其他 AI 會變慢。兩隊對「另一個世界」的描述不一致。
原話依據
“Firstly, the reason that the bot that writes your essay exists is because in the first place they developed towards doing it in a way that's like uh that is able to persuade people.”第一,那個幫你寫申請文的機器人之所以存在,是因為它一開始就是朝能說服人的方向發展的。
“oh, what's the weather outside? Great question.”「外面天氣如何?」「好問題!」
“Maybe unfortunately we don't remove AI though I would love to but at the very least we massively slow it down in this particular capacity.”也許很可惜,我們沒辦法消滅 AI,雖然我很想,但至少在這方面我們大幅放慢了它。
#37Alek Selveliev(政府黨鞭 GW)・閉幕政府政府黨鞭 GW
重點
說明閉幕政府如何「強化」開場政府的影響:經濟取代方面,所有 AI 都更普及,所以被取代的人更多;監管方面,開場政府說 AI 會說服立法者放過它,「誰會相信這個?人天生就會懷疑」,閉幕政府的機制則是 AI 發展變慢、資金變少。
意圖
讓延伸看起來是開場政府的升級版,而不是另起爐灶。
破綻與效果
一邊說「強化」開場政府,一邊說開場政府的監管機制不可信,這在 BP 裡就是背刺開場隊友(knifing),評審通常會扣分。
“their impact on dodges regulation is the AI will convince the lawmaker to let it off the hook this is their actual opening government mechanism like why would people believe this”他們「逃避監管」的影響是 AI 會說服立法者放它一馬,這就是開場政府真正的機制,可是誰會相信這個?
“The first is as pointed out by closing opposition people have a natural skepticism towards things they see on the internet”第一,正如閉幕反對指出的,人對在網路上看到的東西天生就會懷疑
“Secondly though um manipulation can be good or bad. There are many dumb people across the world.”第二,操縱可以是好的也可以是壞的。世界上有很多笨蛋。
“this is an argument which once done has no ability to be undone”這是一個一旦發生就無法挽回的論點
#39Alek Selveliev(政府黨鞭 GW)・閉幕政府政府黨鞭 GW
重點
孤獨論點:兩面都有可能;而且多數人知道自己在跟機器說話,影響比較小。回應閉幕反對:一、不必訓練 AI 說服人,也能用人類資料教它理解人(研究輸出、訪談);二、資料有選擇偏誤,用 AI 最多的是「懶人、孤獨的人、怪人」;三、AI 只是分析既有資料,創造不出新東西。結尾:「投給我們。」
“Firstly, we can do this without training it to persuade people.”第一,我們不用訓練它去說服人,也能做到這件事。
“Lazy people like lonely people, weirdos in this kind of sense.”懶人,像是孤獨的人,這種意義上的怪人。
反對黨鞭 OW|Max Rosen(閉幕反對)
#40Max Rosen(反對黨鞭 OW)・閉幕反對反對黨鞭 OW
重點
致謝(McGill 被字幕聽成 Miguel)後,拆閉幕政府兩個「被大幅誇大的影響」。環境:全球最大規模的綠能建設正來自 AI 資料中心(核電重啟、水力、太陽能),因為綠能的邊際成本比較低;用水有回收的誘因,很多州已要求業者自己找水;水不會消失,可以課稅要求業者過濾;閉幕政府還得證明多出來的是化石燃料排放,而且影響不是微不足道。批判思考:大學改回閉卷考、AI 可以輔助學習、浮水印技術持續發展。「他們揮舞著手臂,卻沒有結構性地證明。」
意圖
收掉閉幕政府,讓下半場只剩閉幕反對有成立的延伸。
手法
要求對方證明影響的規模(「多 0.001 度的暖化,我不知道該拿它怎麼辦」)是很有效的權衡手法。
破綻與效果
「綠能邊際成本較低,所以資料中心會用綠能」說得太篤定;現實中資料中心也帶動天然氣電廠擴建。
原話依據
“Number one, the single biggest buildout of green and clean energy in the world right now is coming from AI data centers.”第一,目前全球最大規模的綠能建設正來自 AI 資料中心。
“If they prove 0.001 more global warming, I'm not sure what to do with that impact.”如果他們證明多了 0.001 度的暖化,我不知道該拿這個影響怎麼辦。
“They wave their arms around. They did not prove it structurally.”他們揮舞著手臂,卻沒有結構性地證明。
#41Max Rosen(反對黨鞭 OW)・閉幕反對反對黨鞭 OW
重點
為什麼閉幕反對會贏:要像人一樣思考、理解並說服人,就得用真實、不偏頗的資料訓練;做 AI 對齊的研究者(舉 David Africa)會用涵蓋全社會的資料,政府、企業、科學家都有誘因確保資料準確。回應「AI 會騙你」:如果 AI 幾小時內講兩套相反的話,你就不會再信它,所以它有保持一致的誘因;AI 也會學到人重視誠信與自由。「上半場的錯誤是把 AI 想成 ChatGPT」:大多數 AI 用在供應鏈、研究和車輛;主導的公司靠授權技術,不是靠每月 20 美元的訂閱;未來是代理型 AI,必須理解人。
意圖
把閉幕反對的延伸講得更具體,並回應閉幕政府對資料偏誤的攻擊。
破綻與效果
「主導企業靠授權不靠訂閱」與「大多數 AI 不面對消費者」反而削弱了閉幕反對自己的前提:如果大部分 AI 不面對人,為什麼最佳化「影響人類」是關鍵?
發言問題
自傷「大多數 AI 不面對消費者」 如果多數 AI 不面對人,最佳化「影響人類」就不是關鍵,反而削弱閉幕反對自己的前提。
原話依據
“One, if an AI just makes two completely different arguments to you as closing government, as opening government says within hours, you stop trusting it.”第一,如果一個 AI 在幾小時內對你講兩套完全不同的論點,就像閉幕政府、開場政府說的那樣,你就不會再信任它。
“Now I think the mistake that top half does is that they think of AI as chat GPT.”我認為上半場犯的錯,是把 AI 想成 ChatGPT。
#42開場政府質詢・開場政府反對黨鞭 OW發言中
重點
開場政府質詢:在你描述的誘因下,我們這邊的企業也會用 AI 理解人,只是不會以操縱我們為目標,不會專挑我們的弱點、失敗和不安下手;所以在你們那邊,AI 理解的是「最低劣版本的我們」。
意圖
直擊閉幕反對延伸的核心滑移:理解人不需要最佳化影響力;最佳化影響力反而會讓 AI 學到人的弱點,而不是人的價值。
“companies will use AI to understand people on our side too, but because it won't be aimed at manipulating us.”在我們這邊,企業也會用 AI 來理解人,只是不會以操縱我們為目標。
“So AI on your side understands the most base version of us.”所以在你們那邊,AI 理解的是最低劣版本的我們。
#43Max Rosen(反對黨鞭 OW)・閉幕反對反對黨鞭 OW
重點
回應質詢(字幕不清楚,大意是廣告本來就瞄準人的弱點,而且效果並不完美);接著嘲諷開場政府:「AI 得在你的想像中像神一樣,你才會相信開場政府」,美國政府不會把總統的手機隨便放著讓外國駭客裝上紅色按鈕;AI 很普及,宣傳雙方都能做,影響很小。權衡:開場反對只講了邊際好處(AI 朋友,而且開場反對自己在質詢時同意它有限)和沒說清楚的經濟好處;閉幕反對的論點更確定:要教 AI 理解我們,它得把我們的價值、偏好和恐懼摸透,這些資料會被轉售、交叉應用到整個 AI 產業,包括對齊研究要做的「停止按鈕」。結尾:「AI 已經留下來了……你想不想要它理解你?」
意圖
在全場最後一篇同時壓低開場政府與開場反對,把閉幕反對推到第一。
破綻與效果
對開場反對的權衡很到位;但沒有處理開場政府的質詢(理解不等於操縱),也沒處理 DPM 的「不論 AI 多強都成立」,這正是開場政府可能壓過閉幕反對的地方。「AI 已經留下來了」也是雙方都接受的前提,不是閉幕反對獨有的好處。