動態重力場

我們造 AI 的速度, 遠遠快過社會 接住它的速度。

每投入一塊錢讓 AI 更強大,流向制度、技能與規範的往往只有零頭——而正是這些,決定了 AI 的好處會被共享,還是白白浪費。這道落差是一種選擇。我們是致力於弭平它的聯盟。

對齊的另一面

理念/導論

AI 領域的心力與資金,多半都投向兩件事:讓系統更強大,以及讓它們對齊人類價值。

兩者都重要。但即使系統對齊得再完美,一旦進入還沒準備好承接它的經濟、政府與資訊體系,成效仍會大打折扣,甚至造成實質損害。

我們稱這件被忽略的工作為反向對齊(reverse alignment):著意重新設計制度、規範、技能與治理,讓社會能安全吸納 AI,並讓眾人共享成果。

這些問題已有先例。

工業化、電氣化與網際網路,都是先花了數十年發明配套的制度,好處才真正落地。裝配線時代的公司,長得就像裝配線;治理網際網路的機構,長得也像網際網路。

歷史告訴我們:這些調適不是技術變革的選配,而是它成功的前提。

若置之不理,

這道落差會帶來三種可預見的失敗。

1

有生產力,卻無繁榮

工作重組的速度,快過人們重新學習、轉換跑道的速度,成果因此到不了多數人手上。

2

有執行,卻無驗證

當生成文字、影像與程式碼的成本一路崩跌,真正稀缺的,反而是人類查核、標明出處、為產出背書的能力。

3

有能力,卻無約束

能讓制度如虎添翼的工具,也能讓權力更加集中——除非上訴與異議的權利同步跟上。

這些都不是注定的結局。

每一項都是忽視的後果——而忽視,是可以扭轉的。

該建造什麼

未來十年的人類繁榮,繫於一系列社會技術重大挑戰。

建議摘要

AI 轉型的人與制度面,需要大規模且協調一致的投資,範圍橫跨身分、隱私、市場、治理、工作與知識。這些挑戰共用同一套架構、同一套方法,而且沒有任何單一領域能獨力完成其中任何一項。

*游標移上即可閱讀更多 *點選即可閱讀更多

當偽造證件、生物特徵與合成人格的成本趨近於零,我們需要某種方法:既能證明此刻真的有獨一無二的真人在場,又不必透露他是誰。

001

身分

AI 等於讓每個人都有了一位私家偵探;解方不是一味遮掩,也不是全盤攤開,而是一套讓人視情境揭露資訊的工具——該給多少就給多少,一分也不多。

002

隱私

當以假亂真的偽造幾乎不費成本,知道內容從何而來,就成了維繫共同現實的關鍵。

003

內容溯源

訓練這些模型的人類紀錄,往往被無償取用;創造這些紀錄的人,理應獲得真正的市場與長久的報酬——而模型公司自家的衡量技術,早已證明這辦得到。

004

資料價值

AI 代理要發揮最大用處,就得匯集彼此所知;這需要像人與人之間那樣建立信任——跨越不同供應商,而不是各自關在圍牆花園裡。

005

智慧體協作

獎勵激憤、又讓人看不清誰和誰立場相近的媒體,其實可以重新設計:讓共同基礎浮現,同時公允呈現真實的分歧。

006

集體意義建構

蓬勃社群凝聚出的權威,必須轉化為調度資源的實權;這意味著參與和代表機制都得跟上時代,也少不了那些不起眼卻不可或缺的落實工夫。

007

民主

AI 壓低了監控與執法的成本,天平因此倒向行政權;要恢復平衡,就得為監督、異議與上訴打造對等的能力。

008

法律與自由

AI 生產力紅利的瓶頸,不在個人的速度,而在組織能否重新設計,接得住湧現的創造力與能動性。

009

職場

模型產出假說與草稿的速度,已經超過同儕審查消化的速度;但同樣的工具只要用對地方,也能讓真正原創、打破藩籬的研究獲得應有的回報。

010

研究

教學、學習與認證原本綁成一包,AI 把它拆開了——學校必須講清楚哪些能力真正重要,也得證明人們究竟學會了什麼。

011

教育

現行的勞動體系,是為單一雇主的大規模裁員而設計的,應付不了 AI 帶來的那種持續、細緻的工作重塑;它需要帶得走、看得懂的職能憑證,以及即時的再訓練。

012

勞動轉型

獨到的 主張

依其工具之形而立的制度

社會如何吸納新的通用型技術,其實有跡可循:勝出的制度,往往長得就像那個時代主流的思考架構。

工業時代以標準化會計與裝配線來組織認知,於是長出相互對應的層級式、分部式制度:公司、中央銀行,以及布雷頓森林體系下特許的多邊組織。網際網路時代改以分層協定與分散式路由來組織認知,於是長出分層、協作式的機構:標準制定組織、通訊合作社,以及 RFC 的開放流程。

神經網路帶來了第三套語法。它們表示事物時,靠的不是單一標籤,而是它在豐富空間中的位置。它們綜合分歧的輸入時,衡量的是每個輸入如何牽動其他輸入——找出共同結構,卻不把差異平均掉。它們歸屬功勞的方式,是追溯每一份貢獻對結果的實際影響。

當制度與技術說著同一套語法,紅利就會到來;語法不合,紅利就會卡住。工廠電氣化後將近二十年幾乎不見成效,因為廠房仍沿用蒸汽時代的佈局;直到整座工廠圍繞分散各處的電動馬達重新設計,生產力才真正兌現。

這個聯盟押的注是:真正能吸納 AI 的制度,會是把這幾套手法放大到整個社會來實現的制度。而我們的工作,就是刻意把它們建造出來。

閱讀完整論證——即將推出

論文

閱讀論證

刊於 Noema —

〈未來十年,人類繁榮需要什麼〉

對這個問題與整套議程最完整的公開陳述:三種失敗模式、從大眾民主到臺灣數位治理的歷史先例,以及完整的社會技術重大挑戰清單。建議從這裡讀起。

在 Noema 閱讀英文原文 (在新分頁開啟)

刊於 Science —

〈依其工具之形〉

即將推出

議程背後那條清晰的工程原則:制度為何會長得像當代的認知技術,以及照神經網路的樣子來建造,究竟是什麼意思。這是我們最獨到的論點,佐以歷史紀錄與技術對應。

即將推出

創作手冊

《AI 造不出的事物》是一份寫給說故事者的指南,把這些挑戰化為創作者能直接上手的戲劇素材,每一項都附上高概念提案與編劇室提示。

簡報

建議背後的摘要簡報。

最大的故事 還沒人說

我們仰賴的每個制度,都曾經難以想像。直到故事讓夠多人在乎,人們才動手將它建成。AI 帶來的人類挑戰,並非抽象的政策議題,它們是未來十年最重要故事的原料,而且多半還沒被說出來。

我們為能說出這些故事的人,

做了一份指南。

《AI 造不出的事物》把每項挑戰逐一化為題材,交到寫作者手上:一個高概念提案,加上一組能直接丟進編劇室的提示——那位爭取在人生不同場域做不同自己的女人;那位紀錄片導演,拍出滴水不漏的作品,卻碰上同樣滴水不漏的反駁;還有那位富有、不可或缺、卻徹底匿名的資料貢獻者。

觀看影片 (在新分頁開啟)

看看我們如何把這些想法,帶進一百位電視編劇齊聚的現場。

觀看影片 (在新分頁開啟)

認識這些挑戰

我們也和獨立創作者合作,用白話每次講清楚一項挑戰。每支短片聚焦一個問題——從如何在網路上證明自己是真人,到如何讓提供 AI 訓練資料的人獲得合理報酬——說明它為什麼重要,以及解方長什麼樣子。

首批影片即將上線。

給說故事者的迅速資助

我們資助把這些想法織進作品裡的說故事者。

如果你寫作、拍片、做遊戲,或者做的內容有人看,而你想把這裡的任何一項挑戰納入作品或重新詮釋,我們都想支持你。

你不必解釋政策。你只要讓人感受到,賭上的是什麼。

申請資助 (在新分頁開啟)

聯盟

形塑這份工作的,是一群平常很少同桌的人。

AI 研究者與社會科學家、技術專家與公務員、資助者與公民社會的實踐者,來自不同地區,也抱持不同的政治立場。這樣的廣度並非巧合:我們倡議的方法——在真實差異中找出共同基礎,而不抹平差異——正是孕育這份工作的方法。

研究科技政府慈善公民社會企業娛樂媒體

Eric Glen Weyl

共同創辦人,RadicalxChange Foundation

Audrey Tang

數位治理大使,🇹🇼Taiwan

Jake Hirsch-Allen

夥伴關係負責人,The Dais

Vilas Dhar

總裁,Patrick J. McGovern Foundation

Melissa Valentine

副教授,史丹佛大學

David Patterson

Google Fellow;加州大學柏克萊分校榮譽教授

Tiona Zuzul

副教授,哈佛商學院

Jess Scully

執行長,RadicalxChange Foundation

Dean Woodley Ball

策略未來負責人,OpenAI

Romain Vakilitabar

創辦人暨執行長,Pathos Labs

Andrew Sorota

研究負責人,Office of Eric Schmidt

Samuel Roland

研究員,Foundation for American Innovation

Chris White

實驗室主任,Microsoft Research

Dr. Tomicah Tillemann

總裁,Project Liberty

Galen Hines-Pierce

創辦人暨負責人,Minerva Fund

Ben Buchanan

前白宮 AI 顧問

James Evans

教授,芝加哥大學

David Deming

院長,哈佛學院

Dr. Ken Suzuki

特任教授,慶應義塾大學

Blaise Agüera y Arcas

副總裁暨 Fellow,Google

Danielle Allen

教授,哈佛大學

Divya Siddarth

共同創辦人,Collective Intelligence Project

Tim O’Reilly

創辦人暨執行長,O’Reilly Media

Zoe Weinberg

創辦人暨管理合夥人,Ex/Ante

加入聯盟

留下你的名字

反向對齊不是單一計畫,而是遍布各領域的一整組賭注——唯有夠廣的聯盟,才撐得起來。

如果你相信,打造社會系統的抱負,不該輸給打造演算法的抱負,請留下你的名字,把這份工作帶進你自己的領域。

在 reversealignment.ai 加入聯盟(英文) (在新分頁開啟)

是時候了——
用打造演算法的抱負,
來打造我們的社會系統。

簡報檢視器(英文原文)

創作手冊

第 1 張,共 20 張

創作手冊,第 1 張,共 20 張

簡報檢視器(英文原文)

簡報

第 1 張,共 12 張

簡報,第 1 張,共 12 張