抗議者於週六走上舊金山市街頭，停留在Anthropic、OpenAI及xAI辦公室外，呼籲有條件暫停開發日益強大的人工智慧。

根據「停止AI競賽」創辦人及紀錄片製作人Michael Trazzi，約有200名抗議者參與示威。參與者包括研究人員、學者，以及來自機器智能研究所（Machine Intelligence Research Institute）、PauseAI、QuitGPT、StopAI和Evitable等倡議團體成員。

「有很多人關切高階AI系統帶來的風險，」Trazzi向Decrypt表示。「大家一起走上街頭，代表人們並非孤軍作戰在思考這件事。關心這件事的人非常多。」

遊行於中午從Anthropic辦公室外開始，接著前往OpenAI，再到xAI。每個停靠點，參與組織的活動家與講者皆對抗議者發表演說。

Trazzi表示，此次抗議旨在促使AI公司同意協調暫停開發更強大的AI模型，並與其他國家的AI開發者簽訂同樣的協議。

「如果中美同意停止開發更危險的模型，就可以專注於讓系統為我們帶來更好的效益，例如醫療AI，」他說。「這會讓每個人受益。」

停止AI競賽組織的提案呼籲若其他主要實驗室「可信地採取同樣行動」，AI公司應暫停建造新世代模型，並將工作重心轉移到安全性開發上，Trazzi表示這也使得在AI實驗室辦公室前抗議更加重要。

持續穩定的反對聲浪

此次抗議是近期一連串攔阻AI發展的行動之一。

2023年3月，未來生命研究所（Future of Life Institute）發布公開信，要求自ChatGPT於前一年公開推出後，暫停對該領先AI工具進行進一步升級。

簽署人包括xAI創辦人埃隆·馬斯克（Elon Musk）、蘋果公司共同創辦人史蒂夫·沃茲尼亞克（Steve Wozniak）以及Ripple共同創辦人克里斯·拉森（Chris Larsen）。自此，「暫停巨型AI實驗」公開信已獲得超過3萬3千人簽名支持。

9月期間，Trazzi曾在Google DeepMind倫敦辦公室外進行為期一週的絕食抗議，與此同時，Guido Reichstadter則在Anthropic舊金山辦公室外發起類似的絕食行動。

政府官員及持續支持AI發展的人士認為，美國研究放緩可能會讓海外競爭者獲得優勢。

上週，川普政府發布其AI架構，建立全國範圍內AI開發的法律標準。白宮將此視為爭取「贏得AI競賽」的承諾。

「即便你身處中國或世界任何國家，沒有人希望系統失控，」Trazzi表示。「因為企業與國家間都在競速建造系統，我們正在走捷徑並忽略安全標準。這是一場沒有贏家的競賽。我們面對的是無法掌控的系統，這也是為何稱為自殺式競賽的原因。」

但即便AI開發者同意暫停開發，驗證措施恐怕並非易事。Trazzi建議其中一種驗證暫停的方法是限制訓練新模型所用的計算資源。

「若限制公司能使用多少算力來建立這些系統，那麼就等同於限制了新模型的開發，」他說。

在舊金山抗議活動之後，Trazzi表示未來可能會在其他大型AI公司所在的地點舉行更多示威。

「我們想在員工所在之處出現，」他說。「我們希望與他們交談，也希望他們能和領導層溝通，讓事情能從內部開始改變。」他補充表示，吹哨者將擁有一定的力量，因為「他們才是建造這些系統的人。」

OpenAI、Anthropic與xAI尚未立即對Decrypt的置評請求作出回應。