Satya Nadella 說他而家已經被 AGI 吸引了

Microsoft CEO Satya Nadella 表示,至少在 AI 可能對經濟結構帶來驚人變化以及政治可能因此改變的方面,他已經「被 AGI 影響」。他在舊金山 Chase Center 的 Microsoft Ignite 主題演講後的圓桌討論中問道:「在經濟層面上,圍繞 AGI 的政治經濟組織是什麼?」

但 Nadella 認為像 Claude 這樣的前沿模型並不具備意識。他說:「我不這麼認為。」他補充道,他支持 Microsoft AI CEO Mustafa Suleyman 的觀點,即公司不應該賦予模型權利,也不應將它們視為可能擁有道德地位的存在,這是像 Anthropic 這樣的公司基於原則所做的。Suleyman 曾告訴我,他認為 Anthropic 的團隊已經「自我設限」,這種做法是危險的。Nadella 對此並沒有那麼堅定。他說:「這是一個很好的辯論。我並不是對此持有教條式的看法。我所說的是,我們必須處理的最重要的社會技術問題是,如何確保經濟能夠廣泛地擴散這項技術?」

我問 Nadella 在聽到他對另一位記者關於 Anthropic 在其辦公套件中發布更多產品的問題的回答後,對 AI 的思考是什麼。Nadella 詳細談到了如果某一 AI 模型被允許達到壟斷地位,經濟可能崩潰和民主結束的潛在情況。他說:「大多數人將這視為科技公司之間的競爭,這當然是事實。但請記住,這個模型是沒有界限的。它可以是一家醫療保健公司。它可以是一家金融服務公司。如果它想,它可以成為任何東西。它可以接管政府。將這視為科技公司之間的狹隘競爭,誰能達到下一個萬億美元的市值,是一種最奇怪、最狹隘的思考方式。」

Nadella 接著表示,公司的本質在未來將會受到顛覆。他問道:「如果智慧具有網絡效應,那麼公司的未來是什麼?如果模型看到任何東西並學習它,並且本質上所有的人力資本都崩潰成為代幣資本,那麼公司在其中的角色和人力資本的角色是什麼?這就是辯論的所在。」

他說:「我認為在這種背景下,政治經濟將變得越來越有趣。在民主中,沒有人能夠贏得選舉,如果這樣發展下去,只有資本而沒有勞動。我是說,我不知道,這不是一個經濟。」

他補充道:「如果馬克思主義的觀點是只有一家公司,那麼一切就結束了,對我們所有人來說。不僅僅是對我。你也會以某種方式成為 Anthropic 的一個附屬機構。」

不用說,這並不是科技 CEO 通常談論競爭電子表格軟件推出的方式。當然,Nadella 在 Ignite 上也在推廣 Microsoft 的各種 AI 工具,這些工具承諾讓企業客戶選擇最具成本效益的模型來執行各種任務,運行自己的模型,並以不同的方式控制自己的數據。這裡的想法是,市場將需要許多不同類型的模型和主權數據,以防止控制集中化,這是 Nadella 在我們交談時不斷重申的主題。他說:「我認為,如果你相信世界、經濟需要不止一家公司或兩家公司,那麼根據定義,必須有與某種公司數量相等的模型。」