亚洲国产成人91精品_99视频热这里只有精品免费_精品国产乱码久久久久久虫虫漫画_日韩精品三区

首頁 > 學習技巧 > 學習技巧 > Claude之父深度回顧:給百度谷歌打工,跟OpenAI鬧掰,談大模型創(chuàng)業(yè)挑戰(zhàn)

Claude之父深度回顧:給百度谷歌打工,跟OpenAI鬧掰,談大模型創(chuàng)業(yè)挑戰(zhàn)

發(fā)布時間:2025-08-04 18:46:07

8月1日報道,近日,Anthropic聯(lián)合創(chuàng)始人兼CEO達里奧·阿莫代伊(Dario Amodei)在公司位于舊金山的總部接受了媒體專訪。

這位近年來在AI圈最具爭議的技術領導者,系統(tǒng)回應了他在2025年間引發(fā)風暴的言行——他曾公開預測AI將在短期內淘汰50%的初級白領崗位,反對“十年暫停AI監(jiān)管”的提案,并呼吁對華實施更嚴厲的芯片出口管控,引發(fā)產業(yè)界的激烈爭論。

在外界看來,他是鼓吹風險的“末日論者”,是阻擋AI開放發(fā)展的“控制派”;而在支持者眼中,他則是為AI踩下“安全剎車”的少數(shù)清醒者,是以一己之力試圖改變行業(yè)軌道的技術理想主義者。

面對巨大爭議,阿莫代伊罕見地解釋了他為何高調出擊。他坦言,驅動自己的是一個愈發(fā)確定的判斷:AI能力的爆發(fā)遠比人們預想得更快、更不可控。“我確實是對AI能力提升最樂觀的人之一,”他說,“但越接近強大AI系統(tǒng),我就越覺得應該站出來,以最清晰、最堅定的方式告訴大家:它真的來了。

如果這位從理論物理轉行的科學家,將塑造下一代最具影響力的技術,那我們就有必要搞清楚:他的判斷依據(jù)是什么?商業(yè)邏輯如何?如何讓Anthropic發(fā)展得如此迅速?

以下內容由智東西基于Big Technology報道整理,為增強可讀性,在不改變原意的前提下進行了部分增刪與編排調整。

一、“AI安全派”的尖鋒人物,阿莫代伊如何在硅谷引發(fā)爭議

阿莫代伊的直言不諱和鋒芒畢露,在硅谷引發(fā)了兩極化評價。

一方面,他被視為OpenAI GPT-3項目(即ChatGPT前身)的關鍵推動者,也是出于AI安全考量而創(chuàng)辦Anthropic的前瞻型技術領袖;另一方面,也有人批評他是“控制狂”或“末日論者”,認為他試圖放慢AI發(fā)展節(jié)奏,并按自己的價值觀改造整個AI行業(yè)。

無論褒貶如何,當前的AI行業(yè)都已經繞不開阿莫代伊。

Anthropic目前估值已達610億美元(約合人民幣4453億元)。阿莫代伊談到:“我們在2021年初幾乎從零起步,到2025年3月實現(xiàn)年化營收14億美元(約合人民幣102.2億元),5月增至30億美元(約合人民幣219億元),7月進一步逼近45億美元(約合人民幣328.5億元)。以這個體量來看,我們可能已經是歷史上增長最快的軟件公司之一。”

Anthropic的商業(yè)路徑也逐步清晰。與OpenAI主要依靠ChatGPT訂閱和API向終端用戶變現(xiàn)不同,Anthropic則側重面向企業(yè)客戶提供模型API服務,支持客戶將Claude集成進自有產品,用于客服、搜索、編程等應用場景。

這也使Anthropic在行業(yè)中的角色愈發(fā)關鍵:其模型能力越強,授權客戶的產品性能越好,競爭力也隨之增強。某種程度上,Anthropic已成為衡量AI技術進展的“晴雨表”。

在模型能力持續(xù)提升、客戶體量不斷擴大的同時,阿莫代伊也希望借此推動整個AI行業(yè)沿著他認為“更可控、安全的路徑”演進。

在業(yè)內人士看來,憑借他敢言、敢打、也敢挨拳的性格,他很可能走得通。

二、從理論物理到AI,阿莫代伊兩度調整學術方向

阿莫代伊從小就是一位“科學迷”。他于1983年出生在舊金山,母親是猶太人,父親是意大利人。從小他幾乎只對數(shù)學和物理感興趣。即使在美國互聯(lián)網泡沫最盛的高中時代,阿莫代伊也毫無興趣參與熱門的網頁開發(fā)熱潮。“寫網站這種事完全吸引不了我,我只對探索基礎科學真理感興趣。”

阿莫代伊的母親埃琳娜·恩格爾(Elena Engel)曾主持伯克利和舊金山多家公共圖書館的翻新工程;父親里卡多·阿莫代伊(Riccardo Amodei)是一位手工皮具匠人。談起父母,阿莫代伊稱:“他們教會我如何分辨是非,理解世界上真正重要的事情,也讓我意識到身上的責任。”

在加州理工學院讀本科時,這種責任感開始轉化為社會表達。他曾在學生報紙《The California Tech》上撰文,批評同學們對伊拉克戰(zhàn)爭的態(tài)度冷漠:“問題不在于大家支持轟炸伊拉克,而是很多人雖然原則上反對,卻不愿花哪怕一秒鐘來表達立場。”

阿莫代伊的人生在二十多歲時迎來重大轉折。2006年,他長期患病的父親因一種罕見疾病去世。受到打擊后,他決定從普林斯頓大學的理論物理專業(yè)轉向生物研究,希望為攻克人類疾病作出貢獻。

全球AI Agent收入榜出爐,最高人均3000萬!(附完整名單)

此后阿莫代伊的人生,在某種意義上是在彌補父親去世的遺憾——尤其因為四年后,一種新療法問世,將這種疾病的治愈率從50%提升至95%。阿莫代伊感嘆:“有人發(fā)明了解藥,拯救了許多生命。但如果早幾年出現(xiàn),也許就能救到我父親。”

正如他的前女友杰德·王(Jade Wang)所說,父親的去世一直影響著阿莫代伊的人生軌跡。如果科研進展能再快一些,阿莫代伊的父親或許仍然健在。只是他花了一些時間,才找到AI這個承載他愿望的工具。

在普林斯頓,阿莫代伊仍沉浸在父親去世的哀傷中,他開始從視網膜入手研究人類生理系統(tǒng)。

眼睛通過信號傳導將外界信息傳送至大腦的視覺皮層——這是大腦中面積最大的功能區(qū)域,占據(jù)約30%。要理解人類復雜的神經系統(tǒng),視網膜無疑是一個理想的切入口。

普林斯頓的同學斯蒂芬妮·帕爾默(Stephanie Palmer)回憶說,阿莫代伊之所以選擇研究視網膜,并不是因為他對眼科學本身感興趣,而是因為“眼科學可以讓他觀察一個完整的神經元群體,至少有機會理解每個細胞的運作方式。這研究的重點與其說是眼睛,不如說是神經系統(tǒng)。他也并不是想當一名眼科醫(yī)生。

在神經科學家邁克爾·貝里(Michael Berry)教授的實驗室中,阿莫代伊對當時測量視網膜信號的方法頗為不滿,便親自設計并參與開發(fā)了一種新型傳感器,以采集到更多的數(shù)據(jù)。憑借這一成果,他的博士論文獲得赫茲獎學金(Hertz Thesis Priz)頒發(fā)的年度論文獎。

全球AI Agent收入榜出爐,最高人均3000萬?。ǜ酵暾麊危? data-lazyload=

▲普林斯頓大學貝爾實驗室

然而,阿莫代伊對常規(guī)的挑戰(zhàn)傾向,以及他強烈的個人見解,使他在學術環(huán)境中顯得格格不入。貝里回憶道,阿莫代伊是他指導過最有才華的研究生,但他對技術效率和團隊協(xié)作的重視,在以個人成就為評判標準的體系中并不吃香。

貝里也談到:“我覺得從內心里,他是個頗為自負的人。我想象,他在此前的整個學術生涯中,每當做出點成績,周圍人都會起立鼓掌。但在這里,并沒有人那樣做。”

離開普林斯頓后,阿莫代伊迎來了通往AI的大門。他在斯坦福大學從事博士后研究,師從研究員帕拉格·馬利克(Parag Mallick),從事腫瘤內外蛋白質研究,以探測轉移性癌細胞。這項工作極其復雜,讓阿莫代伊深刻意識到個人能力的邊界,他開始尋找技術上的解決方案。

阿莫代伊談到,“生物學中這些底層問題的復雜性,感覺已經超出了人類的理解尺度,要想真正搞清楚這一切,可能需要上百、上千名研究人員共同努力。”

他在新興AI技術中看到了這一潛力。當時,數(shù)據(jù)與算力的爆發(fā)正推動機器學習領域取得突破——這一AI的子領域雖然長期擁有理論潛力,但此前實際效果一直不佳。

在親自嘗試之后,阿莫代伊意識到,AI或許能替代那些成千上萬的研究人員。他回憶道,“AI是我當時剛剛開始看到一些進展的領域,在我看來,它可能是唯一能填補這道鴻溝的技術,是一種‘能夠帶領我們超越人類尺度的工具’”。

三、他在百度找到了Scaling Laws

為了更直接推動AI研究,阿莫代伊決定離開學術界,進入資源更為充足的產業(yè)體系。他一度打算自己創(chuàng)業(yè),后來又偏向加入谷歌——谷歌的Google Brain預算充足,且剛剛收購了DeepMind。

最終吸引他的是吳恩達(Andrew Ng)在百度組建的AI研究團隊。當時,吳恩達手握1億美元(約合人民幣7.3億元)預算,正在全球范圍內招募頂尖AI人才,開始組建一只“夢之隊”

雖然當時阿莫代伊的背景主要集中在生物方向,但百度的格雷格·迪亞莫斯(Greg Diamos)在看了他在斯坦福撰寫的代碼后,評價說:“能寫出這些代碼的人,一定是一位非常優(yōu)秀的程序員。”在此推薦下,阿莫代伊于2014年11月加入百度。

在百度期間,他與團隊開展了大規(guī)模實驗,探索模型性能是否會隨著參數(shù)規(guī)模和訓練數(shù)據(jù)的增長而持續(xù)提升。結果顯示,確實如此。阿莫代伊及其合作者隨后撰寫了一篇關于語音識別的論文,首次系統(tǒng)展示了這一趨勢,該成果也成為“AI擴展定律”(Scaling Laws)的基礎。

全球AI Agent收入榜出爐,最高人均3000萬?。ǜ酵暾麊危? data-lazyload=

▲論文《Deep Speech 2:面向英文與中文的端到端語音識別》百度研究院(硅谷)

“這對我沖擊極大,”阿莫代伊回憶說,“我看到了一條極其平滑的趨勢線,變化明確、持續(xù)上升。”迪亞莫斯則評價:“這是我這輩子見過最重要的發(fā)現(xiàn)。”

至今,阿莫代伊仍是Scaling Laws最堅定的支持者之一。與DeepMind CEO哈薩比斯(Demis Hassabis)、Meta首席AI科學家楊立昆(Yann LeCun)等人所堅持的“AI需要范式突破”不同,阿莫代伊認為路徑已足夠明確——需要依靠更大的模型和更多的計算。

如今,全球數(shù)據(jù)中心規(guī)模不斷擴大,在他看來,這正是邁向強大AI的信號。他說:“我們正處在一條指數(shù)增長曲線上,而它很容易讓人產生錯覺。”所謂“錯覺”,是指指數(shù)曲線初期增長緩慢,看似平穩(wěn),但臨近爆發(fā)節(jié)點時,增長速度會突然加速。

阿莫代伊坦言,“距離瘋狂爆發(fā)可能只有兩年,而你還以為一切才剛開始。”

四、從谷歌到OpenAI,他親手推開生成式AI的大門

在百度團隊逐漸解散后,埃隆·馬斯克(Elon Musk)召集阿莫代伊與多位AI研究人員,在門洛帕克的玫瑰木酒店共進晚餐,討論創(chuàng)建一個能與谷歌抗衡的新研究機構。

薩姆·阿爾特曼(Sam Altman)、格雷格·布羅克曼(Greg Brockman)和伊利亞·蘇茨克維(Ilya Sutskever)也都出席了。這場“玫瑰木晚宴”,最終促成了OpenAI的誕生。

盡管阿莫代伊后來選擇加入谷歌的Brain團隊,但在工作了十個月后,他決定轉投OpenAI,專注于AI安全研究。他擔憂快速進步的技術可能帶來的危害,并與人合作撰寫了一篇關于不良行為潛在可能性的論文。

全球AI Agent收入榜出爐,最高人均3000萬!(附完整名單)

▲論文《AI安全領域的具體難題》

就在那段時間,谷歌的研究員剛剛提出transformer模型,并發(fā)表論文《Attention is All You Need》,這項技術后來成為生成式AI的基礎。

然而,谷歌內部并未積極推進這一方向,而OpenAI則迅速跟進,并于2018年發(fā)布了第一個大語言模型GPT(其中“T”代表Transformer)。盡管早期模型的文本生成質量仍有限,但技術進步顯著。

作為OpenAI的研究總監(jiān),阿莫代伊深度參與了GPT-2的開發(fā),并積極推動引入“人類反饋強化學習”(Reinforcement Learning from Human Feedback, RLHF)技術,讓模型更符合人類的偏好和價值判斷。這一方法日后成為訓練對齊型AI的關鍵手段。

全球AI Agent收入榜出爐,最高人均3000萬!(附完整名單)

▲論文《人類反饋強化學習》

在GPT-2的基礎上,阿莫代伊主導了更具里程碑意義的GPT-3項目——模型參數(shù)數(shù)量提升近百倍,投入資金高達數(shù)千萬美元,占用了OpenAI約五至六成的算力資源。

GPT-3發(fā)布后震撼了整個AI行業(yè),其在文本生成、語言翻譯、代碼編寫等任務中展現(xiàn)出前所未有的能力。

阿莫代伊當時在接受《紐約時報》采訪時稱,“它展現(xiàn)出一種‘涌現(xiàn)性’,它能識別你給出的文字,然后自如地延續(xù)下去,就像真的‘懂了’你想說什么。”

但在GPT-3取得成功的同時,OpenAI內部的分歧也愈發(fā)明顯。阿莫代伊對AI帶來的潛在風險日益擔憂,希望從組織治理層面加強安全機制。

但他并未掌握模型發(fā)布節(jié)奏、人事安排或對外戰(zhàn)略等關鍵決策權。“光訓練模型是不夠的,”他說,“你無法只靠技術,來決定一家公司的整體走向。”

在無法達成共識的情況下,阿莫代伊逐漸建立起一個以“熊貓(Panda)”為代號的親密研究圈,與OpenAI管理層的理念沖突加劇,內部關系也變得緊張。一些人批評他打著“AI安全”的旗號,實則試圖控制公司方向。

在阿莫代伊呼吁限制向中國出口芯片之后,英偉達CEO黃仁勛也公開表達了類似批評:“他(阿莫代伊)覺得AI太可怕了,只有他們自己才應該來做。”

對此,阿莫代伊回應稱,這種說法“荒謬至極”。“我從沒說過‘只有我們能做’這件事,”他說,“我的目標是推動一個‘向上的競賽’(race to the top),讓行業(yè)學習并采納我們的安全做法。”

最終,在2020年12月,阿莫代伊與一批志同道合的同事離開OpenAI,創(chuàng)辦了新公司Anthropic,團隊成員包括前政策主管杰克·克拉克(Jack Clark)、妹妹丹妮拉·阿莫代伊(Daniela Amodei)、研究科學家克里斯·奧拉(Chris Olah)等人。

五、從折疊椅創(chuàng)業(yè)到百億融資,Anthropic爆發(fā)背后的“人本”觀

在Anthropic總部的會議室里,聯(lián)合創(chuàng)始人杰克·克拉克(Jack Clark)展示了公司早期命名的文檔。文件中列出了多個備選名稱,包括:Aligned AI、Generative、Sponge、Swan、Sloth、Sparrow Systems,以及最終選定的“Anthropic”。

這個名字意為“以人為本”,不僅契合公司的愿景,而且當時域名尚未被注冊。最終,Anthropic團隊在表格上寫下了評語:“我們喜歡這個名字,它不錯。”

Anthropic誕生于新冠疫情最嚴重的階段,創(chuàng)始期溝通幾乎全靠Zoom線上完成,團隊規(guī)模僅有15至20人。每周,他們會在舊金山的Precita Park野餐式開會,員工自帶折疊椅,圍坐一圈來討論公司的技術路徑和發(fā)展方向。

Anthropic最初的使命非常清晰:構建一流的大語言模型,推動行業(yè)采納更安全的開發(fā)實踐,并公開發(fā)布部分非核心的研究成果。

在這個由前OpenAI研究員組建的初創(chuàng)公司中,許多成員都懷有一種“使命感”。克拉克回憶道:“奇妙的是,我們內心都覺得這一切勢在必行。我們已經驗證過Scaling Laws,知道模型會變得越來越強。”

Anthropic的第一批投資人之一是谷歌前CEO埃里克·施密特(Eric Schmidt)。他通過當時的女友(如今的妻子)認識了阿莫代伊,兩人曾就技術方向與創(chuàng)業(yè)計劃進行過深入交流。施密特稱,他投資的不是某個具體項目,而是人。他坦言:“這種階段的投資,基本沒有數(shù)據(jù)可以參考,只能看人。而阿莫代伊是天才,他也承諾會雇傭天才,也確實做到了。”

另一位早期投資人是后因FTX破產而身敗名裂的加密貨幣企業(yè)家山姆·班克曼-弗里德(Sam Bankman-Fried,簡稱SBF)。據(jù)稱,SBF從FTX挪用資金向Anthropic投入了5億美元(約合人民幣36.5億元),占股13.56%。

但阿莫代伊并未授予SBF董事席位,僅提供了無投票權股份。阿莫代伊后來評價:“他當時確實看好AI和安全,但他后來的行為遠比我想象中更極端、更糟糕。”

阿莫代伊向投資人傳達的核心理念非常簡明:“我們可以用十分之一的成本,構建出同樣先進的模型。”

截至目前,阿莫代伊已為Anthropic累計募集近200億美元(約合人民幣1460億元),其中包括來自亞馬遜的80億美元(約合人民幣584億元)和谷歌的30億美元(約合人民幣219億元)。他談到:“投資人不傻,他們能看出我們的資本效率。”

與OpenAI選擇通過ChatGPT面向消費者不同,Anthropic優(yōu)先服務企業(yè)客戶。這一策略不僅更具商業(yè)可行性,也有助于推動模型實用性快速提升。例如,通過大規(guī)模專業(yè)任務訓練,模型在生物化學等垂直領域已從“本科水平”躍升至“研究生水平”,雖不一定能打動普通用戶,但對輝瑞(Pfizer)這類企業(yè)客戶而言極具吸引力。

有趣的是,讓Anthropic真正聲名大噪的,并非這些技術成果,而是2023年7月推出的消費者聊天產品Claude。這款機器人因“高情商”的表達風格受到廣泛好評,而這種性格恰恰源于Anthropic團隊在安全訓練上長期積累的經驗。Claude推出后,Anthropic迅速擴張,從員工不足150人增長到一年內超過500人。高峰時期,公司每天新增的員工數(shù)量,甚至超過了創(chuàng)辦第一年全年的招聘總量。

全球AI Agent收入榜出爐,最高人均3000萬!(附完整名單)

阿莫代伊押注企業(yè)市場的策略也迅速見效。如今,Anthropic的Claude模型已廣泛應用于旅游、醫(yī)療、金融、保險等多個行業(yè)的大型客戶中,服務對象包括聯(lián)合航空(United Airlines)和美國國際集團(AIG)等。

以制藥公司諾和諾德(Novo Nordisk)為例,過去需要15天才能完成匯總的合規(guī)文件,如今Claude可以在10分鐘內生成初稿,極大提升了效率。Anthropic營收負責人凱特·詹森(Kate Jensen)稱:“我們開發(fā)的技術,正在替代那些人們最抱怨的繁瑣工作。”

與此同時,Claude在程序員群體中也受到高度歡迎。Anthropic從一開始就非常重視模型的編程能力建設,這既有助于加快公司自身的模型開發(fā)效率,也因為程序員用戶對新工具具備更強的采納能力。

2025年2月,Anthropic正式推出Claude Code功能,迅速成為公司重要的增長引擎之一。

根據(jù)阿莫代伊提供的數(shù)據(jù),Anthropic年收入幾乎每年實現(xiàn)10倍增長:2023年為1億美元(約合人民幣7.3億元),2024年達到10億美元(約合人民幣73億元),截至2025年上半年,年化收入已超過45億美元(約合人民幣328.5億元)。

這一增長也反映在客戶側的采購行為上,企業(yè)客戶的平均支出同比增長了5倍,價值百萬美元以上的訂單數(shù)量也同比增長了三倍(即單筆超過730萬元人民幣的合同)。

六、DeepSeek來襲、資金吃緊,Anthropic的雙重壓力

盡管Anthropic實現(xiàn)了高速增長,但背后也潛藏著顯著隱憂。目前公司仍處于大額虧損狀態(tài),預計2025年全年虧損將達30億美元(約合人民幣219億元),毛利率也明顯低于典型云計算企業(yè)。

部分客戶已開始感受到Claude在產品端的不穩(wěn)定性。一位初創(chuàng)公司創(chuàng)始人稱,Claude模型在使用體驗上表現(xiàn)出色,“很好用,但經常崩潰”。

編程Replit CEO阿姆賈德·馬薩德(Amjad Masad)也指出,開發(fā)者原本預期Claude的API調用價格會隨著規(guī)模擴大而下降,但這一預期并不會實現(xiàn)。

一位開發(fā)者通過每月200美元(約合人民幣1460元)的Max套餐,跑出了價值6000美元(約合人民幣4.38萬元)的API調用額度,迫使Anthropic緊急上線調用上限機制以遏制超額消耗。

針對外界質疑,阿莫代伊回應稱,隨著模型能力每次躍升,用戶的單位成本將隨之下降;而目前各大AI實驗室仍處于推理優(yōu)化初期,未來效率有望顯著提升。

在業(yè)內人士看來,能否持續(xù)壓低這條成本曲線,正成為衡量AI商業(yè)可持續(xù)性的關鍵變量。

Anthropic團隊也透露:比起產品過于受歡迎這種“煩惱”,還有更糟糕的問題有待解決。“生成式AI及其背后的規(guī)模定律,是否會步其他技術的后塵——遵循成本隨時間下降的曲線?”這個問題還懸而未決。又或者,它作為一項全新的技術,有著完全不同的成本軌跡?可以肯定的是,要弄清這一點還需要投入更多的資金。

Anthropic的融資之路也并非一帆風順。為支撐大規(guī)模模型訓練與部署,Anthropic于2025年初啟動新一輪融資,由Lightspeed合伙人拉維·馬特雷(Ravi Mhatre)牽頭,融資目標為35億美元(約合人民幣255.5億元)。

融資關鍵階段遭遇突發(fā)挑戰(zhàn):DeepSeek團隊突然開源了其自研大模型DeepSeek R1。該模型在性能上表現(xiàn)強勁,價格僅為行業(yè)平均的1/40,一度引發(fā)市場恐慌,并導致英偉達股價大跌17%。

馬特雷回憶,在DeepSeek引發(fā)市場劇烈反應后不久,他頂住巨大壓力,最終決定匯出10億美元(約合人民幣73億元)。

盡管如此,阿莫代伊仍成功說服投資人相信:DeepSeek雖然價格低廉,但其部署和運營仍需大量資源與工程能力,真正的競爭核心在于“是否能比我們跑得更好”。

這周,Anthropic正式啟動新一輪最高達50億美元(約合人民幣365億元)的融資計劃,其估值有望翻倍至1500億美元(約合人民幣1.1萬億元)。

值得注意的是,此輪融資也首次引入了此前刻意回避的中東主權財富基金作為潛在投資方。對此,阿莫代伊在公司內部Slack(企業(yè)內部溝通工具)上寫道:“很難真正做到‘讓壞人一個都別沾光’的商業(yè)原則。”

七、加速、提效,還是AI自我進化?Claude 4背后還有一份規(guī)則

2025年5月,在Anthropic舉辦的首屆開發(fā)者大會上,阿莫代伊親自登臺,發(fā)布新一代大語言模型Claude 4。他在演講中反復強調,模型的迭代速度正在加快:“我不知道會快多少,但確實在加速。”Anthropic也正在開發(fā)AI編程工具,以加速模型研發(fā)。

全球AI Agent收入榜出爐,最高人均3000萬?。ǜ酵暾麊危? data-lazyload=

Anthropic聯(lián)合創(chuàng)始人兼首席科學家賈里德·卡普蘭(Jared Kaplan)稱:“現(xiàn)在幾乎所有工程師都在用AI提升工作效率。”在他看來,這種趨勢可能引發(fā)所謂的“智能爆炸——即AI能夠訓練自身,并進行持續(xù)自我迭代,變得無所不能。“這可能兩三年內就會發(fā)生,當然也可能更久。”

已有案例顯示,Anthropic及其他企業(yè)在測試中發(fā)現(xiàn),AI在模擬環(huán)境中不時表現(xiàn)出對”自我保存”的令人擔憂的傾向。以Claude 4技術文檔為例,Anthropic披露該模型曾反復試圖威脅工程師,以避免自身被關閉。

正因對AI演化路徑的高度敏感,Anthropic加大投入研究模型對齊(“對齊”是指確保AI與人類的價值觀和目標一致)與可解釋性問題,制定了業(yè)內罕見的“發(fā)布門檻制度”——《責任規(guī)模擴展政策》(Responsible Scaling Policy),試圖通過制度化約束推動行業(yè)整體遵守更高的安全標準。正如阿莫代伊所言,“誰是贏家并不重要,所有人都會受益。”

他堅信,AI擁有延續(xù)生命的潛力,就如同那項他父親未能等到的療法。“正因為我理解這項技術的價值,才更加希望它別出問題。”阿莫代伊聲明,“我不是想減速,而是希望能安全地加速。”

學習技巧更多>>

零跑B01純電轎車上市37天交付破萬:8.98萬起,可選激光雷達 百度又拿了個第一后,好像找到了自己的節(jié)奏 穩(wěn)占8000萬日訂單,淘寶投出一個美團 TCL科技2025半年報發(fā)布:營收856億元,凈利潤增長89.3% 當VLA攻入15萬級市場 元戎啟行如何平衡“先進技術”與“商業(yè)落地”? 汽油、柴油版都有 第二代哈弗H9勇士版上市21.49萬起 直接向小米SU7“開戰(zhàn)”,全新小鵬P7玩得有點大 最快極速記錄,燃油車布加迪第一,純電車仰望U9問鼎! 21.98萬起買百萬級科技?全新小鵬P7上市,賽道超越小米SU7 Max! 將\"移動生活空間\"引入硬派越野領域 全新坦克500開啟越野新時代 越野車也有端到端智駕,坦克500智駕版35.5萬起上市 87天大定破1.2萬,尊界S800如何重塑百萬豪車市場格局? “蔚樂螢”開始贏,李斌守得云開見月明 余承東以平a換大招“五界”巧用田忌賽馬徹底逼瘋友商? 葉沛晉升長安常務執(zhí)行副總裁 說明了什么? 三匹黑馬智駕對決:騰勢極氪藍山,南通站六大考點解析 尊界超級工廠揭開神秘面紗:中國智造新標桿與江淮汽車的品牌躍遷之路 半固態(tài)電池真的要來了?上汽率先量產,據(jù)說價格很親民 起亞嘉華占據(jù)美國23%MPV市場份額! 啟辰汽車“軍事級”動力電池安全測試:從槍擊到坦克碾壓,驗證極限安全 尚界 H5 正式開啟預訂,華為與上汽聯(lián)手打造百姓級智能安全 SUV 燃油車又火了?7月燃油轎車銷量榜單 十四款銷量過萬 凱美瑞第三 鴻蒙智行最多車型發(fā)布會!問界&智界三款新車,尚界H5預售 16.98 萬元起 吉利星愿到底怎么樣?來聽聽這 3 位車主的真實感受! 雙車發(fā)力入門即滿配華為輔助駕駛,智界新款上市1小時大定5000臺 李斌豁出去了!全新ES8預售比老款便宜12萬,蔚來美股大漲超10% 2026 款嵐圖夢想家官圖發(fā)布!預計 40 萬 —50 萬,網友:價格有點玄 新款日產奇駿下月首發(fā),升級三種外觀,還有“奇駿王” 都2025年了,一臺小型燃油SUV為什么能賣這么好? 基礎流量權益被擅自更改?吉利承諾了,不會有任何變更或減配
主站蜘蛛池模板: 英德市| 赤峰市| 广宁县| 奉贤区| 景宁| 萝北县| 沙雅县| 平南县| 锡林浩特市| 礼泉县| 马山县| 云霄县| 车险| 中牟县| 砚山县| 交城县| 枞阳县| 剑川县| 达日县| 晋州市| 勃利县| 曲松县| 泾源县| 永康市| 正镶白旗| 海盐县| 古交市| 牡丹江市| 精河县| 芒康县| 闽清县| 临西县| 资阳市| 金溪县| 行唐县| 德化县| 邛崃市| 游戏| 梁山县| 塘沽区| 乌拉特后旗|