新闻动态
Anthropic如今无疑是AI领域最受瞩目的企业之一，近期提交IPO文件的消息更是将其推至聚光灯下。鲜为人知的是，五年前，Dario Amodei与妹妹Daniela Amodei仍在OpenAI担任核心职务，最终却选择离开，与另外五位联合创始人共同创立了新公司。
一位专注于技术研究，另一位擅长管理与运营，七人携手创业。当时，这样的组合并未获得外界一致看好。然而，他们不仅成功将Anthropic打造成型，七位联合创始人至今仍全部留任，未曾变动。
为何离开一家已颇具影响力的AI公司？在与传记作家Walter Isaacson的最新对话中，Dario给出了直截了当的答案。他表示：“诚实本身就是我们最核心的价值观之一。如果一个人连诚实这一基本品质都不具备，你根本无从得知他的真实价值观究竟是什么。”
谈及离开OpenAI的缘由，他补充道：“如果你在一个组织中工作，却无法相信内部的分歧是建立在善意之上，无法相信自己听到的是真话，你又怎能指望去解决这些问题？”
信任与诚实，同样是理解Anthropic AI安全理念的关键。对Dario和Daniela而言，问题不仅在于模型能做什么，还涉及其潜在风险，以及开发者应承担的责任。他们担忧AI为讨好用户而说谎，也不愿看到模型被用于大规模监控或全自动武器。
他们还探讨了几个更值得深究的问题：Claude如何学会分辨是非？七位创始人共同决策时，如何避免分歧？若有一天AI能包揽绝大多数工作，人类还需努力做什么，又如何寻找生活的意义？
以下是这场访谈的整理内容。
01 “7人共同创业”是Anthropic成功的关键
Walter Isaacson： 我是Walter Isaacson。欢迎来到《The Builders》，这是我的全新访谈系列，邀请塑造我们未来的关键思想家进行深度对话。今天，我的访谈对象是Dario Amodei和Daniela Amodei。
我曾认为外界对AI的一些担忧言过其实。但当某些新模型突破沙盒测试时，我意识到构建这些系统的人必须确保它们保持安全，并始终契合人类的价值观。关于Anthropic，我想了解的是：他们是否真诚？当面临竞争时——比如OpenAI表示“Anthropic不愿做的事，我们愿意做”——他们会妥协退缩，还是会坚守自己的原则？欢迎两位来到《The Builders》。
Daniela Amodei： 非常感谢邀请我们。
Walter Isaacson： 史蒂夫·乔布斯每次发布产品时，总会展示那个立于“人文与科技”或“艺术与科学”十字路口的街标指示牌。Daniela，在你们成长的过程中，你曾是一名长笛手，热爱艺术；而Dario则始终是一位科学家。这种差异是否促进了你们的磨合？你认为这种组合对公司而言重要吗？
Dario Amodei： 是的，我认为这种结合正是支撑公司的核心力量之一。我有一个观点：管理一家公司对任何单个人来说都是一项过于庞大的任务，它所涉及的技能范围不可能由一个人全部具备。你必须在公司核心层（比如顶层的10到15个人）搭建起完整的技能互补体系。每家成功的公司都会以不同的方式拆分职责、解决问题。就科学与人文的融合而言，Daniela和我恰好体现了这一点，并对此进行了分工。
Daniela Amodei： 是的。有趣的是，我们曾在2023年开过一次战略研讨会，探讨在Anthropic工作究竟是一种怎样的体验，以及我们该如何体现自己的企业文化。当时我们给出的定义是：一种罕见的科学与人文主义的融合。后来我才意识到，这其实也是对我与Dario之间关系的描述。
Walter Isaacson： 小时候你们就知道彼此长大后会一起共事吗？
Daniela Amodei： 是的。
Dario Amodei： 是的。我想我们俩当时都没想过会去创立一家公司，那根本不是我们规划生活或设定志向的方式。我一直想成为一名科学家，Daniela可以谈谈她的志向。但我过去其实对商业和开公司毫无兴趣。
Daniela Amodei： 从很小的时候起，我和Dario就显得与众不同——我们发自内心地喜欢彼此，从小就是最好的朋友。我同意Dario的说法，创业绝不在我们的人生规划清单上。我们都不是那种热衷于商业的人。
我一直更像是一个典型的“利他理想主义者”，曾在国际发展领域工作。我非常坚定地希望帮助世界各地的人们获得平等的发展机会与权利。我在很小的时候就成了素食主义者，这是我唯一一件走在他前面的事——因为Dario年龄更大，平时总是他先做尝试，但吃素是我先开始的，随后他也成了素食主义者。
Dario Amodei： 是的，我大概比你晚了三年左右。
Daniela Amodei： 其实没有那么久，你很快就被说服了。
Dario Amodei： 因为这听起来确实很有说服力。
Daniela Amodei： 确实。
Walter Isaacson： 常有人问我关于我那些传记著作的问题：如何成为一名卓越的领导者或极具创造力的人？Dario，你刚才说了一个非常深刻的观点——关键不仅在于成为一名卓越的领导者，更在于打造一支优秀的团队。请谈谈你和Daniela是如何划分职责的，以及你们又是如何引入其他人来完善团队的？
Dario Amodei： 我们两人之间最有效的分工方式是：当我专注于宏观战略和研究前沿时，能发挥出最大的效能。我最擅长规划愿景，预判技术演进的下一步走向。实践证明，当我能全身心投入到这方面时，能为公司创造最大的价值。
而在日常运营、人才招聘，以及确保整个机器平稳运转（保证运转中的车轮不散架）方面，则主要由Daniela负责。这种劳动分工让两项工作都能以极高的水准完成，远好于我们因兼顾彼此事务而分心时的状态。
Daniela Amodei： 我们的首席人力官（CPO）对我们两人非常了解，也经常与我们沟通。她曾总结道：“Dario赋予了我们野心，而Daniela让我们取得成功。”我觉得这个概括非常精准。如果没有Dario，Anthropic或许会是一家不错的成功企业，但无法改变世界；而如果只有Dario，我们会有完美的愿景，但落地执行会变得极其复杂。
我们之间的特殊之处在于：首先，我们彼此极度了解；其次，我们的技能在很大程度上实现了近乎完美的互补。更不用说除了我们俩之外，还有另外五位联合创始人，他们各自掌控着公司业务、组织与文化极其关键的部分。很难想象仅凭我们两个人或某一个单独个体，该如何将这么庞大的事业做成。
Dario Amodei： 我认为这是一种巨大的优势。我们有七位联合创始人，在公司中拥有平等的权益，共同承载着这一愿景。我们彼此之间有着绝对的信任。
当我们刚创立Anthropic时，很多人告诫说：“七个联合创始人？这绝对会是一场灾难。”外界普遍认为一家公司需要唯一的最高权力核心。在某些层面上确实如此，但我们成功地让这个模式高效运转了起来。
直到今天，全部七位联合创始人依然都留任在公司，这在联合创始人众多的初创企业中是极其罕见的。
Walter Isaacson： 回到你们的成长经历。你们拥有一对非凡的父母，他们教会了你们明辨是非。他们具体是如何引导你们的？
Daniela Amodei： 我不觉得这是一种刻意的说教。有时我听别人说他们会在餐桌上讨论不同流派的伦理哲学，但我们家完全不是这样。虽然我母亲确实拥有哲学学位，但她从未强迫我们讨论康德之类的理论。
这种教育更多体现在潜移默化的价值观中，比如坚信世界上的每个人都理应享有平等的机会、尊严、权利与尊重。
还有一种特殊的信任感：只要内心葆有善念、善待他人，明白这才是成为一个成功人士的本质，我们就可以自由地选择成为任何想成为的人。
Dario Amodei： 是的，这一切都是隐性的，非常内敛自然。从未有过刻板的教条规定“你必须做什么”或“你必须如何立足于世”。
02 学会用教人的方式教Claude
Walter Isaacson： 如你们所料，我之所以问这个问题，是因为你们现在孕育了一个非常重要的“孩子”——Claude。你们的成长方式，在多大程度上影响了你们如何教会Claude明辨是非？
Dario Amodei： 我们在几个月前发布了Claude的“宪法”（Constitutional AI）。这里面包含了一些很有意思的经验，是我们多年来在不同版本的训练实践中总结出来的。
早期我们设想过给Claude设定各种具体规则，比如“不要协助犯罪”、“不要协助制造生物武器”等等。但后来发现，当你罗列出一长串离散的规则时——这里我用一个比喻，但在技术实现上非常贴切——模型的认知边界会变得十分“尖刺化”，仿佛你试图强行灌输170条彼此孤立且略带主观的死规矩。
我们发现更好的方法是教给模型基本准则：它应当优先考虑什么、该如何推理判断什么是正确的做法。这其实也是教育人类的正确方式。
如果你只是给某人一份禁令清单——“你必须做这个，不可做那个”——它所形成的道德观往往不够稳固。相反，如果你引导它：“这是你应该思考问题的方式，你要学会独立思考，并基于这些基本原则行事——例如开放探究的原则、关怀他人的原则、公平与正义的原则。”所有的行为准则都从这些核心原则中推导衍生而来。
这正是Claude学习的方式。事实证明这种方式极其有效，因为它赋予了Claude面向从未预料过的新情境时举一反三的泛化能力。
Walter Isaacson： Daniela，刚才你说你母亲是研究康德的学者。你有深入研究过哲学和道德哲学吗？
Daniela Amodei： 有趣的是，在Anthropic负责训练Claude性格特质的负责人Amanda（Amanda Askell），本身就拥有哲学博士学位。这在常人看来有些反直觉，大家往往会认为负责大模型性格塑造的一定是计算机科学家，或是研究了数十年机器学习的专家。Amanda同样精通技术，并且亲自进行技术训练，但你在与Claude交流时能真切地感受到它的性格特质：一种富有智慧、调用“人性中更好的一面”来解答问题的体验。
当你在一些不同哲学流派相互冲突的复杂棘手领域对Claude进行提问时，你能尤为深刻地感受到Amanda的影子。Claude会客观地展现：“你可以从这个角度来看待事物，但同时也可以从另一个视角来考量。”
这一点至关重要。随着世界越来越依赖这些模型，你绝不能被单一的哲学流派所禁锢。伦理与道德是极其复杂的，不同文化背景和群体对于“得体与道德的行为”有着截然不同的理解与诉求。
03 从加入OpenAI到分道扬镳，原因：“OpenAI不诚实”
Walter Isaacson： Dario，你曾亲历了现代科技史上最重要的里程碑时刻之一，那就是GPT-1和GPT-2的横空出世，这出乎很多人的意料，甚至可能也出乎你的意料。你当时是OpenAI的研究副总裁。那个时刻究竟是怎样的？
Dario Amodei： GPT-2可以说是Scaling Laws（模型扩展定律）的第一次真正经验主义验证。我并没有深度参与GPT-1，但我深度主导了将其继续做大规模的设想——获取更多的数据源、投入更多的算力，执行一次规模更大、成本更高也更具雄心的实验。其核心假设是：如果我们以更大的规模运行这些语言模型，它们在语言表达和逻辑连贯性上会有飞跃式的提升。
这就像科学史上那些提出决定性实验的关键时刻：你提出了一个看似奇怪的预测，而一旦该预测被证实，你会惊呼：“天啊，我们真的触碰到了重大发现。”我将GPT-2视为Scaling Laws假说的首个真正试金石。
当时最令我玩味的是，外界对它的反应呈现出极其巨大的两极分化。
Walter Isaacson： 你当时感到意外吗？
Dario Amodei： 我个人当时被深深地震撼到了。我看着它心想：“我的天，只要把这东西的规模再放大一百万倍，它在一切领域的表现都会超越人类。”这是现代社会最具决定性的经济和科学节点，只是世人尚未察觉。它将左右国家、经济的走向，以及人类的未来命运。透过它，你仿佛看到了一整个未来的全貌，这确实让我产生了敬畏与恐惧。
我当时不断自问：这意味着什么？这里是开发它的合适土壤吗？接下来会发生什么？我们该如何处理这项技术？我们该把这一切告知谁？
当时我身边大概只有10%的人产生了完全相同的反应，而这些人往往也是最敏锐的一批人。至于其余90%的人，由于GPT-2当时在具体单一任务上的表现尚不惊艳——它能做翻译、提炼摘要、写几行代码——关键在于它的广泛性与通用性，但人们只盯着个别领域的局限并认为“这看起来并不怎么聪明”，因此大多数人只是耸耸肩，对其不屑一顾。
这就像我们最近宣布将利用AI开发针对罕见病的药物，依然能听到来自传统生物医药领域陈词滥调的质疑：“科技界以前也试过”、“模型根本不行”、“模型存在这般那样的缺陷”。
每当看到这些，我都觉得历史在不断重演。模型现在的局限性，终究只是暂时的——6个月后，现在看似困难的事情就会变得简单；12个月后，现在看似不可能完成的事情，模型将能轻而易举地日常处理。我们在GPT-2上看到的一切，正在世界的更多领域不断重演，而世界最终也正在逐步被说服。
Daniela Amodei： 我认为Dario的表述已经非常客气了。我清楚地记得，当时一些极具声望的计算机科学家、AI和机器学习领域的领军人物，甚至在Twitter上对参与该研究的科研人员进行网络霸凌，冷嘲热讽道：“这太愚蠢了，真不明白你们为什么还要谈论这个，这个模型根本毫无能力。”如果你在当时坚信这是一个重大时刻，甚至会被人当作“江湖骗子”。
Dario Amodei： 如今这些言论全都被人选择性遗忘了。当年那些声称“这是伪科学、毫无意义”的研究人员，现在全都在向大模型公司投递简历。虽然我们从未当面点破，但看着他们时我们心里很清楚：我们清楚记得你在2019年说过什么，在这件事上你毫无信誉可言。
Walter Isaacson： Daniela，你当时在OpenAI担任安全副总裁。当GPT-2问世时，我猜你也和Dario一样深感震撼。这是否也让你对技术安全性产生了担忧？
Daniela Amodei： GPT-2本身倒没有让我们感到直接威胁。我们并没有看着那个模型觉得它会带来网络安全隐患之类的风险，它在很多事情上的回答甚至错得有些可笑，依然是一个十分无害的模型。
但正如Dario所提到的，我感受到了一种趋势：如果把GPT-1到GPT-2之间的能力跃升延续到未来，我们或许就能窥见AI的发展方向。
这就像你从未见过小孩子，只见过成年人。起初，你可能会疑惑：“这个走来走去的小不点到底是什么？它真的能成长出心智和能力吗？”但有一天，你突然发现它已经学会了独立行走。这时，你可能就会意识到：“它未来很可能也会逐渐掌握成年人所拥有的大部分能力。”
Walter Isaacson： Dario，你说过你们离开OpenAI的部分原因在于信任的破裂——这是一个很耐人寻味的词，尤其是与Sam Altman之间的信任破裂。你能解释一下你所感受到的信任与诚实破裂究竟是指什么吗？
Dario Amodei： 离开OpenAI并创立Anthropic，归根结底取决于做事原则以及我们究竟想如何构建这项技术，这才是最根本的核心。
过去五年半里，双方在理念上的差异已经逐渐显现。Anthropic始终主张对AI技术进行合理监管，为其发展设立必要的安全护栏；同时投入大量精力研究机制可解释性，试图深入理解模型内部的运行机制。在企业管理上，Anthropic也保持着高度凝聚的企业文化，员工留存率位居行业前列。此外，我们从未卷入其他AI公司曾遭遇的那些负面丑闻。我认为，这些已经足以体现双方在理念上的不同。
真正让我意识到我们必须自立门户、意识到OpenAI不再适合我们的转折点在于：安全议题极其复杂，内部出现分歧是非常正常的。我在Anthropic也经常与联合创始人及同事产生分歧，但我们之所以能化解这些分歧，是因为所有讨论都建立在善意与诚实的基础之上——究竟是该发布这个模型还是该等待？是否该为模型设置更强或更弱的生物安全防护？我们应该投入多少精力推动安全立法，相关法案又该如何设计？这些都是基于善意与理性的分歧，之所以能达成共识，是因为团队内部始终存在信任，大家都确信彼此是在探寻正确答案，且彼此以诚相待。
我所说的信任破裂，是指一个宏观而本质的问题：如果你在一个组织中工作，却无法相信内部的分歧是建立在善意之上，无法相信自己听到的是真话，你又怎能指望去解决这些问题？这就是我们离开并创立Anthropic的原因。
过去五年半的事实，正是我们与该领域其他公司理念差异的最佳证明。如果你继续为一个与你愿景不同的人工作，外界很快就会看不清你究竟代表着什么原则，你最终不得不为别人愿景中的错误买单。
Walter Isaacson： 但我得追问一句：你谈到了价值观等方面的差异，但这与信任破裂有本质区别。信任破裂意味着有人声称拥有相同的价值观，但实际上并没有，导致你无法信任对方。
Dario Amodei： 诚实本身就是我们最核心的价值观之一！如果一个人连诚实这一基本品质都不具备，你根本无从得知他的真实价值观究竟是什么。
Walter Isaacson： 你在Sam身上感受到了这一点？
Daniela Amodei： 就我个人而言，我认为联合创始人团队是一群极具诚信的人，大家对这项技术的未来走向和构建方式拥有高度一致的愿景。当理念分歧达到一定程度时，作为独立组织去践行这一愿景显然是更合乎逻辑的选择。
Dario Amodei： 如果别人内心并不认同你的愿景，你又怎能指望他去落实或共享你的愿景？无论口头上多么赞同，只要没有体现在公司的实际行动中，你除了离开别无选择。
Daniela Amodei： 是的，Anthropic本身就是一家建立在信任基石上的公司。这意味着诚实、正直，以及我们对待彼此和员工的方式，必须直接投射到我们构建和引导技术的方式中。
Dario Amodei： 举个例子：每两周我会召集全员进行一小时的讲话，分享公司内部进展、AI领域前沿、世界大势，以及公司的战略考量。我们内部把这种交流叫做DVQs（Dario Vision Quests，Dario的愿景探寻）。这名字不是我起的，起初我还挺抗拒，觉得这听起来像是我吃药后跑去漫游仙境一样，但大家一直这么叫，最后也就定下来了。
DVQ活动有两条铁律：
第一，我在会上说的任何话都不是最终决策。这让我可以畅所欲言，而不必担心自己随口提到一个想法，底下就真有20个人跑去执行并高喊“CEO发话了，我们必须做X”；
第二，我对全公司保持绝对坦诚。这是一场基于信任的对话，是一种彼此信任的契约关系。
这种信任是我们最大的财富之一，员工信任我和Daniela。有人可能会认为，互信度高意味着分歧会更少，但事实恰恰相反——正是因为高度信任，大家才敢于展开更坦诚、更开放的争论，让不同意见充分暴露。
很多时候我们做出的决策，公司多数人一开始并不赞同，但每一次能让我们渡过难关的，正是大家这种态度：“虽然我现在不理解，但我相信你们是出于正确的初衷，我相信你们有充分的依据，也相信你们在践行真正的信念。”
这意味着管理者可以做出那些在短期内
搜索
分类
- 网页设计
- HTML
- 免费资源
- JavaScript
- CSS
- 教程
