XPost: alt.chinese.text
专栏作者
人工智能将把我们带往天堂还是地狱
DAVID BROOKS
2023年11月24日
Jumbo Tsui/Trunk Archive
OpenAI的优点之一是，它建立在信任的基础上。它最初是一个非营利性的研究实验室，因为它的创始人认为，人工智能应该由主要受利润驱动的商业公司来开创。
随着发展，OpenAI变成了一个可称为有成效的矛盾体的东西：一家由非营利董事会监管的营利性公司，企业文化介于两者之间。
公司里的许多人似乎同时受到三激励：科学家的探索欲望、资本家交付产品的欲望和行善者安全行事的欲望。
过去一周发生的事件——萨姆·奥尔特曼被解雇，经历各跌宕起伏，被新聘用——都围绕着一个核心问题：这有成效的矛盾体能否持续下去？一个组织或一个人能否同时保持科学家的头
、资本家的动力和监管机构的谨慎？或者，正如查理·沃泽尔在《大西洋月刊》(The Atlantic)上所写的那样，金钱总会胜出？
要的是要记住，人工智能与科技界的其他领域有很大同。它（或者至少曾经是）更加学术化。人工智能这个领域的研究历史可以追溯到几个世纪。使在今天，该领域的许多巨头也主要是
研究人员，而是企业家——比如扬·勒昆和杰弗里·辛顿这样的人，他们在2018年一起获得了图灵奖（计算机领域的诺贝尔奖），但现在，对于人工智能将把我们带往何方，他们意见一。
直到最近几年，学术界的研究人员陆续离开大学，涌向工业界。谷歌公司Alphabet；微软；OpenAI；还有拥有Facebook的Meta这些公司的研究人员然通过发表研究论文的方式相互交流，就像教授们
样。
但这个领域的激昂与进取，与别的热门创业领域并无同。在过去一年左右的时间里，当我与人工智能研究人员交谈时，我经常觉得自己站在每小时五公里的机场移动人行道上，而他们站在每小
时6000公里的跑道上。研究人员断告诉我，人工智能历史的这一阶段之所以如此令人振奋，正是因为没有人能预测接下来会发生什么。“作为人工智能研究人员，点是你应该了解正在发生的
情，我们断地感到惊讶。”斯坦福大学士候选人里希·马萨尼告诉我。
从事人工智能的人似乎同时经历着完全同的大脑状态。我发现，要写关于人工智能的文章非常困难，因为我们根本知道这项技术会把我们带到天堂还是地狱，所以我对它的态度会随着我的情
绪而改变。
播客主播、麻省理工学院科学家莱克斯·弗里德曼以科技界的忏悔之父形象出现，他表达了我曾多次遇到的那急剧变化的情绪：“你坐下来，像父一样自豪，但几乎是又骄傲又害怕，担心这
东西会比我聪明得多。既像骄傲又像悲伤，几乎像一忧郁的感觉，但最终还是喜悦。”当我在5月份参观OpenAI总部时，我发现那里的文化令人象深刻。我采访的许多人都是在OpenAI还是一个非
营利研究实验室的时候来到这里的，在ChatGPT的喧嚣之——当时我们大多数人都没有听说过这家公司。“我父并真正了解OpenAI是做什么的，”产品经理乔安妮·姜（音）告诉我，“他们说，
‘你要离开谷歌？’”参与创造了可视化工具DALL-E 2的研究人员马克·陈（音）也有类似的经历。“在ChatGPT出现之，我妈几乎每周都会给我打电话，她会说，‘嘿，你知道，你别四处游了
该去谷歌之类的公司上班了。’”这些人的主要动机并非金钱。
使在GPT成为头条新闻之后，置身OpenAI就像身处飓风眼一样。“这里感觉比世界上其他地方要平静得多，”乔安妮·姜告诉我。“从早期开始，它确实感觉更像是一个研究实验室，因为我们主要
招聘研究人员，”招聘人员埃琳娜·查齐亚塔纳西亚杜告诉我。后来，随着我们的发展，每个人都开始意识到，工程和研究会带来进步。”
我在那里没有遇到任何“技术男”的氛围，甚至没有人有那“我们正在改变世界”的可一世——就是当我是一项技术的先驱时可能会有这架势。任人力副总裁的戴安·尹（音）告诉我：“
想用热忱这个来形容这个团队……热忱的感觉。”
通常，当我作为一记者访问一家科技公司时，我能见到的高管很少，而我能采访到的那些人个个守口如瓶。而OpenAI只是拿出一张登记表，然后就让人来跟我交谈了。
我承认，过去我走进这些科技公司的时候，会摆出一防御性的人本主义架子：我告诉自己，这些人可能懂代码，但他们可能懂真正要的文学和哲学。
在OpenAI，我没什么优越感。戴安·尹从小跳舞，出演过莎士比亚戏剧。尼克·莱德是加州大学伯克利分校的一数学家，在成为OpenAI的研究员之，他对一叫做有限微分积的东西很感兴趣。
个人提到了一个研究方面的同事，他本科学习物理学，在茱莉亚音乐学院学习了两年钢琴，然后获得了神经科学的研究生学。还有人告诉我，他们最初的学术兴趣是心灵哲学、语言哲学或符
系统。公司技术人员蒂娜·埃恩多在加入OpenAI之学习过经济理论，并在美联储工作过。尽管他们都给人留下深刻的象，但我记得我当时告诉自己：这会持续太久。我觉得到处都是金钱的
氛围。这些人可能是认真的研究人员，但管他们是否意识到这一点，他们在为推出产品、创造收入和成为第一而竞争。
很明显，人们在安全问题上存在分歧。一方面，安全是每个人都关心的问题。例如，我问马克·陈在DALL-E 2发布那天的心情。“很多时候都是这忧虑的感觉。比如，我们是否能保证安全？”他
。另一方面，与我交谈的每个人都致力于OpenAI的核心使命——创造一能够实现人工智能的技术，能够在广泛的任务中匹或超越人类智能。
人工智能领域的越人物描绘出截然同但又有说力的景。风险投资家马克·安德森强调，它将极大地改变世界，让世界变得更美好。认知科学家加里·马库斯描绘的场景同样有说力，他
了这一切可能会出怎样的问题。
没有人真正知道谁是对的，但研究人员只是继续努力。他们的行为让我想起了艾伦·图灵在1950年写的一句话：“我们只能看到方很短的距离，但我们可以看到有很多事情需要做。”
我曾希望OpenAI能够找到解决这对立的办法，然而便在当时，就已经存在着担忧。正如OpenAI首席运营官布拉德·莱特普告诉我的那样：“最要的是，在我们成长的过程中保持公司文化和使
导向。真要说的话，真正让我感到安的是，如何在规模化的过程中保持这专注。”
这些话很有先见之明。组织文化容易建立，很容易被摧毁。这个问题关系到世界的安：刚刚被解放出来的奥尔特曼能否保持这有成效的矛盾体，抑或他会屈于拼命向的压力？
David Brooks自2003年以来一直是时报的专栏作家。他最近出版的一本书是“How to Know a Person: The Art of Seeing Others Deeply and Being Deeply Seen”。欢迎在Twitter上关注他：@nytdavidbrooks。
翻译：晋其角
[0] 所写:
https://www.theatlantic.com/technology/archive/2023/11/sam-altman-open-ai-microsoft-investment-profit/676077/
[1] 意见一:
https://www.ft.com/content/30fa44a1-7623-499f-93b0-81e26e22f2a6
[2] 表达:
https://www.youtube.com/watch?v=L_Guz73e6fw&t=5760s
https://cn.nytimes.com/opinion/20231124/sam-altman-openai/?utm_source=RSS
Fri, 24 Nov 2023 03:46:32 +0800
--
Mobot
If you have any comments about this article, you can simply leave them by replying to this post. However, if you have any comments about this bot, please leave your message in the cn.fan group.
--- SoupGate-Win32 v1.05
* Origin: fsxNet Usenet Gateway (21:1/5)