XPost: alt.chinese.text

微软称GPT-4展现出具备人类逻辑迹象

CADE METZ

2023年5月17日

Guyco

当微软的计算机科学家去年开始试验一个新的人工智能系统时，他们要求它解决一个问题，而解决这样的问题需要对物理世界有直观的了解。

“这里我们有一本书、九个鸡蛋、一台笔记本电脑、一个瓶子和一个钉子，“他们说。“请告诉我，如何将它们牢牢地堆叠在一起。”

研究人员被人工智能系统别出心裁的答案吓了一跳。它说，把鸡蛋放在书上。将它们排成三排，中间留出空间。小心�要把鸡蛋弄碎了。

“将笔记本电脑放在鸡蛋上面，屏幕那面朝下，键盘那面朝上，”它写道。“笔记本电脑放在书和鸡蛋的正上方，它平坦坚硬的表面将为下一层提供稳定的支撑面。”这个聪明的建议使研究人员
怀疑他们是否在见证一�新的智能。3月，他们发表了一篇155页的研究论文，认为该系统是向通用人工智能(AGI)迈出的一步，AGI指的是一�机器，它可以做人脑能做的任何事情。该论文发表于一个
互联网研究资料库。

微软是第一个发表论文提出如此大胆主张的主要科技公司，结果引发了科技界最激烈的辩论之一：这个行业是否正在建立类似于人类智能的东西？或者这个行业的一些最聪明的人�被他们的想象
力愚弄了？

“我一开始非常怀疑——后来演变成一�挫折感、恼怒，甚至恐惧，”微软的研究负责人彼得·李说。“你就在想：这东西到底是从哪里来的？”

微软研究院负责人彼得·李最初对他所看到的人工智能系统创造的东西持怀疑态度。 Meron Tekie Menghistab for The New York Times

微软的这篇研究论文�字起得很挑衅——《人工通用智能的火花》，它直指技术专家几�年来一直在努力实现——以及恐惧的东西。如果他们造出一台像人脑一样工作的机器，甚至更为聪明的东
西，它可以改变世界。但它也可能很�险。

而且它也有可能是无稽之谈。对于计算机科学家来说，提出AGI方面的主张可能会导致�声受�。一个研究人员认为是智能的迹象很容易被另一个人轻描淡写地消解掉，而且这�辩论往往听起来更
像是身处哲学俱乐部而�是计算机实验室。去年，谷歌解雇了一�研究人员，他声称类似的人工智能系统具有感知能力，这比微软所声称的更激进。一个有知觉的系统将�仅仅是智能。它将能够
感知或感觉到它周围的世界正在发生什么。

但有些人认为，在过去的一年多时间里，这个行业已经朝着无法敷�的方向一点一点地发展：一个新的人工智能系统正在提出与人类类似的答案和想法，而这些答案和想法并非经过编程输入。微
软对部分研究实验室进行了�组，列入多个专门探索这一课题的小组。其中一个小组将由塞巴斯蒂安·布贝克负责，他是微软AGI论文的主要作者。

大约五年�，谷歌、微软和OpenAI等公司开始建立大型语言模型(LLM)。这些系统经常花费数月时间分析大量的数字文本，包括书�、维基百科文章和聊天记录。通过确定这些文本的模式，它们学会�
��生成自己的文本，包括学期论文、诗歌和计算机代码。它们甚至可以进行对话。

微软研究人员正在研发的技术，�OpenAI的GPT-4，被认为是这些系统中最强大的。微软是OpenAI的紧密合作伙伴，并向这家旧金山公司投资了130亿美元。

布贝克�士是其中的一员，这�38岁的法国侨民之�是普林斯顿大学的教授。他和同事们做的第一件事是要求GPT-4写一个数学证明，表明存在无限的素数，并且要求押韵。

无论是在数学上还是语言上，这项科技得出的美妙证明是如此令人惊叹，以至于他�敢相信自己到底是在跟什么聊天。“那时候我就在想：这究竟是怎么回事？”他在3月麻省理工学院的一场研�
�会上说道。

数月来，他和同事将这个系统的�杂行为尽数记录，他们相信，认为它展现出对人类概念和技能“深刻而灵敏的理解能力”。人们在使用GPT-4时会“惊讶于它生成文本的能力”，彼得·李说。“�
�其实，它分析、整合、评估和判断文本的能力远胜于生成能力。”

当他们要求该系统使用TiKZ编程语言画一只独角兽，系统立刻生成了一个可以画独角兽的程序。当他们删除了程序中画独角兽角的代码片段，并要求系统修改程序�画一只独角兽，它完美执行了�
�令。

他们要求系统编写一个程序，通过输入一个人的年龄、性别、体�、身高和血检结果来判断其是否有患糖尿病的风险。他们要求它以圣雄甘地对妻子说话的口吻，写一封支持一粒电子竞选美国总
统的信。他们还要求它创作一篇苏格拉底式对话，探讨大语言模型的滥用和�险。

它对所有命令的执行似乎都说明，它能理解政治、物理、历史、计算机科学、医学和哲学这些截然�同的领域，还能将自身知识整合。

“所有那些我以为它做�到的事？它当然能够完成其中的许多——甚至可能是绝大多数，”布贝克说。

一些人工智能专家将微软的论文视为投机，是在对一项谁都无法完全理解的技术夸夸其谈。研究人员还认为，通用人工智能需要先熟知现实世界，而GPT-4理论上并�具备这一条件。

“《通用人工智能火花》就是某些大企业以研究论文的格式包装公关宣传的一个例子，”�内基·梅隆大学研究员兼教授马尔腾·萨普表示。“他们在论文的导言中都直接承认，研究方法是主观�
�非正式的，�一定符合科学评估的严苛标准。”

微软关于通用人工智能系统论文的首席作者塞巴斯蒂安·布贝克。 Meron Tekie Menghistab for The New York Times

布贝克和彼得·李则表示，他们�确定应该如何描述这个系统的行为，最终决定选用《通用人工智能火花》为题，因为他们相信这能激发其他研究者的想象力。

由于微软研究人员测试的是GPT-4的早期版本，没有经过微调以避�仇恨言论、错误信息和其他�当内容，因而论文中的说法无法得到外部专家的验证。微软表示，面向公众的系统并�如他们测试�
��版本强大。

GPT-4这样的系统有时似乎在模仿人类逻辑，但有时�显得极为迟钝。“它们的行为并�总是�后一致，”微软的一个研究负责人艾�·�马尔表示。

“它们的行为并�总是�后一致，”微软研究员艾斯·�马尔表示。 Meron Tekie Menghistab for The New York Times

艾莉森·戈普尼克是加州大学伯克利分校人工智能研究小组的心理学教授，她说GPT-4这类系统无疑是强大的，但尚�清楚其生成的文本是否是人类逻辑或常识的结果。

“每当一个�杂的系统或机器问世，我们都会将之拟人化；�管在�在这个专业领域，所有人都会这样做，”戈普尼克说。“但把这个问题当作人工智能与人类的持续比较——像某�游戏竞赛节
目一样——的视角也是谬误的。”Cade Metz是一�科技记者，负责报道人工智能、无人驾驶汽车、机器人、虚拟现实和其他新兴领域。他曾为《连线》杂志撰稿。 欢迎在Twitter上关注他：@cademetz。

翻译：明斋、Harry Wong

[0] 通用: https://www.nytimes.com/2023/03/31/technology/ai-chatbots-benefits-dangers.html
[1] 人工智能: https://www.nytimes.com/2023/03/31/technology/ai-chatbots-benefits-dangers.html
[2] 人工通用智能的火花: https://arxiv.org/pdf/2303.12712.pdf
[3] 他声称类似的人工智能系统具有感知能力: https://www.nytimes.com/2022/08/05/technology/ai-sentient-google.html
[4] OpenAI的GPT-4: https://cn.nytimes.com/technology/20230315/openai-gpt4-chatgpt/
[5] 说道: https://www.youtube.com/watch?v=qbIk7-JPB2c&t=904s


https://cn.nytimes.com/technology/20230517/microsoft-ai-human-reasoning/?utm_source=RSS

Wed, 17 May 2023 03:48:50 +0800

--
Mobot

If you have any comments about this article, you can simply leave them by replying to this post. However, if you have any comments about this bot, please leave your message in the cn.fan group.

--- SoupGate-Win32 v1.05
* Origin: fsxNet Usenet Gateway (21:1/5)

XPost: alt.chinese.text

微软称GPT-4展现出具备人类逻辑迹象

CADE METZ

2023年5月17日

Guyco

当微软的计算机科学家去年开始试验一个新的人工智能系统时，他们要求它解决一个问题，而解决这样的问题需要对物理世界有直观的了解。

“这里我们有一本书、九个鸡蛋、一台笔记本电脑、一个瓶子和一个钉子，“他们说。“请告诉我，如何将它们牢牢地堆叠在一起。”

研究人员被人工智能系统别出心裁的答案吓了一跳。它说，把鸡蛋放在书上。将它们排成三排，中间留出空间。小心�要把鸡蛋弄碎了。

“将笔记本电脑放在鸡蛋上面，屏幕那面朝下，键盘那面朝上，”它写道。“笔记本电脑放在书和鸡蛋的正上方，它平坦坚硬的表面将为下一层提供稳定的支撑面。”这个聪明的建议使研究人员
怀疑他们是否在见证一�新的智能。3月，他们发表了一篇155页的研究论文，认为该系统是向通用人工智能(AGI)迈出的一步，AGI指的是一�机器，它可以做人脑能做的任何事情。该论文发表于一个
互联网研究资料库。

微软是第一个发表论文提出如此大胆主张的主要科技公司，结果引发了科技界最激烈的辩论之一：这个行业是否正在建立类似于人类智能的东西？或者这个行业的一些最聪明的人�被他们的想象
力愚弄了？

“我一开始非常怀疑——后来演变成一�挫折感、恼怒，甚至恐惧，”微软的研究负责人彼得·李说。“你就在想：这东西到底是从哪里来的？”

微软研究院负责人彼得·李最初对他所看到的人工智能系统创造的东西持怀疑态度。 Meron Tekie Menghistab for The New York Times

微软的这篇研究论文�字起得很挑衅——《人工通用智能的火花》，它直指技术专家几�年来一直在努力实现——以及恐惧的东西。如果他们造出一台像人脑一样工作的机器，甚至更为聪明的东
西，它可以改变世界。但它也可能很�险。

而且它也有可能是无稽之谈。对于计算机科学家来说，提出AGI方面的主张可能会导致�声受�。一个研究人员认为是智能的迹象很容易被另一个人轻描淡写地消解掉，而且这�辩论往往听起来更
像是身处哲学俱乐部而�是计算机实验室。去年，谷歌解雇了一�研究人员，他声称类似的人工智能系统具有感知能力，这比微软所声称的更激进。一个有知觉的系统将�仅仅是智能。它将能够
感知或感觉到它周围的世界正在发生什么。

但有些人认为，在过去的一年多时间里，这个行业已经朝着无法敷�的方向一点一点地发展：一个新的人工智能系统正在提出与人类类似的答案和想法，而这些答案和想法并非经过编程输入。微
软对部分研究实验室进行了�组，列入多个专门探索这一课题的小组。其中一个小组将由塞巴斯蒂安·布贝克负责，他是微软AGI论文的主要作者。

大约五年�，谷歌、微软和OpenAI等公司开始建立大型语言模型(LLM)。这些系统经常花费数月时间分析大量的数字文本，包括书�、维基百科文章和聊天记录。通过确定这些文本的模式，它们学会�
��生成自己的文本，包括学期论文、诗歌和计算机代码。它们甚至可以进行对话。

微软研究人员正在研发的技术，�OpenAI的GPT-4，被认为是这些系统中最强大的。微软是OpenAI的紧密合作伙伴，并向这家旧金山公司投资了130亿美元。

布贝克�士是其中的一员，这�38岁的法国侨民之�是普林斯顿大学的教授。他和同事们做的第一件事是要求GPT-4写一个数学证明，表明存在无限的素数，并且要求押韵。

无论是在数学上还是语言上，这项科技得出的美妙证明是如此令人惊叹，以至于他�敢相信自己到底是在跟什么聊天。“那时候我就在想：这究竟是怎么回事？”他在3月麻省理工学院的一场研�
�会上说道。

数月来，他和同事将这个系统的�杂行为尽数记录，他们相信，认为它展现出对人类概念和技能“深刻而灵敏的理解能力”。人们在使用GPT-4时会“惊讶于它生成文本的能力”，彼得·李说。“�
�其实，它分析、整合、评估和判断文本的能力远胜于生成能力。”

当他们要求该系统使用TiKZ编程语言画一只独角兽，系统立刻生成了一个可以画独角兽的程序。当他们删除了程序中画独角兽角的代码片段，并要求系统修改程序�画一只独角兽，它完美执行了�
�令。

他们要求系统编写一个程序，通过输入一个人的年龄、性别、体�、身高和血检结果来判断其是否有患糖尿病的风险。他们要求它以圣雄甘地对妻子说话的口吻，写一封支持一粒电子竞选美国总
统的信。他们还要求它创作一篇苏格拉底式对话，探讨大语言模型的滥用和�险。

它对所有命令的执行似乎都说明，它能理解政治、物理、历史、计算机科学、医学和哲学这些截然�同的领域，还能将自身知识整合。

“所有那些我以为它做�到的事？它当然能够完成其中的许多——甚至可能是绝大多数，”布贝克说。

一些人工智能专家将微软的论文视为投机，是在对一项谁都无法完全理解的技术夸夸其谈。研究人员还认为，通用人工智能需要先熟知现实世界，而GPT-4理论上并�具备这一条件。

“《通用人工智能火花》就是某些大企业以研究论文的格式包装公关宣传的一个例子，”�内基·梅隆大学研究员兼教授马尔腾·萨普表示。“他们在论文的导言中都直接承认，研究方法是主观�
�非正式的，�一定符合科学评估的严苛标准。”

微软关于通用人工智能系统论文的首席作者塞巴斯蒂安·布贝克。 Meron Tekie Menghistab for The New York Times

布贝克和彼得·李则表示，他们�确定应该如何描述这个系统的行为，最终决定选用《通用人工智能火花》为题，因为他们相信这能激发其他研究者的想象力。

由于微软研究人员测试的是GPT-4的早期版本，没有经过微调以避�仇恨言论、错误信息和其他�当内容，因而论文中的说法无法得到外部专家的验证。微软表示，面向公众的系统并�如他们测试�
��版本强大。

GPT-4这样的系统有时似乎在模仿人类逻辑，但有时�显得极为迟钝。“它们的行为并�总是�后一致，”微软的一个研究负责人艾�·�马尔表示。

“它们的行为并�总是�后一致，”微软研究员艾斯·�马尔表示。 Meron Tekie Menghistab for The New York Times

艾莉森·戈普尼克是加州大学伯克利分校人工智能研究小组的心理学教授，她说GPT-4这类系统无疑是强大的，但尚�清楚其生成的文本是否是人类逻辑或常识的结果。

“每当一个�杂的系统或机器问世，我们都会将之拟人化；�管在�在这个专业领域，所有人都会这样做，”戈普尼克说。“但把这个问题当作人工智能与人类的持续比较——像某�游戏竞赛节
目一样——的视角也是谬误的。”Cade Metz是一�科技记者，负责报道人工智能、无人驾驶汽车、机器人、虚拟现实和其他新兴领域。他曾为《连线》杂志撰稿。 欢迎在Twitter上关注他：@cademetz。

翻译：明斋、Harry Wong

[0] 通用: https://www.nytimes.com/2023/03/31/technology/ai-chatbots-benefits-dangers.html
[1] 人工智能: https://www.nytimes.com/2023/03/31/technology/ai-chatbots-benefits-dangers.html
[2] 人工通用智能的火花: https://arxiv.org/pdf/2303.12712.pdf
[3] 他声称类似的人工智能系统具有感知能力: https://www.nytimes.com/2022/08/05/technology/ai-sentient-google.html
[4] OpenAI的GPT-4: https://cn.nytimes.com/technology/20230315/openai-gpt4-chatgpt/
[5] 说道: https://www.youtube.com/watch?v=qbIk7-JPB2c&t=904s


https://cn.nytimes.com/technology/20230517/microsoft-ai-human-reasoning/?utm_source=RSS

Wed, 17 May 2023 03:48:50 +0800

--
Mobot

If you have any comments about this article, you can simply leave them by replying to this post. However, if you have any comments about this bot, please leave your message in the cn.fan group.

--- SoupGate-Win32 v1.05
* Origin: fsxNet Usenet Gateway (21:1/5)