1. Forum
  2. Usenet
  3. TALK.POLITICS.CHINA

  • =?utf-8?Q?[NYT]=20OpenAI=E7=A7=B0=E4=B8=AD=E4=BF=84=E5=88=A9=E7=94=A8=E

    From Mobot@21:1/5 to All on Fri May 31 16:52:36 2024
    XPost: alt.chinese.text

    OpenAI称中俄利用其人工智能技术纵舆论

    CADE METZ

    2024年5月31日

    OpenAI在旧金山的办公室。 Jason Henry for The New York Times

    OpenAI周四表示，它发现并破坏了五个利用其生成式人工智能技术，以欺骗方式纵世界各地公众舆论、影地缘政治的线上活动。

    OpenAI在一份关于秘密影活动的报告中表示，这些活动由俄罗斯、中国、伊朗和以色列的国家行为体和私营公司实施。它们使用OpenAI的技术来生成社交媒体帖子、翻译和编辑文章、撰写标题和调
    试计算机程序，通常是为了赢得对政治活动的支持，或者在地缘政治冲突中左右公众舆论。

    社交媒体研究人员表示，OpenAI的报告是一家大型人工智能公司首次披露其特定工具如何被用于此类在线欺骗。最近，生成式人工智能的兴起令人们对该技术可能如何助长在线虚假信息产生疑问，
    尤其是在全球各地都在举行大选举的年份。

    OpenAI的首席研究员本·尼莫说，在人们纷纷猜测此类活动中使用了生成式人工智能之后，该公司的目标是展示这项技术如何改变在线欺骗的现实。“我们的案例研究提供了一些目最广泛报道、
    续时间最长的影力活动的实例，”他说。

    尼莫表示，这些活动经常使用OpenAI的技术发布政治内容，但该公司很难确定它们是针对特定的选举，还是只是为了挑拨人们。他还说，这些活动未能获得太多的关注，人工智能工具似乎没有扩大
    其覆盖面或影力。

    “这些影力运作然难以吸引受众，”尼莫说。

    但大西洋理事会数字法医研究实验室的高级主管格雷厄姆·布鲁基警告，随着生成式人工智能技术日益强大，在线虚假信息的格局也可能发生变化。本周，ChatGPT聊天机器人的制造商OpenAI表示，它
    已经开始训练一新的旗舰人工智能模型，将带来“更高水平的能力”。

    “这是一新型的工具，”布鲁基说。“它会产生什么影，还有待观察。”

    （《纽约时报》已起诉OpenAI及其合作伙伴微软，称其侵犯了与人工智能系统相关新闻内容的版权。）

    与谷歌、Meta和微软一样，OpenAI也提供在线聊天机器人和其他人工智能工具，这些工具可以撰写社交媒体帖子、生成逼真的图像和编写计算机程序。该公司在报告中表示，其工具已被用于研究人
    追踪多年的影力活动，包括被称为“二身”的俄罗斯活动和被称为“垃圾邮件伪装”的中国活动。

    一个影力活动在Telegram上发布的帖子，OpenAI说，这是利用它的工具生成的。 via OpenAI

    OpenAI表示，“二身”利用OpenAI的技术，在X上用英语、法语、德语、意大利语和波兰语发表乌克兰的评论。该公司的工具还被用于将支持乌克兰战争中俄罗斯一方的文章翻译、编辑成英语和
    语，并将乌克兰的新闻文章转化为Facebook帖子。

    该公司表示，OpenAI的工具还被用于此一直为人知的俄罗斯攻击活动，主要是通过Telegram时通讯务针对乌克兰、摩尔多瓦、波罗的海国家和美国的人民。该活动利用人工智能，用俄语和英
    对乌克兰战争、摩尔多瓦政治局势和美国政治发表评论。这项工作还使用了OpenAI工具来调试计算机代码，这些代码显然是为了自动向Telegram发布信息而设计的。OpenAI表示，这些政治评论几乎没
    得到回和“点赞”。这些努力有时也够成熟。有一次，该活动发布了明显由人工智能生成的文本。“作为一个人工智能语言模型，我在这里提供帮助，并提供所需的评论，”一篇帖子写道
    还有几次，它用蹩脚的英语发帖，OpenAI称其为“糟糕的语法”。

    “垃圾邮件伪装”长期以来一直被视为中国行动，OpenAI表示，它使用OpenAI技术调试代码，就如何分析社交媒体和研究时事寻求建议。该公司的工具还被用来在社交媒体上发布帖子，贬低中国政府
    的批评者。

    伊朗的活动与一个为国际虚拟媒体联盟的组织有关，该组织使用OpenAI工具制作和翻译长篇文章和标题，目标是在网上传播亲伊朗、以色列和美国的情绪。

    OpenAI将以色列的活动称为“芝诺芝诺”，称其由一家管理政治活动的公司负责管理。它使用OpenAI技术生成虚构的人物和传记，在以色列、加拿大和美国的社交媒体务上代替真实的人，并发布
    伊斯兰信息。

    OpenAI的报告称，虽然当今的生成式人工智能可以帮助提高政治活动的效率，但这些工具并没有像许多人工智能专家预测的那样，制造出大量令人信的虚假信息。

    “这表明，我们对人工智能支持的影力纵和人工智能支持的虚假信息的一些最大担忧尚未成为现实，”Graphika首席情报官杰克·斯塔布斯说。Graphika追踪社交媒体务的纵行为，并审查了
    OpenAI的调查结果。

    Cade Metz撰写有关人工智能、无人驾驶汽车、机器人、虚拟现实和其他技术新兴领域的新闻。点击查看更多关于他的信息。

    翻译：纽约时报中文网

    [0] OpenAI: https://www.nytimes.com/2024/05/28/technology/openai-gpt4-new-model.html
    [1] 在线虚假信息: https://www.nytimes.com/interactive/2024/05/19/technology/biased-ai-chatbots.html
    [2] 产生疑问: https://www.nytimes.com/2023/06/25/technology/ai-elections-disinformation-guardrails.html
    [3] 全球各地都在举行大选举的年份: https://cn.nytimes.com/world/20240111/election-disinformation-2024/
    [4] 训练一新的旗舰人工智能模型: https://www.nytimes.com/2024/05/28/technology/openai-gpt4-new-model.html
    [5] 起诉: https://www.nytimes.com/2023/12/27/business/media/new-york-times-open-ai-microsoft-lawsuit.html
    [6] 像许多人工智能专家预测的那样: https://www.nytimes.com/2024/04/02/technology/an-ai-researcher-takes-on-election-deepfakes.html


    https://cn.nytimes.com/technology/20240531/openai-influence-campaigns-report/?utm_source=RSS

    Fri, 31 May 2024 11:31:07 +0800

    --
    Mobot

    If you have any comments about this article, you can simply leave them by replying to this post. However, if you have any comments about this bot, please leave your message in the cn.fan group.

    --- SoupGate-Win32 v1.05
    * Origin: fsxNet Usenet Gateway (21:1/5)