XPost: alt.chinese.text
谷歌DeepMind 用于识别人工智能生成的图像的工具，SynthID，周二与谷歌云合作发布了测试版。
_图片来源：Jonathan Raa/Zuma Press_
Isabelle Bousquette
2023年9月1日11:40 CST 更新
Google DeepMind推出可用于识别人工智能(AI)所生成图像的新工具，给企业带来了应在什么情况下为客户标记出AI生成的内容这样一疑问。
这项为SynthID的新工具于周二发布，是Google DeepMind与Google Cloud合作推出的测试版。
SynthID的工作原理是，在Google Cloud的文本到图像生成器Imagen所创建的图像上添加水。通过扫描图像上的数字水，SynthID可以评估图像由Imagen创建的可能性有多大。
Google Cloud的云AI和行业解决方案部副总裁June Yang说：“我们是第一家为客户提供直接将水嵌入图像像素之能力的云务提供商，这个水人眼可见，会影图像质量。”
AI研究实验室Google DeepMind和云计算务提供商Google Cloud都属于Alphabet (GOOG)旗下业务。
到目为止，其应用范围还只是图像，但该公司表示，或可发展为把音频、视频和文本纳入进来。
企业已在研究把生成式AI用于一系列面向客户的应用领域，包括生成广告语、撰写新闻稿、制作广告牌图像、帮助开展头脑风暴为产品和务起，以及规划照片摄或总结消费者对产品的评价
事情。
然而，企业在何时提醒客户他们正与AI撰写的营销文案互动等问题上意见一。一些企业认为这很关键，另一些则认为，只要内容准确，来源并要。
例如，同于政治人物或人影像在社交媒体上遭篡改的情形，广告中使用的虚构角色是出自人类之手还是由AI打造可能并要。
总的来说，如果是通常需要注明某人字（比如所发布图片的摄影师）的情况，或者是内容生成所用模型以版权可能受保护的材料进行训练的情况，看法往往是应披露相关信息。但如果情况是使
用了公司自己的数，且公众一般会期待此处出现作者或来源信息（比如广告），看法则是披露的必要性没那么大。
“只要准确就行，对吧？这就是他们关心的，”Choice Hotels首席信息官Brian Kirkland说。“在我们的工作中，要的是内容的质量和准确性，而是来源。”
美国西北大学(Northwestern University)凯洛格管理学院(Kellogg School of Management)管理与组织助理教授Hatim Rahman说，当一家公司能够用自己的数集训练生成式AI模型，并确保内容的准确性和原创性时，就
可以自行决定是否披露生成式AI的使用情况。
他说，已经在外包文案撰写等工作的公司并披露营销材料由谁撰写，公众也没有对披露这些信息的期望。他还表示，图像编辑平台Adobe Photoshop流行起来时，也出现过类似问题，如今大多数公司
都披露它们使用的图片是经过图像处理的。
但Rahman表示，如果公司使用的是利用公开数训练的公开模型，那么披露可能会产生法律问题，因为相关模型可能是根受版权保护材料训练的，过这方面还没有明确的法律法规。
Kirkland称，Choice Hotels希望对用来训练模型的数进行管理和保护，从而在推进任何用例之确保准确性。
软件公司Laserfiche的企业战略高级副总裁兼首席信息官Thomas Phelps说，该公司禁止员工将AI生成的内容视为自己的内容，并要求他们在使用AI生成材料时必须标明。
软件公司SAP首席营销和解决方案官Julia White说，披露内容来源也可能是公司与客户建立信任和透明度的一方式。
水晶和珠宝制造商施洛世奇(Swarovski)首席数字和信息官Lea Sonderegger说：“归根结底，这是我们对客户的绝对责任。我们欠人类客户一句话：这些内容是从哪里来的？”
支付公司Fleetcor首席信息官Scott duFour表示，披露生成式AI的使用将成为一标准，就像注明一人类作者的字已是典型做法。
“在公司材料中注明诸如统计数和研究的来源、或者作者和摄影师的字都是司空见惯的事情，”他说。“我明白为何对AI生成的图像给予同样透明的署会有什么同。”
https://cn.wsj.com/amp/articles/%E7%94%9F%E6%88%90%E5%BC%8Fai%E5%A4%A7%E7%83%AD-%E4%BD%86%E7%94%9F%E6%88%90%E5%86%85%E5%AE%B9%E6%98%AF%E5%90%A6%E5%BA%94%E5%91%8A%E7%9F%A5%E5%AE%A2%E6%88%B7-8aecab86
Fri, 01 Sep 2023 12:33:03 +0800
--
Mobot
If you have any comments about this article, you can simply leave them by replying to this post. However, if you have any comments about this bot, please leave your message in the cn.fan group.
--- SoupGate-Win32 v1.05
* Origin: fsxNet Usenet Gateway (21:1/5)