教皇弗朗西斯 穿着一件厚重的白色羽绒服。埃隆·马斯克 (Elon Musk) 与竞争对手通用汽车 (GM) 首席执行官玛丽·博拉 (Mary Barra) 携手同行。前总统唐纳德特朗普以戏剧性的方式 被警方拘留。
这些事情都没有真正发生，但人工智能生成的描绘它们的图像在过去一周确实在网上疯传。
这些图片从明显是假的到在某些情况下非常真实，它们愚弄了一些社交媒体用户。例如，模特兼电视名人克里斯西·泰根 (Chrissy Teigen)在推特上说，她认为教皇的羽绒服是真的，并说：“没想过。我不可能在技术的未来中幸存下来。” 这些图片还引发了一系列头条新闻，因为新闻机构急于揭穿虚假图片，尤其是特朗普的图片，特朗普最终于周四被曼哈顿大陪审团起诉，但尚未被捕。
这种情况表明了一个新的在线现实： 新一批流行的人工智能工具的兴起使得创建逼真的图像以及音频和视频变得比以往任何时候都更便宜、更容易。这些图片可能会越来越频繁地出现在社交媒体上。
虽然这些人工智能工具可能会带来表达创造力的新方式，但计算机生成媒体的传播也有可能进一步污染信息生态系统。在多年与视觉效果远不那么复杂的在线错误信息作斗争之后，这可能会增加用户、新闻机构和社交媒体平台审查真实性的挑战。还有人担心人工智能生成的图像可能会被用于骚扰，或进一步驱散分裂的互联网用户。
“我担心它会发展到这样一个地步，即网上会出现如此多的虚假、高度现实的内容，以至于大多数人只会以他们的部落本能作为他们认为真实的指南，而不是基于实际知情的意见基于经过验证的证据，”合成媒体专家 Henry Ajder 说，他是公司和政府机构的顾问，包括 Meta Reality Labs 的欧洲咨询委员会。
非营利组织Partnership on AI 的人工智能和媒体诚信负责人克莱尔·莱博维茨 (Claire Leibowicz) 表示，与 最近因ChatGPT 等工具而激增的人工智能生成的文本相比，图像在人们观看图像时尤其能激发人们的情绪。产业集团。这会使人们更难放慢速度并评估他们正在看的东西是真的还是假的。
更重要的是，协调一致的不良行为者最终可能会尝试批量创建虚假内容——或暗示真实内容是计算机生成的——以混淆互联网用户并引发某些行为。
威胁情报组织 Memetica 首席执行官本·德克尔 (Ben Decker) 表示：“即将到来的特朗普的偏执......潜在的逮捕创造了一个非常有用的案例研究，以了解潜在的影响是什么，我认为我们非常幸运，事情没有向南发展。” . “因为如果更多的人以协调的方式集体产生这个想法，我认为我们可以开始看到线上到线下的影响。”
快速发展的工具
计算机生成的图像技术近年来发展迅速，从在自然灾害期间反复分享的一条鲨鱼游过被洪水淹没的高速公路的 Photoshop 图像，到四年前开始大量制作大多数不存在的假照片的网站。人。
许多最近流行的 AI 生成的图像都是由一个名为 Midjourney 的工具创建的，这是一个不到一年的平台，允许用户根据短文本提示创建图像。在其网站上，Midjourney 将自己描述为“一个自筹资金的小型团队”，只有 11 名全职员工。
粗略浏览一个深受 Midjourney 用户欢迎的 Facebook 页面，就会发现人工智能生成的图像，其中包括看似醉酒的教皇弗朗西斯、老年版的猫王和库尔特柯本、穿着机器人特斯拉紧身连衣裤的马斯克以及许多令人毛骨悚然的动物创作。那只是过去几天的事情。
Midjourney 首席执行官大卫霍尔兹周五在一封电子邮件中告诉 CNN，最新版本的 Midjourney 仅适用于部分付费用户。根据 Holz 的 Discord 帖子，由于“异常需求和试用滥用”，Midjourney 本周暂停了早期版本的免费试用，但他告诉 CNN，这与病毒图片无关。特朗普逮捕图片的创作者还声称他被禁止访问该网站。
公司 Discord 网站上的规则页面要求用户：“不要使用我们的工具制作可能激怒、不安或引起戏剧性的图像。这包括血腥和成人内容。”
“适度是很难的，我们很快就会推出改进的系统，”霍尔兹告诉美国有线电视新闻网。“我们正在听取专家和社区的大量反馈和想法，并努力做到真正深思熟虑。”
在大多数情况下，最近病毒图像的创建者似乎并没有恶意行事。特朗普被捕的图片是由在线调查新闻机构 Bellingcat 的创始人创作的，他清楚地将这些图片标记为他的捏造，即使其他社交媒体用户并不那么挑剔。
制定安全措施
平台、人工智能技术公司和行业团体都在努力提高计算机生成内容的透明度。
包括 Meta 的 Facebook 和 Instagram、Twitter 和 YouTube 在内的平台都有限制或禁止共享可能误导用户的操纵媒体的政策。但随着人工智能技术使用的增长，即使是这样的政策也可能会破坏用户的信任。例如，如果一张假图片意外地通过了平台的检测系统，“它可能会给人们带来错误的信心，”Ajder 说。“他们会说，‘有一个检测系统说它是真的，所以它一定是真的。’”
技术解决方案的工作也在进行中，例如，为 AI 生成的图像添加水印或在图像的元数据中包含透明标签，因此通过互联网查看它的任何人都会知道它是由计算机创建的。AI 伙伴关系与ChatGPT 的创建者 OpenAI、TikTok、Adobe、Bumble 和 BBC 等合作伙伴一起为合成媒体制定了一套标准的、负责任的做法 ，其中包括诸如如何披露图像是 AI 生成的以及如何披露等建议。公司可以共享有关此类图像的数据。
“我们的想法是，这些机构都致力于披露、同意和透明，”莱博维茨说。
包括马斯克和苹果公司联合创始人史蒂夫沃兹尼亚克在内的一群技术领袖本周写了一封公开信，呼吁人工智能实验室停止对最强大的人工智能系统的培训至少六个月，理由是“对社会和社会的深远风险”。人性。” 不过，尚不清楚是否有实验室会采取这样的步骤。Ajder 说，随着技术的迅速改进和普及，除了一小部分致力于负责任实践的公司之外，立法者可能需要参与进来。
“人工智能的新时代不能掌握在少数靠这些工具致富的大公司手中，我们需要使这项技术民主化，”他说。“与此同时，也存在非常真实和合理的担忧，即采用激进的开放方法，即你只是开源一个工具或对其使用的限制非常少，这将导致大规模的危害......我认为立法可能会在统治一些更激进的开放模式方面发挥作用。”
这些事情都没有真正发生，但人工智能生成的描绘它们的图像在过去一周确实在网上疯传。
这些图片从明显是假的到在某些情况下非常真实，它们愚弄了一些社交媒体用户。例如，模特兼电视名人克里斯西·泰根 (Chrissy Teigen)在推特上说，她认为教皇的羽绒服是真的，并说：“没想过。我不可能在技术的未来中幸存下来。” 这些图片还引发了一系列头条新闻，因为新闻机构急于揭穿虚假图片，尤其是特朗普的图片，特朗普最终于周四被曼哈顿大陪审团起诉，但尚未被捕。
这种情况表明了一个新的在线现实： 新一批流行的人工智能工具的兴起使得创建逼真的图像以及音频和视频变得比以往任何时候都更便宜、更容易。这些图片可能会越来越频繁地出现在社交媒体上。
虽然这些人工智能工具可能会带来表达创造力的新方式，但计算机生成媒体的传播也有可能进一步污染信息生态系统。在多年与视觉效果远不那么复杂的在线错误信息作斗争之后，这可能会增加用户、新闻机构和社交媒体平台审查真实性的挑战。还有人担心人工智能生成的图像可能会被用于骚扰，或进一步驱散分裂的互联网用户。
“我担心它会发展到这样一个地步，即网上会出现如此多的虚假、高度现实的内容，以至于大多数人只会以他们的部落本能作为他们认为真实的指南，而不是基于实际知情的意见基于经过验证的证据，”合成媒体专家 Henry Ajder 说，他是公司和政府机构的顾问，包括 Meta Reality Labs 的欧洲咨询委员会。
非营利组织Partnership on AI 的人工智能和媒体诚信负责人克莱尔·莱博维茨 (Claire Leibowicz) 表示，与 最近因ChatGPT 等工具而激增的人工智能生成的文本相比，图像在人们观看图像时尤其能激发人们的情绪。产业集团。这会使人们更难放慢速度并评估他们正在看的东西是真的还是假的。
更重要的是，协调一致的不良行为者最终可能会尝试批量创建虚假内容——或暗示真实内容是计算机生成的——以混淆互联网用户并引发某些行为。
威胁情报组织 Memetica 首席执行官本·德克尔 (Ben Decker) 表示：“即将到来的特朗普的偏执......潜在的逮捕创造了一个非常有用的案例研究，以了解潜在的影响是什么，我认为我们非常幸运，事情没有向南发展。” . “因为如果更多的人以协调的方式集体产生这个想法，我认为我们可以开始看到线上到线下的影响。”
快速发展的工具
计算机生成的图像技术近年来发展迅速，从在自然灾害期间反复分享的一条鲨鱼游过被洪水淹没的高速公路的 Photoshop 图像，到四年前开始大量制作大多数不存在的假照片的网站。人。
许多最近流行的 AI 生成的图像都是由一个名为 Midjourney 的工具创建的，这是一个不到一年的平台，允许用户根据短文本提示创建图像。在其网站上，Midjourney 将自己描述为“一个自筹资金的小型团队”，只有 11 名全职员工。
粗略浏览一个深受 Midjourney 用户欢迎的 Facebook 页面，就会发现人工智能生成的图像，其中包括看似醉酒的教皇弗朗西斯、老年版的猫王和库尔特柯本、穿着机器人特斯拉紧身连衣裤的马斯克以及许多令人毛骨悚然的动物创作。那只是过去几天的事情。
Midjourney 首席执行官大卫霍尔兹周五在一封电子邮件中告诉 CNN，最新版本的 Midjourney 仅适用于部分付费用户。根据 Holz 的 Discord 帖子，由于“异常需求和试用滥用”，Midjourney 本周暂停了早期版本的免费试用，但他告诉 CNN，这与病毒图片无关。特朗普逮捕图片的创作者还声称他被禁止访问该网站。
公司 Discord 网站上的规则页面要求用户：“不要使用我们的工具制作可能激怒、不安或引起戏剧性的图像。这包括血腥和成人内容。”
“适度是很难的，我们很快就会推出改进的系统，”霍尔兹告诉美国有线电视新闻网。“我们正在听取专家和社区的大量反馈和想法，并努力做到真正深思熟虑。”
在大多数情况下，最近病毒图像的创建者似乎并没有恶意行事。特朗普被捕的图片是由在线调查新闻机构 Bellingcat 的创始人创作的，他清楚地将这些图片标记为他的捏造，即使其他社交媒体用户并不那么挑剔。
制定安全措施
平台、人工智能技术公司和行业团体都在努力提高计算机生成内容的透明度。
包括 Meta 的 Facebook 和 Instagram、Twitter 和 YouTube 在内的平台都有限制或禁止共享可能误导用户的操纵媒体的政策。但随着人工智能技术使用的增长，即使是这样的政策也可能会破坏用户的信任。例如，如果一张假图片意外地通过了平台的检测系统，“它可能会给人们带来错误的信心，”Ajder 说。“他们会说，‘有一个检测系统说它是真的，所以它一定是真的。’”
技术解决方案的工作也在进行中，例如，为 AI 生成的图像添加水印或在图像的元数据中包含透明标签，因此通过互联网查看它的任何人都会知道它是由计算机创建的。AI 伙伴关系与ChatGPT 的创建者 OpenAI、TikTok、Adobe、Bumble 和 BBC 等合作伙伴一起为合成媒体制定了一套标准的、负责任的做法 ，其中包括诸如如何披露图像是 AI 生成的以及如何披露等建议。公司可以共享有关此类图像的数据。
“我们的想法是，这些机构都致力于披露、同意和透明，”莱博维茨说。
包括马斯克和苹果公司联合创始人史蒂夫沃兹尼亚克在内的一群技术领袖本周写了一封公开信，呼吁人工智能实验室停止对最强大的人工智能系统的培训至少六个月，理由是“对社会和社会的深远风险”。人性。” 不过，尚不清楚是否有实验室会采取这样的步骤。Ajder 说，随着技术的迅速改进和普及，除了一小部分致力于负责任实践的公司之外，立法者可能需要参与进来。
“人工智能的新时代不能掌握在少数靠这些工具致富的大公司手中，我们需要使这项技术民主化，”他说。“与此同时，也存在非常真实和合理的担忧，即采用激进的开放方法，即你只是开源一个工具或对其使用的限制非常少，这将导致大规模的危害......我认为立法可能会在统治一些更激进的开放模式方面发挥作用。”
加载中,请稍侯......
精彩评论