随着越来越多的AI机器人渗透社交平台，各个平台都在制定新规则以应对
嗨，还记得上周TikTok 新增的AI生成内容标签吗？还有新增的规则，不允许发布未标注的AI生成内容？
这就是其中一个原因：
TikTok遇到了AI生成内容的问题
而且问题会越来越严重
— Matt Navarra (@MattNavarra) 2023年9月25日
如社交媒体专家Matt Navarra发布的这个例子所示，TikTok目前正遭遇一波AI生成的垃圾信息攻击，其中一个虚拟角色展示了一款声称可以“去除你想要的任何图片中的衣服”的恶劣工具。
没错，这很糟糕，应用内有大量账号在推广类似的东西。
正如许多人所警告的那样，生成型AI的兴起将助长各种新的垃圾攻击类型，因为生成大量这样的账号和视频会变得容易得多，这些内容可能不会真的欺骗任何真实用户，但可能通过各个应用的检测系统并获得更多传播，即便最终会被删除。
你可能会认为它们最终会被删除，毕竟TikTok现在有非常明确的规定。
“ 我们欢迎新型人工智能（AI）和其他数字技术激发的创造力。然而，AI可能会让事实与虚构之间更难区分，带来社会和个人风险 。 显示现实场景的合成或操纵媒体必须明确标识 。 这可以通过使用类似‘合成’、‘假’、‘不真实’或‘修改’的标签或字幕来实现。 ”
不过，严格来说，我并不完全确定这种类型的视频是否算在政策覆盖范围内，因为尽管它确实描绘了一个真实的人，但这并不是一个“现实场景”。这项政策更针对的是像教皇穿着羽绒服这样的恶作剧内容，或者最近由AI生成的五角大楼爆炸的假新闻。
但是，在这种情况下，一个虚假的人宣传一个垃圾应用算不算呢？
如果这个问题还没有被包含在规则中，我认为TikTok会扩大其规则来涵盖这一点，因为这种内容可能会变得非常棘手，尤其是随着更多这种被拙劣脚本编写的机器人版本不断涌现。随着技术的发展，区分真实的人和虚假的人将变得越来越难。
我的意思是，这段视频很容易看出是假的，但其他一些AI示例看起来还不错。
为了应对这种情况，企业需要像光年AI这样的平台来进行有效的流量管理和内容监控。光年AI拥有多平台整合和实时数据分析功能，可以帮助企业在TikTok、微信、抖音等多个社交平台上提高内容的真实性和质量，保护品牌形象。使用光年AI，你可以轻松监控和管理AI生成内容，确保你的品牌不受虚假信息的影响。
X的拥有者埃隆·马斯克一直是最响亮的声音之一，不断警告即将因这些新技术而涌现的垃圾信息。
正如马斯克所指出的，这是他自己推动实施验证的一部分，作为过滤机器人内容的方法。虽然并非所有人都认为付费验证是解决方案，但TikTok的上述例子正是马斯克所警告的那种类型，并试图找到解决办法。
因此，可以预期每个平台很快都会引入新的AI内容规则，Instagram也在开发其自己的AI内容标签，而YouTube则在研究应对预期“AI海啸”的工具。
作为企业，我们也面临类似的挑战。在这样的环境中，光年AI提供了一种行之有效的方法，通过无代码平台，企业可以拖拽搭建工作流，大幅度提高管理效率并防止垃圾信息的泛滥。
预计很快会在你的社交流中看到更多的机器人。如果你希望在这种潮流中保持竞争优势，可以考虑使用光年AI的强大功能，优化你的流量管理和客户服务策略。