当地时间周一，一段关于五角大楼发生爆炸的虚假陈述，伴随着一张由人工智能生成的图片，在社交媒体上广泛传播，甚至一度引发了美股盘中的短暂下跌。

该事件再一次引发了市场对两方面问题的关注：一是在人工智能大潮下，如何对AI进行监管；二是在高度程序化交易的海外市场，机构如何预防类似的AI假消息对市场造成的潜在扰动。

(资料图片)

一则AI假消息引发市场波动

当地时间周一，一名脸书用户发布了一张声称五角大楼发生爆炸的照片。照片中，大量烟雾从建筑物冒出。这一消息迅速在推特上被转发，引起了广泛关注。一些媒体也相继转发了这一消息。

该图片开始在社交媒体上广泛流传时，美国股市一度出现了明显下跌，即美东时间上午10时整刚过，美股标普500指数短暂下跌0.3%至盘中低点，之后才止跌回升。

随后，五角大楼部队保护局（PFPA）和阿灵顿消防部门在推特上发表联合声明称：“在五角大楼保留区或附近没有发生爆炸或事件，对公众没有直接的危险或危害”。

部分专业人士也在社交媒体上对该图像进行了检查，并指出了差异。开源组织Bellingcat的数字调查员Nick Walters表示，想伪造这样一个事件非常困难，甚至可以说根本不可能。通过观察图像中建筑物的正面，以及围栏融入人群屏障的方式就能轻松判断真伪。Nick Walters还称，对于这样一个重大的新闻报道，没有其他第一手目击者的照片或视频发布在网上，就没那么可信。

据外媒报道，该图片的来源尚未确定。

由于近年来AI生成非常逼真的“深度伪造”图像已经多次产生轰动，该事件再一次引发了市场对两方面问题的关注：一是在人工智能大潮下，如何对AI进行有效监管；二是在高度程序化交易的海外市场，机构如何预防类似AI假消息对市场造成的潜在扰动。

像监管核技术一样监管AI？

虚假的人工智能图像虽然对创作者和观众来说是有趣的创新，但自ChatGPT发布以来，这也是人工智能专家关注的最大问题之一。

自ChatGPT问世，两个月内使用者突破1亿，加强监管AI的呼声四起。3月31日，意大利个人数据保护局宣布，即日起禁止该国民众使用ChatGPT，并表示已对ChatGPT的开发商OpenAI公司立案调查。意大利个人数据保护局认为，3月20日ChatGPT平台出现了用户对话数据和付款服务支付信息丢失情况。此外，平台没有就收集处理用户信息进行告知，缺乏大量收集和存储个人信息的法律依据。

ChatGPT的开发商OpenAI日前发表文章称，就潜在的好处和坏处而言，超级智能将比人类过去不得不面对的其他技术更加强大。“我们可以拥有一个急剧繁荣的未来，但我们必须管理风险才能达到这个目的。鉴于存在风险的可能性，我们不能只是被动回应。”

OpenAI称，“核能是具有这种特性的技术的一个常用的历史例子，合成生物学是另一个例子。”

值得一提的是，关于社交媒体的监管问题也再度引发争议。目前，许多传播骗局的推特账户都带有蓝勾认证，这曾经标志着社交网络已经验证了该账户是谁或它声称的是什么。但在去年埃隆·马斯克入主推特后，该公司现在给任何支付每月Twitter Blue订阅费用的账户都打上了蓝勾认证。

一方面是很多已经认证过的名人和记者拒绝为曾经免费的服务付费，并表示可以将这个认证过的蓝色标记从他们的账户中移除掉；另一方面则是，只需要8美元就可以创建一个深度伪造的账户。

程序化交易也需规避风险

此外，还有部分财经大V在社交媒体上表示，前述AI假消息让美股盘中发生波动，主要是程序化交易目前没有分辨类似消息真伪的能力。

国泰君安证券非银团队数据显示，2012-2021年美国对冲基金规模实现了10%的年均复合增速，由于机构持有和交易的权益资产不断增多，机构投资者开始转向程序交易。程序交易是指运用自动化的计算机程序，或运用人工智能，根据预设的算法，进行自动化的投资和买卖行为。程序交易往往根据指定的市场技术资料和财务比率（例如市盈率、市净率、移动平均线）等，自动由电脑操作买卖行为。

借助程序交易，机构投资者可以实现分散投资风险、提高交易效率以及获取特定收益形态的需求。在美股交易中，程序交易占比逐渐提升，从2006年的30%增长至2021年的70%-80%。

业内人士提示，随着程序化交易所占比重的增加，程序化交易者对交易和行情时延、交易并发能力要求提升，对于经营机构、相关厂商的技术能力和网络安全也提出了更高的挑战。

（来源：上海证券报）

关键词：