生成式人工智能深度伪造引发国家安全危机
Peter Garnry
股票策略主管
摘要: 生成式人工智能被誉为生产力的福音，但在一次针对发达国家高级官员的人工智能深度伪造案件之后，生成式人工智能成为了国家安全的威胁。 各国政府出台新法规打击人工智能，风险投资公司纷纷从人工智能行业撤出，从而打破了人工智能的投资热潮。 公众对 AI 生成的新闻的不信任度急剧上升，政府开始实施新法律，只允许一小部分实体传播公共新闻。
尽管从麦肯锡到企业界以及顶尖经济学家都认为人工智能是一项伟大的生产力提升工具，并将在未来几十年持续推动经济增长，但也有人认为它是一种潜在的新型武器。 在一场高风险的游戏中，某犯罪团伙部署了有史以来最具欺骗性的生成式人工智能深度伪造技术，通过网络钓鱼使一名高级政府官员泄露了来自发达国家的绝密国家信息。 这一大胆举动和成功引发了二战以来最严重的国家安全危机，开创了影响深远的人工智能监管新时代。
为应对生成式人工智能带来的灾难性副作用，美国和欧盟采取了一项历史性举措，宣布生成式人工智能制作的所有内容都应贴上“AI 制造”的标签，否则将受到严厉处罚。 政府以国家安全为由，迫使 OpenAI 和谷歌限制第三方访问其基础大型语言模型，意味着只有政府批准的实体才能使用这些新型生成式人工智能系统，对生成式人工智能的炒作造成较大打击。 新法规扼杀了生成式人工智能热潮，由于担心生成式人工智能将更难商业化，风险投资逐渐褪去。
随着人工智能生成的内容在所有互联网信息中的占比上升到 90%，人工智能深度伪造事件从国家安全危机演变为公众对互联网信息的全面不信任。 所有发达国家纷纷制定了严厉的法律，规定只有经政府批准的新闻机构才能向公众发布新闻，从而对社交媒体平台和“违规”新闻机构造成了沉重打击。 银行业为避免洗钱而实施的 KYC 法规已广为人知，而提供生成式人工智能应用的技术公司也必须遵守这一法规，以避免某些国家和实体获取该技术。
市场影响：经政府批准传播公共新闻的传统媒体公司价值飙升，纽约时报股价翻倍。 由于灾难性的深度伪造技术是使用 Adobe 软件制作的，政府对该公司进行了处罚，Adobe 股价暴跌。