记者从国家安全部了解到，数字化时代，人工智能（AI）正逐渐渗透到千行百业和日常生活中，推动经济社会高质量发展。值得注意的是，AI工具若被不法分子利用，会对我国关键数据、基础设施、社会秩序造成损害，成为威胁国家安全的“隐形武器”。

虚假信息的“投毒者”

AI技术中的“深度伪造（Deepfake）”能力是“深度学习”与“伪造”的结合，人工智能的深度学习算法能够进行自动化的数据处理，从而实现图片、音频和视频的智能模拟和伪造。该技术用于影视、游戏、广告等行业，可创作出更多逼真、有趣的虚拟角色和场景，翻新娱乐体验。然而，一旦被滥用或恶意使用，将给个人合法权益、社会稳定和国家安全带来诸多安全风险和挑战。国家安全机关工作发现，某境外反华敌对势力通过深度伪造技术生成虚假视频，企图向境内传播，误导舆论、制造恐慌，对我国家安全构成威胁。

关键信息的“窃密者”

从简单的文字生成，到复杂的多模态创作，生成式AI的强大学习能力令人瞩目。AI的学习和决策过程依赖于大量的数据，决定了AI工具可能收集并存储用户输入的信息。据公开报道，因开源库发生故障，某境外AI模型的部分用户可以看到其他活跃用户聊天记录中的标题甚至是名字、支付地址等隐私信息，造成个人信息泄露。如果不注意防范，相关人员信息数据可能成为境外间谍情报机关实施拉拢策反、渗透破坏活动的指引，造成国家安全风险隐患。

意识形态的“挑拨者”

AI算法注重知识的重组、创造和输出，如果人为对其进行有偏见性的数据导入和算法重构，可能会演变为偏见性意识形态输出，成为境外反华敌对势力煽风点火的重要武器。特别是在社会热点事件的前期，因事件自带流量，在情况尚不明朗、公众情绪累积时，AI生成的谣言往往“趁虚而入”，炮制虚假信息，误导公共舆论，造成恶劣影响。国家安全机关工作发现，个别西方国家和境外势力通过批量操纵账号，在社交媒体大肆发布特定观点或情感化内容，妄图利用性别对立、劳资纠纷等议题，对我国进行渗透破坏、污蔑抹黑，进而破坏社会稳定。

国家安全机关提示

面对人工智能技术发展带来的新机遇和新挑战，需要前瞻研判相关风险，提高国家安全意识和自我防范意识，共同筑牢维护国家安全的人民防线。

提高法治思维

近年来，我国出台《生成式人工智能服务管理暂行办法》等部门规章，发布《人工智能安全治理框架》等，在法治轨道上加强人工智能治理。公民应主动学习相关法律知识，遵守相关产业标准、技术标准和行业规范，推动人工智能技术良性健康发展。

加强宣传普及

多措并举加强公众对人工智能的认识与理解，提高公众对人工智能安全性的认识，提升对信息的辨识与分析能力，让公众了解在使用AI技术过程中可能面临的风险，提高警惕意识、绷紧防范之弦。

增强辨别能力