AI（人工智能）技术飞速发展有靠谱的股票配资平台吗，逐渐在金融、商业、医疗等领域落地应用。然而，相关技术的快速普及也带来了诸多治理和安全挑战，尤其是在AI换脸、数据隐私、模型安全等方面。2025年两会期间，多位代表和委员围绕AI治理、AI安全等问题展开热议。
全国人大代表、小米集团创始人雷军提出应加快AI换脸拟声技术的立法进程，明确技术应用边界，完善侵权证据规则，并加大对利用AI技术实施犯罪行为的刑事处罚力度。全国政协委员、360集团创始人周鸿祎提出“以模制模”概念，利用安全大模型来解决大模型应用中的安全问题，建议对大模型的“幻觉”问题给予柔性监管。全国政协委员、奇安信集团董事长齐向东指出，AI发展正面临三个方面的安全问题，包括人工智能大模型自身的安全问题、利用人工智能开展网络攻击的问题，以及通过攻击人工智能引发的“网络攻击大爆炸”。他认为应从技术、制度、成果应用三方面入手，系统提升安全能力。
另外，“靳东两会建议AI换脸立法”“雷军回应国庆7天被AI雷军骂了8天” 等话题也在今年两会期间登上微博热搜，引发行业进一步讨论AI换脸换声的风险问题。对于AI伪造技术发展，瑞莱科技联合创始人萧子豪对第一财经表示，近一年来利用AI换声、换脸进行诈骗、造谣等违法犯罪行为屡禁不止、愈演愈烈，呈显著上升趋势。犯罪行为变得更具迷惑性，也更加隐蔽。
在萧子豪看来，背后的动机一方面是利益驱动，如AI诈骗迷惑性极强，颠覆普通人“眼见为实”的常识，一旦受害者“上钩”，不法分子不会轻易放过“大鱼”。从瑞莱的统计数据来看，AI诈骗涉案金额远超一般诈骗案件。AI造谣传谣是为了在短时间内博取关注、赚取流量，铤而走险，再伺机变现。AI造谣传谣的治理难点主要是造谣传言的成本很低，但辟谣的成本很高且时效性滞后。另外一方面，近年来生成式AI技术能力突飞猛进并持续开源开放，大量工具、产品问世，极大降低了不法分子利用AI的门槛和成本。
目前针对泛滥的“AI换脸”情况，有专家建议通过水印标注进行防御。但有业界人士指出，水印标注是主动式防御，它的门槛较高，需要提前对图片、视频等内容进行处理。如在照片内嵌入一些视觉上不可感知的噪声。当他人利用照片训练模型，会因为这种隐形干扰影响对视觉表征的提取，此类为对抗样本攻击。还有一种半脆弱性水印，是另一种主动防御方式，即添加水印之后，如果有人编辑照片，水印就会被破坏，后期检测能够得知照片经过处理。但水印无法直接阻止照片、视频被换脸，仅可以事后检测和认证图像的真实性。
对于AI换脸引发的安全风险，萧子豪表示，AI技术衍生安全风险的治理问题是个非常复杂的社会问题，涉及很多方面。既要在法律法规层面事前规范引导、事后监管惩戒，也需要有技术手段令AI更加安全、可控。在技术层面，生成和鉴伪的对抗性非常强，需要持续长期投入，就像是“猫鼠游戏”，此消彼长，相互博弈。与互联网产品或者其他AI产品不同有靠谱的股票配资平台吗，AI鉴伪产品并非开发完就结束，而是要随着生成技术的进展不断研究、更新、迭代，没有终点。
下一篇：没有了