【案情】

傅某在社交平台上发布“广告”，声称可通过“AI换脸”技术，帮助他人通过相关平台的人脸验证，以登录非本人账号。

　　原来，傅某使用相关软件，用“客户”提供的头像制作换脸视频，预存在手机相册中，再点击客户要求通过的人脸验证链接，采用软件控制相关平台的人脸识别系统，读取到其指定的预先制作的人脸视频，以此通过平台的人脸验证。甚至客户只提供身份证号，傅某即从某些非法平台上购买相关公民信息，以制作换脸视频。

　　傅某被公安机关抓获后，被检察机关以非法控制计算机信息系统罪提起公诉。

　　【说法】

傅某辩称，其只是借助AI软件，使得系统读取到的是其预先制作的人脸视频，并未“控制”平台的识别系统，刑法也未明确通过AI换脸帮助他人通过实名认证的行为定性为犯罪。

　　法院经审理认为，傅某使用软件程序，改变手机系统原本调用自身摄像头的方式，并用虚拟摄像头助手程序读取指定的人脸视频，实现替换摄像头的功能。这种对后台系统进行干扰的行为，接近一种控制行为，符合“非法控制计算机信息系统罪”的犯罪特征。此外，傅某为制作验证视频而购买他人身份信息，构成侵犯公民个人信息罪。二罪是目的和手段的关系，属于刑法上的“牵连犯”，故从一重罪处断，也就是以非法控制计算机信息系统罪追究傅某刑事责任。

　　法官提示，网络用户一方面要保护自身合法权益，另一方面不能触犯法律红线。对于监管机构而言，则需要持续跟进AI技术发展前沿，研判潜在行业风险，充分利用现有的算法备案机制、算法安全评估机制、科技伦理评估机制等，做好人工智能相关治理。

——来源：2025年4月10日，人民日报，第19版