抖音治理AI不当使用安全监管已成为行业发展前提3月27日,抖音发布关于不当利用A

抖音治理AI不当使用 安全监管已成为行业发展前提
3月27日,抖音发布关于不当利用AI生成虚拟人物的治理公告。针对违规使用AI生成虚拟人物的行为,平台会对违规视频下架,对违规账号进行取消其投稿和营利权限、抹除账号粉丝、封禁账号等处置,并利用模型、技术识别能力等手段,进行长期系统的识别发现和处置。同时,平台已掌握部分黑产团伙不当使用AI生成虚拟人物用于犯罪的线索,将报警打击。
人工智能技术的快速发展,丰富了互联网内容生态,但也带来技术滥用的挑战。方正证券认为,从源头上对于数据安全、隐私和知识产权的保护、对于AI内容的监管等,已经成为生成式人工智能发展的重要前提。在政府充分发挥监管职能的同时,安全厂商积极布局,发挥技术能力守住安全底线。
公司方面,国投智能发布了“慧眼”视频图像鉴真工作站,可以对深度合成伪造的视频图像、AIGC生成视频图像进行监测鉴定;人民网旗下人民链已经中央网信办备案,作为基础设施服务链,面向全国提供数据上链、存证、确权、交易服务工作。