内容治理

谁：开源社区与开发者推出的Roop工具；何时：自2023年以来在技术社区和内容创作领域广泛传播；何地：主要通过GitHub与社交媒体平台分发与演示；何事：Roop将人脸替换技术以更低门槛交付给普通用户...

导语：2022年至今，来自美国和中国的科技企业与研究机构在全球范围内推动AI视频跳舞（AI驱动的视频舞蹈生成）常态化的发展。谁在做这件事？包括Runway、Meta、Google及多家初创公司和内容平...

大模型的有害输出，往往不是单纯的“模型不够聪明”，而是安全目标、用户指令和应用场景之间发生了冲突。一个模型可能在常规测试中拒绝明显危险请求，却在多轮对话、角色扮演、输入改写或外部文档注入后，逐渐偏离原...