AI行业出台保护原则 AI儿童涩图将被禁止

最近，业界团体Thorn和All Tech Is Human发布了一份生成AI原则（Generative AI Principles）。关于发表这份原则的目的，非营利组织Thorn是为了开展保护儿童免受性虐待的活动，非营利组织All Tech Is Human则是为了推动以人类伦理为中心的技术开发。

作为与AI相关的企业，亚马逊、谷歌、微软、Anthropic、Civitai、Meta、Metaphysic、Mistral AI、OpenAI、Stability AI这10家公司联名承诺会遵守相关准则。另外，提供支持业务的Teleperformance也参与了这个项目。

这份原则要求参与的公司在自家产品和服务中遵守以下承诺：在生成AI的开发阶段，从学习数据中检测并去除与儿童涩情相关的素材。与此同时，还要建立将确认的数据报告给当局的机制。另外在提供产品和服务后，也要检测新生成的内容中是否存在儿童涩情素材，从而保证平台的安全性得到提升。

Thorn指出：通过使用生成AI，大量制作儿童涩情素材变得非常容易，这令人对受害群体的扩大化、复杂化深感担心。经由生成AI输出之后，想确认学习源数据中的受害儿童变得非常困难。另外，只要进行改变姿势之类的技术操作，为不含性元素的图片添加性元素也变得像拼贴画一般简单。

除此之外，生成AI提供大量的儿童涩情素材，会否令社会对此变得迟钝也成了令人担心的一点。接触儿童涩情素材可能与犯罪之间存在关联性，从而扩大犯罪的温床。更可怕的是生成AI还可能为实施儿童性虐待的人提供“建议”，这也明确了要对其积极采取对策的必要性。