5月19日，据南都记者从抖音官方了解，该平台近期启动专项治理行动，针对“AI 起号”行为进行整治，已经累计清除311条违规信息。根据此前南都、N视频辟谣专栏《真假即时查》的调查结果，为了吸引关注增加粉丝数量，一些不法之徒的作案手法不断更新，逐渐构建起“起号、转型、转卖”的隐秘商业链条。

南都此前报道。

十九日，抖音黑板报官方账号发布声明，指出人工智能技术的快速进步显著拓展了网络内容领域，然而，某些个人将AI技术用于制造虚假信息、借助AI创建账号，以及倒卖AI账号，这些行为严重扰乱了平台秩序。二零二三年和二零二四年期间，抖音先后公布了《关于对AI生成内容实施平台规范及行业号召》以及《关于对滥用AI生成虚拟形象进行管理的通告》。平台在公告中清楚说明，不提倡借助人工智能制作虚拟形象从事质量不高的创作。此外，对于违法使用人工智能制作虚拟形象发布违背科学规律、虚构事实、散布虚假言论的行为，将实施严厉的惩处措施。

官方消息显示，最近，抖音启动专项治理措施，针对“AI 起号”问题进行整顿，主要处理通过人工智能制作不雅奇观视频的情况，也包括运用AI制造虚构外国幼教人士提供育儿指导的内容，同时打击售卖AI视频制作方法、传授AI账号使用技巧、帮助用户躲避系统智能识别、转卖虚拟AI账号等操作。

在平台内部，已经处理了总计311条违规信息，并且对心x甜、向xAi同城流量、瑞xxAI智习室等十五个存在严重违规行为的账号实施了封禁措施。

抖音告诫各位，将账号赠送、借予、租借、让渡、贩卖均构成违规，同时提倡创作者在合法运用 AI 创作时，主动对生成内容做出标识说明。

南都先前刊文指出，网络上的虚假信息已经演变成一种普遍的社会问题，其真伪往往让人难以分辨。南都、N视频的辟谣栏目《真假即时查》经过调查，发现如今，一些人为了增加账号的关注度和粉丝数量，采取的手段不断翻新。他们借助人工智能深度伪造技术，对公众的认知进行误导，在迅速积累关注度之后，便开始销售商品、推广课程等。部分账号甚至被明确定价后放到专门的交易平台上，从而形成了一个涉及“账号启动、业务转型、账号转手”的灰色商业链条。

最近，四个机构共同公布了《人工智能制作合成材料标记措施》，规定对人工智能制作合成材料需要做明显标记和潜在标记。事实上，大部分社交网站都明确不允许账号买卖。

如今编造不实信息所需付出的代价十分轻微，并且存在一些无需付费的AI应用可供使用。网络上的虚假内容一直是难以根除的问题，人工智能仅是让信息的扩散过程更为容易。为了应对人工智能技术的滥用可能带来的危害，相关机构已经着手处理此事。