语言选择：

∷

当前位置：首页 >

抖音推出AI 反网暴行动从“被动处置”向“主动保护”转型

发布时间：2026-06-12 15:20:08浏览次数：次

<article><section data-type="rtext"><p>评论区刷屏的一句“到七天了吗”，看似正常，却可能是对某个网购消费者的无端围猎。近日，针对网络暴力呈现的新形态，抖音推出AI反网暴行动，上线AI反网暴Agent（智能体），让网暴识别模型、研判模型与人工协同工作，并优化外呼救助机制，覆盖风险发现、***研判、主动治理到外呼救助，建立起早干预、早保护的治理体系，平台治理实现从“被动等举报”到“主动找风险” 的转变。</p><p>系统升级后，平台日均识别出的潜在被网暴风险人群扩大 91.5%，每天有数千名用户收到预警后主动开启防网暴功能，因风险等级高而被人工外呼援助的受害者数量增长147%。</p><p><em data-scene="strong">不用等举报信号   平台主动识别潜在风险</em></p><p>如今的网暴早已不是直白的辱骂，更多是表情包阴阳怪气、谐音梗攻击、断章取义带节奏，这些隐蔽的恶意很难被传统审核识别；还有些伤害是长期、零散的骚扰，积累起来同样会让人身心俱疲。</p><p>传统 “人工审核+举报处置” 治理策略已难以适配复杂的网络生态：一方面，依赖用户举报，往往等处理时，伤害已经造成，难以做到提前预警保护；另一方面，常规审核只能筛查数天内的内容，容易遗漏持续时间长、跨热点周期的攻击，也无法兼顾未成年人、老年人等不同群体的心理承受能力，比如对成年人来说无关紧要的玩梗，可能会给孩子带来巨大心理压力。</p><p><i class="pic-con"></p><p>抖音升级后的 AI 反网暴Agent，可以让网暴识别模型与研判模型同时工作，在一些风险发酵的早期就捕捉到用户的求助“信号”。其中，网暴识别模型不再只盯着单条评论的关键词，而是会关注用户的整体互动情况 —— 当评论区突然涌入大量负面言论、有人频繁访问某个人的主页、@某账号的异常信息增多时，系统就会开始计算 “网暴风险得分”。更重要的是，AI 会全天候复盘误判案例，自主学习新的网暴手段，哪怕是刚流行起来的新梗攻击，也能快速识别，防止恶意钻空子。</p><p>网暴研判模型则会给平台开启“上帝视角”，从***维度展开全局分析。它会整合用户近30 天内的文字、图片、***、音频等互动数据，还原完整的***脉络，精准区分正常的观点讨论和恶意攻击，避免误判影响用户的正常交流。针对未成年人、老年人等特殊群体，模型还设置了梯度化识别标准，适当提高风险敏感度，给更容易受伤的群体更多保护。同时，模型会输出包含***经过、风险来源、关键证据的清晰结论，让人工研判专家能更快了解情况，及时开展外呼救助。</p><p><em data-scene="strong">分层保护精准响应  让受害者不再孤立无援</em></p><p>基于 AI 反网暴Agent的精准识别与研判结果，抖音已建立更贴合用户需求的分层保护机制，兼顾治理效率与人文关怀。比如：低风险用户只会收到App端内提醒，一键就能开启一键防护、评论过滤、陌生人私信限制等工具；如果风险较高，或是属于特殊保护群体，平台会主动通过智能外呼联系用户，安排专人一对一提供帮助，同步排查隐私泄露风险，防止伤害扩大。</p><p><i class="pic-con"></p><p>对于施暴者，平台会根据情节轻重***取梯度化处置，包括下架违规内容、限制互动功能、永久封禁账号等措施。对于跨账号持续骚扰、情节恶劣的行为，平台会酌情升级处置；涉嫌违法犯罪的，平台将主动配合公安机关提供相关证据，依法追究法律责任。</p><p>抖音相关负责人表示，网络生态治理是一项长期且复杂的工作，没有一劳永逸的解决方案。平台将持续迭代 AI 反网暴系统的技术能力，提升主动保护效果，还会对“抖音小安”的陪伴功能进行迭代，面向用户推出更具人文关怀性的产品功能。最后，特别呼吁广大网民文明理性发言，共同维护清朗、友善的网络空间。（心月）</p></section><img src='/image/155861-0' alt='抖音推出AI 反网暴行动 从“被动处置”向“主动保护”转型'> </div>
        
        <div class="shareNew bdsharebuttonbox"> <a href="#" class="bds_more" data-cmd="more"></a> <a href="#" class="bds_weixin" data-cmd="weixin" title="分享到微信"></a> <a href="#" class="bds_sqq" data-cmd="sqq" title="分享到QQ好友"></a> <a href="#" class="bds_qzone" data-cmd="qzone" title="分享到QQ空间"></a> <a href="#" class="bds_tsina" data-cmd="tsina" title="分享到新浪微博"></a> <a href="#" class="bds_tqq" data-cmd="tqq" title="分享到腾讯微博"></a></div>
        
        <div class="reLink clearfix">
          <div class="prevLink fl"><a href="/detail/121960.html" title=" 龙芯 2K3000 处理器正式发布，这款处理器的发布对国产芯片的发展意味着什么？"> 上一篇 : 龙芯 2K3000 处理器正式发布，这款处理器的发布对国产芯片的发展意味着什么？ </a></div>
          <div class="nextLink fr"><a href="/detail/121001.html" title="有一双超级大长腿是什么感觉？"> 下一篇 : 有一双超级大长腿是什么感觉？ </a></div>
        </div>
      </div>
       
    </div>
  </div>
</div>

<div class="bottom_main">
  <div class="w1200 clearfix" aos="fade-up" aos-easing="ease" aos-duration="700"> 
    
    <div class="links"> <span>友情链接：</span>   </div>
     
    
    
    <div class="fl bottom_nav">       <ul class="fl">
        <li>
          <h3><a href="/list/yuguanzhen" title="榆关镇">榆关镇</a><i></i></h3>
        </li>
              <li><a class="sub1" href="/list/yuguanzhen">榆关镇</a> </li>
             <li><a class="sub1" href="/list/kuangshanzhen">矿山镇</a> </li>
             <li><a class="sub1" href="/list/menggongzhen">孟公镇</a> </li>
             <li><a class="sub1" href="/list/mingdazhen">明达镇</a> </li>
             <li><a class="sub1" href="/list/zhengyuanzhen">正源镇</a> </li>
             <li><a class="sub1" href="/list/daoguxiang">稻谷乡</a> </li>
             </ul>
             <ul class="fl">
        <li>
          <h3><a href="/list/kuangshanzhen" title="矿山镇">矿山镇</a><i></i></h3>
        </li>
              <li><a class="sub1" href="/list/yuguanzhen">榆关镇</a> </li>
             <li><a class="sub1" href="/list/kuangshanzhen">矿山镇</a> </li>
             <li><a class="sub1" href="/list/menggongzhen">孟公镇</a> </li>
             <li><a class="sub1" href="/list/mingdazhen">明达镇</a> </li>
             <li><a class="sub1" href="/list/zhengyuanzhen">正源镇</a> </li>
             <li><a class="sub1" href="/list/daoguxiang">稻谷乡</a> </li>
             </ul>
             <ul class="fl">
        <li>
          <h3><a href="/list/menggongzhen" title="孟公镇">孟公镇</a><i></i></h3>
        </li>
              <li><a class="sub1" href="/list/yuguanzhen">榆关镇</a> </li>
             <li><a class="sub1" href="/list/kuangshanzhen">矿山镇</a> </li>
             <li><a class="sub1" href="/list/menggongzhen">孟公镇</a> </li>
             <li><a class="sub1" href="/list/mingdazhen">明达镇</a> </li>
             <li><a class="sub1" href="/list/zhengyuanzhen">正源镇</a> </li>
             <li><a class="sub1" href="/list/daoguxiang">稻谷乡</a> </li>
             </ul>
             <ul class="fl">
        <li>
          <h3><a href="/list/mingdazhen" title="明达镇">明达镇</a><i></i></h3>
        </li>
              <li><a class="sub1" href="/list/yuguanzhen">榆关镇</a> </li>
             <li><a class="sub1" href="/list/kuangshanzhen">矿山镇</a> </li>
             <li><a class="sub1" href="/list/menggongzhen">孟公镇</a> </li>
             <li><a class="sub1" href="/list/mingdazhen">明达镇</a> </li>
             <li><a class="sub1" href="/list/zhengyuanzhen">正源镇</a> </li>
             <li><a class="sub1" href="/list/daoguxiang">稻谷乡</a> </li>
             </ul>
             <ul class="fl">
        <li>
          <h3><a href="/list/zhengyuanzhen" title="正源镇">正源镇</a><i></i></h3>
        </li>
              <li><a class="sub1" href="/list/yuguanzhen">榆关镇</a> </li>
             <li><a class="sub1" href="/list/kuangshanzhen">矿山镇</a> </li>
             <li><a class="sub1" href="/list/menggongzhen">孟公镇</a> </li>
             <li><a class="sub1" href="/list/mingdazhen">明达镇</a> </li>
             <li><a class="sub1" href="/list/zhengyuanzhen">正源镇</a> </li>
             <li><a class="sub1" href="/list/daoguxiang">稻谷乡</a> </li>
             </ul>
             <ul class="fl">
        <li>
          <h3><a href="/list/daoguxiang" title="稻谷乡">稻谷乡</a><i></i></h3>
        </li>
              <li><a class="sub1" href="/list/yuguanzhen">榆关镇</a> </li>
             <li><a class="sub1" href="/list/kuangshanzhen">矿山镇</a> </li>
             <li><a class="sub1" href="/list/menggongzhen">孟公镇</a> </li>
             <li><a class="sub1" href="/list/mingdazhen">明达镇</a> </li>
             <li><a class="sub1" href="/list/zhengyuanzhen">正源镇</a> </li>
             <li><a class="sub1" href="/list/daoguxiang">稻谷乡</a> </li>
             </ul>
        </div>
     
    
    
    <div class="fr bottom_tit">
      <div class="r1">
        <p> <img src="/template/moban225/skin/images/erweima.png" alt="抖音推出AI 反网暴行动 从“被动处置”向“主动保护”转型_呼和浩特塑胶地板|呼和浩特橡胶地板|呼和浩特塑胶跑道|呼和浩特Hdpe防滑膜|呼和浩特彩色透水地坪-欧耐高科技有限公司"/><span>微信扫码 关注我们</span></p>
      </div>
      <div class="r2 fl">
        <ul>
          <li><img src="/template/moban225/skin/images/tel.png"/>
            <p>24小时咨询热线<span></span></p>
          </li>
          <li><img src="/template/moban225/skin/images/phone.png"/>
            <p>移动电话<span></span></p>
          </li>
        </ul>
      </div>
    </div>
     
  </div>
</div>

<div class="bottom_copy">
  <div class="w1200 clearfix">
    <p class="fl">版权@|备案:<a href="https://beian.miit.gov.cn/" rel="nofollow" target="_blank">粤IP*******</a>|<a href="/sitemap.xml">网站地图</a>　地址：　备案号：<a href="http://www.miitbeian.gov.cn/"  target="_blank" title=""></a>　<a href="/sitemap.html">网站地图</a></p>
     
  </div>
</div>

<div class="float-right-box show on">
  <div class="top-list">
    <ul>
      <li><a class="f-cb" href="http://wpa.qq.com/msgrd?v=3&uin=&site=qq&menu=yes"><span class="fl stt">在线咨询</span><span class="ico ico2"></span></a></li>
      <li><a class="f-cb weix" href="javascript:;" target="_blank"><span class="fl stt">微信</span><span class="ico ico3"></span>
        <div class="sidebox"> <img src="/template/moban225/skin/images/erweima.png" alt="抖音推出AI 反网暴行动 从“被动处置”向“主动保护”转型_呼和浩特塑胶地板|呼和浩特橡胶地板|呼和浩特塑胶跑道|呼和浩特Hdpe防滑膜|呼和浩特彩色透水地坪-欧耐高科技有限公司"/></div>
        </a></li>
      <li><a class="f-cb"><span class="fl stt"></span><span class="ico ico7"></span></a></li>
      <li><a class="f-cb return-webtop" href="javascript:;"><span class="fl stt">TOP</span><span class="ico ico5"></span></a></li>
    </ul>
  </div>
  <div class="bot-share f-cb">
    <div class="fl share bdsharebuttonbox bdshare-button-style0-16" > <a class="sina" data-cmd="tsina" href="javascript:;" ></a> <a class="wx" data-cmd="weixin" href="javascript:;" ></a> <a class="more" data-cmd="more" href="javascript:;" ></a></div>
    <span class="fr share-ico"></span> </div>
</div>
 
<script src="/template/moban225/skin/js/aos.js"></script> 
<script src="/template/moban225/skin/js/app.js"></script> 
<script type="text/javascript">
    AOS.init({
        easing: 'ease-out-back',
        duration: 1000
    });
</script>
</body>
</html>