国家安全部:警惕人工智能“数据投毒”

国家安全部:警惕人工智能“数据投毒”

  在丁冬财经看资讯行情,选丁冬财经证券一站式开户交易>>

  国家安全部今日发文表示,人工智能的训练数据存在良莠不齐的问题,其中不乏虚假信息、虚构内容和偏见性观点,造成数据源污染,给人工智能安全带来新的挑战。通过篡改、虚构和重复等“数据投毒”行为产生的污染数据,将干扰模型在训练阶段的参数调整,削弱模型性能、降低其准确性,甚至诱发有害输出。研究显示,当训练数据集中仅有0.01%的虚假文本时,模型输出的有害内容会增加11.2%;即使是0.001%的虚假文本,其有害输出也会相应上升7.2%。

(文章来源:人民财讯)


鲜花

握手

雷人

路过

鸡蛋
上一篇:
剑指“全球最大机器人公司” 吉利竞技AI胜算几何?发布时间:1970-01-01
下一篇:
日本7月服务业PMI终值为53.6 前值53.5发布时间:1970-01-01
相关推荐
热门排行

在线客服(服务时间 9:00~18:00)

在线QQ客服
公司地址:广州市黄埔区康富路32号101房
客服电话:13326565461
电子邮箱:30376048757@qq.com

Powered by 广州丁冬科技有限公司 © 2025 aiwsw.com Inc.( 粤ICP备2024347580号-3 )