WAP手机版 RSS订阅 加入收藏  设为首页
申博正网代理
当前位置:首页 > 申博正网代理

申博正网代理:更改一个字母会导致文本内容被错误分类

时间:2021/6/3 10:17:48   作者:   来源:   阅读:16   评论:0
内容摘要:蒋玉刚指出,目前人工智能的智能判别模型存在缺陷,容易被对抗性样本所欺骗。例如,图像识别,给一幅肖像画添加一些非常少量的干扰,人类的视觉看起来基本相同,但人工智能模型会产生识别错误;另一个例子是自动驾驶,一个“限速80码”的交通标志,在添加一些干扰后,可能会被机器识别为“无交通”。显然,存在很大的安全风险。这一问题在语音...
蒋玉刚指出,目前人工智能的智能判别模型存在缺陷,容易被对抗性样本所欺骗。例如,图像识别,给一幅肖像画添加一些非常少量的干扰,人类的视觉看起来基本相同,但人工智能模型会产生识别错误;另一个例子是自动驾驶,一个“限速80码”的交通标志,在添加一些干扰后,可能会被机器识别为“无交通”。显然,存在很大的安全风险。

这一问题在语音识别领域也存在。技术人员随意给语音添加很小的干扰,语音识别系统可能会识别错误。同样,在文本识别领域中,更改一个字母会导致文本内容被错误分类。

此外,如果深度学习数据集中存在隐藏的偏差,人工智能系统无法发现,也不会否认。没有反馈机制的“接受所有订单”最终可能导致不客观的结果。

例如,在行业中出现了人工智能经过深度学习后对女性、少数民族和非主流文化群体的“歧视”:亚马逊通过人工智能筛选简历,发现该系统对女性存在偏见,最终关闭。更常见的是,手机软件使用人工智能算法,让大数据“杀死熟悉度”。例如,根据手机的类型,可能会推荐不同类型的商品,甚至在乘坐出租车时,可能会推荐不同价格和等级的车辆。

目前,“AI +金融”发展如火如荼。然而,金融机构在利用人工智能进行决策时,对市场信号的解读可能会趋同并不断加强,从而导致偏离正常的市场规则。而这些异常的市场变化也将成为人工智能的学习基础,进一步扭曲人工智能的决策逻辑,容易造成不良后果。


相关评论

本类更新

本类推荐

本类排行

本站所有站内信息仅供娱乐参考,不作任何商业用途,不以营利为目的,专注分享快乐,欢迎收藏本站!
所有信息均来自:百度一下 (申博正网代理)