这些人工智能会不会哪一天就把我们给“卖了”

中北网北京12月5日电（记者冯硕）据中国之声、中央广播电视总台《新闻纵横》报道，随着智慧城市和智能设备越来越多地走进人们的生活，人工智能在赋能千千万万的同时对行业而言，它也带来了安全、隐私和公平等问题和挑战。如个人信息泄露、低俗劣质信息精准推送、“大数据杀戮”等算法歧视乱象凸显。

近期，各国监管机构也加大了对不公平算法的打击力度。人工智能带来了哪些新的麻烦？面对这些烦恼，人们真的束手无策吗？

如今，人工智能已成为不可阻挡的趋势，甚至遍及各个行业。然而，随着人工智能越来越了解人类，我们不禁担心：这些人工智能有一天会“出卖”我们吗？

以近年来很多小区安装的人脸识别门禁为例，不少业主对采集到的人脸信息泄露表示担忧。

各种人脸识别系统、手机APP等广泛采集用户的人脸、声纹等生物特征信息和具有强烈个人属性的行为轨迹。一旦泄露，将威胁到个人隐私。

数据安全是数字经济发展中最关键的安全挑战之一，近年来国际社会发生了多起数据泄露事件。8 月份，微软服务器上暴露了大约 3800 万条记录，包括私人信息。数据泄露包括用户的姓名、地址、财务信息和 Covid-19 疫苗接种状态等，涉及美国航空公司、福特以及马里兰州卫生部和纽约市公共交通系统等公共机构。

从我国法律来看，今年11月，《个人信息保护法》正式实施，对人脸识别等行为做出了明确规定。至此，与已经实施的数据安全法和网络安全法一起，三者共同构成了我国网络安全和数据保护的法律“三驾马车”。

全国新一代人工智能治理专业委员会主任薛澜表示，新一代人工智能是以数据为基础的，因此首要挑战是如何构建高质量的数据集并有效管理数据。

在购物网站上填写问卷，甚至不填写问卷。仅仅浏览信息，您几乎看不到一些选项范围之外的产品的广告信息；通过应用程序（App）阅读一条健康信息，然后你会经常收到健康知识和保健品的广告……这都是“算法歧视”，很多人都有个人感受。

当前，人工智能技术的发展正处于关键的十字路口。12月4日，2021人工智能合作与治理国际论坛在北京开幕，各界名流云集。他们如何看待这个问题？人工智能应该如何践行“科技向善”？

今年年初，中消协就消费领域算法不合理现象发声，揭露了六大“大数据杀戮”现象，包括大家耳熟能详的“精准推送”——指互联网平台通过监控分析消费者的消费轨迹，如浏览页面、广告、商品服务、话题等，有针对性地对消费者进行商业营销。

一位来自南京的消费者告诉记者：“比如我5分钟前和朋友聊了电动牙刷，5分钟后我打开某个电商平台，就会把这个产品推送给我，这个产品是我以前没找过。”

的确，随着人工智能技术的发展完全背包问题算法，在某些场合可以更准确地阅读人们想要的东西已经变得非常方便完全背包问题算法，但是一旦这些信息集合越界，就会给大家带来无穷无尽的麻烦。

目前，我国相继出台了一系列政策，给“大数据杀戮”的魔咒上了头。11月18日，上海市牵头出台电子商务领域地方性指导方针，制定出台《上海市网络交易平台网络营销活动算法应用指南（试行）》，明确平台经营者不得利用算法实施不公平的价格行为，不得使用算法无理歧视消费者。

今年8月，国家互联网信息办公室发布《互联网信息服务算法推荐管理条例（征求意见稿）》，要求算法推荐服务提供者定期对算法机制、模型、数据、和应用结果。，不得设置违反公序良俗的算法模型，如诱导用户沉迷成瘾或高消费。

很多专家都表示，在人工智能的发展中，必须坚持技术永远为人服务的原则，而不是用技术来窥探和伤害人。

对此，清华大学智能社会治理研究院院长苏军指出：“算法以前所未有的速度和无与伦比的精度处理数据，让占据用户数据和先进算法优势的个人或组织获得巨大的收益。权力，形成垄断的超级平台，在市场活动中造成了对劳工权益和消费者福利的无国界侵占。当今社会，每个人其实都被各种算法所困。”

众所周知，人工智能在特定模型下通过自学习形成算法，而模型训练所依据的数据集和模型本身的设计可能会带来偏差。这带来了歧视。

美国卡内基梅隆大学的学者曾利用钓鱼软件模拟一个普通用户浏览求职网站的实验，然后统计谷歌推送的“年薪超过 20 万美元的职位”的广告数据。结果，男性收到了 1,852 次推送，女性收到了 318 次。结果很明显，平台可以通过后台设置关键词，可以“操控”每组人群接收信息的频率。

来自美国的黑人女性乔伊也公开表示，在实习期间，她遇到了这样的情况——因为她有一张黑脸，人脸识别摄像头无法识别她的脸。

对此，清华大学人工智能国际治理研究院学术成员龚克表示，人工智能很可能导致普遍的歧视和不公正，这种算法偏差亟待纠正。

“当我们现在使用人工智能时，我们依靠数据来训练模型，而我们从社会收集的数据在现实世界中带有很多偏见。如果我们没有合适的技术来检测和消除算法中的偏见，公平和非歧视的原则将变得无法实施。” 龚克说道。