六大人工智能的热点问题

随着人工智能技术发展步入快车道，业务数量和覆盖面不断提升，新业务模式和新 产品持续涌现。与此同时也产生了各种科技伦理问题和挑战，特别是那些已经深入 到日常生活方方面面的各类算法，引起了社会的广泛担忧。

1.调度决策：外卖调度系统"困住"骑手

外卖平台引入人工智能技术和系统，会帮助骑手规划订单的取餐顺序和配送 路线。在大大提升配送效率的同时，也引发了 "困住”骑手的质疑，例如系 统规划的路径或预计的时长存在不合理情况，而骑手囿于系统限制，为了节 省时间往往选择违反交通规则’给自身和他人带来安全隐患。

2.个性化推荐：电商场景下的信息茧房和马太效应

电商平台根据消费者的兴趣爱好、消费习惯等提供智能推荐服务，节省时间 成本、大大提升了匹配效率，但也产生了信息茧房和马太效应。一方面可能 出现推荐商品重复率过高的情形；另一方面系统天然倾向于推荐实力强服务 好的头部商家，导致市场资源更加集中，加剧了两极分化。

3.内容治理：如何守护清朗健康的网络环境?

部分不法分子在网络平台上，为了骗取流量，发布各式各样的儿童软色情内 容’污染了网络空间’败坏社会风气’严重侵害了未成年人权益。这些低俗 信息频繁出现’人工智能可以帮助清理顽固的信息污垢，守护清朗健康的网 络环境吗？

4. 信息检索：商品的销量和评价真实可信吗？ "

在电商平台上’商品销量和评价会在一定程度上决定检索中的排序’从而影 响用户的购买意愿。这种机制催生了一些作弊行为，部分不法分子蓄意"灌 水"，伪造销量数据，虚构大量相似"好评”O如何防止人工智能被黑灰产 恶意投放的作弊数据欺骗，保障信息的真实可信？

5.自动识别：人工智能可以放心使用吗？

2021年，美国底特律市的一位男子开启自动驾驶模式后’撞上马路中行驶 的半挂卡车’不幸身亡。据分析，事故原因是自动驾驶系统将货车的白色车 厢错误识别为蓝天白云’因而没有及时采取刹车制动等措施。之前也发生过 数次类似事件’这难免让人们产生疑问，人工智能自动识别的结果可以放心 \使用吗？

6 .深度合成：眼见不一定为实

近年来，利用”深度合成"技术恶搞公众人物的事件不时发生，造成了恶劣 的影响。随着”深度合成"技术和工具快速成熟与扩散，其风险不断增大， 恶意使用极易造成虚假信息泛滥，可能严重妨碍司法公正、引发信任危机， 甚至危害国家安全。