你可曾有过这样的经历:打开某APP,看到一条低俗软色情的帖子,没忍住点了开来。从此,系统天天给你整屏整屏地推荐这类帖子,有价值的信息被淹没,让你束手无策。你干脆放纵自己,沉溺在低俗信息之中。
在这个信息爆炸的时代,个人智能终端已经基本到了全民普及的程度。注意力经济成为了所谓新经济的核心锚点之一,为几乎所有的智能应用系统所重点关注。如何吸引注意力,增加个人在移动应用系统上面的停留时间,已经成为考核系统核心算法的关键指标。
市人大代表陈杰军意识到,这些精巧设计,擅长利用人体神经细胞的运作机制,擅长利用人性弱点的算法,不断精益求精,努力建立人的行为预测模型,精巧推荐让用户感兴趣的内容,让人不由自主深陷其中,不能自拔。
“这些算法对于人脑神经细胞的影响,已经接近毒品的作用机理,任其发展下去不加以监管,会带来非常严重的问题,尤其对于青少年一代。”陈杰军说,算法在明显诱导人上瘾,成瘾性人工智能算法会使人丧失独立思考的能力,“是时候严肃思考这些算法本身所带来的生理以及伦理问题。”
陈杰军建议,建立对于个人消费电子智能应用系统中的人工智能算法的评价体系,引入类似于电影等的审核评级机制;对于明显诱导人上瘾的算法,禁止进行发布。扩展“净网行动“的监管范围,建立定期审核机制。定义并深化政府的“防沉迷政策”,使用相应的法规来约束。
转载请超链接注明:头条资讯 » 成瘾性人工智能推荐算法就像毒品一样?人大代表疾呼:立刻监管!
免责声明 :非本网注明原创的信息,皆为程序自动获取互联网,目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责;如此页面有侵犯到您的权益,请给站长发送邮件,并提供相关证明(版权证明、身份证正反面、侵权链接),站长将在收到邮件24小时内删除。