达观动态

达观愿与业内同行分享 助力各企业在大数据浪潮来临之际一起破浪前行

达观智能推荐系统积极响应《互联网信息服务算法推荐管理规定》, 促进行业健康发展

2022年1月4号,国家网信办发布《互联网信息服务算法推荐管理规定》(以下简称《规定》),规定在2022年3月1号开始实施。规定颁布之后,引起了广泛的关注,这说明算法推荐已经深入我们生活的各方面,也说明社会各界对算法推荐的高度重视。

A6F071FE-AF15-40cd-B59A-8C7AD15DAA1B

一、《规定》明确了算法推荐的定义

算法推荐是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。

1、生成合成类:常见于图片合成/文本生成等

2、个性化推送类算法:常用于各个APP中的‘猜你喜  欢’、‘为你推荐’、‘看了又看’、‘你可能还喜欢’等场景

3、排序精选类:常用于各个APP中的热榜、热搜、内容精选

4、检索过滤类:常见于各个APP上的搜索功能

5、调度决策类:典型场景比如网约车调度算法、外卖订单分配算法

 

二、《规定》对算法服务提供者提出了具体的要求

1、价值观:算法提供者应该坚持社会主流价值观,避免社会负面影响

2、信息安全管理:算法提供者应该防止违法和不良信息的传输、传播。要求算法提供者加强内容管理,通过自动审核算法、人工复查等方式识别违法和不良信息。并且对于采集到的信息进行识别,避免恶意刷榜、算法攻击等风险。

达观智能推荐融合了达观数据先进的NLP技术,实现内容涉黄涉暴识别、敏感内容识别等,为数据安全树立坚实保障。

2

3、用户管理: 算法提供者应该完善用户标签管理,不可以将违法或者不良标签记入用户画像,不可以将歧视性或者侮辱性标签引入标签系统。

达观智能推荐系统提供标签人工管理功能,支持对用户标签进行人工干预,避免产生不良的算法标签。

3

4、人工干预:算法提供者应该提供算法推荐结果的干预机制,保证重点推荐环节展示积极向上的信息,鼓励算法提供者提供内容去重、打散干预等策略,鼓励提高算法规则的透明度和可解释性。

达观智能推荐系统提供了推荐/点击去重、内容打散、多样性控制等策略优化用户体验,并且通过记录算法决策轨迹、制定推荐理由等方式提高算法可解释性。

41

42

三、《规定》规定了用户权益保护的具体内容

1、告知义务:算法推荐服务提供者需要告知算法推荐的基本原理、意图和运行机制。目前主流APP都已在隐私政策中公布了算法推荐相关情况。

5152

2、用户选择权:用户有选择关闭算法推荐的权利,也就是用户可以选择使用非个性化的服务。

达观智能推荐系统也提供了非个性化的服务接口,为用户生成非个性化推荐内容。

6

3、特殊人群保护:在产品层面,可以针对特殊人群对产品进行产品改造,比如提供老年版APP、设置青少年模式、防沉迷系统等;在算法层面,可以针对特殊人群设置内容池、针对特殊人群设置算法优先级、调整算法的优化目标(比如不再设置外卖送达时间为单一优化目标)等等。

达观智能推荐系统提供针对未成年人、老年人等特定群体的推荐算法定制功能,支持为特殊人群设置推荐方案,保证特殊人群的权益。

7

4、公平交易权利:算法提供者不得根据消费者的偏好、交易习惯等特征实施差异化交易价格,也就是我们常说的‘大数据杀熟’。

四、达观智能推荐系统积极响应《规定》要求

在《规定》发布之前,国家已经陆续发布了《网络安全法》《数据安全法》《个人信息保护法》等相关立法,这些法规共同构建多层次的互联网信息服务算法推荐规范体系。

达观数据作为行业领先的算法推荐服务提供商,主动拥抱行业监管变化,提供符合国家要求的算法推荐服务,积极参与《智能推荐服务可信能力要求》等行业文档的制定,共同推动算法推荐行业健康发展。

达观数据拥有丰富的推荐系统研发和交付经验,为电商、银行、新闻资讯、广电、运营商、社交、广告等各行业提供推荐系统解决方案,与招商银行、民生银行、华夏银行、安利、天虹商城、陕西广电、澎湃新闻、中国移动、广而告之等数百家客户达成了长期合作,积累了良好的客户口碑。