从让人停不下来的短视频,到借助情感互动留住用户的AI聊天机器人,科技公司争夺用户时间的产品设计,正成为欧盟新一轮监管的焦点。

欧盟拟向“成瘾设计”开刀:社交媒体、AI聊天机器人面临新规

  综合多家媒体周一报道,他们看到的《数字公平法案》(Digital Fairness Act)草案显示,欧盟委员会拟要求企业允许用户关闭诱导强迫性或过度使用的功能,并将利用模拟人际关系延长互动的AI系统纳入监管。

欧盟拟向“成瘾设计”开刀:社交媒体、AI聊天机器人面临新规

  草案预计于11月11日、即本周三公布,违规企业可能面临最高相当于全球年度营业收入6%的罚款。

  这项法案可能影响Meta、谷歌等科技巨头,以及一众电商平台。这些企业旗下的服务,很大程度上依赖与用户打“心理战”:要么是通过机制设计拉长留存时间,或是通过运营手段诱导用户买单。

  据报道,此次草案的一项关键要求,是让用户能够主动关掉那些不断把自己“拉回”应用的功能,包括自动播放、与用户自身活动无关的通知,以及连续打卡式奖励机制。按照草案,企业将须向成年用户提供关闭这类功能的选择。

  AI聊天机器人也是此次草案的重要关注对象。按照媒体披露的内容,如果AI系统通过模拟人际关系来鼓励用户持续互动,相关功能也将受到约束,用户应有权将其关闭。

  从商业模式看,这类规则可能触及平台提高用户留存和使用时长的常用手段。对于依靠广告变现的社交平台,用户停留时间与广告展示机会密切相关;对于AI应用,持续互动则可能影响用户活跃度和付费转化。

  欧盟针对“成瘾设计”的行动早有铺垫。

  今年2月,欧盟委员会依据现行《数字服务法》,初步认定某短视频平台的成瘾性设计违反相关规定,涉及功能包括“无限滚动、自动播放、推送通知和高度个性化的推荐系统”。

  拟议中的《数字公平法案》将进一步从消费者保护角度处理这些问题。欧盟委员会公开资料显示,该倡议的重点包括操纵性界面设计、数字产品的成瘾设计、不公平的个性化做法,以及数字合同等问题,尤其关注未成年人等易受影响的消费者。

  在打击诱导过度使用的功能之外,草案还拟为网站和应用列出一份包含10类操纵性设计的禁用清单。据报道,这些通常被称为“暗黑模式”的设计,将被认定为在任何情况下均属不公平行为,监管机构无需再逐案证明其造成的损害:

  1、让取消服务的难度明显高于注册;

  2、隐藏价格或自动续费条款;

  3、虚假暗示用户别无选择;

  4、对商品供应量或受欢迎程度作出虚假或缺乏必要限定的宣称;

  5、在结账过程中反复强调稀缺性;

  6、预先勾选会增加额外商品或购买数量的选项;

  7、把拒绝包装成“错误选择”;

  8、反复要求用户改变已经作出的决定;

  9、使用令人困惑的双重否定;

  10、伪造有人联系用户的通知。

  ...以及,欧盟委员会将可在无需重新启动立法程序的情况下,向清单增列新的操纵性手段。

  据报道,草案还拟要求在线订阅提供明确的合同终止按钮,免费试用转为收费订阅前须取得消费者主动同意,并在自动续费前发出提醒。针对未成年人,草案拟禁止电子游戏中的付费随机宝箱和“付费获胜”机制。监管范围由此从使用时长延伸至消费转化和持续扣费。

  欧盟委员会的影响评估估计,这些规定将在2025年至2035年间为消费者避免884亿欧元的经济损失。如果将不公平做法造成的时间损失也计算在内,每年带来的收益预计为137亿欧元。相比之下,在避免重复计算各项措施的成本后,企业为遵守新规每年需持续支出的费用预计合计为6.78亿欧元。

  不过,这项立法仍处于早期阶段。草案尚须经过欧洲议会和成员国审议,具体条款仍可能调整。按照目前披露的草案,该条例将在生效12个月后开始适用。

  据报道,德国政府上月中旬已提出反对意见,主张修改现有消费者保护指令,而非另建一部横跨多个领域的新法律,并质疑将现行《不公平商业行为指令》改为条例的必要性“尚未得到充分证明”。

(文章来源:财联社)

微信扫一扫