中国工业报  吴辰光

算法黑箱、算法歧视、算法合谋等问题正成为国家整顿的焦点。

近日，中央网信办在京召开《生活服务类平台算法负面清单（试行）》（以下简称《负面清单》）推进部署会议，其中强调，算法作为平台生态系统中利益分配调整的主要载体和重要枢纽，在智能匹配供需、改善用户体验、提高运营效率等方面发挥了正向作用，但同时也存在算法黑箱、算法歧视、算法合谋等问题。制定实施《负面清单》，就是为了精准有效解决这些问题，让算法更好服务于社会民生。

三大典型问题侵蚀社会信任

实际上，算法黑箱、算法歧视、算法合谋三大典型问题的危害性已不容忽视。

北京嘉潍律师事务所合伙人、律师赵占领对中国工业报表示，算法黑箱源于平台利用技术不透明获取超额利润、规避监管的心理。算法歧视反映了平台基于自身商业利益考虑的功利思维。算法合谋则体现了平台谋求市场支配地位的垄断意图。这几种做法直接侵害消费者公平交易权、平台内用户及商家的权益，扭曲市场秩序，抑制创新，长远看将侵蚀社会信任。

【解决】AI法律助手创始人、道可特律师事务所高级合伙人刘玥对中国工业报进一步分析，这些算法问题反映了平台在追求商业利益时，可能存在的“规避责任”和“短期逐利”心理。算法黑箱意味着平台故意将算法决策过程不透明化，这往往是为了隐藏可能不合规的操作。如随意调整价格或推荐机制，从而规避监管和用户监督。算法歧视是平台利用数据优势，对特定群体进行不公平对待。如在定价、服务分配上区别对待，这背后是一种“利益最大化”心理，忽视了公平竞争和消费者保护的法律原则。算法合谋更为严重，可能涉及平台间通过算法默契地协调行动。如统一抬高价格，这反映了“垄断牟利”心理，试图绕过反垄断法规。

上海财经大学数字经济研究院副院长崔丽丽对中国工业报表示，这三种典型问题共同反映了平台在追求“效率至上”和“商业利益最大化”时的技术傲慢与责任规避心理。平台将算法视为纯粹的商业工具，过度强调其“技术中立”属性，试图通过算法的复杂性和不透明性（黑箱）来掩盖其商业价值至上本质。算法歧视和合谋则是这种心理下的具体行为表现，明显的是利用技术优势进行不公平的资源分配。

对于危害性，崔丽丽指出，主要包括剥夺了用户和劳动者的知情权与选择权，导致用户“信息茧房”，劳动者在不知情的情况下被算法规则剥削，社会无法监督。同时破坏了市场公平竞争环境，导致“大数据杀熟”和资源分配不公，损害了特定用户群体的合法权益。可能形成价格垄断或市场壁垒，扰乱市场秩序，最终损害消费者利益和社会整体福利。

刘玥也认为，算法黑箱侵犯了用户的知情权和选择权，容易引发纠纷；算法歧视破坏了市场公平，损害消费者权益，尤其对弱势群体不公；算法合谋则直接扭曲市场竞争，抬高社会成本。这些行为涉嫌违反《消费者权益保护法》《中华人民共和国反垄断法》等，危害性不仅限于个体损失，更会侵蚀整个市场的诚信基础。

中国商业联合会专家委员会委员、北京商业经济学会常务副会长赖阳对中国工业报表示，云消费时代算法的初衷是通过精准匹配优化消费者体验，通过降低交易成本建立信任并转化为长期忠诚度。然而，部分平台受制于短期KPI考核压力，将算法异化为流量变现的工具，导致了算法黑箱、算法歧视（大数据杀熟）、算法合谋等典型问题的出现。这些现象并非单纯的技术失误，而是平台通过信息不对称手段追求单次交易利润最大化的结果，这种短视行为直接破坏了商业生态的信用基石，增加了全社会的交易摩擦成本。

尽快推动《负面清单》落地见效

根据会议要求，尽快推动《负面清单》落地见效。对可以马上调整的简单问题，在制定工作方案的同时就要同步优化调整，确保即时见效。对技术实现难度较大、涉及服务管理方式调整的复杂问题，在限定时间内完成优化调整。

那么，目前来看，哪些是技术实现难度大、管理方式调整复杂的？

刘玥指出，在实际操作中，技术实现难度大的问题主要集中在算法的透明度和可解释性上。如让算法决策过程变得可追溯、可理解，这需要平台投入大量资源改进技术架构，同时可能触及商业秘密保护，平台往往以“技术复杂”为由拖延。管理方式调整复杂的问题，则涉及平台内部责任划分和服务流程重构。如算法歧视往往根植于数据采集和使用环节，要调整就需要平台改变数据管理政策，这可能影响其商业模式；再如算法合谋的防范，要求平台建立更严格的合规审查机制，但平台可能担心这会影响运营效率。

赵占领也认为，技术难点在于打破信息茧房，因其与现有追求用户黏性的算法目标冲突。管理难点则在于根治大数据杀熟，因其与营销策略边界模糊且隐蔽性强，给监管带来困难。

“技术难点之所以集中在算法透明度与可解释性上，主要原因在于这要求平台将复杂的深度学习模型（如调度决策类算法）转化为普通人能理解的规则，技术门槛极高。另外，在动态定价和派单系统中，实时识别并阻断平台与商家、劳动者之间的隐性价格合谋，需要极高的算力和精准的模型设计。”崔丽丽说道，“相应的管理方式调整复杂性在于，派单机制与劳动权益如何平衡。调整算法以保障劳动者（如骑手、司机等）权益可能在一定程度上牺牲部分配送效率，这涉及平台核心竞争力履约效率，可能管理阻力大。”

赖阳表示，关于落实《负面清单》的难点实质在于对既有商业利益分配机制的系统性重构。算法调整绝非简单的参数修改，而是要求平台彻底改变经营理念，从“零和博弈”转向与消费者、合作伙伴共生的“多赢模式”。这涉及到对底层商业逻辑的根本性扭转，进而要求对庞大的算法架构进行全面、系统的整改。如要消除“算法歧视”，就需要重构定价模型；要解决“算法合谋”，就需要重建商家排序与流量分发逻辑。这种从根本导向到具体代码设计的全面推倒重来，无疑是一项工程量巨大的系统工程，客观上确实存在极高的实施难度与成本阻力。

对于这些问题该如何优化调整？赵占领指出，建议在技术上强制将“多样性”设为推荐核心指标，并且要求平台建立“可审计”的算法设计，并向用户提供简洁易懂的解释。

刘玥建议，首先，网信部门可以联合技术专家，制定分阶段的技术标准指南，给平台明确的时间表和路径，避免“一刀切”；其次，鼓励平台通过行业自律，建立算法伦理委员会，引入第三方审计，让调整过程更公开；最后，法律应提供柔性激励，如可以对积极整改的平台给予信用奖励，公开进行表彰，同时设定合理的过渡期，平衡创新与监管。

知名经济学者、工信部信息通信经济专家委员会委员盘和林对中国工业报表示，技术上，要引入第三方评估技术合规性、合理性，出具报告并将报告和算法基础规则公开，保持透明的同时，让算法具有可解释性。管理上，建立算法审计机制，建立数据内控审查机制，完善数据共享接口安全标准，对数据安全和用户隐私问题进行追责，明确责任方。

需要多方共治才可解决问题

会议提到，平台要自觉接受监督，把社会满意度作为衡量工作成效的标尺。网信部门要加强督查引导，及时跟进重点平台落实情况，并适时组织开展算法检查。

刘玥表示，从法律执行经验来看，监督和检查是推动法规落地的关键一环，但效果取决于具体落实力度。平台自觉接受监督，这听起来是理想状态，但在利益驱动下，往往需要外部强制力。网信部门的督查引导，如果能结合定期检查和随机抽查，并公开结果，就能形成压力，促使平台合规。

“算法检查尤其重要，因为它能直接发现隐藏问题，如通过模拟用户行为测试算法歧视。不过，挑战在于检查的专业性和覆盖范围，因为算法复杂多样，网信部门需要配备足够的技术力量，而这往往是行政部门较为欠缺的。此外，法律应明确检查的后果，如对违规平台处以罚款或限令整改，这样督查才有牙齿，让平台意识到违规成本正在提高。”刘玥说。

赵占领也持类似观点，他认为，倡导平台自觉接受社会的监督是基础但不完全可靠，需转为制度化要求。监管部门督查引导的有效性在于精准施策，“算法检查”是威慑关键，具体效果取决于能否实现“穿透式”审计，并进行严厉问责。将这些结合能形成有效闭环，但面临监管专业能力与执法资源等现实挑战。

盘和林认为，能否有效地推动《负面清单》落地实施，还需要强化两件事，一是赏善罚恶，让违规成本提高；二是建立第三方定期审查制度，类似企业年检。

盘古智库高级研究员江瀚也对中国工业报表示，仅靠行政督查仍显不足，需配套建立常态化算法备案、违规记分与信用惩戒制度，将检查结果与平台市场准入、融资资质挂钩，才能真正形成“不敢违、不能违”的约束闭环。

实际上，多年来国家对平台经济的治理始终不遗余力。但一直以来，平台通过算法获利，违规成本远远低于获利额度，以至于打擦边、违规现象频频出现。

此次中央网信办可谓重拳出击，会议指出，对落实工作不扎实、不深入、走过场的，依法依规予以处置。各有关单位要按照“网下管什么，网上就要管什么”的要求，有针对性地推动《负面清单》在本行业领域落地实施。

刘玥建议，长远看，需要从法律制度和市场生态两方面着手。根本问题在于平台的利益与法律责任失衡，所以首先必须提高违规成本，让“擦边球”不再划算。如修订相关法规，对算法违规行为设置更严厉的处罚；按违法所得倍数罚款，甚至引入刑事问责，让平台不敢顶风作案。同时，建立算法备案和透明度强制要求，使平台运营更公开，便于社会监督。市场方面，通过反垄断执法，防止平台过度集中，鼓励新兴企业进入，从而倒逼平台改进算法行为。此外，还要加强消费者教育和维权渠道，让用户能更方便地举报和诉讼，形成社会共治。“法律不是孤立的，需要与技术发展、行业自律结合，才能从根本上引导平台走向负责任创新。”

赖阳认为，鉴于逐利的本能，单纯依靠平台的自觉整改显然难以奏效，外部监管的刚性约束至关重要。长远来看，解决问题的根本路径不在于监管部门去审核海量的底层代码，而在于建立“后果倒逼”的惩戒机制。必须构建高效的消费者维权通道，一旦证实平台存在算法杀熟或违规操作，即实施严厉的惩罚性赔偿，确保违规的法律后果与经济成本远大于其潜在收益。只有当“后果倒逼”改变了平台的ROI（投入产出比）计算公式时，企业才会产生真正的内驱力，主动进行算法合规化改造，从而推动行业回归健康的商业本质。

盘和林指出，解决问题需要制度创新、技术创新以及行业自律，多方共治，共同完善市场机制。

崔丽丽进一步补充道，构建“多元协同治理”的长效机制，能从源头上约束平台的逐利冲动。一方面，政府应设计回应性规制策略，既要设定底线红线，也要给予平台一定的创新空间，避免“一刀切”扼杀技术发展。同时，强化算法责任体系：明确平台对算法决策后果的连带责任。推动数据开放与互认，推动信用评价、合规审查等数据的互通互认。此外，引入社会监督与集体协商：保障用户和劳动者对算法规则的知情权、参与权和监督权，形成政府监管、企业自律、社会监督、行业自治的多元共治格局。