印度电信监管机构给运营商立了一条新规矩:不管AI系统是自己开发的,还是从外部供应商买来的,只要用在网络和服务里,出了问题都由运营商负责。印度电信管理局(TRAI)于10月30日发布了《电信网络与电信服务中负责任使用人工智能的指南》草案,并向业界征求意见,截止日期为11月27日。这份草案把印度今年2月发布的《印度AI治理指南》落到电信行业,被视为印度AI监管从原则走向行业细则的重要一步。
核心条款:买来的AI也要自己担责
草案最受关注的一句话写得非常直白:获得授权的实体应对其使用的所有AI系统的结果负责,无论这些系统是内部开发、从第三方采购或外包,还是两者结合。也就是说,“不是我们开发的”不再是免责理由。这一条直接点中了电信行业的现实:运营商的网络优化、客服、反欺诈等环节大量依赖外部供应商的模型和设备,而一旦模型出错,面对用户的首先是运营商。
为此,草案要求运营商在采购前做好尽职调查,包括核查供应商的可信度、AI系统的稳健性与局限性,以及训练数据的适用性与质量。合同里还必须写进可执行的条款,覆盖合规、审计与检查权、事件管理、风险分配与责任归属,设备供应商也被要求披露其产品中内置的AI。
运营商要做到的具体事项
除了担责原则,草案还列出了一套相当具体的合规清单。首先,每家运营商都要制定经董事会批准的内部AI政策,每年至少复核一次,并在政策生效后七个工作日内报备TRAI。其次,每一个AI系统在使用前都须经指定负责人批准,并纳入统一清单——不在清单里的系统不得使用。
每个系统还要按风险分级,分为高、中、低三档,分级依据包括系统对网络或服务的重要性、财务与运营影响,以及对消费者的潜在影响。上线前,运营商须测试系统的准确性、稳健性、可解释性和公平性,并监测“漂移”,即模型表现随真实数据变化而逐渐变差的情况。所有AI系统都须有人类监督,运营商还须设立由高管牵头的AI治理与安全委员会,每年至少复核一次系统,并有权要求修改或关停某个系统。
在事件处置上,草案把AI相关事件分为危急、高、中、低四个严重程度等级,要求全部记入中央数据库,并把最严重的两级上报TRAI。不过,草案没有明确规定上报时限,只说按“规定的格式、方式和时限”报告。用户投诉方面,运营商须在合理时间内处理用户报告的AI相关损害。
背景:印度AI治理正在从原则走向细则
这份电信草案并非凭空而来。今年2月,印度政府发布了《印度AI治理指南》,提出七项指导原则:以信任为基础、以人为本、创新优先于限制、公平与公正、问责、可理解的设计,以及安全、韧性与可持续性。指南建议根据角色和风险水平,在开发者与使用者之间分配责任。TRAI的草案正是把这一思路应用到电信领域,只不过它把责任的天平明显压向了使用方——运营商。
电信行业与AI的绑定由来已久。早在2023年,TRAI就要求运营商部署基于AI的电话与短信垃圾信息过滤系统。按新草案的逻辑,这类过滤器一旦误拦正常信息或放行诈骗信息,运营商同样要承担责任。与此同时,印度电子和信息技术部(MeitY)也在推进更广泛的AI规则,部长阿什维尼·瓦伊什瑙10月表示,关于AI监管的咨询文件将在一个月内出台,行业须承担首要责任,事件报告规则也将收紧。
值得注意的是,TRAI草案本身没有新增罚则,违规仍适用现有法律、规则和牌照条件。
争议焦点:供应商不配合怎么办
草案公布后,争议很快集中在几个现实难题上。第一,如果AI供应商拒绝在合同中接受责任或审计,运营商能怎么办?在算力与模型供给高度集中的市场里,运营商的议价能力未必足以迫使供应商让步。第二,记录难题:一些AI服务按“零数据留存”条款运行,只保留安全评分而不保存对话内容,运营商调查故障时可能拿不到完整的审计轨迹。第三,监督难题:AI智能体自主行动的速度和规模,可能超出人工复核的能力,草案要求的“每个系统都有人类监督”在实际中如何落地,仍需细化。
这些担忧并非空穴来风。Anthropic在10月26日提交美国证券交易委员会的上市文件中承认,关于自主AI系统行为责任的法律框架尚未确定,现有过失与产品责任法律尚未被权威地适用于自主AI系统;其通过服务条款限制责任的做法,也可能不被法院支持。该公司还提到,部分合同中它接受了无上限责任,例如为客户辩护模型输出侵犯知识产权的主张。
影响与展望
对印度运营商而言,这份草案如果最终落地,合规成本将明显上升:董事会政策、系统清单、风险分级、事前测试、事件数据库、治理委员会,每一项都需要人力与流程支撑。对AI供应商而言,印度电信市场可能成为一个试金石——愿意接受审计与责任条款的供应商将更有竞争力。
接下来值得跟踪的节点有两个:一是11月27日征求意见截止后,运营商与供应商会提出哪些修改意见,尤其是上报时限、供应商责任和罚则这几个空白点是否会被补上;二是MeitY更广泛的AI监管咨询文件出台后,电信草案会如何与之衔接。如果两套规则能形成一致的责任框架,印度可能成为全球较早在行业层面跑通AI问责机制的国家之一。