英国警方被叫停使用AI撰写法庭陈述，因合规评估未完成
阅读原文· ithome.com英国多个警察部门被叫停使用商用AI系统撰写法庭陈述及开展刑事司法工作，因未完成全面合规评估。Police.AI负责人亚历克斯·默里要求立即暂停，强调刑事司法技术须达到排除合理怀疑的准确性。Police.AI今年获内政部三年1.15亿英镑资金。部分警队利用AI将审讯笔录整理为法庭陈述；此前西米德兰兹郡警方因使用Copilot生成虚构内容引发AI幻觉担忧。默里认为AI经充分测试可提升效率，但需先建立安全保障。
IT之家 6 月 7 日消息，据英国《金融时报》报道，由于担忧人工智能生成的不准确内容会扰乱司法流程，英国多个警察部门已接到通知，停止使用人工智能系统撰写法庭陈述及开展其他刑事司法相关工作。
英国警方人工智能中心（Police.AI）负责人亚历克斯・默里表示，他已介入干预部分警队。这些警队在未完成全面合规评估的情况下，就开始使用市面上的商用人工智能工具。
“我们已经叫停了部分相关应用。”默里称，他告知相关警队：“立刻暂停使用，我们需要放缓推进节奏。”
他补充道，应用于刑事司法体系的任何技术，其准确性都必须达到排除合理怀疑的严苛标准。
此次叫停行动，凸显出生成式人工智能在警务领域的应用争议日益加剧。默里负责监管英格兰和威尔士地区警方的人工智能使用工作。他表示，这项技术最终有望加快案件侦查与证据处理效率，但全面推广使用前必须先建立完善的安全保障机制。
Police.AI 于今年正式成立，是英国政府为提升警务整体效率推出的改革举措之一。英国内政大臣沙巴娜・马哈茂德表示，该项目三年合计获 1.15 亿英镑（IT之家注：现汇率约合 10.46 亿元人民币）资金支持，投入使用后节省的人力时间，相当于为英格兰和威尔士现有的约 14.5 万名在职警员增配 3000 名警力。
据默里介绍，部分警队开始借助商用人工智能系统，协助警员将审讯笔录整理为法庭陈述文书，警方人工智能中心随即出手干预。
默里并未透露涉及的具体警队，但他表示，警方同时也收到提醒：在完成全部合规审查前，不得将人工智能应用于其他警务工作。
“我们明确告知部分警队：目前不能这么做，因为全套审核与制衡流程尚未走完。”他说道。