英国警方被叫停使用AI撰写法庭陈述,因合规评估未完成
阅读原文· ithome.com英国多个警察部门被叫停使用商用AI系统撰写法庭陈述及开展刑事司法工作,因未完成全面合规评估。Police.AI负责人亚历克斯·默里要求立即暂停,强调刑事司法技术须达到排除合理怀疑的准确性。Police.AI今年获内政部三年1.15亿英镑资金。部分警队利用AI将审讯笔录整理为法庭陈述;此前西米德兰兹郡警方因使用Copilot生成虚构内容引发AI幻觉担忧。默里认为AI经充分测试可提升效率,但需先建立安全保障。
IT之家 6 月 7 日消息,据英国《金融时报》报道,由于担忧人工智能生成的不准确内容会扰乱司法流程,英国多个警察部门已接到通知,停止使用人工智能系统撰写法庭陈述及开展其他刑事司法相关工作。
英国警方人工智能中心(Police.AI)负责人亚历克斯・默里表示,他已介入干预部分警队。这些警队在未完成全面合规评估的情况下,就开始使用市面上的商用人工智能工具。
“我们已经叫停了部分相关应用。”默里称,他告知相关警队:“立刻暂停使用,我们需要放缓推进节奏。”
他补充道,应用于刑事司法体系的任何技术,其准确性都必须达到排除合理怀疑的严苛标准。
此次叫停行动,凸显出生成式人工智能在警务领域的应用争议日益加剧。默里负责监管英格兰和威尔士地区警方的人工智能使用工作。他表示,这项技术最终有望加快案件侦查与证据处理效率,但全面推广使用前必须先建立完善的安全保障机制。
Police.AI 于今年正式成立,是英国政府为提升警务整体效率推出的改革举措之一。英国内政大臣沙巴娜・马哈茂德表示,该项目三年合计获 1.15 亿英镑(IT之家注:现汇率约合 10.46 亿元人民币)资金支持,投入使用后节省的人力时间,相当于为英格兰和威尔士现有的约 14.5 万名在职警员增配 3000 名警力。
据默里介绍,部分警队开始借助商用人工智能系统,协助警员将审讯笔录整理为法庭陈述文书,警方人工智能中心随即出手干预。
默里并未透露涉及的具体警队,但他表示,警方同时也收到提醒:在完成全部合规审查前,不得将人工智能应用于其他警务工作。
“我们明确告知部分警队:目前不能这么做,因为全套审核与制衡流程尚未走完。”他说道。