亚马逊托管的英国军事招募人工智能工具“存在数据泄露风险”

　　

　　根据英国政府的一项评估，由亚马逊托管、旨在促进英国国防部招聘的一种人工智能工具，使国防人员面临被公开识别的风险。

　　自动化系统中使用的数据包括军事人员的姓名、角色和电子邮件，这些数据由亚马逊在美国存储，用于改进国防招聘广告的起草，并通过改进包容性语言吸引更多样化的候选人。这意味着“数据泄露可能会产生令人担忧的后果，即识别国防人员”，根据今日首次公布的详细介绍政府人工智能系统的文件。

　　风险被判定为“低”，国防部表示，供应商Textio、亚马逊网络服务（Amazon Web Services）和威胁检测服务Amazon GuardDuty已经实施了“强有力的防护措施”。

　　但在为提高中央政府使用算法的透明度而发布的一批文件中，这是政府承认在公共部门使用人工智能工具存在的几个风险之一。

　　关于算法如何工作的官方声明强调，应对风险的缓解措施和保障措施已经到位。大臣们正在推动利用人工智能提高英国的经济生产率，用科技大臣彼得?凯尔（Peter Kyle）周二的话来说，就是“把公共服务从悬崖边缘拉回来”。

　　本周有报道称，新任内阁大臣克里斯?沃尔默德（Chris Wormald）告诉公务员，首相希望“重新规划政府的工作方式”，要求官员们“利用科技提供的重大机遇”。

　　b谷歌和meta一直在与英国政府直接合作，试点在公共服务中使用人工智能。微软正在为公务员提供人工智能辅助驾驶系统，本月早些时候，内阁办公室部长帕特·麦克法登（Pat McFadden）表示，他希望政府“更像一家初创公司”。

　　当前中央政府人工智能确定的其他风险和收益包括：

　　教师使用的基于Open AI强大的大型语言模型gpt - 40的人工智能课程规划工具可能会生成不适当的课程材料。人工智能节省了教师的时间，并且可以快速定制课程计划，这在其他情况下是不可能实现的。

　　一个聊天机器人的“幻觉”，用来回答有关家庭法庭上儿童福利的问题。然而，它也提供全天候信息，并减少需要与人工代理交谈的人的排队时间。

　　英国财政部（HM Treasury）的新政策引擎（PolicyEngine）中出现了“代码操作错误”和“输入数据不正确”，该引擎使用机器学习来模拟税收和福利变化，“比现有方法更准确”。

　　如果使用人工智能优先考虑食品卫生检查风险的用户过度依赖该系统，那么“人类推理能力的退化”。这也可能导致“某些类型的机构的得分持续大幅降低”，但它也应该意味着对更有可能违反卫生规定的地方进行更快的检查。

　　这些信息是在一个新扩大的算法透明度登记册中披露的，该登记册记录了23个中央政府算法的详细信息。有些算法，比如英国就业和养老金部（Department for Work and Pensions）在福利系统中使用的算法，已经显示出了偏见的迹象，但仍未被记录下来。

　　“技术在改善公共服务方面具有巨大潜力，”凯尔说。“我们将把它用于减少积压，节省资金并改善全国公民的成果。公共部门如何以及为何使用算法工具的透明度，对于确保它们被信任和有效至关重要。”

　　中央政府机构将被要求公布任何与公民直接互动或对有关人民的决策产生重大影响的算法工具的记录，除非适用于国家安全等少数豁免。一旦工具被公开试用或运行，记录将被发布。

　　扩展寄存器中包括的其他人工智能包括一个人工智能聊天机器人，它可以处理客户对铁路公司客户关系系统中历史案例的查询。

　　英国教育部正在使用Open AI的gpt - 40模型，为教师运营一款名为Aila的人工智能课程助理。在白厅内部创建，而不是使用承包商，它允许教师生成课程计划。该工具是有意设计的，不会在触摸按钮时生成课程。但已识别并正在减轻的风险包括制作有害或不适当的课程材料、偏见或错误信息以及“提示注入”——恶意行为者欺骗人工智能执行其意图的一种方式。

　　儿童和家庭法院咨询和支持服务中心（Children and Family Court Advisory and Support Service）为家庭法院提供有关儿童福利的建议，该机构使用自然语言处理机器人为一个网站聊天服务提供动力，每月处理约2500个查询。其中一个公认的风险是，它可能正在处理有关儿童的报道，而其他报道则是“幻觉”和“不准确的输出”。它有三分之二的成功率。它由包括Genesys和Kerv在内的公司提供支持，同样使用亚马逊网络服务。