影响采用率的因素包括害怕在公众面前失败和社会的反对
Gartner 公司预测到 2027 年,拥有面向公民的生成式人工智能(生成式AI)服务的政府机构比例将不超过 25%。延缓政府对外使用该技术为公民服务的因素包括害怕在公众面前失败和社会对政府使用该技术缺乏信任。
与所有行业一样,政府在过去的15 个月中一直在探索生成式AI的 出现所带来的机遇和风险。Gartner 对 2400 多名首席信息官和技术高管进行的年度全球调查发现,25%的政府已部署或计划在未来 12 个月内部署生成式AI;还有25% 的政府计划在未来 24 个月内部署生成式AI。政府在初期把工作重点放在了建立一个为尝试和小范围采用提供支持的初步治理框架上。
Gartner研究副总裁Dean Lacheca表示:“虽然政府多年来一直受益于使用较成熟的AI技术,但他们现在正因为风险和不确定性而减缓大规模采用生成式AI的速度,尤其是因为缺乏能够减少漂移和幻觉的传统控制手段。另外,如果政府在服务方面缺乏换位思考意识并且未能满足社会的期望,也会影响公众对于将生成式AI用于公民服务的接受程度。”
根据风险承受能力调整采用速度
为解决这一问题,Gartner 建议政府继续通过积极部署生成式AI解决方案改善公民服务的内部环节。
Lacheca 表示:“为了防止使用AI初期所出现的失误降低社会对政府服务技术的接受程度,政府机构应根据自身的风险承受能力决定采用生成式AI 的速度。这意味着政府在后台采用AI的速度将超过用它来直接服务公民。”
Gartner 建议政府机构可以通过专注于主要影响内部资源的用例、防止产生与公民服务相关的感知风险以及积累与该技术相关的知识和技能来加快生成式AI的采用。另外,政府还应该为内部开发和采购的AI能力建立透明的AI治理和保障框架,以此来建立信任和降低相关风险。
Lacheca表示:“这些框架需要能够具体应对与公民服务用例相关的风险,例如不准确或具有误导性的结果、数据隐私、安全对话等。为此,在初步落实治理流程之前和之后都要确保该流程能够具体应对每种风险。”
此外,政府机构在设计使用面向公民或劳动者的AI解决方案时,应采取以换位思考为中心的人本设计实践。这样可以保证在从公民角度出发确定如何以及何时使用这些解决方案时能够符合社会的期望。
Gartner 客户可以在“2024年预测:政府首席信息官必须为AI赋能的未来做好准备”中了解更多信息。