行业新闻与博客

一家领先的标准机构警告称，随着企业领导者急于采用这项新技术，却没有首先建立必要的控制和流程，因此“人工智能治理差距”正在扩大。

英国标准协会 (BSI) 在一份新报告中发表了上述评论。该报告是通过人工智能辅助分析 100 多份跨国公司年度报告以及对 850 多位高级商业领袖进行的两项全球调查编制而成。

一方面，近三分之二（62%）的企业领导者计划在未来一年增加人工智能投资，以提高生产力、效率并降低成本。超过半数（59%）的受访者表示，他们认为人工智能对未来的增长至关重要。

然而，另一方面，只有四分之一 (24%) 的企业声称已制定人工智能治理计划，而大型企业中这一比例仅为 34%。

阅读更多关于人工智能治理的内容：英国企业因人工智能风险平均损失 290 万英镑

BSI 的研究还发现，只有：

• 半数（47%）企业通过正式流程控制人工智能。
• 三分之一（34%）采用自愿性行为准则。
• 四分之一（24%）的人会监控员工对人工智能工具的使用情况。
• 不到三分之一（30%）的企业制定了评估人工智能风险和缓解措施的流程。
• 五分之一（22%）的公司限制员工使用未经授权的人工智能。

人工智能治理的缺失似乎源于高层管理。仅有三分之一的高管认为人工智能会带来业务风险。一半的高管表示，他们会将人工智能相关的风险纳入合规计划，这一比例低于六个月前的 60%。

英国标准协会 (BSI) 表示，只有 30% 的企业制定了正式的风险评估流程，以检查人工智能可能在哪些方面引入新的漏洞。

标准制定机构警告称，用于训练大型语言模型（LLM）的数据管理是关键风险来源。然而，只有 28%的企业领导者知道其组织的数据来源，低于 2月份的 35%。仅有 40%的企业领导者声称其组织已制定流程来管理用于训练的机密数据。

当事情出错时

只有三分之一的受访机构告诉 BSI，他们有记录人工智能相关问题或不准确之处的流程，而有及时管理人工智能事件的流程的机构则更少（29%）。

该研究还运用关键词分析，以更好地了解企业在其报告中对“治理”概念的重视程度。研究发现，“治理”一词在英国企业报告中的出现频率比印度企业高出 80%，比中国企业高出 73%。

关键词“自动化”的出现概率是“技能提升”、“培训”或“教育”的七倍——这暗示了人们对当前技能水平的过分自信。

BSI 首席执行官苏珊·泰勒·马丁对人工智能治理方面存在的明显漏洞表示担忧。

她认为：“虽然人工智能可以成为一股向善的力量，但如果没有战略监督和明确的保障措施，它并不能解决增长缓慢、生产力低下和成本高昂的问题——事实上，如果没有这些措施，企业可能会面临新的风险。”

“不同组织和市场在人工智能应用方法上的差异，会造成有害应用带来的切实风险。过度自信，加上分散且不一致的治理方法，会使许多组织面临本可避免的失败和声誉损害的风险。企业必须超越被动的合规模式，转向积极主动、全面的人工智能治理。”