技术咨询
代买器件
商务客服
研发客服ChatGPT的热烈炒作、广泛使用和快速蔓延提升了最终用户对LLM和GenAI的认识，引发了一波商业实验和AI初创企业的浪潮。2023年4月的Gartner网络研讨会发现，381名中国参会人员有70%已经或计划启动GenAI项⽬，其中6%已在生产环境部署了GenAI，26%在试点GenAI，38%处于规划阶段。
CIO及其安全团队需要为GenAI的影响做好准备，在以下四个方面采取措施：
1.为构建GenAI应用提供安全保护：AI应用攻击面不断扩大，产生了新的潜在风险，需要对现有应用安全实践进行调整。
2. 管理和监控使用GenAI的方式：各企业机构正在探索如何使用嵌⼊现有应用的GenAI助手，这些应用都有独特的安全要求，是传统安全控制措施无法满足的。
3. 利用生成式网络安全AI进行防御：有效抓住GenAI机遇，从而改善安全和风险管理、 优化资源、抵御新兴攻击技术，甚至降低成本。Gartner将生成式⽹络安全AI定义为 GenAI技术在网络安全中的应用。
4. 为受到GenAI攻击做好准备：GenAI工具和技术不断发展，各企业机构必须适应恶意行为者不断发展的技术或新的攻击向量。
图1对此进行了说明
CIO及其安全团队不应只是试图跟上新技术发展的步伐，也需要规划和建立一致而有效的AI安全治理计划，以应对GenAI采用激增的局面和各类新兴场景。
AI安全治理项目应整体覆盖组织架构、技术和政策。其早期任务之一就是制定所有构建或部署AI的团队必须遵循的标准，包括安全AI开发、AI数据安全和AI安全应急响应标准。中国CIO和安全团队应与利益相关者和企业机构领导者合作，制定五个阶段的AI安全治理计划（见表1）。
表1: AI安全治理项目的五个阶段及主要行动
文章来源于:电子工程世界 原文链接
本站所有转载文章系出于传递更多信息之目的，且明确注明来源，不希望被转载的媒体或个人可与我们联系，我们将立即进行删除处理。
相关文章
陈天桥雒芊芊脑科学研究院OMNE人工智能长期记忆框架荣登GAIA排行榜榜首(2024-10-31)
陈天桥雒芊芊脑科学研究院OMNE人工智能长期记忆框架荣登GAIA排行榜榜首;加利福尼亚州雷德伍德城2024年10月30日 /美通社/ -- 陈天桥雒芊芊脑科学研究院（TCCI）内部人工智能团队......
微软在伦敦设立新的人工智能中心(2024-04-09)
基础模型创建世界级的工具，与微软的人工智能团队以及包括OpenAI在内的合作伙伴密切合作。本文引用地址：声明中称，新的人工智能中心将由人工智能科学家和工程师乔丹霍夫曼(Jordan Hoffmann)领导......
英特尔自研AI工具，将耗时数周的芯片设计周期缩短至几个小时(2024-04-17)
能知道他们是否找到了传感器的最佳位置，他们在几分钟内就可以得到答案。
增强型智能的一小步，芯片设计的一大步
这款工具由英特尔客户端计算事业部高级首席工程师及人工智能解决方案架构师Olena Zhu博士带领增强智能团队......
Intel自研AI开发工具：6周芯片设计变几分钟(2024-04-18)
模拟工作负载、传感器位置优化等等，经常需要重新开始整个步骤，而且一次只能研究一两个工作负载。
Intel客户端计算事业部高级首席工程师、人工智能解决方案架构师Olena Zhu博士领衔增强智能团队......
英特尔自研AI工具，将耗时数周的芯片设计周期缩短至几个小时(2024-04-18 14:36)
解决方案架构师Olena Zhu博士带领增强智能团队开发。这款工具帮助英特尔的系统架构师们将数千个变量纳入未来的芯片设计中。这只是众多例子之一，其中英特尔团队利用人工智能......
英特尔自研AI工具，将耗时数周的芯片设计周期缩短至几个小时(2024-04-17)
设计的一大步
这款工具由英特尔客户端计算事业部高级首席工程师及人工智能解决方案架构师Olena Zhu博士带领增强智能团队开发。这款工具帮助英特尔的系统架构师们将数千个变量纳入未来的芯片设计中。这只......
Google 在蒙特利尔设立人工智能实验室，专注深度学习技术(2016-11-22)
Brain 团队的一个远程部门。
Google 在 Montreal 开设的人工智能实验室由 Hugo Larochelle 主管，他曾是 Twitter 人工智能团队的成员，在 Montreal 大学......
比AlphaGo更强！DeepMind推出自主学习人工智慧DNC(2016-10-17)
比AlphaGo更强！DeepMind推出自主学习人工智慧DNC;今年年初，谷歌Alpha Go战胜围棋高手李世石，让我们见识到了人工智能的强悍。
而根据报道，开发Alpha Go的人工智能团队......
强化人工智能布局 苹果并购新创企业 Turi(2016-10-22)
服务等，这些产品可以使得不同规模的企业能够更方便的利用资料。具体使用场景包括推荐引擎、反诈骗、预测用户数的变化、情绪分析，以及用户分类等等。
至于，苹果近年来更是积极扩增招聘人工智能团队人员以扩大规模。目前......
强化人工智能布局 苹果并购新创企业 Turi(2016-10-25)
服务等，这些产品可以使得不同规模的企业能够更方便的利用资料。具体使用场景包括推荐引擎、反诈骗、预测用户数的变化、情绪分析，以及用户分类等等。
至于，苹果近年来更是积极扩增招聘人工智能团队人员以扩大规模。目前......