拒做“禁令警察”！网络安全巨头玩转负责任的AI的实战经验

随着AI竞赛的终点线不断移动，Barracuda的CIO Siroui Mushegian一直在试图保持具有竞争力的步伐，同时也时刻关注着风险。

新型AI资源可能会让想要探索该技术的员工心动不已，但它们也为影子IT、成本失控以及这家网络安全和网络产品公司可能面临的其他潜在难题敞开了大门。

“每次我查看工具集时，我们都有需要接入和协调的新参数。”她表示。

在此基础上，公司必须确定如何将最新工具推广给最终用户，Mushegian指出，在这样一个比以往技术演进速度更快的发展期，情况可能会变得相当复杂。

“我们必须以前所未有的速度前进，原因很简单：与过去的数据化转型不同，AI风靡一时，且带来了一种独特的紧迫感。”她说道。

需要适度而理性的方法

在这种紧迫感之下，有必要采取负责任的AI战略，以规避潜在的内部风险和未来法规的不确定性。“我们已经看到AI模型中出现了一些不够安全的行为，我只是想确保我们继续使用的技术不会引发我们的担忧。”Mushegian说道。

她补充称，自己相信AI带来的好处值得通过设立防护栏来解决这些顾虑。例如，AI模型可以重塑并简化公司的日常运营。

“这不需要对你所有的市场推广平台或业务系统进行大刀阔斧的重构，”Mushegian表示，“它不需要耗费数年时间，也不需要投入数百万美元。”

这一转型的新时代可能会带来成本更低的运营方式：几个人在一个房间里，借助AI技术的辅助，在白板上梳理创意。“这给我带来了很大希望，因为市面上有许多公司正承受着沉重的技术债务。”她说道。

建立内部安全保障机制

尽管AI的前方道路可能每天都在变化，但Mushegian表示，她为Barracuda的员工创造了以安全方式探索该技术的机会。“我想确保我们不会落后，我不想让我们站在最前沿的尖端体验区，”她说道，“但我来这里也不是为了当打压大家乐趣的‘严厉警察’。”

为什么要避免过于激进的前沿尝试?因为有昂贵且意想不到的隐患。Mushegian解释道，例如，曾经基于许可证计费的AI技术可能会变成基于Token计费，这可能导致资金被快速消耗。她补充称，如果在AI使用上可以随心所欲，她希望看到大家能更多地意识到：当用户创建智能体或准备通过工具箱中的AI工具推进工作负载时，Token可能会有多昂贵。这其中应当包括在费用通过之前，向需要批准该费用的经理或高管共享成本信息。“我认为对于那些尚未将一切都调整得完美无缺的公司来说，这将很有帮助。”Mushegian说道。

近年来，Barracuda成立了一个由她担任主席的AI委员会来进行治理，以制定政策并为内部AI的使用奠定基调，这促成了指导员工的框架，但同时也具备更改这些参数的灵活性。“它们并非一成不变;当AI使用本身发生变化时，它们可以根据需要进行调整。”Mushegian表示。

负责任的AI使用包括可见性——即了解员工如何使用数据，并明确他们各自的角色赋予了他们哪些访问权限，她说道，这有助于确保未经授权的工具不会被引入到生态系统中，并在需要时，通过正规渠道申请新工具。

这个内部AI委员会还包括来自公司各部门的成员，以消除影子AI并防止重复工具的泛滥。“我们为市场推广团队设立了分委会，为产品和工程团队设立了分委会，”她介绍道，“我们还有一个来自合规和法务部门的核心小组，用来讨论整体的政策。”

兼顾人的因素

在员工热衷于探索AI的同时，也可能需要解决一些不愿采用该技术的员工的顾虑——这可能是出于对失去工作的恐惧。“我们希望能切合人们的实际现状，帮助他们理解AI的概念，并向他们提供教育培训的机会，”Mushegian表示，这包括即将推出的、可通过公司获取的线下培训计划。

即便制定了负责任的AI战略，公司在如何使用该技术方面仍可能面临外部因素的影响。

“我普遍对AI监管感到担忧。”Mushegian说道。她正在关注那些与某些政府部门和政策制定者关系密切的AI巨头，将如何影响法规的形成。“我真的希望这些公司之间能够实现自我监管，或者政府对这些公司进行监管，这样我们才会觉得自己在使用的产品是真正安全的。”Mushegian表示。