CIO心得分享：驾驭生成式AI的七个要点|ai|cio|代码|生成式|算法|视频生成模型|速度

生成式AI为企业创新开辟了广阔的空间，也成为了CIO们的心头好。但是在实际应用中，采用生成式AI并没有想象得那么容易，诸如技术债务、数据泄露等问题，都在束缚企业采用生成式AI的手脚。如何驾驭生成式AI，已经成当前CIO们不能不考虑的问题。
本文总结了走在前沿CIO们总结的七个要点。

推到IT战略的C位

在当前的起步阶段，生成式AI已经开始改变企业，并深刻影响着IT战略。正确实施生成式AI被认为是以更低成本生产更高质量产品的有效工具。

医药连锁Walgreens的CIO Neal Sample认为，现在已经不必再去考虑AI是否会对企业的整体业务产生积极影响，而是要考虑影响的程度和速度。

代码生成是生成式AI最具潜力的应用场景之一。生成式AI可以用来自动化生成各种类型的代码，大幅提高生产效率，并加快IT迭代速度。GitHub通过微软Copilot来自动化生成大量代码，使其效率提升了55%。

代码测试平台Sonar的CIO Andrea Malagodi表示，生成式AI最起码可以通过自动化将软件开发人员从繁琐、重复的任务中解放出来，从而专注于更具创造性和高级别的工作。因此他认为，投资生成式AI关系到IT团队的成长、生产力和满意度的提升。

网络安全公司Palo Alto Networks的CIO Meerah Rajavel补充说，人工智能在将代码测试左移方面发挥了重要作用，可以协助进行单元测试、调试，以及在软件开发周期的早期识别配置错误。

代码生成并不是唯一从最新AI浪潮中受益的领域。无代码自动化平台公司Workato的CIO Carter Busse表示，除在IT领域外，AI还有助于客户支持、提高生产力和推动跨团队的创新。

云数仓公司Snowflake的CIO兼首席数据官Sunny Bedi预测，员工生产力将受到最大的影响。他预见，未来所有员工将与AI副驾驶密切合作，协助提供个性化新员工入职体验、协调内部沟通和对创新想法进行原型设计等。他补充说，通过利用语言模型的开箱即用功能，企业还可以减少在搜索、文档提取、内容创建与审核和聊天机器人等操作中对第三方的依赖。

处理不断增加的技术债务

但是与此同时，生成式AI也加速了技术债务积累的速度。

软件行业分析公司RedMonk的首席分析师和联合创始人Stephen O’Grady认为，单从代码的加速生成这一点，就可预测技术债务将会增加。

技术债务的产生关键原因在于生成式AI模型的实际应用方式，而不是模型本身。Walgreens的Sample提醒，在将AI模型应用于现有技术生态系统时，存在更高的技术债务积累风险，例如在使用旧技术栈时修改连接性和集成生成式AI模型。

但是从另一个角度来看，如果适当使用生成式AI可以通过重写传统应用程序和自动化积压任务来消除旧的技术债务。

CIO们不应该因此盲目行动，而是在拥有正确的云环境和战略之后再进行。企业管理软件公司Hyland的CIO Steve Watt表示，如果组织过早地实施生成式AI，现有的技术债务可能会继续增长，或者在某些情况下变成长期存在的问题。他建议制定一个计划来解决现有的技术债务，以确保新的人工智能驱动的项目不会崩溃。

起初，企业在尝试人工智能和大语言模型时可能会增加技术债务。但Busse同意，从长远来看，语言模型可减少技术债务，这取决于AI能否有效地应对不断变化的需求。他认为，将AI嵌入到业务流程中，能够更快地适应流程变化，从而减少技术债务。

确保代码质量过硬

与此同时，AI生成代码质量也受到质疑，突出的表现是代码变更和代码重用的增加。Red Monk的O'Grady分析说，AI生成的代码质量将取决于许多因素，包括部署的模型、当前的用案，以及开发人员的技能。

“就像人类开发人员一样，人工系统会持续输出带有缺陷的代码。”他说。

微软研究最近在评估了22个模型后发现，这些模型在基准测试中通常表现不佳，暗示了训练设置中存在基本盲点。报告解释说，虽然AI助手可以生成功能正常的代码，但它们不能始终超越功能的正确性去考虑其他方面的问题，如效率、安全性和可维护性，更不用说遵守代码约定了。

对此，Sonar的Malagodi认为，如果代码质量不好，即便生成速度变快了，但是对效率的提升也没有太大帮助。因此他敦促CIO和CTO们采取必要措施，确保AI生成的代码是干净的；这意味着代码是一致、有目的、可适应和负责任的，从而产生安全、可维护、可靠和可访问的软件。

模型本身的质量问题也可能导致输出的代码不理想。云技术智能平台Snow Software的CIO Alastair Pooley认为，数据质量、模型架构和训练过程的问题都可能导致不达标的结果。

“训练不充分的模型或意外的边界情况可能会导致质量较低的输出，带来运营风险并影响系统可靠性。“他说，”这些都需要对输出和质量进行持续的审查和验证。“

Palo Alto Networks的Rajavel补充说，人工智能就像任何其他工具，最终的结果取决于用户使用的工具和方式。如果没有采取适当的人工智能治理措施，模型可能会生成不符合产品架构和预期结果的低质量成果。此外，在她看来，根据当前任务选择适当的AI模型也非常关键，因为没有一种模型适用于所有情况。

各个击破其他不良后果

在部署生成式AI时，除了IT债务和代码质量之外，还要考虑一系列潜在的不良后果。其中可能包括数据隐私和安全、算法偏见、工作岗位替代，以及AIGC带来的伦理问题。

网络犯罪分子已经开始利用生成式AI技术来实施大规模执行攻击，因为它能够制作出以假乱真的网络钓鱼活动和传播虚假信息。攻击者还可能将目标锁定生成式AI工具和模型本身，导致数据泄露或篡改输出结果。

“生成式系统可能会加速攻击者实施攻击的速度，”Red Monk的O'Grady说，“对许多企业来说，最大的担忧是从封闭供应商系统中窃取私人数据。”

除了模型本身的问题外，成本也是CIO们不能不考虑的因素。但是很多CIO容易在生成式AI上不自觉，或者不必要地花费大量资金，其原因可能是使用错误的模型，没有算好可能会产生的成本，或者没有有效地使用它们。

Salesforce的Perez表示，人工智能本身并非没有什么风险；它需要从头开始构建，并由人类来控制，从而确保从最基本的用户到最有经验的工程师，每个人都能信任其产出成果。在他看来，生成式AI的应用还有问题悬而未决，那就是AI开发和维护的所有权问题——因为这给IT团队带来了满足创新需求的压力，而许多IT工作者缺乏足够的时间来实施和训练AI模型和算法。

生成式AI带来的另外一个备受关注的话题是AI将取代人类劳动力。但是目前对于生成式AI对IT团队就业的影响还没有定论。

O'Grady认为这确实是个潜在的问题，但影响有多大目前还难以预测。但是Walgreens的Sample并不认为AI对人类构成生存威胁。相反，他对生成式AI改善员工生活的潜力持乐观态度，认为AI将使人们不必从事可以自动化的重复任务，从而专注于更高级别的工作。

多管齐下缓解对AI的担忧

尽管AI的价值已经被广泛认可，但是很多人还是会对AI应用成果产生怀疑和担忧。应对AI带来的大量担忧需要采取多种方法。

对于Perez来说，生成式AI的质量取决于这些模型所接收的数据质量和可信度——要想获取高质量、值得信赖的人工智能，就需要高质量、值得信赖的数据。然而数据往往存在错误，这就需要工具来集成不同来源、不同格式的非结构化数据。他强调，要超越“人在环路中(human in the loop)”的方法，让人类在更大程度上掌控局面。在他看来，人工智能是一个值得信赖的顾问，但不是唯一的决策者。

为了保证软件质量，还需要进行严格的测试，以检查AI生成的代码是否准确无误。为此，Sonar的Malagodi鼓励企业采用“边写边清理”的方法，包括静态分析和单元测试，以确保进行适当的质量检查。他认为，当开发人员专注于清洁代码最佳实践时，他们可以确信他们的代码和软件是安全、可维护、可靠和可访问的。

Snowflake的Bedi说，与任何新技术一样，最初的热情需要用适度的谨慎来调和。因此，IT领导者可以先考虑有效地使用人工智能助手，比如作为能够检测架构漂移的可观察性工具，或者支持应用需求的准备工作。