去年，生成式人工智能席卷了科技行业乃至全世界，让IT企业老板想知道这对他们的公司的短期和长期意味着什么。由于有关GenAI的许多问题仍未得到解答，Gartner利用本月早些时候举行的IT基础设施、运营和云战略会议为IT企业老板提供了有关该技术未来的一些清晰信息。
其中一场会议重点关注生成式人工智能的炒作周期，另一场会议则关注GenAI对基础设施和运营(I&O)的未来影响。
Gartner副总裁分析师主持了这两场会议，并在第一个会议“生成式AI的炒作周期”开始，询问生成式AI是否会改变游戏规则或被过度炒作。
过去12个月里，这个生态系统的创新速度是前所未有的，几乎每天都有新应用程序和新模型发布。这显然让IT企业老板不知所措。尽管如此，对于炒作问题没有明确的答案，因为研究界在这个问题上存在分歧。
GenAI：鹦鹉学语还是AGI的早期阶段？
一些研究人员认为生成式人工智能和大型语言模型（LLM）只不过是鹦鹉学语，它们知道如何生成下一个单词和句子，但不了解它们正在生成什么。这可能会导致幻觉和严重错误。
也有研究人员认为我们正处于通用人工智能（AGI）的早期阶段，即拥有人类水平的智能，因此能够完成人类擅长的任务。
GenAI的潜力将是变革性的，但从短期来看，还有很多障碍需要克服：
生成式人工智能模型的风险是巨大且后果性的。
当企业将这些模型与其数据和领域知识相结合时，GenAI对企业的真正价值就产生了。不幸的是，企业数据工程仍然停留在20世纪，我们需要做很多工作才能让我们的数据在这些模型中有效运行。
GenAI应用程序和模型的投资回报率和长期拥有成本尚未得到证实。
生成式人工智能何时成熟？尽管我们尽了最大努力，但我仍然认为这个生态系统将以完全意想不到的方式发展。
在IT领域，GenAI正在应用于三个关键业务功能。首先也是最重要的是在软件工程领域，GenAI模型正在帮助开发人员更快地编写代码，甚至在他们的环境中完成代码。
另外两个领域是安全（主要用于威胁管理）以及DevOps和I&O。
GenAI的好处和风险
在关于GenAI的第二场会议“ChatGPT和生成式人工智能对I&O的未来影响”中，讨论了使用该技术的好处和风险。
生成式人工智能的好处包括：
员工生产力
员工不仅可以使用生成式人工智能以更少的资源完成更多的任务，而且可以更快地完成任务。
多域应用
这些模型可以生成多模式内容，这意味着可以为多个用例部署相同的模型，从而简化了模型生命周期管理。
技能和知识的民主化
这是“从长远来看生成式人工智能的真正承诺”，因为它将企业知识放在员工的指尖，并使其成为对话式的，您可以通过自然语言对话与数据进行交互。
留住人才
通过让工作更令人满意并提高生产力，GenAI可以帮助保留人才。这些工具也正在成为低代码、无代码解决方案，使传统基础设施团队能够生成用于管理云基础设施的声明性代码。甚至是商业用户，他们可以使用自然语言查询与后端的复杂系统进行交互。
尽管有这些好处，GenAI仍存在许多重大风险。
客户担心的第一大风险是，我不希望我的数据被用来训练你的模型。我希望我的数据就是我的数据。它需要保密。
GenAI用户担心的其他风险包括幻觉（“一个复杂的术语，表示当模型不知道答案时，它会编造一个答案”）、GenAI缺乏参考能力（“你不知道确切的原因[模型]正在说他们在说什么”），许多模型创建者正在处理集体诉讼和其他法律问题。
尽管存在风险，但可以采取行动来减轻这些风险：
知识产权损失：使用企业模型API；及时治理是关键；审查第三方服务协议。
幻觉：通过RAG或微调、工具和人员来验证模型以审查输出。
安全性：针对数据保护和对抗性攻击实施强大的数据保护和防护措施。
可解释性：部署解决方案以实现可解释性；优先考虑数据的可参考性。
公平：使用内容审核和偏见检测工具；教育业务和IT企业老板。
滥用：执行严格的访问控制和审批流程；部署可观察性工具。
劳动力影响：开展技能培训、规划职业道路并提供情感帮助。人工智能不会取代人类。但人工智能将取代拒绝使用人工智能的人类。
大多数I&O企业老板会购买人工智能，而不是构建人工智能。但话虽如此，我们需要确保在与我们开展业务的意义方面设定非常高的标准，我们需要了解他们的模型训练过程。我们需要了解他们的应用程序中嵌入的隐私和安全实践。我们需要很好地了解他们的长期拥有成本。我们需要了解有多少即时工程自动化他们可以在我们的环境中做到这一点。
Gartner对于生成式AI的立场如何？简而言之，我们相信[生成人工智能]的长期潜力，但我们必须克服短期内的障碍。
