大模型技术已经成为各行各业的关键驱动力,在协同办公领域中,具有丰富且可落地的业务场景,本文挑选了6个可以获得高收益、快速落地、有良好效果的应用场景,供大家参考,今天的内容将从以下三个部分进行展开:

1. 大模型在协同办公中的应用场景与建设路径

2. 针对大模型幻觉和数据治理的解决思路

3. 大模型的落地实践案例分享

分享专家|杨国生 泛微网络 副总裁

内容已做精简,如获取专家完整版视频实录和课件,扫码领取

01

大模型在协同办公中的落地场景与建设路径

大模型的AI技术,能够打造一款让用户高度自然交互的智能办公平台,简化前台操作,让软件自动识别,办公场景中各类系统功能指令。这不仅仅为员工的工作方式带来了变化,还能让员工更专注于以客户需求为服务中心,更专注于解决更复杂的问题和更具有创造性的工作。

融入大模型的协同办公场景会有哪些?

实际上,大模型可广泛应用于日常工作中的各类场景,例如像市场、营销、采购、行政、人事等等,具体比如会议室预定、日程安排、知识问答等等。

接下来举例几个具体的场景应用。

人事考勤场景:这是在办公领域很典型的一个场景,在结合大模型的能力后,让用户使用就变得极为简单。只要说一句话,比如“查询我上周的考勤情况”,那么就可以自动地、精准地识别出上周的考勤情况了。

行政管理场景:日程的安排也是办公领域很常见的场景,在结合大模型的能力后,只要说一句话,就可以自动地、精准地识别出日程安排,包括同事为我安排的工作和自己创建的行程。

商务订票场景:企业商旅出行订票是很多业务人员经常要用的一个功能,在结合大模型的能力和RPA能力后,只要说一句话,比如“查询下周一去北京的机票”,就可以自动的检索各个商旅平台,下周一去北京的各个时间段的机票情况、价格信息等,比较很方便让员工做出选择。

合同审批场景:在采购过程中,会经历合同申请、审批,在结合大模型的推理能力后,比如和某位客户的办公软件采购合同,首先大模型会自动地抽取跟客户有关的方案报价信息。这实际上是利用大模型提取的能力,同时把提取出来的信息,再结合公司标准的合同模板,就自动地生成客户的合同。

人工只要简单地确认一下信息,就可以省去撰写合同的工作量,同时在整个合成的过程中,也涉及到合规方面智能审查,这部分工作量也通过智能模型的能力得到了有效减负。

通过上述场景的介绍,整个智能化的协同系统,实现路径是怎么样的?

整体来说可以分为四个环节:

第一,前期建设的核心是要找到典型的需求场景;

第二,根据具体需求来设计整个场景的交互体验;

第三,根据场景去做前期的数据收集,和语料的标注、训练等等;

最后是整体系统开发实施、测试、上线、运维。

在这个过程中,前期需要根据需求场景做些样本,用样本数据去测试模型在特定场景下的整体效果是怎么样的。通过这样的前期样本测试后,再继续展开所有场景的训练和测试。

测试的过程实际上是一个迭代的过程,直到最后根据测试样本的指标,去验证它的整体效果,最后达到上线的标准。

02

大模型落地业务过程中,遇到的难题与解题思路

第一个是大家比较熟知的大模型幻觉问题。

举一个例子,比如说用户要预定会议室,那按照这个场景的设计,它应该是会产生多轮的对话询问,包括预定哪个会议室、什么时间开始、什么时间结束等等。

从上图很显然可以看出,它编造了会议的地点、会议的时间、甚至会议的内容。

那如何一步步去解决幻觉问题带来的影响?

1. 可以通过优化提示词,这是很常见的一个方法。优化提示词来严格地告诉大模型,帮它做好角色的定义,比如说“你是一个关键信息的抽取器,用来提取我这句话里面有哪些是关键信息”,这就是一个角色定义。

2. 可以根据每个场景中表单的字段信息,告诉模型用途。比如说会议地点可以加以标注,会议地点是用来开会的地方,让大模型更能容易理解。

3. 时间方面的问题属于大模型中比较典型的,目前可以弱化这方面的推理生成的能力。比如说上周四到本周二,因为结果由于跨月份后,上下月衔接的时间中,生成的会不太理想。那这时候会去弱化它对时间的推理能力,让模型不要生成具体的开始时间、结束时间,而是直接提取用户表达的信息。当我们拿到比如上周的这个时间表达以后,会用泛微的模型去做转化,转化出正确的时间段以后,再结合大模型本身的结果,整合到一起再推给终端用户。

4. 如果确实碰到一些场景存在大量的多样性样本,导致整个效果不是很好的情况下,需要抽取各自的样本去做微调。

第二个典型问题是企业对数据管理的要求十分严格。

当前部署大模型都是以SaaS的API的形式来服务的,GPU资源贵是很重要的制约条件。

那么企业组织过程中,经常会有敏感的数据,比如说人员信息,企业名称信息等等,这些信息直接用API的方式出去是不合适的,所以为了避免企业关键的敏感信息泄露,也实现了一套脱敏的算法。

整体的流程如上图所示,当用户发出请求后,我们会去识别里面的关键信息,是不是属于我们定义的敏感信息,比如说人名、企业名等等,如果识别到了,会把信息提取出来,然后用特别的算法去做加密,并自动形成密文表。

加密还有很重要的关键点,一定要带有语义的加密,不是从前那种MD5之类的方式,加密后会让大模型不认识,带有语义的加密信息通过大模型生成完后,再自动解密。

带有语义的加密可以举几个简单例子,比如说周杰伦马上要在上海开演唱会,会自动把它加密成张某杰这样方式,张某杰对于大模型来讲,还是能知道它代表人名的意思,而且这个密文还是随机的。

03

大模型在协同办公中的实践案例

传统办公与运营过程中面临的挑战较多,痛点主要分为以下四个方面。

第一,组织规模大了以后,遇到事情不知道找谁,员工之间往往都是互相不熟悉的,每个人实际上都有自己业务专长,碰到某个问题以后,不知道找哪个专家去协助解决。

第二,公司的产品越来越多,业务越来越广,每个业务团队要求需要更高的知识背景和更全面的客户了解。企业内部实际上已经沉淀了大量各业务条线的专业知识,是否可以充分挖掘出来,直接让业务员便捷访问,快速得到需要的答案。

第三,随着企业的发展,往往需要更多的数字化应用的功能来支撑,但是功能多了,员工学习成本、使用成本也就越来越高,不经常用的功能入口往往不容易被找到。用户是否可以以一种自然语言的方式,方便地使用,来提高系统的使用和办事效率的方式。

第四,企业服务的客户量很大,人效很难跟上来,每天大量的客户产生的问题咨询,包括新同事对业务的不熟悉等等。是否可以把解决过的问题知识,能让各业务条线的同事很方便的获取借鉴呢。

基于上述4个主要的痛点,协同办公智能解决方案实际是采用了语义分析,包括泛微自研的模型、OCR的关键技术,智能融合运营过程中的各种场景。智能的底座支撑,其关键是以大模型为核心,然后结合自研的算法、RPA的机器人等等来形成整体的方案,从而能够为企业组织的各个部门服务。

大模型的引入,首先实现在找人找资料方面更方便有效了,可以利用语音的方式,找到需要的问题答案。

第二,大大降低了系统的使用和学习成本 ,通过自然交互方式,自动识别需要的功能,并能多轮对话引导用户填写。

第三,为业务系统赋予智能化 ,能够让应用更智能,实现系统和业务的协同。

第四,融合了大模型的技术后,将智能技术在实际业务场景中应用,能够更加智能化的驱动业务管理。

第五,将智能化技术融合到智能办公的各个环节当中,能够始终围绕人的工作,提供智能化服务。

最后是提供智能化的运营底座支撑,基于平台可以随时扩展更多的智能应用场景,随时可以扩展新的业务智能助理。

以上就是本次的分享内容,如获取专家完整版视频实录和课件可扫码领取

杨国生先生,现就职于泛微网络,拥有十多年的数字化建设经验和协同办公软件产品研发经验。擅长软件应用设计及信息化系统架构融合解决方案,致力于推动智能化技术如RPA、OCR、NLP、大模型等技术在协同办公领域的场景应用。