近日,第十届语言服务高级论坛暨2025年国家应急语言服务团学术年会在广州大学(大学城校区)举行。广州市社科重点实验室——粤语语料库建设与大模型评测重点实验室(下称“实验室”)研发的AI-DimSum粤语语料库平台在大会上正式发布。
图源:AI-DimSum粤语语料库平台官网
作为数字中文的关键领域,粤语不仅关涉粤港澳大湾区的文化共同体认同,更关涉中华文化全球传播的国际话语权,关涉全球华人与祖国情感的纽带。粤语作为汉语的一种方言,在海内外有上亿用户,但在网络世界中却属于低资源语言。岭南文化的传承要搭上人工智能的快车,就必须要构建“技术为体,文化为本”的通用粤语语料库。
面向“数字中文建设”和粤港澳大湾区文化数字化需求,AI-DimSum多模态粤语语料库平台建设了语料采集子系统、语料标注子系统、大模型对接子系统、语料确权检索子系统、语料质量评估子系统、语料管理子系统以及应用商店子系统等七个子系统。通过子系统协同工作,实现从数据采集、清洗、标注、确权、存储检索,到模型接入与最终应用发布的一体化流程,为粤语语料库的构建、管理、利用与落地应用提供完整、模块化、可扩展的基础设施与运行机制。
图源:AI-DimSum粤语语料库平台官网
AI-DimSum粤语语料库汇聚处理文本语料超过100万字,涵盖新闻、文学、社交媒体等领域;完成3000小时高保真语音标注及1TB以上的音视频资料,包括大模型训练专用语料集;功夫熊猫、小猪佩奇、哪吒、大圣归来、花木兰等包含粤语字幕与标注的动画影视作品;外来媳妇本地郎、溏心风暴等包含粤语字幕与标注的影视作品;超过1万句的多用途粤语生活场景音频+文字的语料;岭南文化图像素材10000张;构建了包含6669条权威词条、30000条扩展词条的粤语安全语料库;粤语大模型内容安全多模态评测题超过20万等。
AI-DimSum语料库平台是全球首个集文化忠实、安全可信及AI友好于一体的多模态、大规模、通用粤语语料库平台,其探索出的“技术为体,文化为本”的方言语料库建设路径与独特的“1+1+N”协同创新机制均为方言文化的数字化保护与传承发展提供了可复制、可推广的数字化范式。
从2024年11月14日实验室正式启动,到今天粤语语料库平台发布,历时一年多的时间,通过1+1+N机制集结了暨南大学、华南师范大学、香港科学大学(广州)、广东外语外贸大学、澳门大学、香港语言学学会等粤港澳大湾区相关研究机构资源,百度科技、趣丸科技、羊城晚报报业集团等产业资源,以及通过粤语语料库开源社区凝聚的全球开发者资源,共同协力打造了AI-DimSum粤语语料库平台。下一步,将通过与产业界的密切合作,不断丰富语料库平台的语料产品,赋能岭南文化与AI科技的双向奔赴。
参考来源
广州社科《重磅上线!Al-DimSum粤语语料库平台正式发布》
https://mp.weixin.qq.com/s/3VQBNjpohVbr4ktshb5JdA?scene=1
图片来源同上,非商业用途,若构成侵权,请联系我们进行删除
热门跟贴