非洲人工智能(AI)会是什么样子?尼日利亚企业家奥卢巴约·阿德坎比(Olubayo Adekanmbi)畅谈道:它应该像英语一样精通非洲语言;既能熟练处理语音,也能处理文本;而且要轻量级,这样才能在芯片稀缺、网络覆盖不佳的地区蓬勃发展。相比之下,硅谷的前沿实验室却在大量使用英语数据集来训练庞大的模型。“目前全球人工智能的发展模式完全不符合非洲的实际情况,”他说道。
正因如此,两年前,在电信行业工作多年后,阿德坎比先生联合创办了EqualyzAI公司。这家初创公司开发了一系列工具,用英语和四种尼日利亚语言为母亲提供健康建议、帮助交易员管理账户以及处理银行客户来电。类似的机构正在非洲各地涌现。
鉴于前沿模型的普及,它们似乎显得有些多余。微软估计,在埃塞俄比亚、刚果和南非的劳动年龄人口中,分别有8%、9%和23%的人使用过生成式人工智能。OpenAI表示,尽管非洲的ChatGPT用户基数较低,但其增长速度却超过其他任何地区。中国的模型也很受欢迎。
但即使是最好的大型语言模型(LLM)在非洲语言上也表现不佳,其基准测试得分通常比英语低10-30个百分点。它们难以处理方言和“语码转换”,例如说话者在英语和母语之间切换的情况。对于一些较小的语言,它们的大部分训练数据都来自《圣经》经文。Lesan AI 的 Asmelash Teka Hadgu 致力于非洲之角语言的机器翻译和语音识别,他认为现有模型在日常口语方面“存在缺陷”。对于使用非拉丁字母的语言,例如阿姆哈拉语和提格雷尼亚语,情况尤其如此;而在其他主要语言中,改进速度更快。
根本问题在于数据匮乏。用于训练人工智能模型的数据库Common Crawl在7月份抓取了8.72亿个英文网页,但仅抓取了8万个阿姆哈拉语网页。在所有非洲语言中,只有斯瓦希里语的网页抓取量超过了威尔士语。
用于语音识别的高质量音频资源也十分匮乏。因此,在谷歌和盖茨基金会等机构的支持下,非洲的研究人员正在录制人们的说话方式。卢旺达数字乌穆甘达公司的奥达斯·尼永库鲁表示,他的公司致力于在年龄、性别和方言方面实现平衡。
那么接下来该怎么办呢?非洲研究人员利用新的
数据集来微调开放权重模型(其训练参数公开),这种方法比从头开始构建模型消耗的计算资源更少。肯尼亚非政府组织 Jacaranda Health 用斯瓦希里语训练了 Meta 的 Llama2 模型,使其能够提供孕产妇健康方面的建议。但即使经过微调,这类模型在通用任务上的表现通常也比不上专有模型。
非洲创新的另一个重点是针对特定任务的所谓“小型语言模型”,这些模型最多只有几十亿个参数(而目前最先进的语言模型拥有数万亿个参数)。南非实验室Lelapa AI将其拥有4亿个参数的模型命名为InkubaLM,这个名字来源于祖鲁语中“蜣螂”一词,这种蜣螂可以移动自身重量数倍的物体。
规模较小的模型可以在本地运行,甚至可以离线运行。这样可以将敏感数据保留在非洲大陆。EqualyzAI 为尼日利亚北部卡诺州政府构建了一个本地模型,该模型允许官员查询文件和会议录音。“如果你想要主权,那就保持规模小,”阿德坎比先生建议道。
这一切都构成了一种与主流文化略有不同的AI愿景,它重视谦逊而非规模,重视背景而非全知全能。它或许无法在硅谷无所不能的野心面前生存下来。但就目前而言,非洲研究人员已经找到了自己的立足之地。■
热门跟贴