Grab 自研语言模型解决亚洲语言识别难题
新加坡超级应用程序公司 Grab 近日在其工程博客上分享了其自研语言模型的开发经历,指出现有的大型语言模型在理解东南亚语言Gr时表现不佳。Grab 的超级应用程序提供打车、外卖、购物和金融服务等功能,覆盖新加坡、马来西亚、印尼、菲律宾、越南、泰国、ab柬埔寨和缅甸等国家,这些地区的文档通常使用非拉丁字母的脚本。
图源备注:图片由AI生成
在执行如客户身份验证等合规工作时,Gr 自ab 需要准确提取身份证、驾照和注册证书等信息。尽管尝试过光学字符识别(OCR)系统,但 Grab 发现这些技术在处理多样化的文研语档模板时效果不理想。
在2025年,Grab 开始探索是否可以利用大型语言模型来解决这一问题。尽管一些强大的商业模型具备能力,但在理言模解东南亚语言时常出现错误和延迟,而开源的视觉大型语言模型虽然更高效,但准确性仍不足。因此,Grab 决定自行构建一个视觉型解大型语言模型,该模型能将图像向量化,方便提取文本。
Grab 选择了阿里巴巴云的 Qwen2-VL2B 模型作为基础,因为它的体积适决亚中,支持东南亚语言,并能动态处理不同分辨率的图像。随后,Grab 从 Common Crawl 中提取了东南亚语言的内容,并建立洲语了内部合成数据管道,以生成各种字体和背景下的文本图像。团队采用低秩适配技术对 Qwen2-VL 进行微调,取得了在印尼文档处理上言识的良好效果。
尽管在泰语和越南语的识别上仍然存在挑战,Grab 最终决定进行完整参数微调。通过训练模型,使其学习东南亚语言的独特视别难觉模式,Grab 成功开发了一个轻量级的视觉大型语言模型,其表现超越了多种 OCR 工具和通用模型。Grab 表示,战略性地使用高Gr质量数据,能够使小型专业模型实现高效与有效的结合。
未来,Grab 计划继续开发更多自有模型,以扩展其文档处理技术。
划重点ab:
Grab 发现现有大型语言模型在东南亚语言识别上效果不佳,决定自研模型解决问题。
自研的视觉大型 自语言模型在处理身份证和驾照等文档时取得了显著进展。
Grab 将继续开发更多模型,以满足日益复杂的文档处理需研语求。
相关文章:
相关推荐:
- 400亿的卡脖子赛道即将跑出一个IPO
- 标签: 快手 北京快手科技 网络安全法 网信办
- OpenAI瑙f暎鏈哄櫒浜哄洟闃燂紝鏇捐瘯鍥鹃€燗GI鏈哄櫒浜猴紝鍒涘�浜猴細鏈€濂界殑鍐冲畾
- 大数据黑市交易触目惊心:平均每人至少有4条个人信息泄露
- Deezer 报告:AI 生成音乐占日常上传量的 44%,行业担忧加剧
- JetBrains 推出全新数据科学 IDE ―― DataSpell
- 标签: Fortinet SASE AI数据中心 财报
- Gartner指出云战略制定过程中的十个常见错误
- 15岁的Twitter渴望蜕变 艰难商业化之路能否迎来曙光?|海外周选
- 谷歌 Chrome 浏览器推新功能:AI 助力网购体验更智能
