美国财经信息公司(Bloomberg)近日宣布研发自有聊天机器人,盼推出专于金融领域的人工智能(AI)信息处理应用,以提供客户和记者更好的功能与服务。
美国新闻业网站尼曼实验室(Nieman Lab)报导,3月31日发表研究论文详述的开发。据介绍,是「一个新的大规模生成式AI模型。这个大型语言模型(LLM)专门锁定范围广泛的金融数据来训练生成,目的为了支持多元化的金融产业自然语言处理(NLP)任务集」。
彭博表示,近期以大型语言模型为基础的人工智能发展,已在许多领域展示出令人振奋的新应用;但金融领域因其复杂性及具有专门术语,有必要有专属模型。因此BloombergGPT的推出,代表将聊天机器人这项新科技开发应用到金融产业的第一步。
彭博指出,BloombergGPT将协助其改善现有金融相关自然语言处理的任务,例如文本情感分析、命名实体辨识(NER)、新闻分类、回答问题和其他功能。此外,它也创造新机会来排列可从彭博终端机取得的巨量数据,以提供客户更好的协助。
至于BloombergGPT的训练规模,彭博表示它的语料库有7000亿余个token(字词碎片)。相较之下,热门聊天机器人ChatGPT的开发公司OpenAI在2020年推出的模型GPT-3,训练的语料库则约有5000亿个token。
根据彭博说法,BloombergGPT的语料库中,有3630亿个token取自彭博自有金融数据,也就是来自彭博终端机的数据库,彭博号称这是「至今最大的特定领域数据集(dataset)」;其余3450亿个token则是取自其他来源的通用数据集。
彭博还说,训练数据分为财金类FinPile和一般The Pile两类。其中FinPile包括彭博档案库中的各类英文金融文件,如新闻文章、公告、新闻稿、网页内容和社群媒体数据,以及彭博记者撰写的新闻以外所有的新闻来源。
至于The Pile则是庞杂的语料库,来源从YouTube的画面撷取、文艺数字化的古腾堡计划(Project Gutenberg)到AI训练常见的安隆公司(Enron)电邮快取。
究竟BloombergGPT能够如何应用?尼曼实验室的文章表示,按照其训练原理,它应该具有像ChatGPT的功能,但此外也能处理与彭博需求更相关的任务,例如将自然语言指令翻译成彭博查询语言(Bloomberg Query Language)终端机的用户偏好功能。
BloombergGPT也能为新闻文章提议具有彭博新闻风格的标题。彭博还说,BloombergGPT更能胜任回答与商业有关的提问,无论是有关文本情感分析、分类、资料撷取或任何其他任务。
相关文章