拓尔思:垂类大模型参数在百亿级,能够实现模型轻量化部署

拓尔思在互动平台表示,目前,公司已相继推出媒体、金融、政务、舆情等行业大模型,在大模型设计原则上,具备自主研发、专业和实时数据接入、中文特性与专业能力加强、支持私有化部署以及内容安全与价值观对齐等特点。 公司依托自身中文语料积累和价值观对齐机制,有效提升大模型生成结果的合规性,并综合运用“知识图谱+RAG+向量数据库”三种手段,致力于缓解大模型幻觉,提升其生成结果的可信度。 在部署方面,公司可将行业大模型通过公有云API的方式为企业提供服务,也支持结合企业私有数据和个性化场景需求,以私有化部署的方式为企业提供定制化大模型。在私有化部署方面,公司通过剪枝、量化、稀疏、蒸馏等部署优化方案,可有效降低大模型对算力资源的要求。并且,公司推出的垂类大模型参数在百亿级,能够实现模型轻量化部署。

公司主营业务包括人工智能产品及服务、大数据产品及服务和数据安全产品及服务等。


已发布

分类

来自

标签: