4月12日,三六零(下称“360”)自研人工智能大模型360智脑7B参数模型正式开源,包括4K、32K、360K三种文本长度:
- 360Zhinao-7B-Base
- 360Zhinao-7B-Chat-4K
- 360Zhinao-7B-Chat-32K
- 360Zhinao-7B-Chat-360K
360智脑大模型特点如下:
- 基础模型:采用 3.4 万亿 Tokens 的高质量语料库训练,以中文、英文、代码为主,在相关基准评测中,同尺寸有竞争力。
- 对话模型:具有强大的对话能力,开放4K、32K、360K三种不同文本长度。
据了解,360K(约50万字)是当前国产开源模型文本长度最长的,可支持50万字左右输入,三秒钟即可读完《三体》。
延伸阅读:周鸿祎自称 “开源信徒”,宣布将开源 360 智脑 7B 模型,支持 50 万字长文本输入