Stars
Repo for Rho-1: Token-level Data Selection & Selective Pretraining of LLMs.
用于从头预训练+SFT一个小参数量的中文LLaMa2的仓库；24G单卡即可运行得到一个具备简单中文问答能力的chat-llama2.
{{ message }}
Repo for Rho-1: Token-level Data Selection & Selective Pretraining of LLMs.
用于从头预训练+SFT一个小参数量的中文LLaMa2的仓库；24G单卡即可运行得到一个具备简单中文问答能力的chat-llama2.