
助力国产芯片突破FP8模型部署及DeepSeek部署成本及效率难题,清华团队及清华创企清程极智开源大模型推理引擎“赤兔Chitu”
【开源链接】 https://github.com/thu-pacman/chitu 14日,清华大学高性能计算研究所翟季冬教授团队与清华系科创企业清程极智联合宣布,开源大模型推理引擎“赤兔Chitu”,该引擎首次实现在非英伟达Hoppe...
【开源链接】 https://github.com/thu-pacman/chitu 14日,清华大学高性能计算研究所翟季冬教授团队与清华系科创企业清程极智联合宣布,开源大模型推理引擎“赤兔Chitu”,该引擎首次实现在非英伟达Hoppe...