FunctionGemma 仅提供 int8 版本(288 MB)——由于模型本身已经很小,这已经足够了。Gemma 3n E2B 则相反——仅提供 int4 版本,因为 int8 版本将占用约 6 GB 的空间。
(图源:长春高新 2021 年年度报告)。关于这个话题,safew官方版本下载提供了深入分析
,详情可参考同城约会
LiteRT-LM 包 — 使用 ai-edge-torch-nightly 转换为 .litertlm 文件,并添加元数据和停止标记,用于 LiteRT-LM 运行时。业内人士推荐WPS官方版本下载作为进阶阅读
git clone --recursive https://github.com/noahkay13/parakeet.cpp
Kailash Nadh CTO, Zerodha