LookAtMyQuant 将 Inkling-2-Mini 压缩至约 5.4 GB
Inkling-2-Mini in 5.4 GB Memory
LookAtMyQuant 将 Inkling-2-Mini 的文本权重从 18.89 GB 压缩至 5.38 GB 和 8.87 GB,并提供 Apple Silicon 运行时。
Inkling-2-Mini in 5.4 GB Memory
LookAtMyQuant 将 Inkling-2-Mini 的文本权重从 18.89 GB 压缩至 5.38 GB 和 8.87 GB,并提供 Apple Silicon 运行时。