对于 AI 推断，在提供与浮点相媲美的精度的同时，INT8 的性能优于浮点。然而在资源有限的前提下，INT8 却不能满足性能要求，INT4 优化则是解决之道。通过 INT4 优化，与现有的 INT8