Van's Wiki

quantization

此标签下有1条笔记。

  • 2026年8月12日

    千问3.6 27B本地推理速度优化:从20到184 Token/秒

    • local-llm
    • inference-optimization
    • quantization
    • speculative-decoding
    • vllm
    • multi-agent

Created with Quartz v5.0.0 © 2026

  • 抖音
  • GitHub