本仓库包含本人为《Python Crash Course》的中文版《Python 编程：从入门到实践（第三版）》所制作的配套图解讲义资源，与原书一起食用时效果更佳。 本仓库可以算是本人为本书写的笔记，包含了本人阅读后的理解，但使用讲义形式发布。 本讲义不仅可用于教学 ...

HuggingFace 的 .generate() 是个黑盒，而且这个黑盒藏了一个代价很高的问题，每一个解码步骤它都从头开始对整个 prompt 做一次完整的注意力计算。每一个 token 都是如此。注意力的开销以 O(N²) 的速度随序列长度增长，在小规模下完全察觉不到，一旦上了真实负载 ...