正文

目前最大的问题是,非确定性在哪里终止?

你是否将代码视为原本无限流的一种确定且正确的缓存?

尤其当 1-10k tok/s 变得无处不在时,哪些部分应固定,哪些部分应按需重新生成?