现在的LLM们就像长效记忆牛到极点但短期记忆有缺陷的精神科病人。一切换上下文它就会立刻忘记刚刚了解到的东西。幸运的是，现在有些LLM一个session上下文可以长达1m token了。