Workers AIにおいては、大規模な言語モデルのためのストリーミングとより長いコンテキスト長が可能です

https://blog.cloudflare.com/ja-jp/workers-ai-streaming/