Poor Paul's Benchmarkを読む：local AIの速さではなく、手元のGPUで「安全に使える範囲」を測る

local AIを選ぶとき、どうしても目に入りやすい数字があります。 tokens/sec。 「このGPUなら○○ tok/s出た」 「このモデルは速い」 「この量子化なら動く」 もちろん、それらは重要です。 しかし、実際にlocal

local AIは、速いだけでは選べません。Poor Paul’s Benchmarkは、手元のGPUでVRAM、文脈長、同時実行、tool利用を含む仕事がどこまで続くかを、性能と品質の複数の境界で測る視点を与えてくれます。 https://t.co/LgwmLIDt6X