LTX2のVRAM使用を効率化:時刻エイムブの処理改善


LTX2 VRAM使用量削減について

当issueでは、ComfyUIのLTX2モジュールにおけるVRAM使用量が高まる問題を改善するための方法が提案されています。 特にdenoise_maskを使用した際には全トークン分の時刻ステップがメモリに保持され、これにより非常に大きなメモリ使用量(数ギガバイト)が発生していました。

問題の原因 (エラーの原因)

問題の主な原因は、時刻ステップデータが効率的に管理されていないことです。これは高解像度の入力画像の場合特に影響を受けるため、VRAMの使用量が非常に増大します。

解決策 (解決策)

提案された改善策では、新しいコードにより効率的なメモリ管理と処理速度向上が可能となりました。これにより、以前は必須だった—reserve-vramオプションの使用を完全に回避できるようになりました。 この修正後もモデルの出力は変更なく維持されています。

なお、さらなるVRAM削減を目指してfeed forwardアクティベーションスパイクを制御する方法についても検討中です。



この記事はAIによって自動生成されました。 元のIssue #11829