LTX2のVRAM使用を効率化:時刻エイムブの処理改善
LTX2 VRAM使用量削減について
当issueでは、ComfyUIのLTX2モジュールにおけるVRAM使用量が高まる問題を改善するための方法が提案されています。 特にdenoise_maskを使用した際には全トークン分の時刻ステップがメモリに保持され、これにより非常に大きなメモリ使用量(数ギガバイト)が発生していました。
問題の原因 (エラーの原因)
問題の主な原因は、時刻ステップデータが効率的に管理されていないことです。これは高解像度の入力画像の場合特に影響を受けるため、VRAMの使用量が非常に増大します。
解決策 (解決策)
提案された改善策では、新しいコードにより効率的なメモリ管理と処理速度向上が可能となりました。これにより、以前は必須だった—reserve-vramオプションの使用を完全に回避できるようになりました。 この修正後もモデルの出力は変更なく維持されています。
なお、さらなるVRAM削減を目指してfeed forwardアクティベーションスパイクを制御する方法についても検討中です。
この記事はAIによって自動生成されました。 元のIssue #11829