FLUXをローカルで使うときの基本と注意点

FLUXをローカルで使うときの基本と注意点。FLUXなどを対象に、向き不向きが分かるように整理します。

AIものさし編集部

FLUXはすべてのmodelをlocalで使えるわけではありません。

Black Forest Labsはhosted-only modelとopen-weight modelを分けており、local利用ではhardwareだけでなくlicenseも確認する必要があります。

初めてlocalで使うなら、FLUX.2 [klein] 4Bが入りやすい候補です。

local可能なmodelを選ぶ

FLUX.2では[klein] 4B / 9Bや[dev]などopen-weight variantをlocalへdownloadできます。

一方、[pro]、[max]、[flex]などは公式API / Playground中心です。

「FLUX.2」というfamily名だけでlocal対応を判断しないようにします。

[klein] 4BはApache 2.0

[klein] 4BはApache 2.0です。

local commercial useも可能で、別のBFL commercial licenseを必要としません。

個人PCで試した後、そのまま商用applicationへ発展させたい場合にlicenseを整理しやすいvariantです。

9Bと[dev]はNon-Commercial License

[klein] 9BとFLUX.2 [dev]はopen weightsですが、FLUX Non-Commercial Licenseです。

researchやnon-production evaluationでは利用できますが、commercial productionでlocal weightsを使う場合はcommercial licenseが必要です。

download可能=商用自由、ではありません。

hardware requirementはmodelで大きく違う

VRAMの目安は資料の用途で異なります。BFLのquick generation guideは4Bを約13GB、9Bを約24GBとし、local fine-tuning guideは4B trainingを12GB VRAM / 32GB RAM、9Bを約22GB VRAM / 64GB RAMと案内しています。推論と学習の数字を混ぜず、使うruntimeの要件を優先してください。

実際の推論要件はprecision、解像度、offload、runtime実装で変わります。公式値を最低保証として扱わず、対象の手順で小さく試してください。最初は小さな解像度・単一画像・既定設定で起動し、生成時間、ピークVRAM、出力品質、variant、runtime versionを記録します。次に解像度かbatch sizeの一方だけを上げ、用途に必要な品質に達した時点で止めます。

inferenceとtrainingを同じhardware requirementとして考えないことが重要です。

VRAM不足時はprecisionやimplementationも影響する

local実行のmemory usageは、

precision

quantization

resolution

reference image数

framework

offload

で変わります。

公式reference値は目安であり、同じGPUでもworkflowによって必要memoryは変わります。

特に4MP generationや複数referenceを使う場合は余裕を見た方が安全です。

Hugging Faceからweightsを取得する

Black Forest Labsはopen-weight modelをHugging Faceで公開しています。

model cardのlicense、variant名、Base / distilledを確認してdownloadします。

同じ[klein]でもBase variantはfine-tuning向け、distilled variantはfast inference向けと役割が異なります。

ComfyUIなどのruntimeを使える

BFLはFLUX.2 [dev]についてNVIDIAやComfyUIと連携したoptimized implementationを案内しています。

またfine-tuningではai-toolkitやHugging Face Diffusersなども選択肢です。

local環境ではmodel weightsだけでなく、どのruntimeを使うかでsetup難度が変わります。

localのメリット

promptやinput imageを自分のenvironment内で処理しやすい。

API回数課金を気にせず、自分のGPU resourceでgenerationできる。

custom pipelineやfine-tuningを組み込みやすい。

network制限のある環境でも構成次第で使える。

このcontrolがlocalの主な価値です。

まずは使ってみる

記事の文脈に合うToolへ進めます。報酬の有無で見た目は変えていません。

localのデメリット

GPU購入・電力・storage costがかかる。

driverやCUDA、library compatibilityを管理する必要がある。

model updateを自分で追う必要がある。

moderationやcontent filterも自分で設計する必要がある。

APIより自由な分、operation responsibilityも増えます。

commercial self-hostではfilter / reviewも必要

BFLのself-host licenseでは、unlawful / infringing contentを防ぐためcontent filteringを実装するか、Outputをdistribution前にreviewすることを求めています。

productionでlocal FLUXを使う場合は、generation qualityだけでなくmoderation workflowも設計対象です。

local導入は「動くか」より先に条件を固定する

最初の目的は、生成画像の品質を評価することではなく、手元の環境で再現可能な推論経路を作ることです。モデルを選ぶ前に、次の条件を一枚に記録します。

  • GPU名とVRAM、system RAM、空きstorage

  • OS、driver、CUDA、runtimeのversion

  • model名、Base / distilled、weightの取得元とlicense

  • 解像度、出力枚数、reference imageの枚数

  • 推論だけか、fine-tuningまで行うか

公式のVRAM値は、推論と学習、quantization、resolution、offloadの条件が異なる資料同士で単純比較できません。目安の数字だけで動作保証と見なさず、利用するruntimeの手順とmodel cardをセットで確認してください。4Bが「必ず8GBで動く」、9Bが「常に20GB必要」といった単一の境界にはできません。

まず1枚だけ生成する検証手順

  1. Hugging Face上で対象variantの公式model cardを開き、licenseと取得先を記録する。

  2. BFLが案内する対応runtimeを選び、そのversionを固定する。ComfyUIやDiffusersなど、別runtimeの設定を混ぜない。

  3. 初回は小さめの解像度、referenceなし、1枚にする。起動・weight読込・生成が最後まで通るか確認する。

  4. 実案件に近い解像度へ一段ずつ上げ、VRAM peak、処理時間、失敗率を記録する。数値は自分の構成で測った値として分けて保存する。

  5. 同じpromptを3〜5回試し、構図や色のばらつきが許容範囲か見る。これは統計的な性能評価ではなく、導入前の再現性確認です。

表は横にスクロールできます

症状まず切り分ける条件次の一手
起動直後にOut of Memorymodel variant、VRAM、他process、precision参照imageを外し、低解像度・低precisionの対応設定で再試行
生成は通るが遅いGPU利用率、CPU offload、解像度1条件ずつ変え、速度と画質の差を記録
色・細部が期待と違うmodel variant、prompt、seed、runtime version同じseedと入力で比較し、変更を一つに絞る
weightが読み込めないfile completeness、runtime対応version、Base / distilledmodel cardの手順に戻り、部分downloadや互換性を確認

改善策を一度に複数変えると、何が直したのか追えません。失敗時は最後に成功した設定を残し、変更項目を一つにして再試行します。

本番へ組み込む前の受け入れ条件

試作が起動しただけで運用可能とは限りません。productionへ進める場合は、入力imageの保存先、生成物の保存期間、GPU停止時の再実行、content moderation、利用licenseを確認します。BFLのself-host licenseは不正・権利侵害outputの予防としてfilter実装または配布前reviewを求めています。外部ユーザーが使うapplicationなら、失敗時の利用者通知と人による問い合わせ経路も決めてから公開します。

AIものさしの判断

local FLUXを始めるなら、まず[klein] 4Bを小さいresolutionで動かし、GPU memoryとgeneration timeを測るのが分かりやすいです。

その後、qualityやfine-tuningの必要性に応じて9B / Base / [dev]を比較します。

localを選ぶ理由は「無料」ではなく、data・runtime・customizationを自分でcontrolしたいかどうかです。

次の一手

記事の内容を踏まえて、公式とTool詳細から続けられます。

次に読む・使う

この記事の次に必要な情報へ進めます。