Ein deutscher KI-Anbieter, der in Sachen Datenschutz sogar Google und OpenAI in den Schatten stellt – allerdings nicht im positiven Sinne: Black Forest Labs aus Freiburg räumt sich mit seinen FLUX-API-Nutzungsbedingungen ein derart weitreichendes Recht an den Nutzerdaten ein, dass selbst die US-Tech-Giganten dagegen zurückhaltend wirken.

Der problematische Passus in den Nutzungsbedingungen

Im Zentrum der Kritik steht Abschnitt 2.(b) der FLUX API Service Terms von Black Forest Labs, der unmissverständlich formuliert:

„You grant us a fully paid, royalty-free, perpetual, irrevocable, worldwide, non-exclusive and fully sublicensable right and license to use, sub-license, distribute, reproduce, modify, adapt, publicly perform, and publicly display your Input and Output for the purpose of operating the FLUX Services, improving our products and services, and developing new products and services. You acknowledge the foregoing means we may use Inputs and Outputs to train and improve our artificial intelligence models, algorithms, and related technology, products, and services."

Übersetzt bedeutet das:

• Wer FLUX nutzt, räumt dem Unternehmen ein weltweites, unwiderrufliches und dauerhaftes Nutzungsrecht an sämtlichen Eingaben (Prompts) und Ausgaben (generierte Bilder) ein.
• Black Forest Labs darf diese Daten ausdrücklich zum Training und zur Verbesserung der eigenen KI-Modelle verwenden.
• Es gibt keine Einschränkung und kein Opt-out.

Warum das problematisch ist

• DSGVO-Konflikt: Ein „unwiderrufliches" und „dauerhaftes" Nutzungsrecht steht im direkten Widerspruch zu DSGVO-Grundrechten wie dem Recht auf Löschung („Right to be Forgotten") und dem Recht, die Einwilligung jederzeit zu widerrufen.
• Sensible Daten: Wer Bilder mit erkennbaren Personen (Gesichter, Namen, Logos) hochlädt oder generiert, gibt personenbezogene Daten weiter – diese dauerhaft und unwiderruflich zur KI-Verbesserung freizugeben, verstößt gegen zentrale DSGVO-Prinzipien.
• Keine Privacy-Option: Im Gegensatz zu Google und OpenAI, die für ihre API-Kunden explizite Opt-in-Mechanismen und zeitliche Beschränkungen der Datennutzung vorsehen, bietet Black Forest Labs keinerlei Wahlmöglichkeit.

Konsequenzen für professionelle Anwender

Robin Ochs, Entwickler der Software AI Lab, zieht für seine Plattform klare Konsequenzen:

• FLUX-Modelle werden standardmäßig ausgeblendet.
• Nutzer, die sie dennoch verwenden wollen, müssen ein Häkchen setzen und eine deutliche Warnung bestätigen.
• Für Anwender, die mit sensiblen Bilddaten arbeiten (Fotografie, Design, Marketing), ist das mehr als eine Fußnote – es ist ein handfester Grund, FLUX mit Vorsicht zu genießen.

Die Ironie: „Datenschutz made in Germany"?

Besonders paradox wirkt die Situation, weil Black Forest Labs sich ausdrücklich als europäische Alternative zu den US- und chinesischen Tech-Giganten positioniert:

• Das Unternehmen hat seinen Hauptsitz in Freiburg im Breisgau und wurde von den ehemaligen Stable-Diffusion-Gründern ins Leben gerufen.
• Marketing-Botschaften betonen „EU-Datensouveränität", „DSGVO-Konformität" und „Made in Germany".
• Kooperationspartner wie die Telekom heben die „europäischen Werte und Standards" hervor.

Doch während der Ruf nach europäischen KI-Alternativen laut bleibt, zeigt ausgerechnet der deutsche Anbieter beim Thema Datenverwertung die geringste Zurückhaltung.

Was sagt Black Forest Labs selbst?

• Die Privacy Policy von Black Forest Labs behauptet DSGVO-Konformität.
• Die Terms of Service sprechen jedoch eine andere Sprache: Das „irrevocable, perpetual" License-Modell ist mit DSGVO-Grundrechten kaum vereinbar.
• Das Unternehmen macht keine Angaben zu den verwendeten Trainingsdaten; Medien vermuten, dass FLUX.1 auf einer großen, nicht autorisierten Sammlung von Internetbildern basiert – eine umstrittene Praxis mit möglichen rechtlichen Konsequenzen.

Kritik und Kontroversen

Black Forest Labs stand bereits früher in der Kritik:

• Nutzer konnten ungehindert Fake-Bilder von Politikern (z.B. Donald Trump mit Waffen oder Drogen) generieren – wichtige Schutzmaßnahmen (Safeguards) fehlten zunächst.
• Das soziale Netzwerk X wurde nach der Veröffentlichung von FLUX mit generierten Bildern überflutet, die von verstörenden Szenen bis zu Desinformation reichten.

Einordnung

Black Forest Labs hat mit FLUX technisch beeindruckende Modelle geschaffen und gilt als eines der wertvollsten deutschen KI-Startups (Bewertung: 4 Milliarden Dollar, 100 Millionen Dollar Umsatz).

Doch die Geschichte zeigt, wie groß die Kluft zwischen Selbstbild und Realität im Umgang mit KI und Trainingsdaten geworden ist:

• Während „European AI" und „Datensouveränität" als Verkaufsargumente dienen, sind die tatsächlichen Nutzungsbedingungen weniger restriktiv als die der kritisierten US-Konkurrenz.
• Für Anwender bedeutet das: Genau hinschauen, was hinter den Marketing-Versprechen steht – auch bei europäischen Anbietern.

Hier findest du weiterführende Informationen: DOCMA