Der aktuelle Diskurs über generative KI konzentriert sich stark auf Leistungsfähigkeit, Skalierbarkeit und Erklärbarkeit. Dabei wird häufig implizit vorausgesetzt, dass Systeme, die beeindruckende Ergebnisse liefern, auch betrieblich verantwortbar eingesetzt werden können. Dieses Papier stellt diese Annahme infrage. Ausgangspunkt ist ein einfaches Axiom: Ein technisches System, das strukturell gezwungen ist, auf jede Eingabe eine Antwort zu erzeugen, kann nicht vertrauenswürdig betrieben werden. Vertrauenswürdigkeit setzt die formalisierte Möglichkeit der Antwortverweigerung voraus. Auf dieser Basis analysiert das Papier die Operationalität probabilistischer KI-Systeme, insbesondere großer Sprachmodelle. Es wird gezeigt, dass probabilistische Inferenz keine operative Entscheidung darstellt, sondern lediglich mögliche Ausgaben erzeugt. Die strukturelle Kopplung von Inferenz und Ausgabe führt dazu, dass Unsicherheit systematisch in Plausibilität übersetzt wird. Die verbreitete Fokussierung auf Explainability adressiert dieses Problem nicht, da Erklärungen notwendigerweise nach der Handlung ansetzen und keine Entscheidung über deren Zulässigkeit treffen können. Das Papier argumentiert, dass die fehlende Fähigkeit zur systemischen Nicht-Entscheidung eine grundlegende betriebliche Grenze generativer KI darstellt. Diese Grenze ist unabhängig von Modellgröße, Trainingsdaten oder Rechenleistung. Ohne formalisierte Entscheidungsgrenzen bleiben solche Systeme leistungsfähige Werkzeuge, sind jedoch nicht als verantwortbare Entscheidungssysteme einsetzbar.