Eine Umgebung für KI-gestütztes Entwickeln absichern

Die eigene IT will mit KI-Werkzeugen programmieren und hat dafür bereits einen Entwurf gezeichnet. Entwicklungs­umgebung auf dem Arbeits­platzrechner, ein Server außerhalb des Firmennetzes, darauf je Projekt eine abgeschottete Umgebung, in der ein KI-Werkzeug am Code arbeitet. Der Entwurf ist gut, und genau deshalb ist die Frage nicht, ob man ihn umsetzt, sondern was an ihm noch fehlt. Bei KI-gestützter Entwicklung verschieben sich nämlich drei Dinge auf einmal: Der Quellcode verlässt möglicherweise das Haus, weil das Modell ihn zu sehen bekommt. Die Menge an erzeugtem Code steigt schneller, als jemand ihn liest. Und die Kosten entstehen pro Anfrage und nicht pro Lizenz, sind also erst hinterher sichtbar. Der Auftrag ist deshalb, den Entwurf zu prüfen und dort zu schärfen, wo diese drei Verschiebungen unbeantwortet bleiben.

Geschärft, nicht ersetzt. Der Entwurf kam aus der eigenen IT, und er war durchdacht: Projekt­umgebungen, ein Server außerhalb des Firmennetzes, ein Agent, der Änderungs­anträge prüft. Ein Beratungshaus kann an dieser Stelle zwei Dinge tun. Es kann einen eigenen Entwurf danebenlegen und damit das Wissen entwerten, das im Haus schon steckt. Oder es kann den vorhandenen Entwurf ernst nehmen und genau die Stellen benennen, an denen er nicht weit genug geht. Das zweite dauert länger in der Vorbereitung und ist in der Umsetzung schneller, weil niemand etwas verteidigen muss.

Eine Entscheidung, die schon getroffen war, gilt auch hier. Für die Unternehmens­plattform war entschieden worden, die Sprachmodelle über einen Anbieter mit garantiertem Betriebsort in Europa zu beziehen. Der Entwurf für die Entwicklung sah dagegen den direkten Weg zum Modell­hersteller vor. Solche Abweichungen entstehen nie aus Absicht, sondern weil zwei Vorhaben parallel laufen. Sie sind trotzdem teuer: Am Ende hat ein Haus zwei Daten­schutz­lagen, zwei Verträge und zwei Antworten auf dieselbe Prüferfrage. Deshalb läuft der Modellzugang der Entwicklung jetzt über denselben Weg wie alles andere.

Die Maschine bereitet vor, der Mensch entscheidet. Das KI-Review läuft in einer eigenen Umgebung, die nur lesen darf, und es läuft bei jedem Änderungs­antrag automatisch. Übernommen wird trotzdem nichts ohne menschliche Freigabe. Das ist die Stelle, an der sich KI-gestützte Entwicklung entscheidet: Wenn die Menge an erzeugtem Code schneller wächst als die Zeit, ihn zu lesen, ist die Versuchung groß, die Freigabe zur Formsache zu machen. Deshalb steht sie als eigene Entscheidung in der Architektur und nicht als Gewohnheit im Ablauf.

Kostengrenzen gehören in die Architektur, nicht in die Nachbetrachtung. Bei Werkzeugen, die pro Anfrage abrechnen, entsteht der Aufwand während der Arbeit und wird erst danach sichtbar. Ein Entwickler, der ein Werkzeug einen Nachmittag lang auf ein großes Vorhaben ansetzt, kann mehr verbrauchen als ein Team in einem Monat, ohne dass irgendwo eine Warnung erscheint. Deshalb sind Kostengrenzen, ein begrenzter Nutzerkreis und ein Prüfprotokoll Teil der Verwaltungs­schicht. Sie sind kein Misstrauen gegenüber den Entwicklern, sondern das, was eine solche Umgebung überhaupt betreibbar macht.

Zwei Fragen bleiben offen, und sie stehen so im Papier. Wer verwaltet den Server, der außerhalb des Firmennetzes steht? Und welcher Code darf überhaupt dorthin? Beides sind Governance-Fragen und keine technischen, und beide lassen sich nicht von außen entscheiden. Sie ungelöst zu benennen ist ehrlicher, als sie in einer Architektur verschwinden zu lassen, in der sie später als stille Annahme wirken.