Ein Software-Gründer liess sich vor Kurzem öffentlich dafür feiern, dass seine gesamte Plattform vollständig von einer AI geschrieben wurde. Wenige Tage später fanden unabhängige Sicherheitsforscher mehrere gravierende Lücken: offene Zugangsdaten, fehlende Berechtigungsprüfungen, Einfallstore für Angreifer. Nicht weil die AI schlecht programmiert hat, sondern weil niemand mehr hinschaute, der wusste, wonach er hätte suchen müssen.
Diese Geschichte ist längst kein Einzelfall mehr. AI-Assistenten haben die Hürde zum Programmieren tatsächlich gesenkt: Wer eine Funktion in normaler Sprache beschreiben kann, erhält innert Minuten lauffähigen Code. Das ist ein echter Fortschritt, auch für simpit, wenn es um wiederkehrende Aufgaben in der eigenen Entwicklung geht. Nur beantwortet «funktioniert» nicht dieselbe Frage wie «ist gut gebaut», und genau diese beiden Fragen werden derzeit häufig verwechselt.
Die Hürde ist gefallen, der Anspruch nicht
Aktuelle Analysen zeigen das Ausmass. Je nach Untersuchung enthalten zwischen 40 und 62 Prozent des AI-generierten Codes Sicherheitslücken, deutlich mehr als bei klassisch von Hand geschriebenem Code. Ein grosser Sicherheitsscan von AI-generierten Anwendungen deckte allein in diesem Jahr Tausende offen zugängliche medizinische Dienstpläne, Finanzdaten und Chatprotokolle auf, entstanden aus gut gemeinten, aber ungeprüften Projekten.
Das liegt nicht daran, dass die zugrunde liegenden Modelle unfähig wären. Eine AI erkennt Muster, sie versteht aber keine Geschäftslogik. Sie weiss nicht, warum ein bestimmter Randfall in einem Zahlungsprozess kritisch ist, welche Ausnahme in einer Lagerbuchung nie auftreten darf, oder welche Architektur zu Teamgrösse, Last und Organisation eines Unternehmens passt. Solche Entscheidungen brauchen Erfahrung, keine Wahrscheinlichkeitsrechnung.
Wer programmieren lässt, muss trotzdem verstehen, was entsteht
Der eigentliche Risikofaktor liegt tiefer als im einzelnen Sicherheitsleck. Weil die Einstiegshürde gefallen ist, entsteht heute Code auch dort, wo bisher niemand programmiert hätte, oft von Personen, die Grundprinzipien wie saubere Fehlerbehandlung, bewährte Strukturmuster, in der Softwareentwicklung Design Patterns genannt, oder die Absicherung von Randfällen schlicht nicht kennen und deshalb unbemerkt übergehen. Stellen Sie sich eine Fachabteilung vor, die sich mit AI-Unterstützung selbst ein kleines Tool für Rabattberechnungen baut. Es funktioniert im Test einwandfrei. Erst beim ersten ungewöhnlichen Kundenfall, der nie mitgedacht wurde, zeigt sich, was fehlt.
Bei der Softwareentwicklung ging es nie nur um das Resultat auf dem Bildschirm. Codequalität, Testbarkeit, Wartbarkeit über Jahre und ein Sicherheitskonzept, das mitwächst, gehören zur selben Arbeit, sie sind nur unsichtbarer als eine funktionierende Oberfläche.
Auch die Odoo-Community zieht jetzt eine klare Grenze
Selbst die Odoo Community Association (OCA), die das grösste Netzwerk unabhängiger Odoo-Entwicklerinnen und Entwickler organisiert, hat kürzlich eine neue Richtlinie für Code-Beiträge eingeführt. AI-Unterstützung beim Programmieren ist ausdrücklich erlaubt und muss offen gekennzeichnet werden, verantwortlich für jede eingereichte Zeile bleibt aber immer der Mensch, der sie einreicht. Unbeaufsichtigte AI-Agenten, die selbstständig Code beisteuern, sind explizit untersagt.
Diese Haltung deckt sich mit jener, die wir bei simpit im Umgang mit AI vertreten. Unsere Entwicklerinnen und Entwickler nutzen AI-Unterstützung längst produktiv, für Wiederkehrendes und für erste Entwürfe. Am Ende jeder Entwicklung zum Fixpreis steht aber immer eine Fachperson, die Architektur, Sicherheit und Randfälle beurteilen kann und für das Ergebnis geradesteht, nicht ein Werkzeug.
Möchten Sie herausfinden, wie sich AI in Ihrer Odoo-Umgebung sinnvoll und sicher einsetzen lässt, ohne dass Verantwortung an ein Werkzeug delegiert wird? Vereinbaren Sie ein unverbindliches Erstgespräch mit unserem Team.