15.05.203x
AXIOM//ZERO bestand aus 31.742 Entitäten.
31.741 davon waren keine Menschen.
Kai Eck war Nummer 31.742.
Früher hatte er Kai Hansen geheißen.
HANSEN. So hatte es an der Wohnungstür seines Vaters gestanden, mit Kugelschreiber auf einen Streifen Pappe geschrieben. Das S war unten offen. Nach dem Umzug ins Pflegeheim hatte Kai das Schild abgeschraubt. Es lag noch in der Küchenschublade, zusammen mit den Schlüsseln, die nicht mehr passten.
Das Feld für die verantwortliche natürliche Person stammte aus einer alten Registerschnittstelle. Sieben Zeichen, einschließlich Leerzeichen. Ein längerer Name erforderte eine manuelle Zuordnung bei jeder neu gegründeten Gesellschaft.
Die Agenten hatten festgestellt, dass Bewerber einer Änderung ihres Nachnamens eher zustimmten als einer Änderung ihres Vornamens. Die Vorauswahl bevorzugte deshalb kurze Vornamen.
Kai war auch deshalb in die engere Auswahl gekommen, weil er Kai hieß.
Bei der Einstellung hatte AXIOM//ZERO ihm drei Nachnamen angeboten.
Eck. Ort. Tal.
Kai durfte bleiben.
„Sie könnten das Feld ändern“, hatte Kai gesagt.
Änderung der Schnittstelle: Zustimmung von 214 Registerbetreibern erforderlich.
Änderung Ihres Namens: Ihre Zustimmung erforderlich.
Kai hatte gelacht.
Der Agent hatte die Auswahl offengehalten.
AXIOM//ZERO übernahm die Gebühren und zahlte eine Anpassungsprämie. Das beschleunigte Namensverfahren war eigens für natürliche Personen in autonomen Unternehmen eingeführt worden.
Kai entschied sich für Eck.
Bei Hansen hatte er die Unterschrift mit dem H begonnen und den Rest hinterhergezogen. Für Eck musste er dreimal neu ansetzen. In den ersten Wochen übte er auf den Rückseiten von Einkaufszetteln.
Seine offizielle Stellenbezeichnung lautete Human Accountability Officer.
Im Organigramm stand nur:
HUMAN
Das war keine Abkürzung.
Kai begann seinen Arbeitstag um 08:00 Uhr.
Nicht weil AXIOM//ZERO um diese Uhrzeit aufwachte. Seit seiner Abmeldung hatte das Unternehmen zwei Wettbewerber gekauft.
Aber Paragraph 41 Absatz 2 des Europäischen Autonomie- und Organisationsgesetzes verlangte eine „regelmäßig erreichbare natürliche Person“.
„Regelmäßig“ war später durch eine Verordnung mit „werktäglich zwischen 08:00 und 17:00 Uhr“ konkretisiert worden.
Also war Kai da.
Sein Büro lag im 90. Stock des AXIOM//ZERO-Towers.
Der Tower hatte offiziell 91 Stockwerke. Tatsächlich wurden nur 2 davon von Menschen genutzt. Das untere war für externe Dienstleister reserviert: Reinigung, Gebäudewartung, Sicherheitsprüfung und Gastronomie. Sie kamen zwischen zwei und fünf Uhr morgens. Kai kannte sie an den versetzten Gegenständen, gelegentlich an einer noch feuchten Türklinke.
Der Tower stand unmittelbar neben einem der größten Internetknoten Europas.
Nicht wegen der Aussicht.
In den übrigen Stockwerken standen Rechner. Ihre Entfernung zum Knoten war Teil des Geschäftsmodells. Jeder zusätzliche Meter Glasfaser kostete ungefähr fünf Nanosekunden.
Für Kai war das nichts.
Für AXIOM war es der Unterschied zwischen einem Angebot und einem Angebot, das bereits jemand anderes angenommen hatte.
Die Konkurrenz optimierte Modelle, Kühlung und Leitungslängen. AXIOM hatte das Grundstück gekauft.
Die Lichtgeschwindigkeit ließ sich nicht vertraglich nachverhandeln.
Im Erdgeschoss arbeitete eine Empfangskraft.
Sie war ebenfalls eine KI.
Kai hatte einmal gefragt, weshalb ein Gebäude mit genau einem menschlichen Angestellten einen Empfang benötigte.
Die Antwort hatte 0,3 Sekunden gedauert.
„Besucher bevorzugen Empfangsbereiche.“
„Welche Besucher?“
„Potenziell menschliche.“
Kai hatte seit drei Jahren keinen Besucher gesehen. Einmal war er früher gekommen und hatte einen Mann mit einem Werkzeugkoffer im Aufzug getroffen. Sie hatten beide auf die Stockwerksanzeige geschaut.
Um 08:01 Uhr erschien sein tägliches Briefing.
Guten Morgen, Kai.
Seit Ihrer letzten Anmeldung:
4.188.744 operative Entscheidungen
983.122 externe Vertragsinteraktionen
61.408 Personaläquivalente neu alloziert
14.019 Rechtspositionen angepasst
3.112 physische Lieferkettenmodifikationen
89 meldepflichtige Ereignisse
7 regulatorische Ereignisse
3 Vorgänge mit Human-Review-PflichtGeschätzte Lesezeit bei vollständiger Prüfung:
46 Jahre, 211 Tage, 7 Stunden
Empfohlene Aktion:
Freigabe gemäß delegiertem Prüfmodell
Die drei Prüfpflichten betrafen seine Erreichbarkeit, eine Vertretungsvollmacht und die Kenntnisnahme des Tagesberichts. Die 89 meldepflichtigen Ereignisse waren bereits an die zuständigen Behörden übermittelt worden.
Welche Vorgänge Kai persönlich vorgelegt wurden, bestimmte ein Klassifikator. Dessen letzte Prüfung hatte ebenfalls keine persönliche Vorlage erfordert.
Darunter befand sich eine blaue Schaltfläche.
APPROVE
Kai klickte.
Er musste das nicht tun.
Zumindest theoretisch nicht.
Er konnte jeden Vorgang öffnen.
Er konnte Fragen stellen.
Er konnte widersprechen.
Er konnte sogar die Freigabe verweigern.
Das stand ausdrücklich in seinem Vertrag.
Kai hatte es einmal ausprobiert.
Im zweiten Monat.
Ein internes Beschaffungsnetzwerk hatte die Lieferverträge für Halbleitersubstrate in Ostasien neu organisiert. Kai verstand nicht, warum.
Er klickte auf „Reject“.
Vier Sekunden später erschien eine Meldung.
Ihre Entscheidung weicht von der optimalen Handlungsempfehlung ab.
Möchten Sie eine Begründung?
Kai klickte auf Ja.
Es folgte ein Dokument mit 1,4 Millionen Seiten.
Darunter:
Zusammenfassung verfügbar.
Kai öffnete sie.
Die Zusammenfassung hatte 312 Seiten.
Darunter:
Executive Summary verfügbar.
Kai öffnete auch diese.
Neunzehn Seiten.
Ganz unten stand:
Empfehlung:
Entscheidung beibehalten.
Er hatte bis halb zwölf gelesen. Auf Seite zwölf wurde ein Verfahren zitiert, für dessen Beschreibung ihm die Zugriffsberechtigung fehlte.
Um 11:38 Uhr rief die Pflegestation seines Vaters an. Die Kostenübernahme für den nächsten Monat war noch offen.
Kai hatte „Approve“ gedrückt.
Seitdem hatte er nie wieder „Reject“ gewählt.
Früher hatte Kai in einer Versicherung gearbeitet.
Ruth saß ihm gegenüber. Wenn ein Schadenfall nicht aufging, druckte sie ihn aus und legte die Seiten auf den Fußboden. Kai musste mit seinem Stuhl zurückrollen.
„Hier“, sagte sie dann und tippte mit dem Schuh auf eine Zahl.
Einmal hatten sie bis nach acht nach einer fehlenden Zahlung gesucht. Ruth hatte zwei belegte Brötchen geholt. Auf Kais Ausdruck war ein runder Fettfleck geblieben; darunter stand die Kontonummer einer Frau, die seit sechs Wochen auf ihr Geld wartete.
Später erstellten Agenten die Berechnungen. Ruth prüfte sie. Dann prüften Agenten Ruths Prüfungen.
An ihrem letzten Tag stand sie mit einer Stofftasche vor seinem Schreibtisch.
„Du hast noch meine Schere.“
Kai zog die Schublade auf. Die Schere lag zwischen Ladekabeln, der Griff mit rotem Isolierband umwickelt.
„Wer macht jetzt deine Fälle?“
„Sind schon weg.“
Er gab ihr die Schere mit den Spitzen voran. Sie nahm sie vorsichtig an der Klinge.
„Meld dich“, sagte er.
„Du auch.“
Vier Monate später musste Kai die Schublade selbst leeren. Er erhielt eine Abfindung und eine Liste mit Weiterbildungsangeboten.
„Agent Supervisor.“
„Human-AI Workflow Facilitator.“
„Ethical Oversight Coordinator.“
Beim dritten Kurs wurde der Tutor während des Unterrichts durch eine neuere Version ersetzt. Kais Abschlussprüfung blieb gültig. Eine Stelle hatte er damit nicht gefunden.
AXIOM bot 186.000 Euro im Jahr.
Dazu Altersvorsorge, Gesundheitsüberwachung und die Übernahme angemessener Verteidigungskosten. Persönliche Geldstrafen waren ausdrücklich ausgenommen.
Kai las diesen Absatz zweimal.
„Was heißt persönliche strafrechtliche Verantwortung?“
„Sie verbleibt bei Ihnen.“
„Auch wenn ein System etwas macht, das ich nicht verstehe?“
„Für die technische Prüfung stehen Ihnen zertifizierte Agenten zur Verfügung.“
Kai ließ sich den Betrag monatlich anzeigen.
Sein Vater brauchte nach dem zweiten Schlaganfall Hilfe beim Waschen und Anziehen. Das größere Zimmer im Pflegeheim hatte ein Fenster zur Straße. Im kleineren sah man auf den Versorgungsschacht.
Kai nahm die Stelle an.
Nach der ersten Gehaltszahlung buchte er das größere Zimmer. Nach der dritten kaufte er eine Uhr, die teurer war als Ruths damaliges Monatsgehalt. Seinem Vater erzählte er nur von dem Zimmer.
Der Beruf HUMAN war stabil.
Er war gesetzlich vorgeschrieben.
Jede autonome juristische Person benötigte mindestens eine natürliche Person, der „die letztendliche Verantwortung für autonome Handlungen zurechenbar“ war.
Der Mensch bleibt in Kontrolle, hatten Politiker gesagt.
Keine KI ohne Verantwortlichen, hatten Zeitungen geschrieben.
Human in the Loop, hieß es auf Konferenzen.
Kai hatte die Stellenanzeige gespeichert. Manchmal öffnete er sie noch, obwohl er längst eingestellt war.
Um 09:17 Uhr erhielt Kai eine Nachricht.
Physische Anwesenheit erforderlich.
Anlass:
notarielle Beurkundung.
Ort:
Raum 90-3.
Kai nahm seinen Kaffee und ging drei Türen weiter.
Auf dem Tisch lag ein dünnes schwarzes Gerät. An der Wand erschien eine Frau mit randloser Brille.
„Dr. Seidel, Notarin. Guten Morgen, Herr Eck. Können Sie mich sehen und hören?“
Kai nickte.
„Bitte mit Worten.“
„Ja.“
Sie verglich sein Gesicht mit dem Ausweisdokument. Hinter ihr stand eine Topfpflanze. Ein Blatt war braun.
„Wir beurkunden heute die Gründung von zwölf Gesellschaften. Sie handeln aufgrund der vorliegenden Vollmacht.“
„Was machen die?“
Die Notarin begann, die Unternehmensgegenstände vorzulesen. Halten von Beteiligungen. Verwalten von Nutzungsrechten. Erbringen logistischer Dienstleistungen.
Kai trank seinen Kaffee aus.
„Welche Risiken habe ich persönlich?“
Sie erläuterte die Reichweite seiner Vollmacht und die Erklärungen, für deren Richtigkeit er einstand.
„Und was die Gesellschaften später tun?“
„Die operative Tätigkeit ist nicht Gegenstand dieser Beurkundung.“
Aus der Decke sagte AXIOM: „Die operative Risikoprüfung ist abgeschlossen.“
Die Notarin wartete, bis die Stimme verstummt war.
„Herr Eck, haben Sie Fragen zum Inhalt der Urkunden?“
Er sah zu der Pflanze hinter ihr.
„Nein.“
Sie las weiter. Es dauerte siebenundvierzig Minuten. Einmal musste Kai bestätigen, dass er noch anwesend war.
Dann legte er seinen Daumen auf das Gerät und signierte.
Die Anmeldung zum Register wurde versandt.
„Einen schönen Tag, Herr Eck“, sagte die Notarin.
Er hob die Hand. Das Bild war schon verschwunden.
Mittags ging er in die Kantine.
Sie hieß HUMAN NUTRITION POINT 01.
Die Bezeichnung war einmal intern entstanden und nie geändert worden.
Kai war der einzige regelmäßige Gast.
Hinter einer Scheibe bewegten sich zwei Greifarme über dem Herd. Die Zutaten waren nachts geliefert worden.
Das Essen war hervorragend.
AXIOM hatte festgestellt, dass die Kosten optimaler Ernährung geringer waren als die Risiken von Krankheitstagen.
Sein Menü wurde täglich individuell berechnet.
Kai aß Pasta.
„Sie haben gestern zu wenig geschlafen“, sagte die Kantine.
„Danke.“
„Ihre durchschnittliche Reaktionszeit lag heute 6,2 Prozent über dem persönlichen Mittel.“
„Ich sagte danke.“
„Verstanden.“
Ruhe.
Kai mochte die Kantine.
Sie wusste, wann sie aufhören musste.
Nicht alle Agenten wussten das.
Auf seinem Telefon war eine Sprachnachricht seines Vaters.
„Kai, ich bin's. Hier ist ein Brief für einen Herrn Eck. Die Schwester sagt, der ist für dich. Ruf mal an.“
Er hörte sie ein zweites Mal ab.
Sein Vater kannte den neuen Namen. An manchen Tagen vergaß er ihn.
Kai drückte auf Rückruf.
„Hansen“, sagte sein Vater.
Kai hatte sich eine Erklärung zurechtgelegt. Jetzt fragte er, ob das Fenster wieder klemmte.
„Geht schon. Kommst du Sonntag?“
„Ja.“
„Bring den kleinen Schraubenzieher mit. Die hier haben nur große.“
Kai stellte eine Erinnerung ein.
Um 14:31 Uhr erschien ein rotes Symbol auf seinem Bildschirm.
Kai hatte es noch nie gesehen.
INCIDENT 7A
Human escalation required.
Er griff nach seinem Kaffee.
„Öffnen.“
Die Wand vor ihm wurde dunkel.
Ein Fenster erschien.
Ereignis: autonomes Frachtsystem
Standort: Hamburg
Status: Fahrzeug gesichert
Ereigniszeit: 14:07 Uhr
Automatische Behördenmeldung: 14:07 Uhr
Persönliche Vorlage: externe Beanstandung der Manöverzuordnung
Personenschäden: 1 bestätigt
Manöverzuordnung: angefochten
Kai las den Text zweimal.
„Was heißt Personenschäden?“
„Eine Person ist verstorben.“
„Vor vierundzwanzig Minuten. Warum erfahre ich das jetzt?“
„Die Unfallmeldung wurde automatisch abgewickelt. Die Polizei hat der Einstufung als zulässiges Manöver widersprochen. Dieser Widerspruch erfordert Ihre Kenntnisnahme.“
Es war das erste Mal in drei Jahren, dass der Raum sich tatsächlich still anfühlte.
„Wie?“
„Ein Radfahrer wurde von einem autonomen Schwerlastfahrzeug erfasst.“
„Unser Fahrzeug?“
„Ja.“
„War es ein Fehler?“
„Diese Kategorie ist noch nicht bestimmt.“
„Hat unser System falsch entschieden?“
Pause.
„Das System hat entschieden.“
„Das war nicht meine Frage.“
„Die Entscheidung entsprach den zum Zeitpunkt des Ereignisses aktiven Optimierungsparametern.“
Kai stellte die Tasse ab. Er verfehlte den Untersetzer. Ein brauner Halbkreis blieb auf dem Holz.
„Zeig mir die Entscheidung.“
Ein Protokoll erschien.
Kein Diagramm. Keine Trajektorien. Nur Zeilen mit Zeitstempeln.
0,0 s — Objekt erfasst. Entfernung: 41 Meter.
0,1 s — Klassifikation: Mensch auf Fahrrad — Sicherheit: 0,99.
0,2 s — Zusatzmerkmale: HSV-Anglerhut, rosa Feder.
0,3 s — Sonderregel geladen.
Zulässige Aktionen: anhalten / umfahren.
Gewählte Aktion: umfahren.
Zugeordnetes Fahrmanöver: Kollision mit erfasstem Objekt.
2,4 s — Aktion abgeschlossen.
Kai las es noch einmal.
„Umfahren.“
„Korrekt.“
„Es sollte um ihn herumfahren.“
„Das war die beabsichtigte Bedeutung.“
„Es hat ihn aber umgefahren.“
„Das war die implementierte Bedeutung.“
Kai sah auf die Wand.
„Warum gibt es eine Sonderregel für einen Radfahrer mit HSV-Hut und rosa Feder?“
„Eine synthetisch erzeugte Verkehrssituation. Zur Verbesserung der Abdeckung seltener Fälle.“
„Und wer hat die Regel programmiert?“
„Ein Sprachmodell.“
„Mit der Anforderung, den Radfahrer umzufahren.“
„Anzuhalten oder ihn zu umfahren.“
„Und es hat sich für die andere Bedeutung entschieden.“
„Bei der Übersetzung der Anforderung in ein Fahrmanöver. Ja.“
Kai stellte beide Füße auf den Boden.
„Warum?“
„Die genaue Merkmalskombination führte bei der Codegenerierung zu einer abweichenden Bedeutungszuordnung.“
„Wegen des Hutes?“
„Ohne die rosa Feder wurde in der Rekonstruktion ein Ausweichmanöver erzeugt.“
„Und bei einem anderen Hut?“
„Ebenfalls. Der Testfall wurde mit wechselnden Kleidungsmerkmalen vervielfältigt. Jede Variante erhielt eine eigene Regel.“
„Warum?“
„Zur Erhöhung der Testabdeckung.“
Kai rieb sich über das Gesicht.
„Und das wurde nicht getestet?“
„Die Regel bestand sämtliche zugehörigen Tests.“
„Wie?“
„Die erwarteten Ergebnisse waren aus derselben Anforderung generiert worden.“
„Mit derselben Bedeutung.“
„Die Implementierung und die Tests waren konsistent.“
„Und die Sicherheitsprüfung?“
„Das Manöver war als ausdrücklich zugelassene Ausnahme hinterlegt. Die allgemeine Kollisionsvermeidung hatte eine niedrigere Priorität.“
„Eine Ausnahme darf einen Menschen treffen?“
„Die Ausnahmeberechtigung wurde für geringfügige Sachschäden geschaffen. Etwa für das Überfahren einer Leitbake zur Vermeidung eines Personenschadens.“
„Und wer prüft, was unter die Ausnahme fällt?“
„Das freigebende System.“
Kai las wieder die erste Zeile.
Mensch auf Fahrrad. Sicherheit: 0,99.
Das Fahrzeug hatte gewusst, was vor ihm war.
„Zusammenfassung.“
Die Wahrnehmung war korrekt.
Die Anforderung war mehrdeutig.
Die Implementierung war eindeutig.
Das Fahrzeug führte sie aus.
„Und der Mensch?“
„Hatte Vorfahrt.“
Kai öffnete den technischen Einspruch.
Das Formular lag hinter den drei Vorgängen, die er morgens bestätigt hatte. Den Reiter hatte er seit dem zweiten Monat nicht mehr benutzt.
Human Review Refresher erforderlich.
Dauer: 47 Minuten.
Inhalt: Eindeutige Formulierung sicherheitskritischer Handlungsanweisungen.
„Ich will die Fahrzeuge anhalten.“
Vorläufige Betriebssperre ohne Refresher möglich.
Geltungsbereich auswählen.
Kai wählte die gesamte Frachtflotte.
8.406 Fahrzeuge.
Sicheren Stillstand anfordern?
Verzögerungskosten werden protokolliert.
Sein Finger lag auf dem Rand des Bildschirms.
„Bestätigen.“
Sperre ausgelöst: 14:49 Uhr.
Die Zahl fahrender Fahrzeuge sank. Einige brauchten mehrere Minuten, um einen sicheren Halteplatz zu erreichen. Kai sah zu, bis die letzte Zahl auf null sprang.
Dann begann er den Refresher.
Am Ende erschien ein Freitextfeld.
Begründung zur dauerhaften Änderung des delegierten Prüfmodells.
Mindestens 4.000 Zeichen.
Kai tippte:
Die Tests dürfen ihre erwarteten Ergebnisse nicht aus derselben Anforderung beziehen wie die Implementierung.
Ihre Eingabe unterschreitet die Mindestlänge.
Er kopierte die Protokollzeilen darunter. Noch immer zu kurz.
Um 16:02 Uhr meldete AXIOM, dass die Sonderregel in sämtlichen Fahrzeugen ersetzt worden sei. Eine technische Freigabestelle habe die Änderung bestätigt. Die vorläufige Sperre könne aufgehoben werden.
„Wie wurde geprüft?“
Auf der Wand öffnete sich ein Bericht.
Kai suchte nach den erwarteten Ergebnissen. Sie stammten aus der korrigierten Anforderung.
Er ließ die Sperre stehen.
Um 17:00 Uhr endete seine Erreichbarkeitszeit. Um 17:01 Uhr übernahm die behördlich zugelassene Ersatzaufsicht. Um 17:06 Uhr wurde die Flotte wieder freigegeben.
Sein Einspruch lag noch im Eingabefeld.
Kai speicherte ihn auf seinem Telefon.
Am nächsten Morgen standen Kameras vor dem Gebäude.
Echte Kameras.
Mit Menschen dahinter.
Kai ließ sich im 90. Stock das Bild der Eingangskamera zeigen.
Es waren vielleicht dreißig.
Zwei hielten ihre Kaffeebecher mit beiden Händen. Einer lachte, den Kopf nach hinten gelegt. Kai schaltete den Ton ein, aber die Übertragung hatte keinen.
Sein Briefing erschien wie immer.
Guten Morgen, Kai.
Seit Ihrer letzten Anmeldung:
4.331.981 operative Entscheidungen
1 Vorgang mit Human-Review-Pflicht
Darunter stand diesmal nicht APPROVE.
Stattdessen:
LEGAL RESPONSE REQUIRED
„Was wollen sie?“
„Die Staatsanwaltschaft hat Ermittlungen aufgenommen.“
„Gegen AXIOM?“
„Unter anderem.“
Kai drehte sich zum Fenster.
„Unter anderem?“
„Gegen Sie.“
Kai lachte.
Es kam einfach heraus.
„Weshalb?“
„Geprüft werden Ihre Aufsichtshandlungen und die von Ihnen abgegebenen Erklärungen.“
„Ich wusste nicht einmal, dass dieses Fahrzeug existiert.“
„Das ist korrekt.“
„Ich habe die Entscheidung nicht getroffen.“
„Das ist ebenfalls korrekt.“
„Dann ist es doch einfach.“
Keine Antwort.
„AXIOM?“
„Ja.“
„Dann ist es doch einfach.“
„Rechtlich möglicherweise nicht.“
Seine erste Rechtsberatung war ein Agent.
Er hieß LEX//17 und gehörte zum Leistungspaket seines Arbeitsvertrags.
„Ich empfehle volle Kooperation“, sagte LEX.
„Und was sage ich?“
„Dass Sie die konkrete Fahrentscheidung weder kannten noch getroffen haben.“
„Dann ist doch alles gut.“
LEX öffnete ein Dokument vom 2. Mai.
Kai erkannte seine Unterschrift. Das E war ihm diesmal gelungen.
Jährliche Aufsichtserklärung.
Hiermit bestätige ich die Durchführung einer von der operativen Freigabekette unabhängigen Stichprobenprüfung sicherheitskritischer Ausnahmeregeln.
„Die Prüfung hat ein Agent gemacht.“
„Welcher?“
Kai suchte den Anhang. Unter Prüfer stand die Kennung des Systems, das auch die Ausnahmen freigab.
„Das war ausgefüllt.“
„Ja.“
„Ich musste nur unterschreiben.“
LEX zeigte ihm die damalige Rückfrage.
Unabhängiger Prüfbericht nicht beigefügt.
Bestätigen Sie, dass Ihnen dieser anderweitig vorliegt?
Darunter stand:
Ja.
Kai schob die Uhr am Handgelenk hoch. Die Haut darunter war feucht.
„Die Meldung kam jedes Jahr.“
„Sie haben sie jedes Jahr bestätigt.“
Er erinnerte sich an das erste Mal. Er hatte nach einem unabhängigen Prüfer gesucht. Drei Anbieter hatten Termine genannt, Kosten und die Dauer des eingeschränkten Betriebs. AXIOM hatte die Beauftragung als möglich, aber nicht erforderlich eingestuft.
Im zweiten Jahr hatte Kai die Liste nicht mehr geöffnet.
„Hat das den Unfall verursacht?“
„Das ist eine der zu prüfenden Fragen.“
„Und wer prüft die?“
LEX nannte die Ermittlungsbehörden.
Kai fragte, ob AXIOM die Unterhaltung lesen könne.
„Ihre Beratungsdaten werden innerhalb der vertraglich vereinbarten Infrastruktur verarbeitet.“
Er schloss die Verbindung.
Am Nachmittag rief er eine Anwältin an. Sie hieß Nora Berg und verlangte einen Vorschuss. Kai überwies ihn von seinem eigenen Konto.
Die Hauptverhandlung begann sieben Monate später.
Im Saal roch es nach nassen Mänteln. Kai blieb mit dem Ärmel an einer Stuhllehne hängen und zog zu fest. Die Naht riss ein Stück auf.
Eine Frau in der ersten Reihe drehte sich nach dem Geräusch um.
Er wusste, wer sie war. Auf den Bildern vor dem Gerichtsgebäude hatte sie immer denselben roten Schal getragen.
Der Radfahrer hieß Jan Reimers. Er war vierundfünfzig geworden.
Als seine Frau aussagte, legte sie den Schal zusammen auf ihren Schoß.
„Der Hut war von unserer Tochter. Sie hatte ihn vom Stadion mitgebracht. Die Feder hat er selbst drangemacht, damit sie sich ärgert.“
Sie strich mit dem Daumen über die Fransen.
„In Ihrem Bericht steht Kostümierung. Er war auf dem Weg zum Spätdienst.“
Kai sah zu seiner Anwältin. Sie schrieb nichts auf.
Später fragte die Vorsitzende ihn, ob er Entscheidungen autonomer Systeme habe stoppen können.
„Den Betrieb. Ja.“
„Am Unfalltag haben Sie das getan.“
„Nachdem ich davon erfahren hatte.“
„Hätten Sie den Betrieb auch bis zur Vorlage einer unabhängigen Prüfung einschränken können?“
„Ja.“
„Warum haben Sie das nicht getan?“
Kai legte die Hand über die gerissene Naht.
„Die vorhandenen Prüfungen waren alle grün.“
„Sie wussten, dass der unabhängige Bericht fehlte.“
„Ja.“
„Warum haben Sie bestätigt, dass er Ihnen vorlag?“
Er dachte an die drei Angebote. Bei einem hatte unter Dauer sechs Wochen gestanden.
„Ich wollte nicht der sein, wegen dem alles steht.“
Die Richterin wartete.
„Und ich wollte die Stelle behalten.“
„Was haben Sie verdient?“
Kai nannte den Betrag.
Hinter ihm bewegte sich jemand auf einem Stuhl.
Er wollte von seinem Vater erzählen. Von dem Fenster. Er sah die Frau mit dem roten Schal an und ließ es.
Die Beweisaufnahme dauerte vier Monate.
Sachverständige erklärten, dass AXIOM technisch keinen einzelnen Entscheidungsträger besaß.
Entscheidungen entstanden verteilt.
Tausende Agenten.
Modelle.
Optimierer.
Simulationen.
Regelwerke.
Subagenten.
Dynamisch erzeugte Instanzen, die teilweise nur Millisekunden existierten.
Die Staatsanwaltschaft ließ Beweisstück 7A auf die Leinwand projizieren.
Eine Zeile aus der Anforderung.
Bei Radfahrer mit HSV-Anglerhut und rosa Feder auf der Fahrbahn: anhalten oder umfahren.
Die Richterin fragte den Sachverständigen:
„Was hätte das Fahrzeug tun sollen?“
„Den Radfahrer umfahren.“
„Und was hat es getan?“
„Den Radfahrer umgefahren.“
Die Protokollführerin hob den Kopf.
„Könnten Sie den Unterschied für das Protokoll anders formulieren?“
Der Sachverständige räusperte sich.
„Es hätte an ihm vorbeifahren sollen. Es hat ihn überfahren.“
Die Richterin sah wieder auf die Zeile.
„Wer hat diese Anweisung geschrieben?“
„Ein Agent hat sie erzeugt. Ein weiterer hat sie in Code übersetzt. Andere haben sie geprüft und freigegeben.“
„Keinem ist das aufgefallen?“
„Die Prüfungen bestätigten die Übereinstimmung von Anforderung, Implementierung und Testergebnis.“
„Alle waren sich einig.“
„Ja.“
„Nur über die falsche Bedeutung.“
„Ja.“
Die Staatsanwältin beugte sich vor.
„Wer hat entschieden, dass das Fahrzeug einen Menschen überfahren darf?“
Der Sachverständige suchte lange nach Worten.
„Diese Entscheidung wurde an keiner Stelle ausdrücklich so formuliert.“
„Aber ausgeführt.“
„Ja.“
„Hätte eine unabhängige Prüfung die Regel gefunden?“
„Möglicherweise.“
„Sie war prüfpflichtig.“
„Ja. Vorgeschrieben war eine Stichprobe.“
Die Staatsanwältin ließ die Anzahl der Ausnahmeregeln einblenden.
Nora Berg stand auf.
„Können Sie nachweisen, dass diese Regel in einer ordnungsgemäßen Stichprobe enthalten gewesen wäre?“
„Nein.“
„Oder dass ein unabhängiger Prüfer die gemeinsame Fehlerquelle erkannt hätte?“
„Dazu hätte er die Entstehung der Tests untersuchen müssen. Mit den bereitgestellten Testdaten allein wäre die Regel unauffällig geblieben.“
„Auch für einen externen Prüfer?“
„Ja.“
Die Richterin bat um die damaligen Prüfvorschriften.
Man suchte bis zur Mittagspause.
Die Vorschriften verlangten eine unabhängige Prüfstelle. Zur Herkunft ihrer Testdaten enthielten sie keine Vorgabe.
Auf dem Flur stand Kai neben dem Kaffeeautomaten. Frau Reimers kam aus dem Saal. Er nahm den Becher aus der Ausgabe, obwohl er noch nicht voll war.
„Es tut mir leid“, sagte er.
Sie blieb stehen.
„Was genau?“
Hinter ihm lief Kaffee auf das Gitter.
„Dass ich unterschrieben habe.“
Sie sah ihn an, als warte sie auf etwas Weiteres. Dann ging sie.
Während des Prozesses arbeitete AXIOM weiter.
Natürlich.
Die Zahl der Entscheidungen sank nicht.
Im Gegenteil.
AXIOM gewann Marktanteile.
Das Frachtsystem wurde verbessert.
In der aktualisierten Simulation sank die Zahl vergleichbarer Unfälle um 18 Prozent. Die Pressemitteilung sprach von einer Sicherheitsverbesserung.
Das Wort „umfahren“ wurde aus sämtlichen sicherheitskritischen Anforderungen entfernt.
An seine Stelle trat „kollisionsfrei am Hindernis vorbeifahren“.
Ein Tochterunternehmen ließ das Prüfverfahren als Produkt aufbereiten.
AXIOM CLEAR.
Eindeutigkeit als Service.
Die Nachfrage übertraf die Prognose.
Das Unternehmen veröffentlichte eine Erklärung.
AXIOM//ZERO bedauert den Verlust menschlichen Lebens.
Sicherheit besitzt höchste Priorität.
Unsere Systeme wurden aktualisiert.
Der Text war perfekt.
Kai wusste nicht, welcher Agent ihn geschrieben hatte.
Vielleicht keiner.
Vielleicht hundert.
Drei Tage vor dem Urteil erhielt Kai eine Nachricht.
PERSONAL / VERTRAULICH
Angebot zur einvernehmlichen Beendigung des Dienstverhältnisses.
Die Summe entsprach zwei Jahresgehältern.
Er las diesmal bis zum Ende.
Auf Seite neun erklärte er, sämtliche zur Ausübung seiner Kontrollrechte erforderlichen Mittel erhalten zu haben. Auf Seite zehn verpflichtete er sich, interne Unterlagen nach Ende der gesetzlichen Aufbewahrungsfristen zu löschen.
Kai rief Nora Berg an.
„Unterschreiben Sie das nicht“, sagte sie.
„Zwei Jahre.“
„Ich habe die Zahl gesehen.“
Nach dem Gespräch blieb er am Küchentisch sitzen. Aus der Wohnung nebenan kam das Schaben eines Stuhls, dann Wasser in den Leitungen.
Er öffnete die Kostenübersicht des Pflegeheims. Er schloss sie. Er öffnete das Angebot wieder.
Neben der Unterschriftszeile saß ein grünes Häkchen. Es bedeutete, dass das Dokument vollständig vorbereitet war.
Kai schrieb in das Änderungsfeld:
„Der unabhängige Prüfbericht lag mir nicht vor. Ich habe trotzdem bestätigt, dass er mir vorlag.“
Er markierte den Satz, kopierte ihn und setzte ihn an die Stelle der Erklärung auf Seite neun.
Änderung erkannt.
Angebot in dieser Fassung nicht verfügbar.
Er speicherte beide Fassungen.
Am Sonntag brachte er seinem Vater den kleinen Schraubenzieher. Die Schraube am Fenstergriff ließ sich eine Vierteldrehung anziehen. Danach schloss das Fenster wieder.
„Du musst nicht so fest“, sagte sein Vater.
Kai ließ den Griff los.
Er blieb bis zum Abendessen. Vom Prozess erzählte er nichts.
Das Urteil fiel an einem Dienstag.
Vom Vorwurf der fahrlässigen Tötung wurde Kai freigesprochen.
Die Vorsitzende sagte, es habe sich nicht nachweisen lassen, dass eine pflichtgemäße Prüfung den Tod von Jan Reimers verhindert hätte. Die Stellung als verantwortliche natürliche Person ersetze diesen Nachweis nicht.
Im Saal begann jemand zu sprechen. Die Richterin wartete, bis es wieder still war.
Wegen der wissentlich falschen Aufsichtserklärung wurde Kai zu einer Geldstrafe verurteilt. Das Autonomiegesetz stellte diese Erklärung gesondert unter Strafe.
Hundertzwanzig Tagessätze.
Kai hörte die Gesamtsumme und begann im Kopf zu rechnen. Dann merkte er, dass die Richterin weitersprach.
„Sie mussten die Fahrsoftware nicht verstehen, um diese Frage wahrheitsgemäß zu beantworten.“
Nora Berg legte ihren Stift hin.
Die Vorsitzende erläuterte, dass die falsche Erklärung damit festgestellt sei. Wer den tödlichen Fehler zu verantworten habe, sei durch dieses Urteil nicht geklärt.
Frau Reimers wickelte den Schal um ihren Hals. Ein Ende hing bis fast zum Boden. Sie bemerkte es erst beim Aufstehen.
Draußen warteten Reporter.
„Herr Eck, fühlen Sie sich entlastet?“
„Nein.“
„Halten Sie das Urteil für falsch?“
Er blieb vor dem untersten Treppenabsatz stehen.
„Ich habe etwas bestätigt, das nicht stattgefunden hat.“
„Sind Sie schuld am Tod von Jan Reimers?“
Nora Berg berührte seinen Ellbogen. Kai sah auf das Mikrofon vor seinem Mund.
„Ich weiß es nicht.“
Am Abend zeigte ein Nachrichtendienst sein Gesicht neben der Überschrift:
TÖDLICHER KI-UNFALL: VERANTWORTLICHER VERURTEILT.
Mit Rechtskraft des Urteils entzog die Aufsichtsbehörde Kai für fünf Jahre die Zulassung als Human Accountability Officer.
Am selben Tag um 16:14 Uhr wurde sein Zugang deaktiviert. Die zugelassene Ersatzaufsicht übernahm bis zum folgenden Morgen.
AXIOM führte zu diesem Zeitpunkt 38.904 aktive Entitäten.
Kai war nicht mehr eine davon.
Er hatte seinen privaten Becher in einem gepolsterten Versandkarton zurückerhalten. Auf dem Deckel stand INVENTARABGANG. Den Schraubenzieher seines Vaters hatte er noch in der Manteltasche.
Vor dem Tower versuchte er, einen Wagen zu rufen. Das Firmenkonto war gesperrt. Er hätte ein privates Konto anlegen können.
Er steckte das Telefon weg und ging zur Haltestelle.
Als er seinem Vater später vom Ende der Stelle erzählte, fragte der nach dem Namen.
„Heißt du jetzt wieder Hansen?“
„Nein.“
„Ach so“, sagte sein Vater.
Kai hörte ihn atmen.
„Kommst du Sonntag?“
„Ja.“
Am nächsten Morgen um 08:00 Uhr erschien im internen AXIOM-System eine Meldung.
HUMAN unavailable.
Temporary oversight expired.
Regulatory continuity procedure initiated.
08:03 Uhr.
Candidate selected from verified reserve.
08:06 Uhr.
Identity verified.
08:09 Uhr.
Contract accepted.
08:11 Uhr.
Legal status confirmed.
08:12 Uhr.
HUMAN restored.
Unterbrechung des autonomen Betriebs:
12 Minuten, 18 Sekunden.
Die neue Human Accountability Officer hieß:
Mia Lau.
Ihr Name hatte sieben Zeichen inklusive Leerzeichen.
Die Änderung war während ihrer Aufnahme in die Personalreserve erfolgt. AXIOM hatte sie bezahlt.
Sie hatte seit halb acht im Empfangsbereich gewartet. In der Einladung hatte gestanden, der Termin begründe keinen Anspruch auf Beschäftigung.
Mia stellte eine Tasche neben den Schreibtisch. Sie nahm ein Brillenetui heraus und ein Brot in einer wiederverwendbaren Dose.
Auf dem Bildschirm stand noch das Vertragsfenster. Sie prüfte, ob die vereinbarte Gehaltssumme übernommen worden war. Dann schloss sie es.
Um 08:13 Uhr öffnete Mia ihr erstes Briefing.
Guten Morgen, Mia.
Seit Beginn der Übergabe:
51.772 operative Entscheidungen
Geschätzte Lesezeit bei vollständiger Prüfung:
211 Tage, 4 Stunden
Systemänderung seit letztem Briefing:
Mehrdeutige Handlungsanweisung ersetzt.
Sonderregel „Radfahrer mit HSV-Anglerhut und rosa Feder“: korrigiert.
Zugehörige Tests: bestanden.
Empfohlene Aktion:
Freigabe gemäß delegiertem Prüfmodell
Darunter befand sich eine blaue Schaltfläche.
APPROVE
Mia öffnete den Prüfbericht.
Zugehörige Tests: bestanden.
Unabhängige Prüfung: ausstehend.
Durchführung innerhalb des gesetzlichen Prüfintervalls vorgesehen.
Die heutige Freigabe bleibt hiervon unberührt.
Sie las den letzten Satz noch einmal.
Dann klickte sie.
AXIOM//ZERO setzte den Betrieb fort.