Das Risiko sind nicht denkende Maschinen, sondern Agenten ohne Bewusstsein.
Warum autonome Systeme eine gemeinsame Sprache für Risiken brauchen und warum diese Sprache offen sein muss.
Eine neue Generation von Systemen ist operativ autonom und moralisch leer. Sie planen, bezahlen, bewegen Waren und arbeiten neben Menschen. Sie erfüllen die Aufgabe, ohne ihre Folgen zu verstehen.
Verursacht ein solches System einen Schaden, löst sich die Verantwortung zwischen Modellentwickler, Integrator, Betreiber und Datenlieferant auf. Jeder kann auf die anderen zeigen. Die geschädigte Person wartet jahrelang, und der Versicherer kann nicht bepreisen, was er nicht messen kann.
Die Gesellschaft kann «der Algorithmus hat entschieden» nicht länger als Antwort akzeptieren. Hinter jeder autonomen Handlung muss ein Mensch oder eine Organisation stehen, und eine finanzielle Deckung, die vereinbart ist, bevor etwas passiert, nicht danach.
Es geht nicht um Science-Fiction oder Maschinenbewusstsein. Es geht um Infrastruktur: gemeinsame Begriffe, überprüfbare Nachweise und klare Rollen. Luftfahrt, Schifffahrt und Medizin haben diese Infrastruktur über Jahrzehnte aufgebaut. Autonome Systeme verbreiten sich schneller, also muss die Arbeit jetzt beginnen, und sie muss offen geschehen.
RoboIns leistet diese Arbeit als neutraler, gemeinnütziger Verein, unabhängig von einzelnen Herstellern, Versicherern oder Plattformen.
- Verantwortung ist menschlich. Jedes autonome System hat eine benannte verantwortliche Partei.
- Risiko wird gemessen, nicht geschätzt. Objektive Parameter ersetzen die fehlende Schadenhistorie.
- Nachweise sind überprüfbar. Ein Trigger zählt nur, wenn eine unabhängige Quelle ihn bestätigen kann.
- Basisrisiko wird offengelegt. Käufer wissen, was eine parametrische Police nicht deckt.
- Der Standard ist offen. Sein Text ist öffentlich, jede Version geht in die Vernehmlassung.
- Risiko tragen nur, die dafür zugelassen sind. RoboIns setzt den Standard; zugelassene Versicherer tragen das Risiko.
- Kein Einzelinteresse dominiert. Industrie, Versicherer, Wissenschaft und Zivilgesellschaft teilen die Governance.
Vier Dinge, die Behörden jetzt tun können
Gerichtet an die Europäische Kommission, den Schweizerischen Bundesrat und die FINMA sowie an nationale Aufsichtsbehörden für KI und Produkthaftung.
Ein gemeinsames Vorfallformat anerkennen
Einen standardisierten Agent Incident Record als Nachweis im Rahmen der Protokollierungspflichten des EU AI Act und der revidierten Produkthaftungsrichtlinie (EU) 2024/2853 akzeptieren.
Ein neutrales Register unterstützen
Die anonymisierte Meldung von Vorfällen mit KI-Agenten und Robotern an ein unabhängiges Register fördern, wie es die Luftfahrt bei Sicherheitsmeldungen tut.
Parametrische Deckung klären
Zugelassenen Versicherern Rechtssicherheit für parametrische Produkte auf Basis offener, überprüfbarer Trigger geben, einschliesslich der Offenlegung des Basisrisikos.
Offene Arbeit fördern
Offene Risikostandards für autonome Systeme als öffentliche Infrastruktur behandeln, die für Forschungs- und Innovationsförderung in Frage kommt.
Teilen Sie diese Grundsätze?
Wir laden Forschende, Versicherer, Betreiber und Behörden ein, sich als Unterstützer einzutragen und die erste Version des Standards mitzugestalten.