Erklärung des 80. Deutschen Betriebswirtschafter-Tages

Künstliche Intelligenz eröffnet erhebliche Potenziale für Produktivität, Innovation und Wertschöpfung in Deutschland und Europa. Zugleich muss sich ihr Einsatz an den Grundsätzen guter Unternehmensführung orientieen. Vor diesem Hintergrund stellte der 80. Deutsche Betriebswirtschafter-Tag als Leitveranstaltung der Schmalenbach-Gesellschaft für Betriebswirtschaft e.V. Accounting, Auditing und Governance im Zeitalter Künstlicher Intelligenz in den Mittelpunkt seiner Debatten.

Als Stimme der Betriebswirtschaft im wissenschaftlichen, wirtschaftli­chen und gesellschaftlichen Diskurs verbindet die Schmalenbach-Gesell­schaft wissenschaftliche Exzel­lenz mit praktischer Expertise. Die vor­liegenden zehn betriebswirtschaftlichen Leitlinien wurden durch Arbeits­kreise der Schmalen­bach-Gesellschaft erarbeitet, auf dem 80. Deutschen Betriebs­wirtschafter-Tag diskutiert, weiterentwickelt und ein­ver­nehmlich ver­abschiedet.

Aus betriebswirtschaftlicher Sicht kommt es darauf an, die Poten­ziale von KI zu erschließen und zugleich die Bedingungen verlässli­cher Unter­nehmens­führung zu sichern. Die zehn Leitlinien zielen daher auf einen Ordnungsrahmen, der Innovation und Wertschöpfung ermög­licht, Informa­tionsqualität sichert, wirksame Kontrolle gewährleistet und unternehme­rische Verantwortung klar zuordnet. Für die Regulie­rung folgt daraus ein konkreter Maßstab: Ihr Zweck muss eindeutig be­stimmt, ihr Nutzen ge­genüber den Kosten gerechtfertigt und ihre Um­setzung praktikabel sein. Die technologieoffene Nutzungsfreiheit bildet den Ausgangspunkt; Ein­griffe bedürfen einer Begründung. Dabei muss mit der Regelungskompe­tenz auch die Verantwortung für die Umset­zung einhergehen.

1. Eine innovationsorientierte KI-Regulierung darf nicht spezi­fische technische Lösungen vorgeben, sondern muss sich an Chancen, Risiken und Verantwortlichkeiten orientieren und die Umsetzungsgeschwindigkeit fördern.

KI-Regulierung muss Risiken angemessen adressieren, zugleich aber den Blick darauf richten, welche Entwicklungen ermöglicht werden sollen. Der Zweck der Regulierung muss grundsätzlich eindeutig definiert und ihr Nutzen gegenüber den Kosten (einschließlich möglicher Nachteile bei der Umsetzungsgeschwindigkeit) gerechtfertigt werden. Europäische und nationale Gesetzgeber sind gefordert, technologieoffen zu regulieren. KI-, Daten-, Cyber-, Haftungs- und Branchenregulierung müssen wider­spruchs­frei, kohärent und praktikabel ausgestaltet sein. Technologie­spezifische Anforderungen sind nur dort gerechtfertigt, wo besondere technische Eigenschaften Risiken erzeugen, die durch allgemeine Qualitäts-, Haftungs- und Governance-Prinzipien nicht hinreichend erfasst werden.

2. Regulatory Sandboxes und Reallabore müssen systematisch genutzt werden, um KI-Regulierung unter realen Bedingungen zu erproben und weiterzuentwickeln.

Unternehmen müssen die Möglichkeit haben, neue KI-Anwendungen unter Aufsicht und mit sachlich sowie zeitlich begrenzten regulatori­schen Spiel­räumen zu erproben. Die dabei gewonnenen Erkenntnisse über Risiken, Wirkungen und geeignete Governance-Mechanismen müssen systema­tisch ausgewertet und – soweit verallgemeinerbar – in die Weiterentwick­lung der Regulierung einbezogen werden.

3. Zukunftsfähigkeit bedeutet, resiliente KI-Infrastrukturen in Deutschland und der EU aufzubauen. Dazu müssen ins­besondere schwer substituierbare Abhängigkeiten begrenzt und wettbewerbliche Wahlmöglichkeiten geschaffen werden.

Der Einsatz von KI setzt verlässliche digitale und physische Infra-strukturen voraus. Wirtschafts-, Wettbewerbs-, Digital- und Industrie-politik müssen Wechselmöglichkeiten, Interoperabilität und resiliente Strukturen bei digitalen Infrastrukturen fördern. Problematisch sind nicht Größe oder Spezialisierung an sich, sondern Lock-in, fehlende Substitu­tionsmöglichkeiten und strategische Abhängigkeiten bei geschäfts­kritischen KI-Anwendungen.

4. Der regulatorische Rahmen muss die Voraussetzungen für die Verfügbarkeit und verantwortungsvolle Nutzung qualitativ hoch­wertiger Daten schaffen.

Eine verantwortungsvolle Datennutzung setzt angemessene und ver­bind­liche Anforderungen an Datenqualität, Datenherkunft und die Nachvoll­ziehbarkeit der Datenverarbeitung sowie einen angemesse­nen Schutz sensibler Daten und verlässliche Dateninfrastrukturen voraus. Gleich­zeitig muss die Regulierung so ausgestaltet sein, dass sie die rechts­sichere und praxistaugliche Nutzung vorhandener Daten nicht durch un­verhältnismäßige Anforderungen erschwert.

5. Die regulatorische Infrastruktur der Unternehmensbericht­erstattung muss AI-ready gemacht werden.

KI kann die Unternehmenstransparenz verbessern und zugleich die Er-stellungs- und Verarbeitungskosten senken. Dazu muss von einer dokumentenbasierten zu einer digitalen Informationsbereitstellung über-gegangen werden. Zugleich muss die regulatorische Infrastruktur der Unternehmensberichterstattung für KI-gestützte Erstellung, Prüfung und Nutzung ausgelegt werden. Darüber hinaus müssen Rechnungslegungs- und Prüfungsstandards, Taxonomien, Auslegungshinweise sowie andere regulatorische Vorgaben und Informationen maschinenlesbar, semantisch eindeutig, versioniert und dauerhaft referenzierbar bereitgestellt werden. Fallrecht und implizites Auslegungswissen müssen strukturiert er­schlossen und mit Standards, Beispielen und Taxonomien verknüpft werden.

6. Neue Berichts- und Dokumentationspflichten dürfen nur ein­geführt werden, wenn ihr Nutzen die Kosten rechtfertigt. Bestehende Vorgaben müssen regelmäßig auf Wirksamkeit und Verhältnismäßigkeit überprüft und bei negativem Befund angepasst oder aufgehoben werden.

KI darf nicht dazu führen, immer mehr Informationen regulatorisch einzufordern, nur weil ihre technische Erstellung leichter wird. Regulie­rung muss ex ante die Möglichkeit einschließen, auf neue Vorgaben zu verzichten. Jede neue Pflicht muss mit einer verbindlich geplanten und evidenz-basierten Wirksamkeitskontrolle verbunden werden, die die Ziel-erreichung, Befolgungs- und Komplexitätskosten sowie organisatorische bzw. regulatorische Folgewirkungen erfasst und bei negativem Befund zur Anpassung oder Aufhebung der Regel führt.

7. KI-Kompetenz und professionelle Urteilsfähigkeit müssen ver­bind­lich in Studium, Aus- und Weiterbildung sowie in Berufs­examina verankert werden.

Qualifizierung darf sich nicht auf die Bedienung von KI-Systemen beschränken. Vermittelt werden müssen Daten- und Modellverständnis, Kenntnisse über Einsatzmöglichkeiten, Grenzen und Bias von KI sowie die Fähigkeit, Ergebnisse im jeweiligen Kontext zu bewerten, Zielkonflikte zu erkennen und begründete Entscheidungen zu treffen. Gleichzeitig müssen neue Lern- und Entwicklungspfade zum Aufbau von Erfahrungswissen und professioneller Urteilsfähigkeit geschaffen werden, wenn KI klassische Einstiegs-, Assistenz- und Routinetätigkeiten übernimmt.

8. Verlässlichkeit von KI-Ergebnissen muss durch wirksame Systemkon­trolle statt formaler „Human-in-the-Loop“-Vorgaben gesichert werden.

Ein formaler „Human-in-the-Loop“ reicht zur Sicherung KI-gestützter Pro­zesse nicht aus, wenn Menschen Ergebnisse faktisch nicht mehr be­urteilen oder in die Prozesse eingreifen können. Ist KI dem Menschen in ein­zelnen Aufgaben systematisch überlegen, kann eine obligatorische menschliche Letztentscheidung die Ergebnisqualität sogar verschlech­tern. Kontrolle durch Menschen muss sich dann stärker vom einzelnen KI-Output auf das System verlagern: auf Daten und Modelle, Einsatzbereiche und Zugriffsrechte, Änderungen und Sicherungsmechanismen sowie die laufende Leistungsfähigkeit.

9, Unternehmen müssen für wesentliche KI-Anwendungen Ent­schei­dungsrechte, Verantwortlichkeiten und Grenzen zulässiger Autonomie verbindlich festlegen.

KI-Governance muss sich am Geschäftsmodell, Risikoprofil, Anwendungs­zweck und an der Wirkungsreichweite des jeweiligen KI-Einsatzes orien­tie­ren. Unternehmensleitungen müssen begründen können, mit welchem Ziel KI eingesetzt wird, welche Risiken damit verbunden sind und akzep­tiert werden, wie diese kontrolliert werden und wer bei Fehlentwicklungen eingreift.

10. Unternehmerische Organverantwortung kann nicht auf KI-Systeme übertragen werden.

Entscheidungsbefugnis und Verantwortung müssen miteinander verbun­den bleiben. KI kann Entscheidungs-, Informations- und Kontrollprozesse unterstützen, aber keine Verantwortung übernehmen. Auch bei weit-reichender Automatisierung in der Vorbereitung von Reporting, Planung und Entscheidungsvorlagen verbleiben die Zielsetzung, die Festlegung zulässiger Autonomie, die Kontrolle und die Verantwortungszurechnung bei Vorstand, Aufsichtsrat oder den jeweils zuständigen Verantwortungs­trägern.