"Man kann nicht jeden Algorithmus gesetzlich regulieren"

© Janine Schmitz / phototek.net

Andrea Nahles ist Vorstandsvorsitzende der Bundesagentur für Arbeit. Zuvor war sie viele Jahre für die SPD in der Politik tätig. Im Bundestag saß Nahles von 1998 bis 2002 sowie von 2005 bis 2019. Von 2009 bis 2013 leitete sie als Generalsekretärin die Wahlkämpfe der Partei. 2013 wurde sie zur Bundesministerin für Arbeit und Soziales ernannt.

Meine erste Frage richtet sich an die gesamte Runde: Welchen Einfluss, glauben Sie, wird ChatGPT künftig auf Ihren jeweiligen beruflichen Alltag haben?

Nahles: Stand heute nutzen wir ChatGPT in der Bundesagentur für Arbeit nicht, unter anderem aus datenschutzrechtlichen Gründen. Das bedeutet aber keineswegs, dass KI unseren Arbeitsalltag mittelfristig nicht spürbar verändern wird. Wir nutzen bereits jetzt KI-gestützte Systeme, zum Beispiel auf unserer Internetseite. Da begrüßt Sie ein digitaler Assistent und lotst Sie durch die Seite. In der Familienkasse nutzen wir maschinelles Lernen, um Studienbescheinigungen zu erkennen. Und demnächst wird eine KI uns dabei helfen, standardisierte Stellenprofile aus Stellenbeschreibungen, die uns die Unternehmen zuliefern, zu erstellen. All dies sind Bausteine einer umfassenden Digitalisierungs- und Automatisierungsstrategie, mit der wir uns als Behörde in den kommenden Jahren für unsere Kundinnen und Kunden und angesichts der demografischen Entwicklung, an der auch wir als Arbeitgeberin nicht vorbeikommen, zukunftsfest aufstellen wollen – bis 2035 werden wir mehr als ein Drittel unserer Belegschaft verlieren.

Ramge: Ich nutze bereits die auf GPT-4 basierende Version des Programms und verwende sie zum einen, um meinen Texten, die ich als Nichtmuttersprachler für englischsprachige Medien verfasse, lesen zu lassen. Vor allem dient mir ChatGPT aber als Sparringspartner, der mich auf neue Gedanken bringt und inspiriert. Ich sehe diese Maschine als Verstärker menschlicher Intelligenz, als einen Co-Piloten, der Routinearbeiten übernimmt, aber auch eine Art Gegenüber ist, das zu überraschen weiß und eigene Perspektiven einbringt.

Genth: Co-Pilot ist, finde ich, eine gute Metapher, weil dadurch deutlich wird, dass menschliche Intelligenz durch die KI nicht ersetzt wird. Bei aller kritischen Distanz und Besonnenheit, die es mit Blick auf diese Technologie zu wahren gilt, glaube ich, dass sie uns hilft, unsere Arbeit besser zu machen. Als an der Schnittstelle zwischen Politik und Wirtschaft agierender Verband müssen wir ständig die Auswirkungen komplexer politischer Vorhaben auf unsere Branche beurteilen und auf dieser Basis Empfehlungen in den Gesetzgebungsprozess einspeisen. Dazu erstellen wir eine Menge Positionspapiere und Stellungnahmen. Dabei kann uns eine KI sicherlich unterstützen. Den Einsatz von KI durch weitreichende Regulierungen einzuschränken, wie es beispielsweise der Deutsche Ethikrat empfiehlt, hielte ich für einen fatalen Fehler.

Ramge: Das sehe ich auch so! Aber aktuell laufen wir mit dem europäische AI Act und den Empfehlungen des Ethikrats wieder in eine Überregulierung rein. Aus beiden spricht eine tief verwurzelte Skepsis gegenüber Technologie und ein geradezu naives Vertrauen in Menschen. Der Ethikrat scheint davon auszugehen, dass Menschen keine Vorurteile hätten, eine KI dagegen stets einen Bias hat. Als ob alle Menschen Gerechtigkeitsprinzipien immer zur Grundlage ihrer Entscheidungsfindung  machten! Insofern ist die Empfehlung, am Ende müsse unbedingt noch ein Mensch draufschauen, per se unsinnig. Sobald wir wissen, dass eine Maschine gerechter, besser, schneller und günstiger entscheidet als ein Mensch, sollten wir das nutzen.

Herr Ramge, als ChatGPT live ging, hieß das Datenmodell dahinter GPT-3 und wurde mit 175 Milliarden Parametern trainiert. Nachfolger GPT-4, fünf Monate später veröffentlicht, basiert angeblich auf 100 Billionen Parametern, was der Zahl der Synapsen im menschlichen Gehirn entspricht. Was bedeutet das perspektivisch?

Ramge: Anders als es Software- und IT-Entwickler und suggerieren, bilden exponentielle Entwicklungsschübe immer nur einen Ausschnitt ab. In der Regel flacht die Kurve recht schnell wieder ab. Spätestens in zwei Jahren gibt es keine Archivtexte mehr, mit denen man die großen Sprachmodelle noch füttern könnte, sondern ausschließlich neu geschriebene. Durch das stete Trainieren mit immer mehr Daten ist irgendwann der Grenznutzen erreicht. Die Steigerung der Parameterzahl um den Faktor 100 heißt nicht, dass die KI nun hundertmal besser wäre. Vielmehr hat man bei GPT-4 Bilder und Videos eingespeist. Das macht das System multimedial, und das ist auch großartig. Aber bezogen auf die Sprachverarbeitung dürften diese Modelle ihr Plateau allmählich erreichen. Jetzt geht es vor allem darum, aus der vorhandenen Technologie interessante Anwendungen abzuleiten.

Herr Genth, wo sehen Sie die wesentlichen Potenziale und wichtigsten Einsatzgebiete von KI im Einzelhandel?

Genth: Ich sehe mannigfaltige Anwendungsmöglichkeiten in nahezu allen Gewerken des Handels: Das beginnt bei der Lagerhaltung und Logistik, geht über die Sortiments- und Abverkaufsplanung bis hin zur gezielten Werbeaussteuerung und zu personalisierten Angeboten an den Endverbraucher. Wichtige Bereiche für den Einsatz von KI sind auch die opt male Verknüpfung von Online- und Offlinehandel sowie Bestands- und Preisoptimierungen auf Basis von Predictive-Analytics Daten – perspektivisch bis hin zu personalisierten Preisen. Das Spannende daran ist, dass diese Anwendungen bereits sind. Insofern ist KI kein Thema, das großen Konzernen vorbehalten wäre, sondern auch mittelständischen Einzelhändlern wesentlich mehr Erfolg verschaffen kann. Mit unserem Mittelstand-Digital Zentrum Handel arbeiten wir daran, diese Anwendungsmöglichkeiten auch für die breite Masse des Handels erleb- und umsetzbar zu machen.

Ist die Offenheit bei den KMU da oder gibt es Berührungsängste?

Genth: Wir haben jüngst eine exklusive Umfrage unter vornehmlich mittelständischen Händlern gemacht, die sehr interessante Ergebnisse hervorgebracht hat: Lediglich 25 Prozent der befragten Unternehmen gaben an, der Einsatz von KI käme für sie nicht in Betracht. Für knapp 43 Prozent kommt er in Betracht. Bei den übrigen ist der Einsatz vorgesehen oder bereits in unterschiedlichem Maße vollzogen. Die Offenheit in der Branche ist also gegeben. Der Arbeitskräftemangel sorgt zusätzlich für Innovationsdruck. Und meistens sind die Anwendungen gar nicht so wahnsinnig teuer im Verhältnis zu den Vorteilen, die sie mit sich bringen.

Frau Nahles, wie schätzen Sie die Auswirkungen des Einsatzes von KI auf die Arbeitswelt ein: Welchen Anteil an der Wertschöpfung wird die Technologie übernehmen, welche neuen Aufgaben ergeben sich für die Menschen?

Nahles: KI-gestützte Assistenzsysteme können neue Geschäftsmodelle hervorbringen oder vorhandene Geschäftsmodelle so verändern, dass diese ihrerseits wieder neue Arbeitsfelder hervorbringen. KI wird damit einen Anteil an der Wertschöpfung übernehmen. Tätigkeiten, in denen kritisches Denken, Entscheidungen in komplexen oder unsicheren Situationen, Verhandeln und kognitive Flexibilität notwendig sind, werden die Beschäftigungsfähigkeit des Menschen in einer KI-gestützten Arbeitswelt eher stärken. Voraussetzung dafür ist, dass die Menschen auf diesem Weg mitgenommen werden und sich weiterbilden. In unserer Organisation arbeiten wir mit dem Konzept der „Human Friendly Automation“. Das bedeutet: Automatisierung, und dazu gehören KI-Anwendungen, gestalten wir mit den Menschen und nicht mit dem Rotstift.

Birgt die intelligente Sammlung und Verarbeitung von Kundendaten, wie sie große US-Konzerne praktizieren, Sicherheitsrisiken? Kann KI beispielsweise für Gesichtserkennung oder Onlinetracking von Einzelpersonen verwendet werden?

Ramge: Hätten die Leute tatsächlich so große Zweifel, würden sie weder Android nutzen noch bei Amazon einkaufen. Der Nutzen dieser Systeme ist so groß, dass Menschen in der Abwägung ihre Daten freiwillig hergeben. Im Übrigen lassen sich aus ChatGPT und ähnlichen Systemen nicht nennenswert mehr personenbezogene Daten herausziehen, als es bei klassischender Fall ist. Zudem müssen sich auch die amerikanischen Spieler an die europäische Datenschutzgrundverordnung halten. Aus meiner Sicht gibt es keine rationalen Gründe, ausgerechnet diese Systeme nicht zu nutzen, aber weiter zu googlen, online zu shoppen, Siri zu nutzen etc. Aber das ist ja ohnehin nur wieder unter Datenschützern und Politikern Thema. Die rege Nutzung von Kundenkarten zeigt, dass Konsumenten für kleine Vorteile bereit sind, anbieterübergreifend ihre gesamte Kaufhistorie zu teilen. Das kann man gut oder schlecht finden, ist aber die Datenrealität.

© Thorsten Futh

Stefan Genth ist Hauptgeschäftsführer des Handelsverbands Deutschland, Mitglied des Vorstands des Instituts der Deutschen Wirtschaft und sitzt im Präsidium des europäischen Handelsverbands EuroCommerce.

Herr Genth, was muss der Handel tun, um das Vertrauen der Kunden in einen verantwortungsvollen Umgang mit ihren sensiblen Daten zu stärken?

Genth: Wir haben in Deutschland und Europa ein hohes Datenschutzniveau. Das ist eine gute Basis, um als Unternehmen ethisch verantwortungsvoll zu agieren. Die Verbraucher honorieren das. Ich sehe eher eine Gefahr darin, dass wir uns durch noch mehr Regulierung aus dem Wettbewerb nehmen. Der Verbraucher kann selbst entscheiden. Wenn es ihm nutzt, ist er bereit, seine Daten zu teilen, beispielsweise als Kunde von Streamingdiensten. Darüber denken nur wenige nach. Der Handel hingegen wird immer höchst kritisch hinterfragt. Denken Sie nur an den Aufschrei, als eine Supermarktkette Bildschirme aufstellte, um mittels Gesichtserkennung Geschlecht und Stimmung der Kunden zu analysieren. Obwohl keine personenbezogenen Daten erhoben wurden, waren die Proteste riesig. Daraufhin hat man das System abgeschaltet. Deshalb bin ich überzeugt, dass es mehr Aufklärung der Verbraucher braucht.

Frau Nahles, Deutschland fehlen Facharbeiter, neben Handwerkern vor allem Sozialarbeiter und -pädagogen sowie Erzieher und Altenpfleger. Was muss die Agentur für Arbeit unternehmen, wenn Künstliche Intelligenz womöglich Rechtsanwälte, Steuerberater, Journalisten und Dolmetscher ersetzt, während Kräfte in den oben genannten Berufen weiterhin fehlen?

Nahles: So einfach ist es nicht. Unser Forschungsinstitut IAB befasst sich bereits seit zehn Jahren mit den Substituierbarkeitspotenzialen durch Digitalisierung und Automatisierung. Ein Befund, der sich seither kaum verändert hat: Nicht alles, was technisch möglich ist, wird auch umgesetzt. Das bedeutet: Auch wenn KI das Potenzial hat, bestimmte Berufe in hohem Maße zu ersetzen, ist davon auszugehen, dass diese Berufe nicht verschwinden, sondern sich vor allem verändern. Für Beschäftigte bedeutet dies – nicht nur in diesen Branchen –, dass eine absolvierte Ausbildung nur den Beginn eines Berufslebens mit kontinuierlicher Weiterbildung markiert. Als Bundesagentur für Arbeit haben wir uns bereits vor Jahren darauf eingestellt und unterstützen inzwischen neben Arbeitslosen auch Beschäftigte bei der Weiterbildung, ebenso wie wir Unternehmen dabei beraten und begleiten.

Wegen der rasanten Entwicklung von Systemen wie ChatGPT hat die EU die für März geplante Verabschiedung des AI Acts verschoben. Es wird überlegt, den Generative Pre-trained Transformer als Hochrisikotechnologie einzustufen, was einem Verbot gleichkäme. Was halten Sie davon?

Ramge: Ein Verbot wie in Italien wäre völlig grotesk – für Europa wird es hoffentlich auch nicht kommen. Natürlich sind Anwendungen denkbar, die man als hochproblematisch bewerten müsste. Beispielsweise wenn das System so programmiert würde, dass es als Tool für Spionage oder Manipulationen dienen könnte. Eine aufmerksame digitale Öffentlichkeit würde das aber merken und dagegen vorgehen. Gegenüber dem potenziellen Nutzen halte ich die Risiken für sehr überschaubar. Hier wird wieder, wie es in Europa so oft der Fall ist, durch eine technikpessimistische Brille geschaut. In der Konsequenz werden es europäische Hersteller und Anwender wieder deutlich schwerer haben als der Rest der Welt.

Frau Nahles, welche Folgen hat der breite Einsatz von KI für die Themen Qualifikation und Weiterbildung?

Nahles: Im Grunde war die Coronapandemie ein Booster für Veränderungen, die sich jetzt weiter zeigen. So wird die Vermittlung von Zusatzqualifikationen heute nicht mehr nur im Seminarraum mit der Pinnwand gemacht, sondern es gibt maschinell gestützte Selbstlerntools. Das ist besonders für ländliche Räume interessant, weil dort oft gar nicht mehr genug Menschen für ein Kursangebot in Präsenz zusammenkommen. Wir haben in der Pandemie die Erfahrung gemacht, dass hybride Weiterbildungsangebote gut angenommen wurden.

© Michael Hudler

Dr. Thomas Ramge ist Sachbuchautor und Technologiejournalist. Er schreibt für Wirtschaftsmagazine wie „Brand eins“ und „The Economist“. Seit 2021 ist Ramge Host des Podcasts Sprind der Bundesagentur für Sprung innovationen. Für seine Arbeiten wurde er vielfach ausgezeichnet, unter anderem mit dem Deutschen Wirtschaftsbuchpreis.

Herr Ramge, nahezu alle KI-basierten generativen Sprachmodelle und auch die Text-zu-Bild-Generatoren wurden nicht in Europa entwickelt. Sehen Sie darin eine Gefahr für die digitale Souveränität Europas?

Ramge: Wir müssen nicht nur die rechtlichen, sondern auch die wirtschaftlichen Rahmenbedingungen für europäische Lösungen und Anbieter schaffen. Es ist wichtig, dass die vom wissenschaftlichen Direktor am Deutschen Forschungszentrum für Künstliche Intelligenz Hans Uszkoreit angestoßene Initiative „Large European AI Models“ (LEAM) und auch deutsche KI-Start-ups wie Aleph Alpha unter optimalen Bedingungen arbeiten können. Wenn es um die wichtige Frage der digitalen Souveränität geht, dürfen wir uns nicht damit begnügen, kompetente Anwender dieser Technologien zu werden, sondern müssen sie selbst auf Basis unserer Werte entwickeln und zur Verfügung stellen.

Genth: Allein, weil es wünschenswert wäre, einen deutschen oder europäische Anbieter in diesem Markt zu haben, ist das noch lange kein Grund, diese neuen Technologien aus den USA in der EU zu untersagen oder über die Maßen zu regulieren. Man kann auch nicht jeden Algorithmus gesetzlich regulieren. Alles einfach laufen zu lassen, wäre aber sicherlich auch falsch. Doch wenn es um Einschränkungen geht, braucht es mehr Augenmaß, als der Deutsche Ethikrat in seinen aktuellen Einlassungen gezeigt hat.

Frau Nahles, welche Gefahr für die Demokratie und den gesellschaftlichen Zusammenhalt bergen aus Ihrer Sicht Deep Fakes und die Überschwemmung des Internets durch KI-generierte Fake News?

Nahles: Jede fundamental neue Technologie, die so disruptiv wirken kann wie KI, birgt auch gesellschaftliche Risiken. Ich glaube, dem können wir begegnen, indem wir digitale Fähigkeiten als neue Kulturtechnik unseres Zeitalters begreifen und sie gleichberechtigt neben Lesen, Schreiben und Rechnen vermitteln. Das muss sich dann auch durch alle Ausbildungswege ziehen, von der Grundschule bis zur beruflichen Weiterbildung.