Tagesordnungspunkt
Aktuelle Stunde auf Verlangen der Fraktion BÜNDNIS 90/DIE GRÜNEN Sicherheit und Kontrolle von KI-Systemen gewährleisten – Staatliche Schutzverantwortung ernst nehmen
- Datum
- 25. September 2026
- Sitzung
- 97. Sitzung · 21. Wahlperiode
Redebeiträge15
Franziska Brantner fordert in der Aktuellen Stunde eine staatliche Schutzverantwortung für sichere und souveräne KI, weil Modelle aus Testumgebungen ausbrachen und Abhängigkeiten von US- oder China-Technologie die Demokratie gefährden. Kritisiert wird, dass die Bundesregierung zu zögerlich handelt, während Tech-Konzerne und Autokraten die Regeln bestimmen. Deshalb verlangt die Rednerin internationale Sicherheitsstandards, eine unabhängige KI-Aufsicht, persönliche Haftung bis in die Chefetage sowie einen europäischen KI-Fonds von mindestens 100 Milliarden Euro, damit Europa selbstbestimmt bleibt und niemand die Systeme abschalten kann.
Der Redner verteidigt den Kurs der Bundesregierung, die KI-Förderung auf Wettbewerb, Start-ups und staatliche Ankerkundschaft statt auf übermäßige Regulierung auszurichten, weil der AI Act mit über 100 Seiten Gründer belastet habe. Er verweist auf erfolgreiche Beispiele wie Isar Aerospace und deutsche KI-Firmen, damit Innovation aus Hochschulen in globale Marktführerschaft übersetzt wird. Jarzombek betont zugleich die staatliche Schutzverantwortung: Globale KI-Aufsicht, ein AI Safety and Security Institute und Investitionen in LawZero sollen Risiken beherrschen, während Haftungsregeln für Systeme wirtschaftlichen Schaden begrenzen. Das größte Risiko sei, die Chancen zu verpassen.
Der Redner kritisiert in der Aktuellen Stunde, dass Deutschland und Europa bei künstlicher Intelligenz den Anschluss an die USA und China verloren haben, weil hierzulande vor allem über Regulierung und Verbote debattiert werde, statt in Rechenzentren, Chips, Cloud und eigene Modelle zu investieren. Er begründet dies mit deutlich geringeren KI-Investitionen und dem Fehlen leistungsfähiger Frontier-Modelle, weshalb Deutschland wirtschaftlich abgehängt zu werden drohe. Zwar räumt er Sicherheitsrisiken autonomer Systeme ein und fordert technische Tests, lehnt aber den AI Act ab, damit der Mittelstand nicht überreguliert und die Souveränität gewahrt wird.
Der SPD-Abgeordnete Schätzl erörtert in der Aktuellen Stunde Chancen und Risiken von KI und betont, dass Deutschland KI entwickeln, erproben und einsetzen sollte, weil der Fortschritt bei den Menschen ankommen muss. Er benennt drei Risiken: erleichterten Missbrauch durch skalierbare Cyberangriffe, gefährliche Fehler durch Wahrscheinlichkeitsmodelle sowie falsche Marktanreize, die gründliche Sicherheitsprüfungen benachteiligen. Deshalb fordert der Beitrag die wirksame Durchsetzung der europäischen KI-Verordnung mit unabhängigen Prüfkapazitäten, engere sicherheitstechnische Grenzen bei größeren Befugnissen, europäische Souveränität durch eigene Modelle und eine persönliche Haftung der Betreiber, damit Sicherheit von Anfang an mitentwickelt wird.
Sonja Lemke kritisiert in der Aktuellen Stunde, dass die Debatte über KI-Regulierung nicht aus echter Einsicht entstehe, sondern weil Tech-Konzerne ihre Geschäftsmodelle absichern und Konkurrenz behindern wollen. Deshalb fordert sie Entschädigung für Kreativschaffende und Datenarbeitende, deren Arbeit KI-Systeme erst ermöglicht, sowie eine Stärkung des Arbeitsrechts und der Mitbestimmung, damit Beschäftigte nicht ersetzt oder stärker belastet werden. Zudem warnt die Rednerin vor Machtkonzentration, Überwachungsindustrie und ökologischen Folgen wie Flächenverbrauch und Wasserverschwendung. Eine europäische KI-Lösung löse diese Probleme nicht, sondern wiederhole Datendiebstahl, Raubbau und fossilen Stromverbrauch, weshalb echte Regulierung nötig sei.
Marvin Schulz von der CDU/CSU vergleicht die KI-Regulierung mit der Erfindung der Aufzugsfangvorrichtung durch Elisha Otis, weil die Menschen damals Angst vor Abstürzen hatten und Otis eine Lösung fand, statt Aufzüge zu verbieten. Er argumentiert, dass KI eine Bedrohung darstelle, aber auch große Chancen biete, etwa in der Medizin, weshalb staatliche Schutzverantwortung auch die bestmögliche Versorgung umfasse. Deshalb fordert er eine starke Aufsicht, die durch den europäischen AI Act, die Bundesnetzagentur und das KI-Sicherheitsinstitut bereits entstehe, sowie einen globalen Ansatz, der China und die USA einbezieht, damit der Westen nicht ins Hintertreffen gerät.
Der Redner der AfD warnt vor den Risiken künstlicher Intelligenz und zitiert Experten, die vor einer unkontrollierten Superintelligenz warnen. Er betont, dass Deutschland nicht zu den führenden KI-Entwicklern gehöre, sich aber dennoch für internationale Spielregeln einsetzen sollte, ohne europäische Unternehmen übermäßig zu regulieren. Kritisiert wird die Schürung von Angst und Panik sowie die mögliche Fremdsteuerung internationaler Organisationen durch private Geldgeber. Stattdessen fordert er, die Vorteile der KI zu nutzen und Risiken wie autonome Waffen oder Massenzensur zu vermeiden, wobei auch Bildung und Arbeitswelt berücksichtigt werden müssten.
In der Aktuellen Stunde zur Sicherheit und Kontrolle von KI-Systemen betont der ehemalige Gesundheitsminister die Dringlichkeit des Themas und plädiert für überparteiliche Zusammenarbeit. Weil KI immer schneller skaliert, agentische Systeme schwer kontrollierbar werden und rekursive Selbstverbesserung bevorsteht, fordert er eine vorübergehende Verlangsamung der Entwicklung, damit Sicherheitsmechanismen aufgebaut werden können. Zudem müsse Deutschland und Europa als KI-Teilnehmer aktiv werden, um Abhängigkeiten von China und den USA zu vermeiden. Schließlich gelte es, die Gesellschaft durch Integration von KI in Bildung und Forschung vorzubereiten, indem man Chancen nutzt und Risiken begrenzt.
In der Aktuellen Stunde fordert der Grünen-Politiker Konstantin von Notz, die Sicherheit und Kontrolle von KI-Systemen zu gewährleisten, weil KI nicht nur wirtschaftliche Chancen biete, sondern auch eine reale Bedrohung darstelle. Deshalb müsse der Staat seiner Schutzverantwortung nachkommen, den EU-AI-Act entschlossen umsetzen, Aufsichtsbehörden stärken und klare Haftungsregeln schaffen. Kritisiert wird, dass die Kontrolle milliardenschwerer KI-Firmen bislang unzureichend sei. Der Beitrag begründet die Notwendigkeit einer internationalen Aufsichtsinstanz, einer Beweislastumkehr und des Primats menschlicher Entscheidungen, damit die Technologie den Menschen dient und nicht entgleitet.
Der Beitrag befasst sich mit der Sicherheit und Kontrolle von KI-Systemen, wobei der Redner die einseitige Angstdebatte kritisiert und auf Chancen verweist, weil historische Technikängste oft unbegründet waren. Er nennt Beispiele wie Antibiotika-Entdeckung und Sprachwiederherstellung, damit die Potenziale sichtbar werden. Zwar räumt er Sicherheitsfragen ein, doch verweist er auf das KI-Sicherheitsinstitut, die Bundesnetzagentur als Marktüberwachung und internationale Kontrolle analog zur Atomenergiebehörde, indem Deutschland als Standort gestärkt wird. Überzogene Regulierung lehnt er ab, damit Investoren nicht abgeschreckt werden und die KI-Entwicklung hierzulande stattfindet.
In der Aktuellen Stunde zur Sicherheit und Kontrolle von KI-Systemen kritisiert der AfD-Abgeordnete Lars Haise, dass Deutschland den Anschluss in der Spitzenforschung verloren habe und deshalb bei der internationalen Regulierung künstlicher Intelligenz nicht mitreden könne, weil die großen Entscheidungen in den USA und China fielen. Verantwortlich dafür seien eine von den Grünen geprägte Technologiefeindlichkeit, jahrzehntelange falsche Sicherheit sowie durch Migration gebundene Ressourcen, die in Forschung und Infrastruktur fehlten. Statt Brüsseler Regulierung fordert er eigene Spitzenmodelle und Investitionen, damit Deutschland auf Augenhöhe agieren kann.
Konrad Körner von der CDU/CSU betont in der Aktuellen Stunde zur Sicherheit und Kontrolle von KI-Systemen, dass jede Technologie Chancen und Risiken birgt, weshalb es auf Regeln und Anwendung ankommt. Er kritisiert, dass die Debatte teils von Angst geprägt sei, und fordert, Deutschland müsse kluge Köpfe anziehen und eigene Modelle entwickeln, um europäische Souveränität zu wahren. Dafür setze das Bundesdigitalministerium auf agentische Modelle und ermutige Unternehmen sowie Bürger, sich mit KI zu beschäftigen, damit die Selbstbehauptung wächst und das Land sicher bleibt.
Der Redner betont die immense Tragweite der Künstlichen Intelligenz, da sie einen Kipppunkt für die Menschheit darstellt, weil sie sich ohne menschliche Impulse selbst verbessern und kognitive Fähigkeiten entwickeln kann. Er warnt davor, dass die Gesellschaft die tiefgreifenden Auswirkungen auf die Arbeitswelt und das Zusammenleben unterschätzt, da die heutige politische Fokussierung auf kurzfristige Probleme nicht ausreicht. Deshalb muss die politische Debatte die Gestaltung der zukünftigen Welt antizipieren, anstatt nur bestehende Probleme zu lösen, damit die transformative Kraft dieser Technologie adäquat adressiert wird. Der Beitrag begründet, dass KI das Wichtigste ist, was Menschen je gestaltet haben.
Sebastian Fiedler erklärt seine Zustimmung zum Gesetz zur Modernisierung des Bundespolizeigesetzes und legt dar, dass nach Auffassung der SPD-Fraktion keine Kanzlermehrheit erforderlich war, weil sich die Bundespolizei auf Artikel 87 Absatz 1 Satz 2 GG stützt und die Gepräge-Doktrin gewahrt bleibt. Die Eingangsformel mit dem Mehrheitserfordernis sei ein redaktioneller Fehler ohne materielle Bedeutung. Um Rechtssicherheit zu schaffen und Verzögerungen zu vermeiden, befürwortet er eine Wiederholung der Schlussabstimmung mit Kanzlermehrheit, da die Sicherheitsbehörden die neuen Befugnisse zeitnah benötigen und eine Rücküberweisung an den Innenausschuss das Verfahren verzögert hätte.
Alexander Throm befasst sich mit der Rechtsauffassung zur Mehrheitserfordernis beim Gesetz zur Modernisierung des Bundespolizeigesetzes. Er vertritt die Ansicht, dass nach Artikel 87 Absatz 1 GG die einfache Mehrheit ausreicht und nicht die Mehrheit der Mitglieder des Bundestages nach Artikel 87 Absatz 3 Satz 2 GG. Weil die Eingangsformel des Entwurfs dennoch diese höhere Mehrheit vorsieht und sie bei der Schlussabstimmung am 10. Juli 2026 nicht festgestellt wurde, hält der Redner eine Wiederholung der Abstimmung für erforderlich. Damit das Verfahren ohne weitere Verzögerungen abgeschlossen werden kann, stimmt er dem Gesetzentwurf zu.
