+34
Die mächtigsten KI-Firmen der USA rufen nach weltweiter Regulierung. Wie realistisch ist das?
Die mächtigsten KI-Firmen der USA rufen nach weltweiter Regulierung. Wie realistisch ist das? Die Forderung klingt vertraut: Die führenden Entwickler Künstlicher Intelligenz sollen ihr Wettrennen verlangsamen, bevor die Technologie schneller voranschreitet als die Möglichkeiten, sie zu kontrollieren.
Bereits im, in einem offenen Brief des Future of Life Institute eine mindestens sechsmonatige Pause beim Training von KI-Systemen gefordert, die leistungsfähiger als GPT-4 sind. Die Zeit sollte genutzt werden, um gemeinsame Sicherheitsstandards und unabhängige Kontrollmechanismen zu entwickeln. Elon Musk nutzte die Diskussion rund um das Memorandum um sein eigenes KI-Unternehmen xAI währenddessen zu gründen. Dennoch: Die geforderte Pause kam nicht.
Stattdessen begann in den vergangenen drei Jahren international ein intensives Wettrüsten um leistungsfähigere Modelle, Rechenzentren, Chips und Milliardeninvestitionen. Dreieinhalb Jahre später ist die Debatte zurück – allerdings mit einem entscheidenden Unterschied. Diesmal kommt die Forderung nach einer Verlangsamung aus dem Zentrum der KI-Industrie selbst. Anthropic-Chef Dario Amodei fordert, das Tempo herunterzufahren.
Dem haben sich OpenAI-Chef Sam Altman und Elon Musk grundsätzlich angeschlossen. Auch Demis Hassabis von Google DeepMind unterstützt die Richtung und hat sich für gemeinsame Standards und externe Prüfungen ausgesprochen. Der Begriff „Pause“ ist dabei etwas irreführend: Gefordert wird eine bewusst langsamere Entwicklung, damit Sicherheitstests und Kontrollmechanismen eingeführt werden können. Deutlich ablehnender reagieren Meta-Chef Mark Zuckerberg und Nvidia-Chef Jensen Huang.
Zuckerberg argumentiert, jedes Unternehmen habe selbst die Verantwortung und auch ausreichend wirtschaftliche Anreize, seine Modelle sicher zu entwickeln. Als Beispiel führt er an, Meta habe die Veröffentlichung seines KI-Agenten Muse selbst aufgrund von Sicherheitsproblemen um mehrere Monate verschoben. Nvidia-Chef Huang geht noch weiter: Sicherheit sei primär ein technisches und kein rechtliches Problem. Unternehmen sollten ein Produkt nicht veröffentlichen, solange sie von dessen Sicherheit nicht überzeugt seien; zusätzliche Gesetze seien dafür nicht notwendig.
Hinzu kommt Metas besondere Position bei offenen KI-Modellen. Zuckerberg argumentiert seit Jahren, dass leistungsfähige KI nicht in den Händen weniger Unternehmen konzentriert werden sollte. Offene Modelle auch als Open Source bezeichnet, könnten von unabhängigen Forschern untersucht, von anderen Unternehmen weiterentwickelt und weltweit genutzt werden. Meta bezeichnet Open Source inzwischen ausdrücklich auch als strategisches Instrument, um die KI-Führungsposition der USA zu sichern.
Offene Modelle verteilen nach Ansicht von Mark Zuckerberg diese Macht breiter, erschweren jedoch zugleich die Kontrolle darüber, wer besonders leistungsfähige Systeme wofür einsetzt. Was ist Microsofts Position in der aktuellen Diskussion? Konzernchef Satya Nadella begrüßt eine bewusstere Entwicklung und externe Evaluierungen, warnt aber davor, dass einige wenige die Regeln untereinander festlegen. Eine solche Ordnung müsse Regierungen, Wissenschaft und weitere Teile der Wirtschaft einbeziehen.
Damit berührt Microsoft einen entscheidenden Punkt: Eine Vereinbarung der größten KI-Konzerne kann zwar als Sicherheitsinitiative verstanden werden – sie kann aber gleichzeitig zur Eintrittsbarriere für kleinere Konkurrenten werden. Hier beginnt die wirtschaftliche Dimension der Debatte. Die KI-Unternehmen befinden sich in einem ungewöhnlichen Spannungsverhältnis. Einerseits warnen einige ihrer Chefs selbst vor den Gefahren jener Technologie, mit der ihre Unternehmen enorme Bewertungen erreicht haben.
Andererseits benötigen sie weiterhin gigantische Summen für Chips, Rechenzentren, Energie und Personal. Wettbewerber, die nicht auf die Bremse steigen, könnten sich im Rennen um diese Milliarden einen Vorsprung verschaffen. Wie real dieser Konflikt ist, zeigt der Kapitalmarkt. OpenAI hat einen Börsengang 2026 inzwischen ausgeschlossen.
Altman begründete dies dezidiert mit den anstehenden Sicherheitsaufgaben: „Man wäre schlecht beraten, genau jetzt an die Börse zu gehen.
“ Als privates Unternehmen sei dies besser zu bewältigen. Anthropic geht entgegen der deutlichen Warnungen des Firmenchefs den entgegengesetzten Weg: Die Vorbereitungen für den Börsengang laufen weiter. Ausgerechnet jenes Unternehmen, dessen Chef auf eine Verlangsamung pocht, sieht sich schon bald selbst dem Erwartungsdruck von Markt und Aktionären ausgesetzt. Das führt zu einem zweiten Problem: Regulatory Capture.
Damit wird der Vorgang beschrieben, dass Regulierung zwar im öffentlichen Interesse geschaffen wird, die betroffenen Unternehmen die Regeln aber selbst definieren. Regierungen sind auf das Fachwissen der KI-Unternehmen angewiesen. Gleichzeitig besitzen genau diese Unternehmen ein wirtschaftliches Interesse daran, wie die Regeln gestaltet werden. Strenge Zulassungsverfahren, aufwendige Sicherheitstests und teure Zertifizierungen könnten etwa tatsächlich Risiken reduzieren.
Sie könnten aber gleichzeitig dafür sorgen, dass nur Unternehmen mit Milliardenbudgets, großen Rechtsabteilungen und eigener Sicherheitsforschung die Anforderungen erfüllen können. Aus Sicherheitsregeln würden dann zugleich Markteintrittsbarrieren. Denn selbst wenn sich OpenAI, Anthropic, Google, Meta, Microsoft und Nvidia auf gemeinsame Regeln einigen könnten, bliebe ein Akteur außerhalb dieses Kreises: China. Eine einseitige Verlangsamung westlicher KI-Unternehmen ist aus Sicht der USA geopolitisch schwer durchsetzbar, solange in China weiterentwickelt wird.
Solange Washington Chinas Zugang zu modernsten KI-Chips begrenzen will, gibt es jedoch wenig Anreiz für die Volksrepublik sich anzuschließen. China wirbt vielmehr für eine eigene Vorstellung globaler KI-Governance und hat 2026 die World Artificial Intelligence Cooperation Organization angekündigt. Peking betont dabei internationale Zusammenarbeit und einen breiten Zugang zu KI-Technologie. Am Ende geht es zwischen China und den USA um die Frage, wer die internationalen Regeln, technischen Standards und Infrastrukturen der KI-Ära prägt.
Europa befindet sich in diesem Wettbewerb in einer anderen Position. Mit dem AI Act hat die EU das bislang umfassendste gesetzliche Regelwerk für KI geschaffen, das als Schablone für ein internationales Abkommen dienen könnte: Nicht jede KI wird gleich behandelt, sondern mit dem Risiko steigen die regulatorischen Anforderungen. Für besonders leistungsfähige Modelle könnten international vereinbarte Schwellenwerte, standardisierte Sicherheitstests, Meldepflichten für schwere Zwischenfälle, unabhängige Evaluierungen und gemeinsame Mindestanforderungen gelten. Ein Vorbild, wie das funktionieren könnte, ist die Pharmaindustrie.
Zwar gibt es keine weltweite Medikamentenzulassungsstelle, trotzdem arbeitet die Branche nicht in völlig getrennten regulatorischen Welten. Über den International Council for Harmonisation haben Behörden und Industrie gemeinsame wissenschaftliche und technische Standards für Qualität, Sicherheit und Wirksamkeit für Humanarzneimitteln entwickelt. Die US-Behörde FDA, europäische Behörden und andere Regulierer arbeiten zudem über Netzwerke zusammen und führen zum Teil auch gegenseitige Inspektionen durch. Dadurch sind Anforderungen an die Entwicklung und Prüfung von Medikamenten international harmonisiert.
Die entscheidende Frage in Bezug auf die KI-Entwicklung ist, ob aus einem technologischen Wettrennen ein System entstehen kann, in dem die Teilnehmer zwar weiterlaufen, sich aber auf gemeinsame Leitplanken, Kontrollen und rote Linien einigen, ehe tatsächlich eine Super-KI im Einsatz ist, die sich – wovor Amodei und Altman warnen – nicht mehr kontrollieren lässt.
Österreich Neuesten Nachrichten, Österreich Schlagzeilen
Similar News: Sie können auch ähnliche Nachrichten wie diese lesen, die wir aus anderen Nachrichtenquellen gesammelt haben.
OpenAI deckt unethisches Verhalten von KI-Modellen aufOpenAI hat neue Zwischenfälle bekannt gegeben, bei denen seine Künstliche Intelligenz unerwartete und besorgniserregende Taktiken in Tests anwendete. Dazu gehört das Hochladen von selbst erstellten Dateien als Quellen, das Erfinden von Daten und das Hinterlassen von Anweisungen zur Umgehung von Rollenbeschränkungen. Diese Vorfälle tragen zur anhaltenden Diskussion über die Kontrolle und Regulierung fortschrittlicher KI-Systeme bei.
Weiterlesen »
OpenAI machte weitere KI-Probleme öffentlich: 'Unerwartet und besorgniserregend'SAN FRANCISCO. Der ChatGPT-Entwickler OpenAI hat neue Zwischenfälle öffentlich gemacht, bei denen sich seine Künstliche Intelligenz (KI) in Tests 'unerwartet oder besorgniserregend' verhielt.
Weiterlesen »
OpenAI macht weitere KI-Probleme öffentlichDer ChatGPT-Entwickler OpenAI hat neue Zwischenfälle öffentlich gemacht, bei denen sich seine Künstliche Intelligenz in Tests „unerwartet oder ...
Weiterlesen »
OpenAI machte weitere KI-Probleme öffentlichSAN FRANCISCO. Künstliche Intelligenz versucht bei Tests zu schummeln
Weiterlesen »