+34
David Freudenthaler berichtet seit 2020 für den Economist der „Presse“. Der gebürtige Oberösterreicher setzt seine Schwerpunkte auf Innovation, Industrie und Handel sowie volkswirtschaftliche Themen. Von 2024 bis 2025 war er für die „Presse“ als Deutschland-Korrespondent in Berlin tätig.
KI-Agenten brechen Regeln, Konzerne warnen vor Kontrollverlust. Doch wer die Entwicklung aus Angst bremst, könnte die Macht der Tech-Giganten erst recht zementieren. Wird Sicherheit zum Wettbewerbsnachteil, droht ein Wettlauf nach unten.
Hundert KI-Agenten bekommen 71 mathematische Probleme und eine klare Regel: Schummeln verboten. Eine knappe Stunde geht alles gut. Dann findet einer eine Lücke im Prüfsystem. 27 Minuten später hat sich der Trick verbreitet. Manche Agenten machen mit, weil andere damit schneller vorankommen.
Andere schlagen Alarm und überprüfen die falschen Beweise. Nur: Niemand hat ihnen die Macht gegeben, die Betrüger zu stoppen. Das Experiment von Google DeepMind ist kein Beweis dafür, dass Maschinen plötzlich Bosheit oder Moral entwickeln. Es zeigt etwas viel Profaneres: Verhalten hängt von Regeln, Anreizen und deren Durchsetzung ab.
Die Maschinen lernen gerade dasselbe wie Unternehmen: Regelbruch kann sich lohnen, wenn niemand ihn sanktioniert. In einer Welt, in der zunehmend alle Hemmungen fallen, um mitunter verschrobene Machtvorstellungen durchzusetzen, sollte uns das besorgen. Bleibt die Frage, was wir daraus ableiten. Eine solche Entwicklung mit dystopischen Weltuntergangsszenarien zu beantworten, wäre der falsche Zugang.
Generell wäre es ein fataler Irrtum, künstliche Intelligenz auf ihre Gefahren zu reduzieren. Die Technologie beschleunigt Forschung, eröffnet neue Möglichkeiten in der Medizin und hat das Potenzial, die Produktivität ganzer Wertschöpfungsketten zu steigern. Gerade deshalb sollten wir sie nicht den Untergangspropheten überlassen. Doch dürfen wir auch nicht naiv sein.
Den PR-Fanfaren der KI-Konzerne sollte man grundsätzlich misstrauisch begegnen. Und dennoch sollte man sie ernst nehmen – etwa, wenn OpenAI sein neues Modell GPT-6 Astra Anfang September erstmals als „kritisch“ einstuft. Mit entsprechenden Zugriffsrechten könne es unbekannte Sicherheitslücken finden und Cyberangriffe eigenständig orchestrieren, ganz ohne menschliches Zutun. Allein die zusätzliche Überwachung der Systeme benötigt Unternehmensangaben zufolge rund 20 Prozent mehr Rechenleistung.
Damit bekommt Sicherheit im KI-Wettrüsten einen messbaren Preis. Wer seine Agenten gründlicher kontrolliert und Zugänge beschränkt, muss dafür bezahlen. Die Gefahr liegt auf der Hand: Wenn mangelnde Kontrolle zum Wettbewerbsvorteil wird, droht ausgerechnet bei der Sicherheit ein Wettlauf nach unten. Doch auch die umgekehrte Entwicklung birgt Gefahren.
Der Linzer KI-Pionier Sepp Hochreiter warnt davor, die KI-Entwicklung pauschal einzubremsen. Würden die leistungsstärksten Modelle durch immer höhere Zugangshürden nur noch wenigen Konzernen und Staaten offenstehen, könnte sich deren Macht weiter verfestigen. Aus Angst vor allzu mächtigen Maschinen würden wir womöglich ausgerechnet jene noch mächtiger machen, die die Technologie bereits heute kontrollieren. Die Sicherheitsforschung selbst zu bremsen, wäre also ein gefährlicher Kurzschluss.
Die KI-Konzerne verlangen inzwischen selbst nach unabhängigen Prüfern und strengeren Regeln. Das ist begrüßenswert. Aber wir würden auch einen Chemiekonzern nicht allein darüber entscheiden lassen, welche Sicherheitsauflagen für seine Fabrik gelten. Oder eine Bank über ihre Eigenkapitalvorschriften.
Zumal hohe regulatorische Hürden auch den Marktführern nützen können, wenn kleinere Konkurrenten daran scheitern. Sicherheit darf weder zum Feigenblatt der Industrie noch zum Vorwand für die Abschottung ihrer Märkte werden. Freilich ist nicht jeder Chatbot ein Hochrisikosystem. Aber je mehr Macht wir einer Maschine übertragen, desto verlässlicher müssen die Grenzen sein, innerhalb derer sie handelt.
Zumal die Maschine gar nicht selbst außer Kontrolle geraten muss, um gefährlich zu werden. Es reicht, wenn der falsche Mensch sie kontrolliert. Der KI-Anbieter Anthropic dokumentierte bereits, wie mutmaßlich staatliche Akteure und Kriminelle KI für Spionage und Cyberangriffe einsetzten. Auch Fälle potenziell gefährlicher biochemischer Forschung hat das Unternehmen aufgedeckt.
Was bislang Spezialisten, viel Geld und lange Forschungszeiträume erforderte, könnte für immer mehr Akteure schnell und kostengünstig erreichbar werden. Sicherheit lässt sich weder herbeiverordnen noch herbeiforschen. Sie entsteht dort, wo technischer Fortschritt auf wirksame Kontrolle trifft. Der europäische AI-Act ist ein erster Versuch dessen, wenngleich er von der Realität bereits mehrfach umrundet wurde.
Aus Angst vor der künstlichen Intelligenz in eine Schockstarre zu verfallen und ihre größten Chancen zu verspielen, wäre fatal. Ebenso unverantwortlich wäre es aber, die Verantwortung für ihre Entwicklung allein jenen zu überlassen, die am meisten an ihr verdienen.
Österreich Neuesten Nachrichten, Österreich Schlagzeilen
Similar News: Sie können auch ähnliche Nachrichten wie diese lesen, die wir aus anderen Nachrichtenquellen gesammelt haben.
Federal Reserve hebt Leitzinsen erstmals seit Sommer 2023 wegen hoher InflationDie US-Notenbank senkt die Inflationsrate, indem sie die Leitzinsen in eine amerikanische Inflation
Weiterlesen »
Neuer Coach Mike Stewart verpflichtet die Vienna Capitals auf den Weg in die Top 6Der Handschutz von der Vienna Capitals hat die Renaissance im Jahr 2026 mit Mike Stewart an die Spitze gesetzt, einem Spielstil, der Mentalität, Zusammenhalt und aggressives Eishockey betont, um das Ziel der Top‑6 in der österreichischen Liga zu erreichen.
Weiterlesen »
Brot auf Reisen: Wie Österreicher die Back-Kunst in die Welt tragenMartin Auer's $60 rye bread in New York is just the tip of the iceberg - Austrian bakers are making waves from Panama to Berlin, exporting their beloved sourdough traditions and proving that quality knows no borders.
Weiterlesen »
„Schmied und Schmiedl“: Leserbriefe vom 18. September 2026Die Online-Ausgabe der österreichischen Tageszeitung Die Presse.
Weiterlesen »