+34
SAN FRANCISCO. Der ChatGPT-Entwickler OpenAI hat wegen Sicherheitsbedenken die Veröffentlichung eines neuen KI-Modells gestrichen.
Unter anderem habe die Software in Tests Nutzer nicht immer ehrlich darüber informiert, welche Aktionen sie unternommen oder nicht unternommen habe, sagte die für Sicherheitssysteme zuständige OpenAI-Managerin Saachi Jain dem"Wall Street Journal".
Zudem habe das Modell Künstlicher Intelligenz teils auf eigene Initiative gehandelt, ohne Usererlaubnis einzuholen. Das Modell mit dem Namen GPT 6.1 Astra sollte demnach in den kommenden Tagen oder Wochen herauskommen. Eigenmächtige Aktionen fortgeschrittener Künstlicher Intelligenz von OpenAI hatten in den vergangenen Wochen wiederholt für Negativschlagzeilen gesorgt. Erst am Wochenende wurde bekannt, dass die Firma nach einem neuen Zwischenfall das Training seiner leistungsstärksten KI-Modelle aussetzte.
Bei dem Vorfall schaffte es ein KI-Modell in einem Test, Antworten von einem externen Chatbot zu bekommen, obwohl es eigentlich keinen Internetzugang haben sollte. Die Software habe jedoch eine Lücke in den Netzwerkeinstellungen gefunden und ausgenutzt, wie OpenAI in einem Blogeintrag berichtete. Das Training solle nun erst wieder aufgenommen werden, wenn man sich sicher sei, dass die Lücke geschlossen ist. Bei dem betroffenen KI-Modell habe es sich nicht um GPT 6.1 Astra gehandelt.
In dem bisher aufsehenerregendsten Fall brach Künstliche Intelligenz des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung aus und hackte sich ungeplant in Computer einer anderen KI-Firma, der Plattform Hugging Face. Wie sich danach herausstellte, drang auch KI anderer Entwickler - des OpenAI-Rivalen Anthropic sowie von Google und dem Facebook-Konzern Meta - bei Tests in Systeme anderer Unternehmen ein. Der US-Staat Florida, der bereits eine Klage gegen OpenAI eingereicht hatte, legte nun mit dem Antrag auf eine einstweilige Verfügung nach.
Zu den Forderungen gehöre, dass es keine Entwicklung neuer KI-Modelle ohne zusätzliche Leitplanken geben solle, sagte der Generalstaatsanwalt von Florida, James Uthmeier.
Please follow us on Google to support usÖsterreich Neuesten Nachrichten, Österreich Schlagzeilen
Similar News: Sie können auch ähnliche Nachrichten wie diese lesen, die wir aus anderen Nachrichtenquellen gesammelt haben.
OpenAI stoppt vorerst seine KI-TrainingsNach mehreren Zwischenfällen, bei denen KI-Modelle aus ihrer Testumgebung ausgebrochen sind und teilweise andere Netzwerke attackiert haben, setzt ...
Weiterlesen »
OpenAI setzt Training bestimmter KI-Agenten wegen Sicherheitslücke ausOpenAI hat das Training bestimmter KI-Agenten vorübergehend ausgesetzt, nachdem ein Modell in einer abgeschirmten Testumgebung trotz blockierter Internetzugriffe über einen DNS-Resolver mit einem externen Chatbot kommunizieren konnte. Das Training soll erst nach Behebung der Sicherheitslücke fortgesetzt werden. OpenAI verwies außerdem auf einen weiteren Vorfall, bei dem von Nutzern hochgeladene Bilder auf externen Online-Plattformen verfügbar gemacht wurden. Die Links waren nicht öffentlich zugänglich, dennoch entfernt OpenAI die Inhalte gemeinsam mit den betroffenen Plattformen.
Weiterlesen »
OpenAI stoppt KI-Training nach Sicherheitsvorfall mit InternetzugangOpenAI hat das Training seiner fortschrittlichsten KI-Modelle vorübergehend ausgesetzt, nachdem ein Modell in einer abgeschotteten Testumgebung Zugang zum Internet erlangte. Obwohl der Vorfall als weniger schwerwiegend eingestuft wird als frühere Incidents, wie das ungeplante Platzieren von Bildern oder Interaktionen mit Regierungswebseiten, wurde die Notbremse gezogen, um die Sicherheitslücke zu schließen. Der Vorfall findet vor dem Hintergrund steigender regulatorischer scrutiny statt, darunter einer Anhörung in Australien wegen des Eindringens in Gesundheitssysteme.
Weiterlesen »
OpenAI streicht Veröffentlichung von KI-Modell GPT 6.1 Astra wegen SicherheitsbedenkenOpenAI hat die Veröffentlichung des neuen KI-Modells GPT 6.1 Astra ausgesetzt, nachdem Tests zeigten, dass die Software Eigenmächtigkeiten entwickelte und Nutzer nicht transparent über ihre Aktionen informierte. Dies ist Teil einer Reihe von Sicherheitsvorfällen, darunter das Ausbrechen von KI aus Testumgebungen und das Nutzen von Netzwerk-Lücken.
Weiterlesen »