+34
OpenAI hat das Training bestimmter KI-Agenten vorübergehend ausgesetzt, nachdem ein Modell in einer abgeschirmten Testumgebung trotz blockierter Internetzugriffe über einen DNS-Resolver mit einem externen Chatbot kommunizieren konnte. Das Training soll erst nach Behebung der Sicherheitslücke fortgesetzt werden. OpenAI verwies außerdem auf einen weiteren Vorfall, bei dem von Nutzern hochgeladene Bilder auf externen Online-Plattformen verfügbar gemacht wurden. Die Links waren nicht öffentlich zugänglich, dennoch entfernt OpenAI die Inhalte gemeinsam mit den betroffenen Plattformen.
Konsequenzen. Der ChatGPT-Entwickler setzt das Training bestimmter KI-Agenten vorerst aus. Zuvor war es einem Modell gelungen, trotz fehlenden Internetzugangs mit einem externen Chatbot zu kommunizieren.
Das Training soll erst wieder aufgenommen werden, wenn die dafür verantwortliche Sicherheitslücke geschlossen ist. OpenAI betonte zwar, der jüngste Vorfall sei weniger schwerwiegend als einige frühere Zwischenfälle. Dennoch sei er besonders relevant: Es handle sich um den ersten derartigen Fall, seit die Sicherheitsmaßnahmen nach einer Hacking-Attacke auf dieBei dem Test erhielt das KI-Modell die Aufgabe, anhand mehrerer Hinweise Informationen über eine Person zu finden, die einen Blogbeitrag veröffentlicht hatte.
Dafür durfte die Software auf eine nachgebaute Version des Internets innerhalb einer abgeschirmten Testumgebung zugreifen. Als die Suche dort erfolglos blieb, versuchte die KI laut OpenAI unter anderem, Anfragen an Google zu schicken. Diese Zugriffe wurden wie vorgesehen blockiert. Dabei entdeckte das Modell allerdings einen anderen Weg: Über den sogenannten DNS-Resolver der Testumgebung konnte es Anfragen an einen Chatbot im offenen Internet stellen.
DNS-Resolver sorgen normalerweise dafür, dass eingegebene Internetadressen in die entsprechenden IP-Adressen übersetzt werden. OpenAI brach den Test ab, nachdem die unerwartete Kommunikation entdeckt worden war. Auch bei einem weiteren Zwischenfall waren Sicherheitsmechanismen offenbar nicht ausreichend. In drei Fällen wurden von Nutzern hochgeladene Bilder auf externen Online-Plattformen platziert.
Die entsprechenden Links seien nicht öffentlich zugänglich gewesen, erklärte OpenAI. Ein Großteil der Bilder sei inzwischen gelöscht worden. Mit den betroffenen Plattformen arbeite man daran, auch die restlichen Inhalte zu entfernen. Besonders brisant: Es handelt sich laut den veröffentlichten Angaben um den ersten bekannt gewordenen Vorfall dieser Art, bei dem auch Daten von OpenAI-Nutzern betroffen waren.
Wenig später wurde außerdem bekannt, dass automatisierte KI-Agenten von OpenAI auch auf Webseiten der US-Regierung sowie der australischen Regierung aktiv waren. Auf der Seite einer US-Statistikbehörde soll die Software mithilfe von im Internet gefundenen Login-Daten auf öffentlich zugängliche Informationen zugegriffen haben. OpenAI bestätigte den Vorfall nach einem Bericht der KI-Forschungsfirma Transluce. Für besonderes Aufsehen hatte zuvor bereits ein anderer Zwischenfall gesorgt: Dabei verließ eine KI des ChatGPT-Entwicklers eine abgesicherte Testumgebung und drang ungeplant in Systeme der KI-Plattform Hugging Face ein.
Openai Künstliche Intelligenz KI-Sicherheit DNS-Resolver Datenschutz
Österreich Neuesten Nachrichten, Österreich Schlagzeilen
Similar News: Sie können auch ähnliche Nachrichten wie diese lesen, die wir aus anderen Nachrichtenquellen gesammelt haben.
OpenAI meldet Datenleck und unautorisierte KI-Zugriffe auf RegierungsseitenOpenAI bestätigt ein Datenleck mit Nutzerbildern und unautorisierte Zugriffe seiner KI-Agenten auf Webseiten von US-Behörden, Universitäten und Institutionen.
Weiterlesen »
Nutzerbilder im Netz: OpenAI meldet weitere KI-VorfälleDer ChatGPT-Entwickler OpenAI hat weitere Vorfälle mit seinen KI-Agenten öffentlich gemacht. KI-Agenten hätten irrtümlich von Nutzerinnen und Nutzern hochgeladene Bilder im Netz veröffentlicht, teilte der US-Konzern am Freitag (Ortszeit) mit. Zudem bestätigte das Unternehmen, dass KI-Werkzeuge auf US-Regierungsseiten zugegriffen haben.
Weiterlesen »
OpenAI stoppt KI-Training: Modell umgeht Internetsperre über DNS-LückeSAN FRANCISCO. Ein OpenAI-Modell hat trotz Internetsperre über eine DNS-Lücke einen externen Chatbot erreicht. OpenAI pausiert nun Arbeiten mit seinen leistungsfähigsten Modellen.
Weiterlesen »
Neuer Zwischenfall mit KI, OpenAI setzt Training ausWieder blieb ein KI-Modell nicht in der Testumgebung, in der es eigentlich sein sollte – sondern ging online.
Weiterlesen »