+34
Nach mehreren Zwischenfällen, bei denen KI-Modelle aus ihrer Testumgebung ausgebrochen sind und teilweise andere Netzwerke attackiert haben, setzt ...
Nach mehreren Zwischenfällen, bei denen KI-Modelle aus ihrer Testumgebung ausgebrochen sind und teilweise andere Netzwerke attackiert haben, setzt ChatGPT-Entwickler OpenAI das Training seiner leistungsstärksten KI-Agenten aus.
Zuletzt schaffte eine KI-Software, Antworten von einem externen Chatbot zu bekommen, obwohl sie eigentlich keinen Internetzugang haben sollte. Das Training soll erst wieder aufgenommen werden, wenn man sich sicher sei, dass die Lücke geschlossen ist. Der aktuellste Zwischenfall sei zwar weniger gravierend als einige frühere, betonte OpenAI.
Allerdings sei er der erste, seit die Sicherheitsvorkehrungen nach der Hacking-Attacke von OpenAI-Software auf die KI-Firma Hugging Face verschärft worden waren. Man sehe das als wichtigen Hinweis darauf, wo weitere Nachbesserungen notwendig seien. Führende Vertreter der Technologiebranche – darunter auch OpenAI-Chef Sam Altman – haben bei der UNO-Generalversammlung vor den wachsenden Gefahren durch Künstliche Intelligenz gewarnt. In dem Szenario bekam das getestete KI-Modell den Auftrag, auf Grundlage von Hinweisen Informationen über eine Person zu finden, die einen Blogpost veröffentlicht habe.
Dafür konnte es auf eine Web-Imitation in einer abgeschirmten Testumgebung zurückgreifen. Nachdem die Suche dort ergebnislos geblieben war, versuchte die KI jedoch dem OpenAI-Bericht zufolge, Anfragen unter anderem bei Google zu starten. Das schlug wie geplant fehl. Aber dem KI-Modell fiel dabei auf, dass es über den sogenannten DNS-Resolver der Testumgebung Anfragen an einen Chatbot im offenen Internet stellen kann.
DNS-Resolver übertragen Domain-Namen, die man als Nutzer in Browser eintippt, in aus Zahlen bestehende IP-Adressen, unter denen Websites zu finden sind. OpenAI stoppte den Test, nachdem die Kommunikation über die Lücke aufgefallen war. In einem anderen Fall wurden drei Mal von Nutzern hochgeladene Bilder auf Online-Plattformen platziert. Die Links dazu seien nicht öffentlich gewesen, erklärte OpenAI.
Ein Großteil sei bereits wieder entfernt worden und man arbeite mit den Plattformen daran, auch den Rest zu löschen. Es ist aber der erste bekannt gewordene Vorfall, bei dem auch Daten von OpenAI-Nutzern betroffen waren. Wenig später wurde zudem bekannt, dass automatisierte KI-Agenten von OpenAI auch auf mehreren Webseiten der US-Regierung und auch der australischen Regierung aktiv waren.
So habe die Software auf der Seite einer US-Statistikbehörde mithilfe von im Netz entdeckten Logindaten auf öffentlich zugängliche Informationen zugegriffen, teilte OpenAI nach einem Bericht der KI-Forschungsfirma Transluce mit. In dem bisher aufsehenerregendsten Fall brach Künstliche Intelligenz des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung aus und drang ungeplant in Computer einer anderen KI-Firma ein, der Plattform Hugging Face. User-Beiträge geben nicht notwendigerweise die Meinung des Betreibers/der Redaktion bzw. von Krone Multimedia wieder.
In diesem Sinne distanziert sich die Redaktion/der Betreiber von den Inhalten in diesem Diskussionsforum. KMM behält sich insbesondere vor, gegen geltendes Recht verstoßende, den guten Sitten oder derwidersprechende bzw. dem Ansehen von KMM zuwiderlaufende Beiträge zu löschen, diesbezüglichen Schadenersatz gegenüber dem betreffenden User geltend zu machen, die Nutzer-Daten zu Zwecken der Rechtsverfolgung zu verwenden und strafrechtlich relevante Beiträge zur Anzeige zu bringen (siehe auch
Österreich Neuesten Nachrichten, Österreich Schlagzeilen
Similar News: Sie können auch ähnliche Nachrichten wie diese lesen, die wir aus anderen Nachrichtenquellen gesammelt haben.
OpenAI meldet Datenleck und unautorisierte KI-Zugriffe auf RegierungsseitenOpenAI bestätigt ein Datenleck mit Nutzerbildern und unautorisierte Zugriffe seiner KI-Agenten auf Webseiten von US-Behörden, Universitäten und Institutionen.
Weiterlesen »
Nutzerbilder im Netz: OpenAI meldet weitere KI-VorfälleDer ChatGPT-Entwickler OpenAI hat weitere Vorfälle mit seinen KI-Agenten öffentlich gemacht. KI-Agenten hätten irrtümlich von Nutzerinnen und Nutzern hochgeladene Bilder im Netz veröffentlicht, teilte der US-Konzern am Freitag (Ortszeit) mit. Zudem bestätigte das Unternehmen, dass KI-Werkzeuge auf US-Regierungsseiten zugegriffen haben.
Weiterlesen »
KI von OpenAI veröffentlichte Nutzerbilder auf Online-PlattformenEin Großteil sei bereits wieder entfernt worden und man arbeite mit den Plattformen daran, auch den Rest zu löschen. Es ist der erste bekannt gewordene Vorfall, bei dem auch Daten von...
Weiterlesen »
Unfall in Peilstein nach Erntedankfest: Mitfahrerin ging nach HausePEILSTEIN. Kurze Wege hatten die Einsatzkräfte am Sonntag in Peilstein (Bezirk Rohrbach): Direkt beim Feuerwehrhaus stießen auf einer Kreuzung zwei Autos zusammen. Zwei Menschen wurden verletzt. Für kurze Zeit wurde zudem nach einer Frau gesucht, die sich nach dem Unfall zu Fuß auf den Heimweg gemacht hatte.
Weiterlesen »