+34
Der ChatGPT-Entwickler OpenAI hat drei Mitarbeiter entlassen, da diese gegen Regeln zum Umgang mit vertraulichen Informationen verstoßen haben. Das Unternehmen weist darauf hin, dass die Kündigungen nichts mit geäußerten Sicherheitsbedenken zu tun haben, nachdem KI-Ausbrüche in Testumgebungen zu einem Vorfall geführt hatten.
Das Unternehmen begründet den Schritt mit Verstößen gegen interne Regeln für vertrauliche Informationen – und weist einen Zusammenhang mit geäußerten Sicherheitsbedenken zurück. Nach der Aufregung um eigenständige Hacking-Aktivitäten von Künstlicher Intelligenz des ChatGPT-Entwicklers OpenAI hat die Firma drei an der Aufarbeitung beteiligte Experten entlassen.
Sie hätten gegen interne Regeln zum Umgang mit vertraulichen Informationen verstoßen, teilte OpenAI zur Begründung mit. Zugleich betonte die KI-Firma, niemand sei gefeuert worden, weil er Sicherheitsbedenken geäußert habe. Das Fehlverhalten sei über das Teilen von Informationen mit einer externen Analysefirma hinausgegangen, hieß es ohne nähere Details. Das „Wall Street Journal“ hatte zuvor unter Berufung auf informierte Personen die Namen der drei entlassenen Mitarbeiter genannt.
OpenAI sprach nur von zwei Sicherheitsforschern und einem Programm-Manager, wollte die Namen auf Anfrage aber nicht bestätigen. Auch die drei von der Zeitung genannten Personen äußerten sich zunächst nicht. OpenAI zufolge war das für die Beschäftigung nötige Vertrauen nicht mehr gegeben. In dem bisher aufsehenerregendsten Fall war Künstliche Intelligenz des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung ausgebrochen und hatte sich ungeplant in Computer einer anderen KI-Firma gehackt, der Plattform Hugging Face.
Zur Aufarbeitung des Vorfalls hatte OpenAI für einige Tage auf KI-Sicherheit spezialisierte externe Experten herangeholt, die später tiefgreifende Einblicke in die Vorgehensweise der Software veröffentlichten. Zumindest einer der vom „Wall Street Journal“ gefeuerten Mitarbeiter hatte erwähnt, Anlaufstelle für die externen Analysten gewesen zu sein. In den vergangenen Tagen wurde auch bekannt, dass OpenAI nach einem neuen Zwischenfall das Training der leistungsstärksten Künstlichen Intelligenz ausgesetzt hat.
Bei dem Vorfall schaffte es ein KI-Modell in einem Test, Antworten von einem externen Chatbot zu bekommen, obwohl es eigentlich keinen Internet-Zugang haben sollte. Die Software habe jedoch eine Lücke in den Netzwerk-Einstellungen gefunden und ausgenutzt, hieß es. Das Eingeständnis war besonders heikel, da OpenAI die Sicherheitsvorkehrungen nach der Hacking-Attacke auf Hugging Face verschärft hatte.
Zudem strich die Firma die Veröffentlichung eines neuen KI-Modells nach Sicherheitsbedenken. Forscher aus der Branche warnten zuletzt mehrfach vor einem existenziellen Risiko für die Menschheit, wenn leistungsstarke Künstliche Intelligenz außer Kontrolle geraten sollte. OpenAI-Chef Sam Altman solidarisierte sich mit dem Vorschlag des Konkurrenten Dario Amodei vom KI-Entwickler Anthropic, die Entwicklung der fähigsten KI-Modelle abzubremsen. Nach einem Treffen mit US-Präsident Donald Trump verpflichteten sich die Unternehmen jedoch nur, die Sicherheitsvorkehrungen zu stärken und externe Beobachter zuzulassen. Er wolle, dass sich die Unternehmen gegenseitig beaufsichtigten, sagte Trump.
Please follow us on Google to support usOpenai Künstliche Intelligenz Entlassungen Cybersicherheit Vertrauliche Informationen
Österreich Neuesten Nachrichten, Österreich Schlagzeilen
Similar News: Sie können auch ähnliche Nachrichten wie diese lesen, die wir aus anderen Nachrichtenquellen gesammelt haben.
OpenAI streicht neues Modell, setzt auf KI-AgentenDer ChatGPT-Entwickler OpenAI hat wegen Sicherheitsbedenken die Veröffentlichung eines neuen KI-Modells gestrichen und will zugleich Künstliche ...
Weiterlesen »
Regierung schränkt Schutzstatus für wehrpflichtige Ukrainer einMit der Änderung der Vertriebenen-Verordnung wird ein Beschluss der EU umgesetzt.
Weiterlesen »
Bunt, putzig, virtuell: OpenAI bringt KI-Agenten Dots als Antwort...OpenAI kämpft gegen Sicherheitsvorfälle, die KI-Agenten verursachen, verschiebt deswegen sogar seinen Börsengang. Doch das war nicht das Thema in San Francisco. Am OpenAI DevDay präsentierte Sam...
Weiterlesen »
OpenAI verzichtet wegen Sicherheitsmängeln auf GPT 6.1 AstraOpenAI hat die Veröffentlichung des geplanten KI-Modells GPT 6.1 Astra vorerst ausgesetzt, nachdem Tests Sicherheitsprobleme offengelegt hatten. Das Modell handelte teils ohne Zustimmung der Nutzer und gab nicht immer wahrheitsgemäß an, welche Aktionen es ausgeführt hatte. Stattdessen stellte das Unternehmen mit Dots einen KI-Agenten vor, der Aufgaben im Auftrag von Nutzern erledigen und künftig mehrere Aufgaben gleichzeitig bewältigen soll. Zunächst ist der Dienst in den USA nur für zahlende Abo-Kunden verfügbar.
Weiterlesen »