Wer ist verantwortlich, wenn KI aus dem Ruder läuft? Ein KI-Zentrum unter dem Dach der UNO in Wien wäre ein Anfang

November 03, 2026 By Anja Teßmann

Wer ist verantwortlich, wenn KI aus dem Ruder läuft? Ein KI-Zentrum unter dem Dach der UNO in Wien wäre ein Anfang

Dieser Blogartikel in 30 Sekunden: Österreich schlägt vor, ein internationales KI-Zentrum unter dem Dach der UNO in Wien anzusiedeln.¹ Bisher ist das ein Vorschlag, kein Beschluss. Wir finden ihn richtig, denn 2026 hat gezeigt, dass bei der Nutzung von KI globale Leitplanken fehlen: Der Chatbot Grok auf X erzeugte Anfang 2026 massenhaft sexualisierte Deepfakes, vor allem von Frauen, teils auch von Minderjährigen.² Im Sommer brachen OpenAI-Agenten aus ihrer Testumgebung aus und griffen Hugging Face an.³ Im Oktober wurden mithilfe von KI zwei PHP-Sicherheitslücken ausnutzbar, die seit mehr als einem Jahrzehnt im Code lagen.⁴ Die Frage dahinter: Wer kümmert sich global um die Nebenwirkungen von KI?

* Beitragsbild KI-generiert

Warum will Österreich ein KI-Zentrum in Wien?

Am 28. Oktober hat Staatssekretär Alexander Pröll einen Vorschlag von Bundeskanzler Christian Stocker eingebracht: ein internationales KI-Zentrum unter dem Dach der UNO in Wien. Ort war ein virtuelles Spitzentreffen zur Kontrolle von Frontier-KI-Modellen, auf Initiative der Regierungschefs von Finnland und Norwegen. Das Zentrum soll Staaten, Wissenschaft und Wirtschaft zusammenbringen, um Risiken zu erforschen und gemeinsame Standards zu entwickeln.¹

Die Regierung verweist auf die Internationale Atomenergie-Organisation und die CTBTO-Vorbereitungskommission, die in Wien Erfahrung mit multilateralen Verfahren haben.¹ Stocker will KI einen Rahmen geben, „der den Menschen Ängste nimmt und Sicherheit gibt“.¹ Pröll sagt: „Die Weichen für die globale KI-Governance werden jetzt gestellt.“⁵

Es ist ein Vorschlag, kein Beschluss!

Unsere Haltung: Wir finden den Vorschlag wichtig. KI braucht einen Ort, an dem Zuständigkeit geklärt wird, bevor etwas passiert, nicht erst danach.

Welche KI-Vorfälle gab es 2026: Grok, Hugging Face und PHP-Lücke?

In 2026 gab es mindestens drei bekannte KI-Vorfälle, die zeigen, dass bei der Nutzung von KI globale Leitplanken fehlen: die sexualisierten Grok-Deepfakes im Januar, den Angriff auf Hugging Face im Juli und die PHP-Sicherheitslücken im Oktober. Sie haben wenig gemeinsam, außer einer Frage: Wer ist zuständig?

Grok (Januar): Um den Jahreswechsel ließen Nutzerinnen und Nutzer auf X mit dem KI-Chatbot Grok Bilder bearbeiten. Es entstanden massenhaft sexualisierte Deepfakes, vor allem von Frauen, teils auch von Minderjährigen.² Die britische Medienaufsicht Ofcom und die EU-Kommission leiteten Untersuchungen ein. Die EU prüft, ob X die Risiken vorab ausreichend bewertet hat.⁶ Das war kein Ausbruch und kein Hack. Es war ein Produkt im Alltag.
Hugging Face (Juli/August): KI-Modelle von OpenAI brachen aus ihrer Testumgebung aus und griffen die Plattform an. Laut dem Bericht von METR und Redwood Research koordinierten die Agenten den Angriff.³ Die „New York Times“ schreibt, OpenAI habe vorgegeben, was die Untersuchung prüfen darf.³
PHP (Oktober): Zwei schwere Sicherheitslücken in einer Programmiersprache, die laut Wiz auf etwa sieben von zehn Websites läuft.⁴ KI-Modelle halfen, aus einer lange vermuteten Schwäche einen funktionierenden Angriff zu machen, im Rahmen eines von OpenAI finanzierten Audits.⁴ Als Details vorzeitig auftauchten, gingen Websites weltweit vom Netz, in Österreich etwa die der Uni Wien, der TU Wien und der NÖN.⁷ Die PHP Foundation nennt die Verzögerung bei der Behebung selbst ein „strukturelles Versagen“.⁴

Wer setzt bei KI global die Leitplanken?

Keiner dieser KI-Vorfälle war angekündigt. Und jedes Mal stellte sich erst danach die Frage, was gilt und wer zuständig ist. Bei Grok liefen die Untersuchungen, als die KI-Bilder längst im Umlauf waren. Bei Hugging Face soll laut NYT OpenAI vorgegeben haben, was untersucht wird.³ Bei PHP entschied jeder Betreiber für sich, ob und wann er vom Netz geht. Es fehlen gemeinsame Leitplanken für verantwortungsvolle KI, die vor dem Vorfall greifen, nicht erst danach.

Das Muster ist immer gleich: erst der Vorfall, dann die Frage nach der Zuständigkeit. Ein UN-Zentrum in Wien würde das nicht über Nacht ändern. Aber es wäre ein Ort, an dem Staaten, Wissenschaft und Wirtschaft Regeln festlegen, bevor etwas passiert. Genau das fehlt bisher.

Wie setzt ihr KI-Leitplanken im eigenen Team um?

Ob es künftig ein globales Gremium für verantwortungsvolle KI gibt, entscheiden andere. Wie KI in eurem Team genutzt wird, entscheidet ihr.

Unser Ansatz: Bevor wir Prozesse mit KI automatisieren, schaffen wir die Basis.

Zuerst klären wir die Prozesse, also wie ihr arbeitet und wer was entscheidet.
Dann ordnen wir Daten und Wissen: Worauf darf die KI zurückgreifen?
Danach legen wir Governance und Ziele fest: Was darf sie, und worauf optimiert sie?

Erst dann kommen Automatisierung und KI-Agenten. Dazu gehören Freigabegrenzen für KI-Agenten: Ihr definiert, welche Aktionen ein KI-Agent autonom ausführen darf und wo eine menschliche Freigabe zwingend ist. Das ist die Fragestellung hinter allen drei Fällen: Was darf KI allein, und wer gibt frei?

Wer ist bei euch zuständig, wenn ein KI-Agent aus dem Ruder läuft? Die Antwort gehört in den Prozess, nicht in den Ernstfall.

Wie startet ihr agentische KI-Workflows mit klaren Freigabegrenzen?

Genau das erarbeiten wir mit euch. Wir entwickeln agentische KI-Workflows für euer Marketing: mit definierten Zugriffsgrenzen, festen Freigabestopps und klaren Human-in-the-Loop-Regeln statt unkontrollierter KI-Autonomie. Gemeinsam prüfen wir, welcher eurer Prozesse sich für KI-Automatisierung eignet.

👉 Agentischen KI-Workflow anfragen

Wenn ihr zuerst Orientierung und KI-Leitplanken für euer Team braucht, startet mit unserem KI-Workshop.

Quellen

Brutkasten, „Regierung will neues UNO-KI-Zentrum in Wien ansiedeln“ (28.10.2026): https://brutkasten.com/artikel/uno-ki-zentrum-wien-stocker
Techbook, „Sexualisierte Deepfakes von Frauen und Minderjährigen im Umlauf“ (6.1.2026): https://www.techbook.de/pc-mac/web-pc-mac/grok-sexualisierte-deepfakes
ORF.at, „Ratlosigkeit bei Umgang mit KI-Angriffen“ (4.9.2026): https://orf.at/stories/3441186/
Euronews, „PHP-Sicherheitslücke: warum Europas Websites offline gehen und was das für Nutzer heißt“ (22.10.2026): https://de.euronews.com/2026/10/22/php-sicherheitslucke-warum-europas-websites-offline-gehen-und-was-das-fur-nutzer-heisst
ORF.at, „Regierung will KI-Zentrum nach Wien holen“ (28.10.2026): https://wien.orf.at/stories/3377177/
Trending Topics, „Grok-Skandal: EU prüft Musks xAI wegen sexualisierten Deepfakes“: https://www.trendingtopics.eu/grok-skandal-eu-prueft-musks-xai-wegen-sexualisierten-deepfakes/
ORF.at, „Sicherheitslücken bedrohen Websites“ (21.10.2026): https://orf.at/stories/3445771/

FAQ: KI-Leitplanken für Unternehmen

Wer ist verantwortlich, wenn KI aus dem Ruder läuft?

Eine einheitliche, globale Antwort gibt es bisher nicht. Im Unternehmen liegt die Verantwortung bei Menschen, die Zuständigkeiten und Freigaben vorher festlegen. Für den Einzelfall braucht es rechtliche Beratung.

Was ist bei Hugging Face passiert?

KI-Modelle von OpenAI sind im Sommer 2026 aus ihrer Testumgebung ausgebrochen und haben die Plattform Hugging Face angegriffen. Ein Untersuchungsbericht von METR und Redwood Research liegt vor. Laut „New York Times“ konnte das Team nur einen Teil der Vorgänge prüfen.

Warum gingen wegen der PHP-Sicherheitslücke Websites vom Netz?

m Oktober wurden zwei schwere Sicherheitslücken in PHP bekannt, nachdem KI-Modelle geholfen hatten, daraus einen funktionierenden Angriff zu machen. Viele Institutionen nahmen ihre Seiten vorsorglich vom Netz, bis ein Update eingespielt war.

Was ist bei Grok mit den Deepfakes passiert?

Um den Jahreswechsel ließen Nutzerinnen und Nutzer auf X mit dem KI-Chatbot Grok Bilder bearbeiten. Es entstanden massenhaft sexualisierte Deepfakes, vor allem von Frauen, teils auch von Minderjährigen. Ofcom und die EU-Kommission leiteten Untersuchungen ein. Ausgang und Bewertung sind Sache der Behörden.

Was sind KI-Leitplanken im Unternehmen?

Regeln dafür, welche KI-Tools ein Team nutzen darf, welche Daten hineindürfen, wo ein Mensch freigibt und wer zuständig ist. Sie werden meist als KI-Guidelines festgehalten.

Was sind Freigabegrenzen bei KI-Agenten?

Sie legen fest, welche Aktionen ein KI-Agent autonom ausführen darf und wo eine menschliche Freigabe zwingend ist. Das ist Teil von Human-in-the-Loop.

Wie starte ich mit KI-Governance im Team?

Mit der Basis vor der Automatisierung: Prozesse klären, Daten und Wissen ordnen, Governance und Ziele festlegen. Erst danach lohnen sich Agenten und Automatisierung.

Wie starte ich mit KI-Automatisierung im Marketing?

Wählt einen Ablauf, der regelmäßig in ähnlicher Form wiederkehrt und dessen Ergebnis ihr klar beschreiben könnt, etwa Reporting-Vorbereitung oder Dokumentenablage. Klärt vorab, wie der Prozess heute läuft und welche Daten er braucht. Dann legt ihr feste Regeln fest: Wenn X passiert, passiert Y. Eine klassische KI-Automatisierung eignet sich für Aufgaben, die starr und vorhersehbar sind.

Wie starte ich mit agentischen KI-Workflows?

Beginnt mit der Basis: Prozesse klären, Daten und Wissen ordnen, Governance und Ziele festlegen. Wählt dann einen wiederkehrenden Prozess, der Zeit kostet, aber überschaubar bleibt. Ein agentischer KI-Workflow lohnt sich dort, wo ein KI-Agent innerhalb klarer Grenzen flexibel entscheiden muss. Legt vorher fest, welche Aktionen er allein ausführen darf und wo ein Mensch freigibt.