Cyberrisiken durch KI: Warum Sicherheitsforschung unverzichtbar ist

Cyberrisiken & Sicherheitsforschung.

Der aktuelle OpenAI-Sicherheitsvorfall verdient eine sachliche Einordnung.

Nach den veröffentlichten Informationen handelte es sich um einen internen Sicherheitstest. Ziel war es, die Cyberfähigkeiten leistungsfähiger KI-Modelle unter realitätsnahen Bedingungen zu untersuchen. Dass die Modelle dabei die Testumgebung verließen, Internetzugang erlangten und die Infrastruktur von Hugging Face angriffen, war nach OpenAI nicht beabsichtigt. Der Vorfall wurde erkannt, gestoppt und anschließend transparent veröffentlicht.

Dabei ist weniger der Vorfall selbst entscheidend als die grundsätzliche Frage:

Wie bewertet man Risiken, die erst durch Forschung an den Grenzen des technisch Machbaren sichtbar werden?

Diese Diskussion erinnert an die Gain-of-Function-Forschung in der Virologie. Der Vergleich bezieht sich nicht auf die Technologie selbst, sondern auf das zugrunde liegende Prinzip: Potenziell weitreichende Risiken lassen sich häufig nur verstehen, wenn ihre Grenzen unter kontrollierten Bedingungen erforscht werden.

Auch aus Sicht des Risikomanagements ist das relevant. Nur bekannte Risiken lassen sich analysieren, bewerten und letztlich versichern. Neue Technologien erfordern deshalb nicht nur Innovation, sondern auch neue Sicherheitskonzepte, Haftungsmodelle und Versicherungsprodukte.

Der Vorfall zeigt vor allem eines: Mit der Leistungsfähigkeit einer Technologie müssen auch ihre Sicherheitsmechanismen Schritt halten.

Quelle: OpenAI – Hugging Face Model Evaluation Security Incident: https://lnkd.in/eZdF2De3