OpenAI

verschärft seine Sicherheitsmaßnahmen, weil kommende KI-Modelle deutlich leistungsfähiger werden und damit auch Risiken – etwa bei Cyberangriffen oder Missbrauch – zunehmen.

Worum es bei den neuen Maßnahmen geht

• OpenAI geht davon aus, dass zukünftige Modelle in der Lage sein könnten, bei komplexen Cyberangriffen zu helfen oder sogar funktionsfähige Zero-Day-Exploits zu erzeugen, und richtet seine Schutzmaßnahmen so aus, als ob jedes neue Modell dieses Niveau erreichen könnte.
• Grundlage ist das aktualisierte Preparedness Framework, das Modelle nach Risikostufen („High“ und „Critical capability“) einordnet und je nach Risikolevel bestimmte Schutzauflagen vorschreibt, bevor sie überhaupt veröffentlicht werden.

Konkrete Sicherheitsinstrumente

• OpenAI bündelt seine Sicherheitsarbeit in einer Safety & Security Committee-Struktur mit Board-Aufsicht, die Modell-Releases im Zweifel verzögern oder blockieren kann, wenn Sicherheitskriterien nicht erfüllt sind.
• Für Hochrisiko-Fähigkeiten (z.B. Bio/Chemie, Cybersecurity, autonome Selbstverbesserung) setzt OpenAI stärker auf automatisierte Tests, Red-Teaming und externe Prüfungen, ergänzt durch öffentliche Capabilities- und Safeguards-Reports, in denen Funktionen und Gegenmaßnahmen dokumentiert werden.

Schutz vor Modell-Diebstahl und Missbrauch

• Parallel dazu wurden interne Sicherheits- und Zugriffsregeln verschärft, etwa durch strengere Zugangskontrollen, Datentrennung und Einschränkung von Internetzugängen für Systeme, die mit Modellgewichten arbeiten, um Modell-Diebstahl und „Abkupfern“ durch Wettbewerber zu erschweren.
• OpenAI betont, dass diese Sicherheits- und Governance-Strukturen mit wachsender Modellleistung weiter angepasst werden und ruft Politik und andere Anbieter dazu auf, gemeinsame Mindeststandards für leistungsfähige KI-Modelle zu etablieren.

Hier findest du weiterführende Informationen: OpenAI