OpenAI

hat ChatGPT mit Trusted Contact eine neue Sicherheitsfunktion gegeben, die erwachsene Nutzer in psychischen Krisensituationen besser absichern soll. Du kannst eine Vertrauensperson hinterlegen, die im Ernstfall von ChatGPT kontaktiert wird, wenn im Chat deutliche Hinweise auf Selbstgefährdung auftreten.

Was Trusted Contact genau macht

• In den Einstellungen von ChatGPT legst du eine Vertrauensperson fest (z. B. Freund, Familienmitglied, Partner), die volljährig sein muss.
• Diese Person erhält eine Einladung und muss aktiv zustimmen, bevor die Funktion für dich aktiv ist.
• Erkennt das System Anzeichen akuter Suizidgedanken oder konkreter Selbstverletzungsabsichten, kann ChatGPT die Vertrauensperson mit einem Hinweis kontaktieren, dass du möglicherweise Unterstützung brauchst.

Gleichzeitig bekommst du selbst im Chat Hinweise auf Hilfsangebote und den Hinweis, dass Kontakt zu einer Vertrauensperson sinnvoll sein kann.

Für wen die Funktion gedacht ist

• Trusted Contact ist für volljährige Nutzer konzipiert; die Altersgrenze orientiert sich je nach Land an der gesetzlichen Volljährigkeit.
• Die Funktion soll bestehende Sicherheitsmechanismen ergänzen, etwa Text‑Hinweise auf Krisen‑Hotlines, und eine Brücke zu echten Bezugspersonen schlagen.
• Für Jugendliche setzt OpenAI getrennte Schutzmechanismen um – inklusive Eltern‑Kontrollen und Einschränkungen bei bestimmten Antworttypen.

Technischer Hintergrund

• Ein spezielles Erkennungssystem analysiert Gespräche auf Schlüsselphrasen und Muster, die auf akute seelische Krisen, Suizidgedanken oder Selbstverletzungspläne hindeuten.
• Bei stark auffälligen Verläufen wird die Unterhaltung an besonders sicherheitsoptimierte Modelle „weitergereicht“, die für sensible Situationen ausgelegt sind.
• Erst wenn bestimmte Schwellwerte überschritten werden und ein Review‑Prozess den Verdacht bestätigt, wird eine Benachrichtigung an die Vertrauensperson ausgelöst.

Datenschutz und Kontrolle

• Trusted Contact ist komplett optional: Wenn du keinen Kontakt einrichtest, wird auch niemand benachrichtigt.
• Die Vertrauensperson erhält nur eine knappe Information, dass du möglicherweise in einer schwierigen Situation bist – keine komplette Chat‑Historie.
• Ziel ist es, Hilfe in kritischen Momenten zu aktivieren, ohne dabei unnötig tief in deine Privatsphäre einzugreifen.

Einordnung

Die Funktion reiht sich ein in weitere Sicherheitsmaßnahmen rund um ChatGPT, etwa spezielle Sicherheits‑Routen für sensible Themen und geplante Eltern‑Kontrollen für Teenager. Im Kern geht es darum, dass ChatGPT nicht „allein“ bleibt, wenn es um ernste Krisen geht, sondern den Kontakt zu realen Menschen stärkt, die im Notfall eingreifen und unterstützen können.

Hier findest du weiterführende Informationen: OpenAI