Die Firma räumte zugleich ein, dass die bisherigen Vorkehrungen, die unter anderem Nutzer zu einer Beratungs-Hotline verwiesen, bei längeren Unterhaltungen mit ChatGPT versagen können. Dann sei es möglich, dass die Software unerwünschte Antworten liefere. Man arbeite daran, dass die Schutzmaßnahmen auch bei längeren Unterhaltungen greifen, hieß es in einem Blogeintrag. Zudem werde erwogen, dass ChatGPT in Krisensituationen versuchen könnte, Kontakt zu von Nutzern eingetragenen Personen aufzunehmen.
Für Nutzer im Alter unter 18 Jahren soll es zusätzliche Sicherheitsmaßnahmen geben. OpenAI stellte etwa „stärkere Leitplanken bei sensiblen Inhalten und riskantem Verhalten“ in Aussicht. Eltern sollen sich besser darüber informieren können, wie ihre Kinder ChatGPT nutzen.
Bei Unterhaltungen mit ChatGPT, in denen Nutzer die Absicht bekunden, anderen zu schaden, greift OpenAI dem Blogeintrag zufolge bereits jetzt ein. Solche Unterhaltungen würden an ein spezielles Team weitergeleitet - und bei einer konkreten Bedrohungssituation würden auch Sicherheitsbehörden eingeschaltet. Der Familie des Teenagers drückte OpenAI „tiefste Sympathie“ aus und teilte mit, man prüfe die Klage.
Hilfsangebot und Anlaufstellen in Südtirol
Im akuten Notfall: Notrufnummer 112Bei psychischer Belastung:
- Psychologisches Krisentelefon 24/7: Grüne Nummer 800 101 800 (richtet sich sich hauptsächlich an Menschen in existenziellen Krisensituationen) zu jeder Tages- und Nachtzeit erreichbar
- Für jungen Menschen: Young+Direct: Montag bis Freitag (14:30 - 19:30 Uhr) telefonisch erreichbar unter 0471 155 1 551 - zu den gleichen Zeiten auch per WhatsApp Chat : 345 0817 056 - oder per Mail: online@young-direct.it
- Psychologische Dienste (zu Bürozeiten)
Bozen: 0471 435001
Meran: 0473 251960
Bruneck: 0474 586220
Brixen: 0472 813100
- Caritas Telefonseelsorge
Telefon: 0471 052 052 (rund um die Uhr)
www.telefonseelsorge.bz.it
Mailberatung: rund um die Uhr
Chatraum: Mo bis Do von 18 bis 21 Uhr
- Erste Hilfe im Krankenhaus (Bozen, Meran, Brixen und Bruneck) : Psychiatrischer Bereitschaftsdienst rund um die Uhr
- Weitere Anlaufstellen für betroffene Menschen und Angehörige:
www.suizid-praevention.it & www.dubistnichtallein.it
