OpenAI sperrte Konto der Kanada-Verdächtigen acht Monate vor Amoklauf – Politik | ABC-Z
OpenAI hatte die Verdächtige eines der schlimmsten Amokläufe in der Geschichte Kanadas wegen Verstoßes gegen die ChatGPT-Nutzungsrichtlinien gesperrt und gebannt, ohne sie den Behörden zu melden. Das Unternehmen für Künstliche Intelligenz erklärte, dass die mutmaßliche Täterin ein Konto hatte, das vor etwa acht Monaten von Systemen entdeckt wurde, die nach Missbrauch scannen, einschließlich der möglichen Förderung gewalttätiger Aktivitäten.
Die kanadische Polizei wirft der 18-Jährigen vor, Anfang Februar acht Menschen getötet und etwa 25 verletzt zu haben, bevor sie sich in der abgelegenen westkanadischen Kleinstadt Tumbler Ridge selbst das Leben nahm.
OpenAI identifizierte vor etwa acht Monaten ein mit der Verdächtigen verknüpftes Konto mithilfe von Tools zur Erkennung des Missbrauchs seiner KI-Modelle zur Förderung gewalttätiger Aktivitäten und sperrte es, so das Unternehmen.
Das Wall Street Journal berichtete zunächst über OpenAIs Identifizierung der Verdächtigen. Unter Berufung auf anonyme Quellen schrieb die Zeitung, die mutmaßliche Täterin habe „über mehrere Tage hinweg Szenarien mit Waffengewalt beschrieben”, was eine interne Debatte unter etwa einem Dutzend Mitarbeitern ausgelöst habe, von denen einige die Führung drängten, die Polizei zu alarmieren.
OpenAI erklärte, man habe damals erwogen, das Konto den Strafverfolgungsbehörden zu melden, aber keine glaubwürdige oder unmittelbar bevorstehende Planung identifiziert und festgestellt, dass die Schwelle dafür nicht erreicht sei. Nach der Schießerei kontaktierte das Unternehmen die kanadischen Behörden.
„Unsere Gedanken sind bei allen, die von der Tragödie in Tumbler Ridge betroffen sind”, teilt ein OpenAI-Sprecher mit. „Wir haben uns proaktiv an die Royal Canadian Mounted Police gewandt und Informationen über die Person und ihre Nutzung von ChatGPT bereitgestellt, und wir werden ihre Ermittlungen weiterhin unterstützen.”
Das Unternehmen erklärte, ChatGPT werde darauf trainiert, unmittelbare Schäden in der realen Welt zu verhindern.
Bei dem Amoklauf in Tumbler Ridge, einer Kleinstadt mit rund 2000 Einwohnern in der Provinz British Columbia, hatte die 18-jährige mutmaßliche Täterin Anfang Februar das Feuer auf Menschen eröffnet. Acht Menschen wurden getötet, etwa 25 weitere verletzt. Die Tat gilt als einer der schwersten Amokläufe in der kanadischen Geschichte. Die Täterin nahm sich anschließend selbst das Leben. Die Hintergründe der Tat sind noch unklar, die Ermittlungen dauern an.
