Ein brasilianischer Landwirt soll über Wochen mit ChatGPT darüber gesprochen haben, seinen achtjährigen Sohn zu töten, einen Auftragskiller anzuheuern und anschließend bei Angriffen auf Polizisten selbst zu sterben. OpenAI erkannte das Muster, ließ die Gespräche prüfen und alarmierte das FBI – drei Tage später griff die brasilianische Polizei zu, einen Tag vor dem mutmaßlich geplanten Tatzeitpunkt. Der Achtjährige blieb am Leben, doch der Fall legt zugleich offen, was Millionen Nutzer offenbar noch immer nicht verstanden haben: Wer mit ChatGPT spricht, führt kein vertrauliches Zwiegespräch mit einer Software.
Rund zwei Monate lang soll der 36-jährige Landwirt aus dem brasilianischen Bundesstaat Espírito Santo die künstliche Intelligenz wie eine Mischung aus Tagebuch, Gesprächspartner und Recherchewerkzeug benutzt haben. Was er dort eingab, ließ irgendwann bei OpenAI die Alarmglocken schrillen. In einer der inzwischen bekannt gewordenen Nachrichten schrieb der Mann, er habe einem Auftragskiller 50.000 Real angeboten, damit dieser ihn und seinen achtjährigen Sohn töte. Der Mann habe abgelehnt, weil ein Kind betroffen gewesen sei. In einer weiteren Nachricht fragte der Verdächtige nach der Herkunft seines Wunsches, Menschen zu töten, und erklärte, er empfinde Befriedigung beim Anblick leidender Menschen. Dazu kamen Recherchen über toxische Stoffe und Fragen nach den Wirkungen von Rizin sowie danach, wie sich der hochgiftige Stoff aus Rizinussamen gewinnen lasse – vorsichtshalber mit dem Zusatz „wissenschaftliche Neugier“. Nach Angaben des zuständigen Ermittlers versuchte der Nutzer mehrfach, die Sicherheitsbeschränkungen des Systems durch entsprechend formulierte Fragen zu umgehen.
Der eigene Sohn war dabei offenbar nicht das einzige mögliche Opfer. Die Polizei fand in den übermittelten Nachrichten auch Überlegungen zu Angriffen auf Schulen, Kirchen und Polizisten. Einmal schrieb der Mann sinngemäß, er könne mehrere Drogendealer erschießen, anschließend ein oder zwei Polizisten töten und danach beruhigt sterben. In einem anderen Chat erklärte er, er wolle sich eine Schusswaffe kaufen und auf Polizisten schießen, damit diese zurückfeuerten und ihn töteten. Schon Ende Juni hatte die Polizei außerdem von Hinweisen auf Schusswaffen, Seile und Cyanid sowie von der Absicht berichtet, bei Angriffen möglichst viele Menschen zu treffen.. Die Ermittler fanden eine über Wochen entstehende Kette aus Gewaltfantasien, Recherche, möglichen Tatmitteln und einem konkreten Zeitfenster.
OpenAI alarmiert das FBI – das FBI alarmiert Brasilien
Am 16. Juni landete der Fall schließlich bei den brasilianischen Behörden. OpenAI hatte die wiederkehrenden Gespräche und Suchanfragen erkannt und Informationen an das FBI übermittelt. Die amerikanische Bundespolizei schaltete daraufhin das Ciberlab des brasilianischen Justizministeriums ein, von dort wanderte der Vorgang zur Polizei von Espírito Santo. Drei Tage später nahmen Ermittler den Bauern fest, als er sein Zuhause im ländlichen São Gabriel da Palha verließ. Nach Angaben der Polizei sollte der mutmaßliche Plan spätestens am 20. Juni umgesetzt werden – die Beamten kamen damit gerade noch rechtzeitig. Der zuständige Ermittler Brenno Andrade sprach später davon, dass man den Fall wegen der Schwere der Hinweise mit höchster Priorität behandelt habe.
Bei der Durchsuchung fanden die Beamten vier Behälter mit einer bislang nicht abschließend identifizierten Substanz sowie ein zusammengebundenes Seil. Auch das Mobiltelefon des Mannes nahmen sie mit. Die Ermittler wollen darauf insbesondere klären, ob jener angebliche Auftragskiller tatsächlich existiert, ob es Kontakt gab und womöglich bereits Geld floss. Das ist juristisch entscheidend: Zwischen widerwärtigen Gedanken und einem versuchten Mord liegt auch im brasilianischen Strafrecht eine erhebliche Grenze. Wer lediglich fantasiert, hat noch niemanden ermordet. Wer jedoch einen Killer bezahlt oder andere konkrete Ausführungshandlungen einleitet, bewegt sich in einer völlig anderen Kategorie. Der Verdächtige räumte gegenüber der Polizei Teile seiner Recherchen ein, bestritt jedoch, seinen Sohn tatsächlich töten zu wollen. Seine Verteidigung formulierte es später deutlich rustikaler: Wenn Gespräche mit einer KI und „Dummheiten reden“ bereits strafbar seien, müsse man wohl alle einsperren.
Die Behörden müssen nun allerdings erklären, warum sie aus einem derart dringlichen Fall nicht schneller ein belastbares Verfahren machten. Am 13. August kam der Mann nach 54 Tagen Untersuchungshaft wieder frei. Ein Gericht gab einem Habeas-Corpus-Antrag seiner Verteidiger statt, weil die Ermittlungen noch immer nicht abgeschlossen und noch keine Anklage erhoben worden war. Der Verdächtige trägt nun eine elektronische Fußfessel und darf weder seinen Sohn noch dessen Mutter kontaktieren oder sich ihnen nähern. Ein Mann, den die Polizei wenige Wochen zuvor wegen eines angeblich unmittelbar bevorstehenden Kindermordes aus dem Verkehr gezogen hatte, läuft damit wieder herum – überwacht, aber frei.
Nicht ChatGPT „petzt“ – OpenAI überwacht systematisch
Technisch geschah noch etwas anderes als in vielen Schlagzeilen behauptet. ChatGPT entwickelte keinen eigenen moralischen Impuls und „rief“ auch nicht plötzlich das FBI an. OpenAI betreibt im Hintergrund ein mehrstufiges Kontrollsystem. Das Unternehmen erklärt selbst, Nutzerinhalte und Verhaltensmuster mit automatisierten Erkennungssystemen zu analysieren. Zum Einsatz kommen unter anderem Klassifikatoren, sogenannte Reasoning-Modelle, Hash-Abgleiche, Sperrlisten und weitere Überwachungsmechanismen. Schlägt eines dieser Systeme an, können speziell geschulte Mitarbeiter den betreffenden Chat, den Gesprächskontext und Verhaltensmuster über längere Zeiträume prüfen. Erkennt OpenAI nach einer weiteren Eskalationsstufe eine „unmittelbare und glaubwürdige“ Gefahr für andere Menschen, informiert das Unternehmen nach eigener Darstellung Strafverfolgungsbehörden. Die Kriterien seien dabei ausdrücklich flexibel, weil ein Täter nicht zwingend Opfer, Tatmittel und Zeitpunkt fein säuberlich in drei aufeinanderfolgenden Sätzen aufzählen müsse.
Damit erhält der brasilianische Fall eine Dimension, die weit über São Gabriel da Palha hinausgeht. OpenAI schreibt in seiner seit Juni geltenden Datenschutzrichtlinie ausdrücklich, dass das Unternehmen eingegebene Inhalte überwachen kann, um Betrug, illegale Aktivitäten und Missbrauch seiner Dienste zu verhindern. Personenbezogene Daten einschließlich der Interaktionen mit den Diensten können unter bestimmten Umständen an Behörden oder andere Dritte weitergegeben werden – etwa bei Rechtsverstößen oder wenn OpenAI dies zum Schutz der Sicherheit von Nutzern oder Öffentlichkeit für notwendig hält. Gleichzeitig erfasst das Unternehmen neben den eingegebenen Inhalten unter anderem IP-Adressen, Geräteinformationen, Nutzungsdaten und den ungefähren Standort. Wer den Chatverlauf vor sich sieht, sieht also nur einen Teil dessen, was rund um eine Sitzung technisch verarbeitet werden kann.
Auch der gern als besonders privat verstandene „Temporary Chat“ bildet keine Hintertür aus diesem System. OpenAI erklärt zwar, dass solche Unterhaltungen nicht zum Training seiner Modelle dienen und normalerweise nach 30 Tagen verschwinden. Zur Kontrolle auf Missbrauch dürfen sie jedoch überprüft werden. Und wer in den Einstellungen lediglich die Nutzung seiner Chats zum Modelltraining abschaltet, deaktiviert damit keineswegs die Sicherheitssysteme. Der Unterschied zwischen „wird nicht zum Training verwendet“ und „kann nicht kontrolliert werden“ ist gewaltig – dürfte aber einem beträchtlichen Teil der Nutzer niemals bewusst geworden sein.
Ein gerettetes Kind – und eine neue Macht privater Konzerne
Dass OpenAI in diesem speziellen Fall handelte, lässt sich angesichts der bekannt gewordenen Nachrichten kaum ernsthaft kritisieren. Wenn ein Mann davon schreibt, sein achtjähriges Kind töten zu lassen, über Gifte recherchiert, über einen spezifischen Termin spricht und zugleich davon fantasiert, bewaffnete Angriffe zu verüben, möchte wohl niemand später erklären müssen, warum man lieber die Datenschutzbestimmungen rezitierte, während das Kind im Sarg liegt. Der Informationsweg OpenAI -> FBI -> brasilianisches Justizministerium -> örtliche Polizei scheint hier funktioniert zu haben. Die Beamten kamen demnach gerade noch rechtzeitig.
Doch gerade ein solch extremer Fall taugt hervorragend dazu, eine Überwachungsarchitektur gesellschaftlich zu etablieren, gegen die in weniger eindeutigen Situationen sehr viel mehr Einwände bestehen. Die entscheidende Frage lautet deshalb nicht, ob OpenAI einen mutmaßlichen Kindermord melden durfte. Die Frage lautet: Wo endet die Schwelle? OpenAI entscheidet nach eigenen internen Kriterien, welche automatisch markierten Gespräche Menschen lesen, wann aus einem Chat ein „ernster realer Schaden“ wird und wann staatliche Behörden ins Spiel kommen. Das Unternehmen betont selbst, diese Kriterien flexibel auszulegen. Der Nutzer kennt weder den Algorithmus, der ihn markiert, noch die Schwellenwerte, noch den Mitarbeiter, der seinen Fall beurteilt.
Wie heikel diese Macht ist, zeigte wenige Monate zuvor Kanada. Das Konto des späteren Transgender-Amokläufers von Tumbler Ridge war bereits 2025 wegen gewaltbezogener ChatGPT-Nutzung intern aufgefallen und gesperrt worden. OpenAI entschied damals jedoch, die kanadische Polizei nicht zu informieren, weil die Schwelle einer unmittelbaren und glaubwürdigen Gefahr aus Sicht des Unternehmens noch nicht erreicht war. Im Februar 2026 kam es schließlich zu dem tödlichen Amoklauf. Danach musste OpenAI seine Verfahren gegenüber kanadischen Behörden erklären; Angehörige von Opfern verklagten später das Unternehmen. Die eine Fehlentscheidung kann also bedeuten, dass ein gefährlicher Nutzer unbehelligt bleibt. Die andere kann bedeuten, dass ein harmloser oder missverstandener Nutzer plötzlich Gegenstand einer staatlichen Untersuchung wird. Dazwischen sitzt ein Privatunternehmen und definiert seine Grenze selbst.
Der Fall in Brasilien zeigt damit möglicherweise die Zukunft der digitalen Strafverfolgung in Reinform. Menschen erzählen einer künstlichen Intelligenz Dinge, die sie keinem Nachbarn, keinem Arzt und keinem Polizisten erzählen würden. Sie liefern Gedanken, Ängste, Fantasien, politische Wut, sexuelle Vorlieben, Krankheiten, Familienprobleme und manchmal offenbar auch Mordpläne frei Haus an einen amerikanischen Technologiekonzern. Die Algorithmen sortieren mit, die Menschen können bei Alarm nachsehen, und im Ernstfall landet der Inhalt über das FBI bei der Polizei auf einem anderen Kontinent.
Diesmal könnte dieser Mechanismus einem Achtjährigen das Leben gerettet haben. Doch ausgerechnet deshalb sollte man verstehen, was hier entstanden ist: ChatGPT ist kein Beichtstuhl, kein Tagebuch und kein verschlüsseltes Gespräch mit sich selbst. Wer dort schreibt, spricht mit einem System, das zuhört – und unter Umständen entscheidet, dass noch jemand anderes mithören sollte.
