Künstliche Intelligenz entwirft 40.000 Gifte, die für den Menschen tödlich sind

Symbolbild: Freepik, @albertyurolaits

Die Software brauchte für ihre “Forschung” gerade einmal sechs Stunden. Zielsetzung der Wissenschaftler von Collaborations Pharmaceuticals war es, möglichst viele neue Moleküle zu erdenken, die sich auf Menschen tödlich auswirken. Die Arbeit entstand im Rahmen der Konferenz Spiez Convergence, die sich mit der Biowaffenkonvention auseinandersetzt. Einige der solchermaßen erfundenen Gifte sind wirkungsvollster als der tödlichste bekannte chemische Kampfstoff.

Die Substanz VX (O-Ethyl-S-2-diisopropylaminoethylmethylphosphonothiolat) ist der verbreitetste Vertreter der V-Klasse chemischer Kampfstoffe. Es handelt sich um eine farblose bis gelbliche, nach verfaultem Fisch riechende Flüssigkeit. Das Gift dringt über die Haut, die Augen und die Atemwege in den Körper ein und verursacht zuerst Husten und Übelkeit. Dann lähmt es die Atemmuskulatur und führt innerhalb weniger Minuten unter starken Krämpfen und Schmerzen zum Tod. Die LD50 für einen durchschnittlichen Erwachsenen liegt bei etwa 1 mg bei respiratorischer Aufnahme (über die Atemwege), beziehungsweise 10 mg bei Aufnahme über die Haut (Quelle: Chemie.de).

Ähnlich wie VX waren etliche der “Erfindungen”, welche durch die eingesetzte “Künstliche Intelligenz” innerhalb von nur sechs Stunden gemacht wurden. Das Pharmaunternehmen setzt seine KI sonst dazu ein, um Wirkstoffe zu erschaffen, die möglichst wenig giftige Wirkungen aufweisen. Dabei werden auf der Basis des vorliegenden Wissens neue Moleküle modelliert und automatisiert auf ihre potenzielle Giftigkeit untersucht und bewertet. Der leitende Wissenschaftler Fabio Urbina erklärte, dass die Trefferquote dieser Bewertungen sehr hoch wäre.

Statt minimaler wurde maximale Giftigkeit erforscht

Der Vorschlag, die KI für finstere Zwecke umzuprogrammieren, war von den Veranstaltern der Convergence Conference gekommen, einer in der Schweiz stattfindenden Fachkonferenz, die Implikationen neuer Entwicklungen für die Chemie- und Biowaffenkonvention diskutiert. Die Idee war, ein System, das dazu erdacht wurde, jegliche Giftigkeit von Wirkstoffen zu vermeiden, dazu einzusetzen, um maximale Giftigkeit zu erzielen. Dazu musste im Programm nicht viel geändert werden – die Resultate waren umfassend. Etliche Resultate dürften sogar zu Ergebnissen geführt haben, die noch weitaus giftiger als das oben beschriebene VX und in noch winzigeren Mengen tödlich sind.

Die Wissenschaftler wollen den Versuch als “Weckruf” verstehen. Mit Erfahrung in Toxikologie und Chemie könnte man manche dieser Stoffe herstellen. Es wäre nicht so schwer, einige dieser Moleküle herzustellen – nach einem Wochenende Arbeit käme man mit dem entsprechenden Fachwissen schon ziemlich weit. Die Entdeckungen wurden im Fachmagazin “Nature Machine Intelligence” veröffentlicht, allerdings freundlicherweise ohne konkrete und nachvollziehbare Anleitung diese Giftstoffe zu fertigen.

Es ist ganz einfach …

For me, the concern was just how easy it was to do. A lot of the things we used are out there for free. You can go and download a toxicity dataset from anywhere. If you have somebody who knows how to code in Python and has some machine learning capabilities, then in probably a good weekend of work, they could build something like this generative model driven by toxic datasets. So that was the thing that got us really thinking about putting this paper out there; it was such a low barrier of entry for this type of misuse.

Fabio Urbina, Senior Scientist bei Collaborations Pharmaceuticals, Inc., leitender Autor der Studie.

Auf Deutsch: “Für mich war die Sorge, wie einfach es zu tun war. Viele der Dinge, die wir verwendet haben, sind kostenlos da draußen. Sie können von überall aus einen Toxizitätsdatensatz herunterladen. Wenn Sie jemanden haben, der weiß, wie man in Python codiert und über Fähigkeiten im maschinellen Lernen verfügt, könnte er an einem wahrscheinlich guten Wochenende so etwas wie dieses generative Modell erstellen, das von toxischen Datensätzen angetrieben wird. Das war es also, was uns dazu gebracht hat, wirklich darüber nachzudenken, dieses Papier herauszubringen; es war eine so niedrige Eintrittsbarriere für diese Art von Missbrauch.

We can easily erase the thousands of molecules we created, but we cannot delete the knowledge of how to recreate them.

Fabio Urbina, Senior Scientist bei Collaborations Pharmaceuticals, Inc., leitender Autor der Studie.

Auf Deutsch: “Wir können die Tausenden von Molekülen, die wir geschaffen haben, leicht löschen, aber wir können das Wissen darüber, wie man sie neu erzeugt, nicht löschen.”

Neue Gifte könnten einfach bei Syntheselabors bestellt werden

Die Herstellung könnte ebenso sehr einfach sein und müsste nicht einmal in finsteren Kellern stattfinden. So erklärt der Forscher, dass man neue Moleküle in sehr vielen Firmen herstellen lassen kann. Dort werde zwar darauf geachtet, nichts zu fertigen, was den bekannten Kriterien chemischer Kampfstoffe oder Gifte entspricht – aber das gilt eben nur für bekannte Substanzen. Bei völlig neuen, unbekannten Toxinen, wie sie durch die KI erdacht wurden, wäre es möglich dass ein auf die Synthese von Molekülen spezialisiertes Labor dieses einfach herstellt und per Post zusendet, ohne dass Fragen gestellt werden. Weltweit gibt es zahlreiche Unternehmen, die dazu in der Lage wären.

Überlegt man nun, wie viele Bio- und Biowaffenlabors alleine die USA betreibt – viele davon im Ausland wegen der dort “günstigeren” Gesetzeslage, kann man in etwa erahnen, in welcher Gefahr sich die Menschheit befindet. Denn es gilt auch der Grundsatz: Alles was möglich ist, wird irgendwann auch passieren. Und es wäre naiv anzunehmen, dass dort nicht schon längst solche Forschungen in Gange sind. Nach Veröffentlichung dieser Studie sind sie das unter Garantie.

Lesen Sie auch:

Share on telegram
Share on whatsapp
Share on facebook
Share on vk
Share on twitter
Share on email

Wenn Sie mit dafür sorgen möchten, dass unser unabhängiger Journalismus weiterhin eine Gegenstimme zu regierungstreuen und staatlich geförderten Medien bildet, unterstützen Sie uns bitte mit einer Spende!

Informationen abseits des Mainstreams werden online mehr denn je bekämpft. Um schnell und zensursicher informiert zu bleiben, folgen Sie uns auf Telegram oder abonnieren Sie unseren Newsletter! Wenn Sie mit dafür sorgen möchten, dass unser unabhängiger Journalismus weiterhin eine Gegenstimme zu regierungstreuen und staatlich geförderten Medien bildet, freuen wir uns außerdem sehr über Ihre Unterstützung.

Unterstützen Sie Report24 via Paypal:

Share on telegram
Share on whatsapp
Share on facebook
Share on vk
Share on twitter
Share on email

Neueste Artikel