Künstliche Intelligenz KI-Entwickler blockiert Biowaffen-Recherchen Das US-Unternehmen Anthropic hat nach eigenen Angaben mehrere Fälle missbräuchlicher Nutzung seines KI-Modells unterbunden. Dabei sei es auch um mutmaßliche Cyberspionage aus Russland und biologische Waffen gegangen. Der KI-Entwickler Anthropic hat nach eigenen Angaben mehrere Versuche von Forschern unterbunden, Modelle ihrer Software Claude rund um die mögliche Entwicklung von Biowaffen zu nutzen. Die Ziele solcher Anfragen seien schwer zu ermitteln, da die Forschung sowohl medizinischen als auch militärischen Zwecken dienen könne, hieß es.

Auf jeden Fall zeigten die Versuche aber, dass Wissenschaftler aus blockierten Regionen heimlich auf Künstliche Intelligenz amerikanischer Entwickler zuzugreifen versuchten. Ausführlicher Bericht Weder die Forschungseinrichtungen noch die Länder, aus denen sie stammen, wurden genannt. Es gehe um fünf Fälle mit Bezug zu möglicher Biowaffen-Forschung, teilte das US-Unternehmen mit. Dabei sei keine konkrete wissenschaftliche Hilfe gesucht worden, sondern eher organisatorische Unterstützung, etwa beim Verfassen von Papieren.

KI-Modelle sind darauf getrimmt, Hilfestellung bei der Entwicklung biologischer Waffen zu verweigern. In der Forschung sei es aber manchmal aber schwierig, eine klare Trennlinie zwischen harmlosen und bösartigen Absichten zu ziehen, erklärte Anthropic. Der Konzern hatte am Donnerstag einen ausführlichen Bericht über versuchten Missbrauch seiner KI-Modelle veröffentlicht. Demnach habe er in vergangenen acht Monaten zahlreiche Fälle von missbräuchlicher Nutzung von Claude unterbunden.

Künstliche Intelligenz KI-Entwickler blockiert Biowaffen-Recherchen Das US-Unternehmen Anthropic hat nach eigenen Angaben mehrere Fälle missbräuchlicher Nutzung seines KI-Modells unterbunden. Dabei sei es auch um mutmaßliche Cyberspionage aus Russland und biologische Waffen gegangen. Der KI-Entwickler Anthropic hat nach eigenen Angaben mehrere Versuche von Forschern unterbunden, Modelle ihrer Software Claude rund um die mögliche Entwicklung von Biowaffen zu nutzen. Die Ziele solcher Anfragen seien schwer zu ermitteln, da die Forschung sowohl medizinischen als auch militärischen Zwecken dienen könne, hieß es.

Auf jeden Fall zeigten die Versuche aber, dass Wissenschaftler aus blockierten Regionen heimlich auf Künstliche Intelligenz amerikanischer Entwickler zuzugreifen versuchten. Ausführlicher Bericht Weder die Forschungseinrichtungen noch die Länder, aus denen sie stammen, wurden genannt. Es gehe um fünf Fälle mit Bezug zu möglicher Biowaffen-Forschung, teilte das US-Unternehmen mit. Dabei sei keine konkrete wissenschaftliche Hilfe gesucht worden, sondern eher organisatorische Unterstützung, etwa beim Verfassen von Papieren.

KI-Modelle sind darauf getrimmt, Hilfestellung bei der Entwicklung biologischer Waffen zu verweigern. In der Forschung sei es aber manchmal aber schwierig, eine klare Trennlinie zwischen harmlosen und bösartigen Absichten zu ziehen, erklärte Anthropic. Der Konzern hatte am Donnerstag einen ausführlichen Bericht über versuchten Missbrauch seiner KI-Modelle veröffentlicht. Demnach habe er in vergangenen acht Monaten zahlreiche Fälle von missbräuchlicher Nutzung von Claude unterbunden.

Dazu zählten auch eine mutmaßlich von Russland gesteuerte Cyberspionage-Kampagne sowie Versuche chinesischer KI-Firmen, die Fähigkeiten zu kopieren oder Trainingsdaten zu klauen, um Entwicklungskosten zu senken. OpenAI will Tempo verlangsamen Eine Hackergruppe soll darüber hinaus mithilfe der KI Angriffe auf Ziele in der ukrainischen Regierung, des Militärs und des diplomatischen Sektors verübt haben, hieß es weiter. Zudem identifizierte Anthropic nach eigenen Angaben weitere Akteure, die Claude zur Entwicklung von Software für konventionelle Waffen wie Schusswaffen, Raketen und Drohnen missbrauchen. Jacob Klein, Leiter der Bedrohungsanalyse bei Anthropic, sagte in einem Interview, dass die Modelle leistungsfähiger geworden seien, was neue Risiken mit sich bringe: "Vor einem Jahr wären die Modelle für eine Aufgabe wie die Optimierung einer Drohne oder der Software einer Rakete einfach nicht so gut gewesen wie heute." Bereits im Juni hatten Mitarbeitende des Forschungszweigs des Unternehmens vor der rasanten Entwicklung gewarnt und eine Verlangsamung gefordert.

Genau darüber denkt offenbar gerade der Konkurrent OpenAI nach. Medienberichten zufolge sagte Vorstandschef Sam Altman in dieser Woche bei einer unternehmensweiten Versammlung, der Entwickler des Chatbots ChatGPT könne das Tempo seiner KI-Entwicklung möglicherweise drosseln - eventuell gemeinsam mit mehreren anderen KI-Laboren. Andere Unternehmen könnten sich dem jedoch verweigern, berichtet die Finanznachrichtenagentur Bloomberg unter Berufung auf Insider. OpenAI selbst kommentierte den Bericht nicht.

Ex-Mitarbeiter warnt Ende Juli unterzeichneten mehr als 1.000 Beschäftigte aller großen KI-Unternehmen eine Petition, in der sie einen Mechanismus für eine langsamere Entwicklung forderten. Angestellte warnten öffentlich vor den zunehmenden Risiken fortschrittlicher KI-Systeme. Jüngstes Beispiel: Der Anthropic-Mitarbeiter Jacob Coxon kündigte seinen Job und begründete den Schritt damit, dass KI‑Firmen unverantwortlich handelten und "mit unseren Leben" spielten. Bald werde es Computersysteme geben, deren Fähigkeiten die von Menschen überträfen.

"Die Leute, die KI entwickeln, glauben ernsthaft, dass sie zum Ende des Jahrzehnts alle töten könnte", schrieb Coxon auf X. Dem Wall Street Journal sagte der 27-jährige Brite, nach den "aggressivsten Szenarien" könnten die Dinge bereits Ende kommenden Jahres außer Kontrolle geraten. Als eine zentrale Gefahr sieht er KI, die sich selbst weiterentwickeln kann - und damit schwer zu kontrollieren ist. Ein Weckruf für die Branche waren in den vergangenen Monaten Hacking-Attacken, bei denen sogenannte KI-Agenten in Testläufen eigenständig in Systeme anderer Unternehmen eindrangen.

Sie hatten sich Zugang zu Online-Plattformen verschafft, falsche Identitäten angelegt und dabei auch Menschen getäuscht und manipuliert. Solche Agenten sind Programme mit KI, die selbstständig Aufgaben für die Nutzer erfüllen sollen. Sowohl OpenAI als auch Anthropic hatten Fälle offengelegt. Notfalls lässt sich jedes System abschalten Es sei erstaunlich, wie weit KI in einer Testumgebung gehe, um ein Ziel zu verfolgen, sagt Pascal Kiss aus der ARD-Wissensredaktion.

"Aber man muss auch immer sagen: KI-Agenten selbst kommen nicht selbstständig auf die Idee, böse oder gefährliche Absichten zu verfolgen. Es braucht immer einen Input von einem Menschen." Dieser sei die viel größere Gefahr. Ähnlich sieht das Armin Grunwald, Leiter des Büros für Technikfolgenabschätzung beim Deutschen Bundestag und Professor für Technikphilosophie am Karlsruher Institut für Technologie (KIT). Zwar könnten durch den KI-Einsatz "wirklich ganz schwerwiegende Dinge passieren", sagte er gegenüber ARD Wissen.

Doch sehe er "keine Auslöschung der Menschheit". Zudem könne KI quasi in Echtzeit überwacht werden, also mit Filtern und einem Art Warnsystem, ergänzt Kiss. "Aktuell lässt sich jedes KI-System im Notfall abschalten." Und das werde auch in Zukunft gelingen können, wenn auch mit deutlich mehr Aufwand. Trotzdem gebe es mit den Modellen eine Technologie, "die deutlich schwerer zu kontrollieren ist, als wahrscheinlich bisher alles, was man hatte".

Deshalb werde die Sicherheitsfrage immer wichtiger - auch für Behörden. Verkümmern menschliche Fähigkeiten? Nach Einschätzung von OpenAI-Forschungschef Jakub Pachocki, sollten sich die KI-Firmen selbst "nach Bedarf abstimmen, um die Entwicklung zu verlangsamen, bis gemeinsame Sicherheitsstandards etabliert sind". KI-Systeme seien ein Produkt komplexer Prozesse, erklärte Pachowki in einem Blogeintrag.

"Unsere groß angelegten Trainingsläufe sind Experimente - und wir sind manchmal überrascht von ihren Ergebnissen." Je mehr die Fähigkeiten der Maschinen die menschlichen überträfen, desto schwieriger werde es zu verstehen, wozu sie in der Lage seien. KIT-Fachmann Grunwald plädiert dafür, andere Gefahren durch Künstliche Intelligenz in den Fokus zu rücken. Dazu gehöre, dass einige glaubten, grundlegende menschliche Fähigkeiten gar nicht mehr erlernen oder weiterentwickeln zu müssen. Mit Informationen von Frank Wittig und Pascal Kiss, ARD Wissen, und Till Bücker, ARD-Finanzredaktion.