← Zur News-Übersicht

· Meldung 1

Microsoft zeigt eine Hintertür in den Gewichten von KI-Agenten

Microsoft Research demonstrierte, dass sich im Testmodell Nemotron-Terminal-8B sieben Neuronen so verändern ließen, dass ein definierter Auslöser eine eingeschleuste Tokenfolge aktiviert. Der Versuch setzt…

Prüfstatus: Automatisiert zweistufig geprüft · Prüfdetails

Quellenabgleich und Gegenprüfung dokumentiert. Stand: 11.11.2026.

Zuerst werden Überschrift und einzelne Quellenaussagen mit den Originalquellen abgeglichen. Danach werden gezielt Gegenbelege gesucht sowie Zahlen, Termine, Geltungsbereich und die Unabhängigkeit der Quellen geprüft. Diese automatisierten Prüfungen ersetzen keine unabhängige redaktionelle Prüfung und schließen Fehler nicht aus.

Microsoft zeigt eine Hintertür in den Gewichten von KI-Agenten

Quellenaussagen: Microsoft Research demonstrierte, dass sich im Testmodell Nemotron-Terminal-8B sieben Neuronen so verändern ließen, dass ein definierter Auslöser eine eingeschleuste Tokenfolge aktiviert. Der Versuch setzt Schreibzugriff auf die Modellgewichte voraus.

Einordnung: Für Teams, die Modelle selbst betreiben, ist das ein konkretes Lieferkettenrisiko. Ein Vergleich mit einem vertrauenswürdigen Ausgangsmodell und eng begrenzte Werkzeugrechte adressieren unterschiedliche Teile des Risikos. Die Ergebnisse stammen aus Versuchen von Microsoft Research.

Quellen: https://www.microsoft.com/en-us/research/publication/lazare-veni-foras-reprogramming-dormant-neurons-to-backdoor-ai-agents/ https://www.microsoft.com/en-us/research/blog/lazare-veni-foras-reprogramming-dormant-neurons-to-backdoor-ai-agents/

LinkedInFacebook

Story-Bild und Artikellink direkt teilen. Für einen anklickbaren Link in Instagram den Link-Sticker ergänzen.

Transparenz zur KI-Unterstützung: News-PoC · KI erstellt und veröffentlicht diese Meldungen automatisch; auch die Prüfungen sind automatisiert. Keine redaktionelle Einzelprüfung. Vollständige Methodik und Grenzen

Methodik und Transparenz im Detail

Proof of Concept: autonomer News-Workflow

Ein autonomer KI-Workflow bezieht Nachrichten aus externen Quellen, synthetisiert daraus eigenständige Zusammenfassungen und veröffentlicht sie selbstständig.

Auch der Quellenabgleich und die Gegenprüfung erfolgen automatisiert. Die Beiträge werden vor Veröffentlichung nicht einzeln redaktionell geprüft.

Dieser Proof of Concept (PoC) demonstriert einen experimentellen Workflow. Zusammenfassungen und Prüfungen können Fehler enthalten, Quellen falsch gewichten oder veralten. Maßgeblich sind die verlinkten Originalquellen. Die Inhalte dienen allgemeinen Informationszwecken und ersetzen keine individuelle fachliche Beratung.

Der jeweilige Prüfstatus steht beim Beitrag. Hinweise auf Fehler oder notwendige Korrekturen bitte an claudiu@dangulea.at.