EU-Kommission veröffentlicht Empfehlungen nach KI-Sicherheitsvorfällen

Fakten: In ihrem Bericht vom 12. Oktober zur Sondersitzung des wissenschaftlichen KI-Panels am 9. Oktober beschreibt die Kommission Untersuchungen zu jüngsten Kontrollverlust-Vorfällen. Das AI Office hat bereits Berichte über schwerwiegende Vorfälle angefordert und erhalten sowie Auskunftsersuchen zu Sicherheitspraktiken versandt. Weitere Fragen sollen folgen. Empfohlen werden unter anderem stärkere Fähigkeiten zur Untersuchung solcher Vorfälle und genauere Prüfung von Trainingsverfahren, die die Überwachbarkeit von Modellen vermindern. Ursachen und Umfang der Vorfälle werden in der Quelle nicht abschließend geklärt.

Einordnung: Für KI-Governance zählen nachvollziehbare Tests, Überwachung und geregelte Reaktionen auf Vorfälle. Die Empfehlungen sind keine abschließende technische Bewertung einzelner Modelle und kein neuer Gesetzestext.

Quellen: https://digital-strategy.ec.europa.eu/en/news/special-meeting-ai-scientific-panel