Melden Sie sich hier an, um auf Kommentare und die Whitepaper-Datenbank zugreifen zu können.

Kein Log-In? Dann jetzt kostenlos registrieren.

Falls Sie Ihr Passwort vergessen haben, können Sie es hier per E-Mail anfordern.

Der Zugang zur Reseller Only!-Community ist registrierten Fachhändlern, Systemhäusern und Dienstleistern vorbehalten.

Registrieren Sie sich hier, um Zugang zu diesem Bereich zu beantragen. Die Freigabe Ihres Zugangs erfolgt nach Prüfung Ihrer Anmeldung durch die Redaktion.

Bekannte Unbekannte miteinbeziehen

Sophos kritisiert falsche Erwartungen an KI



Andreas Th. Fischer ist freier Journalist in München. Er verfügt über langjährige Erfahrung als Redakteur in verschiedenen IT-Fachmedien, darunter NetworkWorld Germany, com! professional und ChannelPartner. Seine fachlichen Schwerpunkte liegen in den Bereichen IT-Security, Netzwerke und Virtualisierung.
Man dürfe künstliche Intelligenz nicht mit menschlichem Denken gleichsetzen, warnt Sophos. Nur wenn man davon ausgehe, dass nur selten vollständige Informationen über eine Situation vorlägen, können nach Ansicht des Sicherheitsanbieters teilweise gravierende Folgen vermieden werden.

Bereits fangen die ersten Sicherheitsanbieter an, ihre Produkte um KI-Funktionen (Künstliche Intelligenz) zu ergänzen. So hat etwa F-Secure erst vor kurzem seine Lösung zur Endpoint Security um KI-Analysen erweitert, die unter anderem automatisch Maßnahmen zur Eindämmung von Angriffen auslösen können. Sophos hat sich nun in die Diskussion über die Vor- und Nachteile von KI in Security-Lösungen eingeschaltet.

"Es ist intelligent und auch Weise, die Grenzen des eigenen Wissens zu erkennen." Michael Veit, Technology Evangelist bei Sophos
"Es ist intelligent und auch Weise, die Grenzen des eigenen Wissens zu erkennen." Michael Veit, Technology Evangelist bei Sophos
Foto: Sophos

Nach Ansicht von Sophos werden viele Modelle des maschinellen Lernens »ohne eine grundsätzliche Unsicherheit trainiert«. Während des Trainings werde häufig davon ausgegangen, dass "die betreffenden Stichprobendaten eine vollkommene Sicht auf alles darstellen und dass sich die Beobachtungen nicht ändern". Laut Michael Veit, Technology Evangelist bei Sophos, ist das aber falsch: "So funktioniert Intelligenz in der realen Welt nicht. Menschen, so klug sie auch sein mögen, sind sich selten sicher. Und das zu Recht. Denn es fehlen in der Regel vollständige Informationen."

Ebenfalls interessant: Künstliche Intelligenz kann viel, aber nicht alles

Das könne ergeben, dass unvollständige Informationen zu katastrophalen Folgen führen. Veit: "Es ist intelligent und auch Weise, die Grenzen des eigenen Wissens zu erkennen." Er empfiehlt, sogenannte "bekannte Unbekannte" in die Entwicklung der Deep-Learning-Modelle mit einzubeziehen. "In einer Welt mit fiktiven, geschlossenen Annahmen, funktioniert die empirische Risikominimierung gut, aber in der realen, offenen Welt geht es um mehr", so Veit.

Darüber hinaus empfiehlt er ein "realistischeres Risikomanagement", das sowohl das empirische Risiko als auch das Risiko einer Kennzeichnung von unbekanntem Raum ausgleiche. Weitere Informationen und Links zu diesem Thema haben die Sophos Labs als Blog-Beitrag in englischer Sprache veröffentlicht.