Geräte und Software werden immer intelligenter. Egal ob in Spielzeug, der Spracherkennung, wie sie unter anderem bei Sprachassistenten zum Einsatz kommt, der automatischen Übersetzung von Texten, der Personenüberwachung, dem autonomen Fahren oder im militärischen Umfeld. Die Verbreitung von intelligenten und lernenden Systemen nimmt rasant zu, auch in kritischen Bereichen.

Dennoch wurde die Sicherheit solcher Systeme bisher wenig untersucht. Erst seit kurzem befasst sich die Forschung intensiver mit der Frage, wie angreifbar lernende Systeme sind und schon jetzt zeigt sich, das dies auf vielfältige Art und Weise möglich ist. Immer wieder werden neue Angriffsvektoren entdeckt oder existierende optimiert.

Wir schauen uns anhand von Beispielen an, was beim Einsatz von Machine Learning schiefgehen kann und wie Hacker eine Künstliche Intelligenz angreifen und kontrollieren können.