Bei einer KI sind besondere Maßnahmen nötig, um jederzeit sicherzustellen, dass sie noch korrekt arbeitet.

Da eine KI in einem System wie eine Black Box agiert, ist es eine besondere Herausforderung, ihre Funktionalität im laufenden Betrieb zu überwachen. Stefan Schütz und Manuel Ott diskutieren Möglichkeiten, wie dies in einem Embedded-Vision-Projekt realisiert werden kann. Viele dieser Überlegungen wurden bereits für Anwendungen mit klassischer Bildanalyse auf Algorithmen-Basis verwendet und werden auch in Zukunft relevant bleiben.