Neuen Forschungsergebnissen zufolge könnten selbstfahrende Autos von externen Kräften gekapert werden, die in der Lage sind, die Systeme der künstlichen Intelligenz (KI) zu modifizieren, die die Fahrzeuge antreiben. Ein McAfee-Bericht weist darauf hin, dass das künstliche Intelligenzsystem eines Fahrzeugs manipuliert werden kann, was Auswirkungen auf die Zukunft und Sicherheit autonomer Fahrzeuge haben könnte. Dieser Prozess, den McAfee als „Modell-Hacking“ bezeichnet, ist in der Lage, heute käuflich erhältliche Fahrzeugsoftwaresysteme, einschließlich Tesla-Modelle, vollständig zu ersetzen.
Model-Hacking
Die Teams Advanced Threat Research (ATR) und Advanced Analytics von McAfee konnten mithilfe „kleiner Modifikationen“ einen gezielten Angriff auf die Blackbox des Mobileye EyeQ3-Kamerasystems durchführen, die in vielen modernen Fahrzeugen, darunter auch einigen Tesla-Modellen, zu finden ist. Dieser Angriff ermöglichte es Forschern, die Technologie der künstlichen Intelligenz in einem Hardwarepaket für den Einsatz des Tesla Model S 1 zu manipulieren, um fälschlicherweise ein Tempolimitschild mit der Aufschrift 35 zu klassifizieren, was zu einer Beschleunigung auf 85 Meilen pro Stunde führte. Beim Hacken von Modellen werden die Algorithmen angegriffen, die bei der Definition der Regeln eines KI-Systems, wie es beispielsweise in autonomen Fahrzeugen der Fall ist, eine Rolle spielen. Durch die negative Beeinflussung oder „Vergiftung“ des Trainingssatzes, der zur Erstellung dieser KI-Modelle verwendet wird, können Hacker fast jeden Aspekt davon beeinflussen, wie eine Softwareplattform die Welt, in der sie sich befindet, erkennt und mit ihr interagiert. umgibt „Einfach durch die Störung, Änderung der Breite einiger Features (z. B. Pixel für Bilder), das Setzen von Nullen auf Nullen oder das Entfernen einiger Features kann der Angreifer verheerende Auswirkungen auf Sicherheitsabläufe haben und katastrophale Auswirkungen haben“, sagte McAfee-Forscher Steve McAfee. Povolny und Celeste Fralick haben einen Blog geschrieben, in dem sie den Angriff beschreiben. McAfee sagt, dass es zwar immer noch keinen dokumentierten Bericht über Modell-Hacking in freier Wildbahn gibt, das Interesse an diesem Bereich jedoch zunimmt, was bedeutet, dass Hacker bald ihre eigenen Interessen wecken könnten. Und da die Zahl der Fahrzeuge mit autonomen Fahrfähigkeiten laut einer Gartner-Studie bis 39 voraussichtlich fast 750,000 erreichen wird, ist die Notwendigkeit, diese neuen Bedrohungen zu erkennen, bevor sie sich entwickeln, von größter Bedeutung. „Die gute Nachricht ist, dass es wie bei klassischen Software-Schwachstellen möglich ist, sich gegen Modellpiraterie zu verteidigen, und die Industrie nutzt diese seltene Gelegenheit, sich der Bedrohung zu stellen, bevor sie für den Gegner tatsächlich nützlich wird“, stellten sie fest.