Samstag, 22. Februar 2020

Schöne neue Welt...

... der Künstlichen Intelligenz und der selbstfahrenden Autos:

Tesla missinterpretiert Verkehrszeichen

Vordergründig haben Povolny und Trivedi einfach in die Mitte der Ziffer 3 auf dem amerikanischen Verkehrsschild, das eine Geschwindigkeitsbeschränkung auf 35 Meilen die Stunde anzeigt, ein Stückchen Isolierband geklebt. Menschen sehen dann immer noch sofort, dass sie jetzt nur noch 35 Meilen schnell fahren dürfen.
Aber die Künstliche Intelligenz im Tesla hat das als Verkehrszeichen interpretiert, das 85 Meilen in der Stunde erlaubt. […]
Als der Tesla dann am manipulierten Verkehrsschild vorbeifuhr, hat die Mustererkennung 85 Meilen Höchstgeschwindigkeit erkannt. Das Fahrassistenzsystem hat sofort beschleunigt, weil die gefahrene Geschwindigkeit weit unter der erlaubten Höchstgeschwindigkeit lag.
Allerdings hat Mark Bereza dann nach kurzer Zeit eingegriffen und abgebremst. Denn er wollte natürlich seinen teuren Tesla nicht zu Schrott fahren. Das Experiment zeigt aber sehr deutlich, dass physisches "Model Hacking" mit vom Menschen nicht unbedingt wahrgenommenen Manipulationen an Verkehrszeichen im Zusammenwirken mit Fahrassistenten durchaus gefährlich werden können.

[…]

Künstliche Intelligenz erkennt präpariertes Stoppschild nicht

Ein Ergebnis dieser Berechnungen waren Aufkleber für ein Stopp-Schild, die sie oberhalb und unterhalb des Schriftzuges "Stop" angebracht haben. Diese Sticker sorgen dafür, dass die Künstliche Intelligenz einer Mustererkennungssoftware dann kein Stopp-Schild "sieht" beziehungsweise klassifiziert, sondern ein Hinweisschild "zusätzliche Fahrspur".
Das Auto würde dann also an der Einmündung der Straße mit diesem präparierten Stopp-Schild gerade nicht stoppen, sondern einfach weiterfahren. Und das könnte zu einem folgenschweren Unfall führen

heißt es in einem Bericht der ZDF.

Wir sollten vorsichtig sein mit den neuen Verkehrskonzepten, sowohl, was selbstfahrende Autos berifft, als auch, zum Beispiel, den 1:1-Ersatz von Autos mit Verbrennungsmotor durch welche mit Elkektroantrieb: Letzteres ist keine Lösung für unsere Probleme und ersteres nur eine erneute Sammeltätigkeit der Datenkraken.

Schöne Grüße an Aldous Huxley...




Keine Kommentare:

Kommentar posten