Digitalisierung und Verantwortung

Fahrlässiger Umgang mit Software-Risiken

Digitalisierung, Internet der Dinge und Industrie 4.0 sind in aller Munde. Mittlerweile mischen sich unter die euphorischen Bekundungen mehr und mehr kritische Stimmen, die auf rechtliche Folgen und unerwünschte gesellschaftliche Begleiterscheinungen aufmerksam machen.

Auf technische Risiken wird in dieser softwaredominierten Durchdringung fast aller Lebens- und Wirtschaftsbereiche kaum eingegangen. Viel ist von Risikomanagement die Rede, das auch in die neueste Fassung der DIN/ISO-Norm 9001 zum Qualitätsmanagement Eingang gefunden hat. Allerdings gewinnt man den Eindruck, daß in Verbindung mit der Programmierung von Software für die digitale Welt alle klassischen Herangehensweisen und bewährten Praktiken zum präventiven Umgang mit dem Thema Risiko über Bord geworfen wurden oder den Akteuren erst gar nicht bekannt sind.

Exemplarisch sei hier auf selbstfahrende Autos verwiesen. Ob man diese wirklich will oder gar braucht, sei mal dahingestellt. Tatsache ist, daß bereits sogenannte Fahrerassistenzsysteme von Software gesteuert werden und bei Fehlprogrammierung zu schweren Unfällen ggf. mit tödlichem Ausgang führen können. Fälle mit Tesla-Fahrzeugen sind aus den Medien bekannt. Wenn mit Beta-version und einem zu erwartenden Update argumentiert wird, zeigt das ein Maß an Verantwortungslosigkeit, das eine Unternehmensleitung disqualifiziert. Hier geht es um die Gesundheit von Personen und um Menschenleben! Diese können nicht durch ein Reset wiederhergestellt werden.

Auch in den Vorstandsetagen deutscher Automobilhersteller dominiert visionäres Gehabe. Verantwortungsbewußtsein und darauf basierend entsprechendes Handeln haben sich nicht synchron zu Macht- und Geldzuwachs entwickelt. Auch in Deutschland gab es – von Medien übersehen – mindestens einen Unfall mit schweren Verletzungen des Testfahrers. Als Ursache wurde ein Bit-Kipper ausgemacht. Das klingt harmlos, stellt aber die gesamte Herangehensweise infrage. Selbst bei perfekt programmierter und sehr sorgfältig getesteter Software können kosmische Strahlen und/ oder elektromagnetische Felder zu solchen Phänomenen führen. Diese Einflüsse wirken immer und überall. Zudem sind Hacks keine Seltenheit. Fatal error!-Game over! Technische oder Schutzmaßnahmen gestalten sich aufwendig und sind teuer. Wenn schon sogenannte Premiumhersteller diese Kosten scheuen, was ist dann von anderen Produzenten zu erwarten?

In der Luftfahrtindustrie wird seit Dekaden erfolgreich mit redundanten Systemen gearbeitet – und darüber wacht noch ein geschulter und laufend trainierter Pilot. Auch hier wird Software eingesetzt – offensichtlich geht es auch anders. Safety first - was sonst?

Und was passiert, wenn nicht perfekt programmiert und getestet wird? Software ist unsichtbar; aus den Augen aus dem Sinn. Hier muß dringend ein Bewußtseinswandel einsetzen, sonst wird die digitale Zukunft von Risiken durchsetzt mit enormem Schadenspotential für Unternehmen und Menschen.

Klaus Demleitner, 14. Oktober 2016

«« zurück