Don´t be afraid of the Robot

Dystopien über die Auswirkung neuer Technologien kennt ein jeder von uns. Tatsächliche Funktionsweisen und Möglichkeiten sind in der Allgemeinheit unterrepräsentiert. Obwohl zukünftige Entwicklungen ein gesellschaftliches Grundverständnis für AI, Technologie und Machine Learning voraussetzen. Zur Einführung, zum Verständnis, zur Akzeptanz und zur Entwicklung. Betrachtet man diese Systeme, so können neben Problemen, vor allem Möglichkeiten benannt werden. Demzufolge wird es immer wichtiger, den Menschen, die positiven Auswirkungen auf unser alltägliches Leben darzustellen. „Don´t be afraid of the Robot“ stellt einem allgemeinen Mythos eine verständliche Lösung gegenüber, ohne Vorsicht und Misstrauen gänzlich zu verlieren.

Schaden – Roboter können Menschen verletzen

Sei es in Filmen wie I-Robot oder in Science Fiction Büchern, Geschichten über künstliche Intelligenzen enden häufig in menschenfeindlicher Gewalt. Doch sind solche Schreckensszenarien überhaupt realistisch? Und wie könnten Roboter Menschen verletzen?

Verletzungen durch aktives Handeln

Sie schließen die Einwirkung einer Maschine und die daraus resultierende Beeinträchtigung ein. Roboter können in einer Bewegung einen sich in der Nähe befindende Menschen verletzen. Aber auch in der sozialen Interaktion unsensible Antworten liefern, die zu einer psychischen Verletzung führen. Diese Beeinträchtigungen basieren nicht, wie in vielen Dystopien angenommen, auf einer gerichteten, bewussten und willentlichen Aktion. Sondern auf unzureichenden Sicherheitsvorkehrungen, Entwicklungslücken oder Fehler im Design. Durch z. B. eine nicht ausreichende Wahrnehmung der Umgebung oder Emotion des Gegenübers. Diese Probleme werden fortlaufend durch eine immer besser werdende kognitive Architektur gelöst. Sie gewährleistet, dass Mensch und Maschine auch in Phasen einer langfristigen Autonomie sicher interagieren können. Durch Szenenanalyse, Emotionserkennung, Umgebungswahrnehmung etc. Diese Technologien werden immer weiterentwickelt werden, allerdings niemals unfehlbar sein. Es geht um eine Fehlerreduktion. Dieser können wir anschließend ebenso vertrauen, wie wir das im Auto oder Flugzeug tun.

Verletzung durch nicht Handeln.

Maschinen können Menschen verletzen, indem sie nicht handeln. Nehmen wir hier das Beispiel einer Maschine „Defibrillator“, so wissen wir, dass diese zwar durch die Betätigung eines Menschen Leben retten kann, aber nur unter einer fehlerfreien Funktionsweise und richtigen Bedienung. Unsere Erwartungen an autonome Maschinen sind deutlich höher. Hier wünschen wir nicht nur, dass diese ihre Arbeit fehlerfrei ausführen, sondern Gefahrensituationen erkennen und lösen. Die Programmierung und damit auch die Funktionsfähigkeit ist nur so gut wie ihre Programmierer. Zwar können die richtigen Parameter und große Datensätzen eine hohe Wahrscheinlichkeitsvorhersage gewährleistet, dennoch treten auch hier Fehler auf.

Möglicherweise müssen wir unsere Ansprüche anpassen. Wie es uns bewusst ist, dass eine einfache Maschine Fehler machen kann, sollte uns auch bewusst werden, dass eine autonome Maschine fehlbar ist. Hierauf müssen wir vorbereitet sein, um im Fall wichtige Schritte zu kennen und einzuleiten. Mit diesem Wissen ist es z. B. nicht sinnvoll, einen Erste-Hilfe-Kurs in der Schule durch flächendeckende Erste Hilfe Roboter zu ersetzen. Diese sollten als Objekte der zusätzlichen Unterstützung verstanden werden, aber gleichzeitig nicht Abhängigkeit bedeuten.

Verletzung durch falsches Handeln

Ein allgemein bekanntes Problem des autonomen Fahrens lässt sich im Trolley Dilemma beschreiben. Allgemein gefasst die Frage, ob eine bestimmte Personengruppe, bei einem nicht abwendbaren Unfall, einer anderen bevorzugt werden soll. Nehmen wir dieses Beispiel universell als eine Entscheidung, die aufgrund unterschiedlichster Parameter und großer Datenmengen getroffen wird, aber nicht immer eindeutig ist. So haben wir bereits gelernt, dass auch künstliche Intelligenzen in ihrer Entscheidung Fehler machen. Weiter ist festzuhalten, dass diese ethische Fragen nicht für uns beantworten können. 

Autonome Agenten können zwar aufgrund unterschiedlichster Sensoriken die Überlebenswahrscheinlichkeit einzelner Personen berechnen und darauf basierend unterscheiden. Sie können uns aber nicht die ethische Entscheidung abnehmen, welcher Ausgang mehr wert ist. Hier gibt es, oder darf es auch, keine generelle mathematische Lösung geben. Jeder Mensch entscheidet anders, Gesetze können Rahmenbedingungen schaffen, Trends gesellschaftliche Wünsche abbilden. Diese geben die Möglichkeit Situationen nach einem vorgegebenen Muster zu lösen, sind allerdings problematisch, da einerseits niemals eine Berücksichtigung aller Meinungen stattfinden könnte, Meinungen dynamisch sind, uns sich je Situation verändern. So bevorzugen Menschen, die in einem autonomen Auto sitzen, dass sie selber geschützt werden, während Außenstehende eher den Schutz der Mehrzahl an Individuen bevorzugen. Falsches und richtiges Handeln ist eben immer Ansichtssache. Autonomen Agenten zu verbieten aufgrund persönlicher Parameter zu unterscheiden, könnte eine Lösung darstellen. So ist es bei einem unausweichlichen Unfall nicht möglich, eine jüngere Person der älteren zu bevorzugen.

Vergleichen wir, wie wir Menschen handeln würden, oftmals in Bruchteilen von Millisekunden Entscheidungen treffen, die nicht kognitiv entstehen, sondern reflexartig sind. So sollte man sich die Frage stellen, ob das immer zum bestmöglichen Ausgang führt. Weiter müssen wir hinterfragen, ob Maschinen, die aufgrund von Geschwindigkeit, Abstand oder Objekterkennung uns cheffeurien, ebenso physisch, mathematisch und ethisch schwierigen Entscheidungen treffen müssen, obwohl wir dies in der Situation selber nicht könnten oder von unserem Fahrer auch nicht erwarten würden. 

Allgemein ist anzubringen, dass ein System höchstwahrscheinlich weniger Fehler macht als ein Mensch. Experten gehen zum Beispiel von einer Verbesserung der Verkehrssicherheit bei einer Einführung von autonomen Fahrzeugen aus. 

Verletzung durch indirekte Einwirkung

Maschinen, autonome und künstliche Intelligenzen ziehen immer mehr in unser Leben ein. Durch das Vorhandensein dieser, nehmen sie Einfluss auf uns, unsere Umgebung, Entscheidungen und Wirkungszusammenhänge. Insbesondere, da sie häufig in sensiblen Bereichen eingesetzt werden. Die Benutzung, aber auch das Handeln eines Agenten kann Einfluss auf weitere Zusammenhänge nehmen. So könnte das Diagnostizieren einer Krebserkrankung durch eine AI zu einem anschließendem Tod im OP-Saal führen. Natürlich kann eine Maschine das Todesrisiko im OP gegen eine Nichtbehandlung abwägen, allerdings stellt sich auch hier die Frage, ob wir solch einen Handlungsspielraum überhaupt einrichten möchten. Als Alternative dazu die Entscheidung beim Arzt belassen. Heutzutage können zwar Ärztefehler rechtlich belangt werden, aber auch, nur wenn tatsächlich nachweisbar ist, dass ein Fehler vorliegt und nicht nach bestem Wissen und Gewissen gearbeitet wurde. Diese Idee sollten wir auch bei Maschinen im Hinterkopf behalten. Sie können nach bester Programmierung entworfen werden, nach bestem Wissen handeln, aber niemals alle Möglichkeiten abwägen.

Zusammenfassend ist es möglich, dass Maschinen Menschen verletzen. Dies passiert aber meist aufgrund von menschlichen Fehlern, unrealistischen Erwartungen, sowie fehlerhaften Daten. Diese können durch Entwicklung und Forschung weiter minimiert, aber nie gänzlich vermieden werden. Die Dystopie, dass künstliche Intelligenzen gerichtet und willentlich dem Menschen schaden wollen, bleibt tatsächlich bis heute Science Fiction. Hierfür wäre ein Selbstbild, ein Ich des Roboters, notwendig. Es bleibt stets so, dass während wir in der Lage sind Agenten menschenähnliches aussehen und verhalten zu trainieren, es immer noch Maschinen bleiben. Die sich eben in diesem Punkt von uns unterscheiden. Sie haben kein Selbst.

Redet man mit Experten, so könnte es zwar möglich sein, dass diese in der Zukunft ein Ich imitieren. Ein solcher Prozess könnte 25 Jahre, 200 Jahre dauern, oder gar nicht eintreten und wär außerdem mit immensen Strom-, Entwicklungs- und Technologiekosten verbunden. Die Vorstellung ist nicht weniger eine entfernte Möglichkeit wie die längere Aufrechterhaltung einer Kernfusion und dessen Risiken.

Wir müssen also lernen, künstliche Intelligenzen zu verstehen, sie als Akteure zu betrachten, in die wir ebenso vertrauen können. Aber auch ein gesundes Misstrauen gegenüber möglichen Fehlern entwickeln. 

Podcast-Empfehlung: