Die Angst des Menschen vor dem Roboter

Nickolay: Frau Wirth, Sie untersuchen am Museum für angewandte Kunst in Wien bereits seit Jahren die Auswirkung von Automatisierung und Digitalisierung auf die menschliche Arbeit. Wie fließen diese Themen heute in Kunstprojekte ein?

Wirth:

In der Ausstellung »Uncanny Values« im Jahr 2019 waren verschiedene Kunstwerke versammelt, die diese Zusammenarbeit von Menschen und Maschinen oder auch Künstlicher Intelligenz beleuchten. Wir wollten uns damit anschauen, wie Künstlerinnen und Künstler mit KI arbeiten und so diese Themen für unser Publikum aufbereiten, sie vielleicht etwas greifbarer machen als in einem Fachartikel. Der Titel kommt vom »Uncanny Valley«, dem »Unheimlichen Tal« der Akzeptanz von Technologie. Je ähnlicher etwas dem Menschen ist, desto unheimlicher finden wir es, zum Beispiel prothetische Arme, Zombies oder eben sehr humanoid aussehende Roboter. Dagegen haben humanoide Roboter, die noch als Maschine erkennbar sind, gute Akzeptanzwerte.

Ein sehr interessantes Thema ist die Frage, warum automatisiert wird und für wen. In der Ausstellung »Hello, Robot. Design zwischen Mensch und Maschine« in Kooperation mit dem Vitra Design Museum hatten wir 2017 einen KUKA-Arm, der nicht das getan hat, wofür er eigentlich gedacht ist, sondern Manifeste geschrieben hat. Natürlich standen da auch Künstler dahinter, die einschlägiges Vokabular gefüttert haben. Wir fanden das sehr schön, dass unsere Besucher*innen da auch etwas mitnehmen konnten. Aus einem der Manifeste: »No one succeeds without existing. Those who succeed owe it to ideas.« Die Thematik der Ausstellung hat das sehr gut getroffen: Wenn menschliche Arbeit automatisiert wird, welche bleibt dann? Und welche möchten wir gerne machen?

Krüger:

Das Thema »humanzentrierte Automatisierung« hat bei uns am PTZ einen besonderen Stellenwert, auch im Kontext des digitalen Humanismus und ethischer Fragen. Beim Karosserieschweißen haben wir mit dem Bahnschweißverfahren Automatisierungsgrade von 96 bis 98 Prozent erreicht. Da kontrollieren Menschen eigentlich nur noch. Auf der anderen Seite finden wir aber auch gerade im asiatischen Raum insbesondere in der Montage häufig noch Prozesse, bei denen Menschen rein manuell arbeiten. Komplexe feinmotorische Vorgänge, für die auch taktile Fähigkeiten benötigt werden, wie zum Beispiel beim Einfügen von Bauteilen. Zwischen diesen beiden Extremen gibt es einen ganz großen Bereich, das sogenannte »automatisierungstechnische Kontinuum«, das von der Forschung bisher kaum erschlossen ist. Hier braucht es besondere Formen von Künstlicher Intelligenz, mit denen wir Roboter flexibler machen können als sie es heute sind. Beispielsweise sprechen wir häufig von der High-Mix-Low-Volume-Produktion: Wir können Autos heute in 10¹⁴ oder sogar 10²⁴ Kombinationen bauen. Theoretisch könnte man wahrscheinlich mehr verschiedene Autos bauen, als man Sandkörner auf der Erde hat. Bei so vielen individuellen Konfigurationen funktioniert ein fest programmierter Ablauf nicht mehr ohne Weiteres, gerade in der Montage. Hier ist der Mensch durch seine Flexibilität unersetzlich, den wir mit unseren technischen Lösungen bestmöglich unterstützen.

Ein Beispiel für eine solche Entwicklung ist ein Roboter, mit dem man Windschutzscheiben montieren kann, ohne große Kräfte aufwenden zu müssen. Oder auch der softrobotische Exosuit PowerGrasp, der Unterstützung bei Tätigkeiten wie dem Schrauben über Kopf bietet. Mithilfe von Beschleunigungssensoren kann der darin verbaute Roboter die intendierte Bewegung und auch den Ermüdungsgrad erfassen und so die eingebaute Pneumatik steuern, um mithilfe von Druckluft eine ergonomische Kraftunterstützung zu aktivieren. Wir glauben, dass solche Softrobotik am besten zum Menschen passt. Wir versuchen also, das Kontinuum zwischen rein manueller Arbeit und Vollautomatisierung mit intelligenten Lösungen zu füllen, sodass der Mensch die Kontrolle behält und durch den Roboter unterstützt wird. Die Form der Intelligenz, die wir heute bei kollaborativen Robotern finden, würde ich auf einen IQ von 60 schätzen. Da haben wir also noch viel Arbeit – denn will man mit einem Kollegen zusammenarbeiten, der einen IQ von 60 hat? Hier kommen auch psychologische Effekte ins Spiel, wie zum Beispiel die verständliche Angst der Werkerinnen und Werker vor einem sich schnell bewegenden Roboter.

Nickolay: Frau Wirth, in Ihren Projekten stellen sich auch ethische Fragen zur Automatisierung, zum Beispiel in der maschinellen Gesichtserkennung. Wird hier eine Linie überschritten?

Wirth:

Ganz relevant ist hier die Cui Bono-Frage: Wofür wird etwas eingesetzt und wem dient es? Dient die Automatisierung dem arbeitenden Menschen, der länger fit bleiben und seine Freizeit mit seiner Familie genießen kann? Die Industriezweige, in denen viel automatisiert wird, sind vorwiegend die wachstumsorientierten Zweige. Mit welchen Werten wird diese Technologie hier eingesetzt? Um auf Ihr Beispiel einzugehen: Gesichtserkennung kann natürlich super hilfreich sein, etwa für Zugangssysteme in Gebäuden. Aber sobald sie, wie man bei der chinesischen Regierung gesehen hat, bei Protesten vom Staat gegen seine eigenen Mitmenschen eingesetzt wird, wird es problematisch. Die Technologie per se ist niemals schlecht. Die Frage ist, in wessen Händen ist sie, wie gehen wir damit um und wo wollen wir damit hin?

Krüger: 

Wir kommen in keinem unserer Forschungsprojekte um die sogenannten ELSI-Themen herum: ethische, legale und soziale Implikationen. Gerade wenn wir Roboter und deren Sensoren so dicht am Körper haben, erfassen wir ja auch personenbezogene Daten. Wie wollen wir damit umgehen? Sind Werkerinnen und Werker bereit, diese Daten erfassen zu lassen für den Nutzen, der dadurch erzielt werden kann? Wenn wir zum Beispiel durch Beschleunigungssensoren Müdigkeit erfassen und so einem Werker potenziell helfen können, potenziell aber auch Erkenntnisse über seine Leistungsfähigkeit insgesamt ableiten könnten. Da wird es dann schon kritisch. In der Grundlagenforschung zur KI werden rasante Fortschritte gemacht, unter anderem durch die Riesenmenge an Daten, die uns durch Soziale Medien und Ähnliches zur Verfügung stehen.

Was wir aber gleichzeitig beobachten ist, dass die Lücke zwischen dem, was in der Grundlagenforschung erreicht wird, und dem, was in der Industrie angewendet wird, täglich größer wird. Das Problem ist, wenn eine Fabrik KI-gesteuert produzieren soll – wer übernimmt die Verantwortung? Diejenigen, die das tun könnten, sind meist Männer in meinem Alter ohne tieferes Wissen zu KI-Methoden. Jetzt sollen sie unterschreiben, dass ihre Fertigungslinie unter KI-Einsatz verlässlich tausend Autos pro Tag produziert – wie sollen sie das beurteilen können? Solange wir diese Lücke haben, haben wir ein großes Problem, die Potenziale der KI in der Produktion zu nutzen. Wir müssten mindestens so viel in die Befähigung der Menschen stecken, die diese KI anwenden, wie in die Methoden der Grundlagenforschung. Da können Experimente, wie sie Künstlerinnen und Künstler machen, eine andere Perspektive darauf geben, wie KI funktioniert.

Wirth: 

Um noch einmal auf die Frage der Verwendung der gesammelten Daten zurückzukommen: In der Ausstellung »Hello, Robot« haben wir ein Projekt des Londoner Studios Superflux gezeigt, die Care Tools entworfen haben – fiktionale in diesem Fall, manche davon könnten aber durchaus Realität sein. Zum Beispiel einen smarten Gehstock, der den Nutzer daran erinnert, seinen abendlichen Spaziergang zu unternehmen. Eine smarte Gabel, die ihn daran erinnert, sich anständig zu ernähren. Eine smarte Pillendose, die die Medikamentengabe überwacht. Sie haben dazu ein Video gedreht, in dem man sieht, wie dieser Mann auf allerlei Ideen kommt, um dieser Überwachung zu entgehen. Seine Familie ruft ihn an: »Du bist heute noch nicht um den Block gelaufen! Du hast Bratwurst statt Zucchini gegessen! Was ist los?« Also gibt er dem Nachbarsjungen ein bisschen Cash und lässt ihn mit dem Stock gehen. Er steckt die smarte Gabel in die Zucchini, während er weiter die Bratwurst isst. Und zu der Pillendose gibt es im Abspann einen Hinweis, dass Versicherungen Medikamente nur noch gegen Nachweis übernehmen, dass sie für den richtigen Zweck eingesetzt werden. Es ist wieder die Frage: Wer bekommt diese Information, warum braucht man sie? Im Falle des Fabrikarbeiters ist das vielleicht nur das System, nicht aber die Vorgesetzte oder der Kollege.

Nickolay: Ein sehr interessantes Feld wird auch die Nutzung von Robotern in der Pflege sein. Es besteht ein enormer Bedarf. Auf der anderen Seite liest man, dass die Menschen das Taktile, die Emotion vermissen.

Krüger:

Im Gegensatz zum maschinellen Sehen ist das maschinelle Fühlen noch ganz am Anfang. Wie halten Roboter einen älteren Menschen am Brustkorb, ohne ihm die Rippen zu brechen? Wir sind da noch ganz weit von entfernt, diese taktilen Fähigkeiten zu übertragen.

Wirth:

Die Unterstützung bei der schweren körperlichen Arbeit in der Pflege ist absolut relevant, aber die Empathie der pflegenden Menschen ist nicht zu ersetzen. Eines meiner Ausstellungsprojekte im Jahr 2017 hieß »Artificial Tears«. Es gibt mittlerweile künstliche Tränen zur Befeuchtung der Augen. Echte Tränen dienen allerdings nicht nur diesem Zweck, sondern beim Weinen werden auch Opioide ausgeschüttet, um den Menschen zu beruhigen. Das Weinen ist ein hochkomplexer Vorgang, der nicht automatisiert werden kann. Im alten Griechenland gab es Klageweiber, die man zum öffentlichen Trauern anheuern konnte, aber die eigene Trauerarbeit kann einem nicht abgenommen werden. Ich nehme das immer gerne als Vergleich, wenn man überlegt, was automatisiert werden kann und was ich trotzdem weiterhin machen, denken und fühlen muss, auch wenn ich mir dabei Unterstützung hole.

Krüger:

Das Ganze ist auch eine kulturelle Frage. Wir wissen, dass Japan zum Beispiel sehr Roboter-affin ist. Die Nutzung von Robotertieren zur Unterhaltung von Menschen in Pflegeeinrichtungen hat dort sehr viel besser funktioniert. Auf der anderen Seite hat Toyota in seiner Montage nur noch einen Automatisierungsgrad von acht Prozent, weil es dort kluge Menschen gibt, die die Automatisierung teilweise auch wieder zurückgebaut haben. Einer dieser klugen Menschen ist Mitsuru Kawai, der den Satz gesagt hat, dass nur Menschen Prozesse verbessern können. Deswegen stehen die Menschen bei Toyota im Fokus. Denn Prozesse verbessern ist ein kreativer Lernprozess, den wir vielleicht irgendwann automatisieren können. Aber ich glaube auf absehbare Zeit nicht daran.

Wirth:

Ich glaube das auch nicht. Und ich glaube auch, dass wir über den Kreativitätsbegriff noch einmal sprechen sollten, der ja gerne uns Kultur-Leuten umgehängt wird. Aber er trifft auf alle Lebensbereiche zu, in jedem Unternehmen, in jedem Arbeitsablauf braucht man Kreativität. Jeder von uns hat sie, es kommt nur auf die Aufgabenstellung an. Unternehmensberaterinnen und -berater weisen in den letzten Jahren immer wieder darauf hin, dass möglichst diverse Teams besser darin sind, Prozesse zu verbessern und Probleme zu lösen. Das finde ich einen sehr interessanten Input für den Zeitgeist – auch im Hinblick auf die Zusammenarbeit zwischen Menschen und Robotern.

kuratiert am MAK – Museum für angewandte Kunst in Wien Ausstellungen in den Bereichen Kunst, Design, Architektur und Technologie, u. a. die Gruppenausstellungen »Artificial Tears« und »Uncanny Values«. Sie ist Teil des kuratorischen Teams der internationalen Wanderausstellung »Hello, Robot. Design zwischen Mensch und Maschine« und war Co-Direktorin des Global Art Forum 2018 »I Am Not a Robot« in Dubai und Singapur.

ist Geschäftsführender Direktor des IWF der TU Berlin sowie Leiter des
Geschäftsfeldes Automatisierungstechnik am Fraunhofer IPK. Seine Forschungsschwerpunkte sind die humanzentrierte und bildgestützte Automatisierung. Mit seinen Teams entwickelt er Steuerungs- und Robotersysteme zur Mensch-Roboter-Kollaboration und medizinischen Rehabilitation sowie Methoden und Anwendungen des maschinellen Sehens zur Objekt- und Lageerkennung in der Produktion.