Wie können Menschen mit KI zusammenarbeiten ohne ihre Selbständigkeit zu verlieren?

Erfüllen wir mit unserer Arbeit nur Ziele, die von Vorgesetzten stammen und kontrolliert werden? Oder haben wir Spielraum zur Selbstkontrolle? Auch davon hängt ab, wie zufrieden wir sind. In seinem Essay macht sich der Informatiker Samer Schaat Gedanken darüber, was Arbeit für Menschen bedeutet, wie der Wunsch nach Effizienz und Technologie sie schon längst verändert hat – und wie das Zusammenarbeiten von Mensch und Künstlicher Intelligenz aussehen sollte. 

Von Samer Schaat

Im Leben setzen wir uns Ziele und kontrollieren ihre Erfüllung. Technologie unterstützt uns dabei. Wenn wir sie einsetzen, sprechen wir oft von Arbeit. Wie wir das tun, spiegelt auch das Kontrollverhältnis zwischen Zielsetzung und Zielerreichung. Besonders gut kann das in unserer Arbeitswelt mit ihrem Primat des zielorientierten und zweckrationalen Handelns beobachtet werden. Das war auch in den Stationen meines bisherigen Arbeitslebens so. Der Technologiebereich, mit dem ich mich darin bisher schwerpunktmäßig beschäftigte, ist dann auch jener, der häufig als die größte Bedrohung eines balancierten Kontrollverhältnis wahrgenommen wird. Er kann sogar als das Kontroll- und Steuersystem der Automatisierung schlechthin betrachtet werden – eines, das ihr Autonomie bringt. Die Rede ist von Künstlicher Intelligenz.

## Die Ziele der Anderen

In der Arbeit müssen wir oft Ziele erreichen, die andere uns gesetzt haben. Das lernte ich schon während meiner Schulzeit. Einmal in der Woche begann mein Unterricht erst um 9 Uhr, was für meine Eltern hieß, dass ich bereits früh im Laden meiner Mutter helfen konnte. Als ich merkte, dass das Einkommen meiner Familie davon abhängt, wich mein anfänglicher Widerwillen dem Stolz auf meine Mühen. So wandelte sich die Währung Österreichs langsam zur Währung meiner Selbständigkeit.

Ich gab meine Selbständigkeit zwar innerhalb der Arbeitszeit ab, konnte sie dafür aber außerhalb aufrechterhalten. So lief es auch bei den Ferialjobs meiner Schulzeit und den Halbtagsjobs meiner Studienzeit. Diese Arbeiten waren wenig mehr als Pflichterfüllung, um die von Vorgesetzten vorgegeben Ziele zu erreichen. Aber ich wusste immerhin, wofür ich die Mühen auf mich nahm: Ich konnte damit mein Studium finanzieren.

Die Organisation von Zielsetzung und Zielerfüllung am Anfang meines Berufslebens folgte einem jahrhundertealten Muster: Menschen nahmen jene Mühen auf sich, die der Wille anderer Menschen erforderte. Diese Aufteilung von Zielsetzung und Zielerreichung lebte in den Machtverhältnissen der Fabriken weiter und wird im Informationszeitalter fortgeschrieben. Auch heute werden Ziele oft genug in einzelne Aufgaben übersetzt. Informationen werden dabei gekapselt, nach dem Grundsatz: Du darfst nur so viel wissen, wie es die Erreichung der für dich gesetzten Ziele erfordert. Alles andere lenkt nur ab und ist ineffizient. Ineffizienz, das größte Tabu der Arbeitswelt!

## Mehr Effizienz – und Technik als Erfüllungsgehilfe

Die im Namen der Effizienz vorgenommene Arbeitsteilung hat den Zweck, möglichst automatisier- und kontrollierbare Aufgaben an Menschen oder – noch effizienter – Maschinen auszulagern. Dieser Wunsch erfüllt sich jedoch nur in kontrollierbaren Umgebungen. Nur dort ist vorhersagbar und somit planbar, was genau zu tun ist, um ein Ziel zu erreichen.

Wenige Umgebungen sind so kontrollierbar wie Fabriken. Alle Komponenten dieser abgegrenzten Einheit sind von Grund auf so gestaltet und aufeinander abgestimmt, dass sie ihr Produktionsziel mit höchster Effizienz erreichen. Die Trennung von Zielsetzung und Zielerfüllung zwecks Kontrollierbarkeit findet hier ihren Höhepunkt in Robotern (slawisch für Arbeiter), die eine vorab spezifizierbare Befehlsanordnung – also einen Algorithmus – eines Steuerungssystems (engl. Control System) schrittweise und exakt ausführen.

Doch selbst diese durch eine strukturiert gestaltete Umgebung ermöglichte Algorithmisierbarkeit findet ihre Grenzen, zum Beispiel in der Unvorhersagbarkeit der Materialphysik. Und so platzt der Traum einer maximal optimierten Produktion durch die Vollautomatisierung der Arbeit in Fabriken ohne Licht. Denn nur eine perfekt vorhersagbare Welt braucht keine klassisch-visuelle Wahrnehmung. Deswegen arbeiten auch heute noch Menschen in den Fabriken. Im schlimmsten Fall sind sie dabei nur der verlängerte und abgeschirmte Arm von Robotern, die ihnen einen vorgegebenen Handlungsspielraum abstecken. Probleme werden dabei weiterhin als unerwartete „Störung“ oder „Fehler“ betrachtet, die durch den Werker beseitigt werden sollen. Im besten Fall werden Roboter als Cobots eingesetzt, die kollaborativ mit Menschen interagieren können.

Umgekehrt ist menschliches Verhalten aufgrund seiner potenziellen Unberechenbarkeit eine der wichtigsten Fehlerquellen, die der vollständigen Automatisierung im Wege stehen. Ein Beispiel: Im hoch-strukturierten Umfeld eines Supermarkts gilt das vor allem für das Verhalten der Kunden. Um auch diese Unbekannte in den Griff zu bekommen, wird die Aufgabe von Mitarbeitern in Verkaufsläden mit Kassenautomaten auf jene ihrer Kernkompetenz als Kundenbetreuer gebündelt. Die Mitarbeiter beraten und unterstützen Kunden dabei, die Kassenautomaten zu bedienen. Wenn die maschinelle Automatisierung jedoch nicht dort aufhört, wo die Kernkompetenzen des Menschen anfangen, etwa in seiner Problemlösungsfähigkeit, kann sie zur Einschränkung statt zur Ermächtigung des Entscheidungsspielraums von Menschen führen.

## Empathie als letzte Bastion der zwischenmenschlichen Interaktion

Einer meiner letzten Freiheiten in den sonst vorgegebenen Arbeitsabläufen der Ferien- und Studienjobs war das Gespräch mit Kunden und Kollegen. Meinen Kollegen und mir diente unsere Arbeit in erster Linie der Existenzsicherung. Das hieß aber nicht, dass wir daraus nicht das Beste für uns machen und auch andere Bedürfnisse, wie soziale Anerkennung, befriedigen konnten. Besonders intensiv erlebte ich das im Call Center.

Dort wurden die Grenzen der quantifizierbaren und algorithmisierbaren Arbeitsabläufe durch Gesprächsleitfäden oder Vorgabe der gewünschten Anrufdauer im Kundengespräch besonders deutlich. Nicht die Regel, sondern die Ausnahmen waren der herausfordernde Teil meiner Arbeit, der mir den Handlungsspielraum gab, mich mit meinen Problemlösungsfähigkeiten einzubringen und mich auch in der Arbeitszeit als Person zu erleben. Und so freute mich jeder Beschwerdeanruf auch ein wenig.

Durch Empathie als das Hineinversetzen in den Blickwinkel anderer Menschen können wir die Bedürfnisse und Ziele unserer Gesprächspartner erkennen und in unserem Handeln darauf eingehen. Dabei sind es unsere eigenen Erfahrungen, die es uns ermöglichen, in die Lebenswelt Anderer einzutauchen. Vielleicht sind deswegen Menschen mit diversen Erlebnissen oft besonders empathisch. Empathie muss aber auch zugelassen werden und erfordert dabei von den beteiligten Personen die Kommunikation ihrer Ziele und Bedürfnisse – oder zumindest das Signalisieren von Anhaltspunkten dafür. So können Mitarbeiter zwischen den Zielen ihres Unternehmens und ihrer Kunden vermitteln, wenn sie in beide Bereiche einbezogen werden.

Das Gespräch ist – auch aufgrund der dafür benötigten Empathie – eines der letzten Bastionen zwischenmenschlicher Interaktion. Umso größer sind die Anstrengungen der Automatisierung mit Chatbots und Robotern, auch hier ihre Grenzen auszuloten. Dabei zügelt die Redundanz von Sprache ihr Streben nach Optimierung. Um die Intention des menschlichen Sprechers erkennen zu können, ist eine KI-basierte Spracherkennung trotzdem darauf angewiesen, Sprache auf Schlüsselwörter und Phrasen zu reduzieren. Nur so kann sie versuchen, den Gesprächsverlauf vorherzusagen und auf die Spracheingabe angemessen zu reagieren. Aufgrund der kombinatorischen Explosion möglicher Gesprächsverläufe scheitern alle bisherigen technischen Ansätze jedoch kläglich daran.

Freiheiten sind schwer algorithmisierbar, das gilt auch für die Freiheit des Menschen in seiner Gesprächsführung. Auch hier gilt: Die Ausnahmen von den Regeln sind die Herausforderungen. Diese zu erkennen, benötigt Kontext – und der ist eine der größten Schwächen heutiger KI-Algorithmen. So sind derzeit eingesetzte Chatbots und Roboter meist wenig mehr als sprechende FAQ-Listen, die eine erste Hilfe und Orientierung bieten. Wo der Gesprächsverlauf vorhersagbar ist und somit vorgegeben werden kann, werden Maschinen Gespräche beginnen können, um das Kerngespräch an Menschen zu übergeben. Bereits heute wird daran geforscht, Ärztinnen und Ärzte bei der Anamnese zu unterstützen. Technische Assistenten leisten hier die Vorarbeit für ein vertiefendes Gespräch, bei dem Menschen ihren Zielen entsprechend den Gesprächsverlauf steuern und damit handlungsfähig bleiben.

## Technik für den Ausgleich von Interessen

Als freier Softwareentwickler wurde mir später in der Regel ein abstrakteres Ziel vorgeben als im Call Center, zum Beispiel die Entwicklung einer Verwaltungssoftware für eine Jugendeinrichtung. Die konkreten Ziele und Aufgaben gestaltete ich gemeinsam mit den Interessensgruppen der Software. Wie ich die Aufgaben erfüllte, blieb mir überlassen. Die Hauptsache war die Erfüllung der gemeinsam festgelegten Anforderungen. Erstmals in meinem Arbeitsleben bekam ich Zugang zur eigentlichen Quelle meiner Aufgaben – den Auftraggebern und Benutzern der Software – und konnte meine Tätigkeit selbstständig an ihren Wünschen ausrichten. Die Aufteilung von Zielsetzung und Zielerfüllung wurde nicht mehr entlang von Personen vollzogen.

Dass Erkennen des Zusammenhangs der unterschiedlichen Aufgaben zeigte mir auch, worauf meine Arbeit letztlich hinzielt: Der Nutzen für die Sozialarbeitenden, die Geschäftsführung und der zuständigen Referentin der Wiener Stadtregierung wurde mir in Gesprächen deutlich. Meine Arbeit diente nicht mehr bloß der Existenzsicherung, sie hatte gesellschaftlichen Sinn, mit dem ich mich identifizieren konnte. Das wollte ich gut machen.

Die unterschiedlichen Methoden der Anforderungsanalyse drehen sich alle um ein Ziel: Interessensgruppen dabei zu unterstützen, ihre Produktwünsche auszudrücken und diese miteinander in Einklang zu bringen. Diese Aufgabe trägt den politischen Kern des Interessensausgleichs in sich. Im besten Fall erkennt ein Anforderungsanalytiker die Bedürfnisse hinter den Wünschen und kann gegebenenfalls zwischen diesen vermitteln, um sie in ein gemeinsames Konzept eines (Software)produkts zusammenzuführen.  Ohne die Berücksichtigung unterschiedlicher Perspektiven in empathischen Gesprächen und einer Geschäftsprozessanalyse wird diese heikle Aufgabe ihren hohen Ansprüchen nicht gerecht. Dabei liegt es im Interesse aller Beteiligten, den Analytiker in ihre Zielsetzungen einzubeziehen.

Ähnlich einem Interessensausgleich strebt eine Anforderungsanalyse in der Regel einen Konsens an. Ich wusste, dass die Erfassung der Tätigkeiten von Sozialarbeitenden ein Kontrollinstrument sein könnte, wenn ich die Software nicht genauso als Instrument der Sozialarbeitenden gestaltete. Dabei ging es nicht nur um eine einmalige Anpassung der Software an ihre Anforderungen, sondern um die Ermöglichung der kontinuierlichen Anpassbarkeit. So wie sich Ziele, Interessen und Aufgaben ändern können, sollte die Software bei der fortwährenden Einhaltung des Interessensausgleichs unterstützen.

Das ist ein Anspruch, den wir als Gesellschaft auch an die durchdringende Erfassung unserer Verhaltensdaten stellen sollten. Wir sollten nicht nur wissen, welche Daten erfasst werden, sondern auch ob und wie sie für unsere Ziele verwendet werden.  So sollten die erfassten Jugendtätigkeiten nicht nur als Statistik in der Förderberichterstattung verwendet werden, sondern durch Analysen auch zukünftige Sozialarbeit etwa hinsichtlich des Bedarfs an Tätigkeiten für unterschiedliche Jugendgruppen an unterschiedlichen Orten informieren. Die Fähigkeiten des Computers analytische Statistiken durchzuführen, unterstützt dabei die Fähigkeiten der Sozialarbeitenden in ihrer gezielten zwischenmenschlichen Interaktion. Das wäre eine passende Basis für eine Mensch-KI-Arbeitsaufteilung, die die jeweiligen Stärken von Mensch und Künstlicher Intelligenz einsetzt.

## Technik für die Gesellschaft

Spätestens als wissenschaftlicher Mitarbeiter der TU Wien musste ich nicht mehr mein persönliches Ziel des Erkenntnisdrangs mit dem Ziel meines Arbeitgebers versöhnen. Ich bekam nicht nur Einblicke in die übergeordneten Ziele der Forschungsschwerpunkte meines Instituts, meine Tätigkeit bedingte sogar die Teilnahme an der Zielformulierung. Damit wir trotz wissenschaftlichen Hinterfragens dieser Ziele einen leitenden Rahmen hatten, war die Formulierung eines langfristigen Forschungsprogramms, das eine Vision inkludierte, besonders hilfreich. Die Herausforderung bestand dabei in der Übersetzung unserer gemeinsamen Ziele – in der Regel die Beantwortung von Forschungsfragen – in gesellschaftlichen Nutzen. Als technische Wissenschaftler hatten wir deswegen einen besonderen Blick für konkrete Probleme in der Welt.

Die Grundierung von Zielen in Nutzen für autonome Systeme war auch Gegenstand meiner Forschung. Nur indem die Zielerreichung auf die Bedürfniserfüllung rückkoppelt, ließ sich der Zyklus der Autonomie von KI-Systemen schließen. Indem das Ergebnis des Systems dessen Quelle speist, wird die Abhängigkeit autonomer Systeme reduziert. Besonders interessant war dabei die Auswahlmethode von Zielen, um unterschiedliche Bedürfnisse auszubalancieren. Ähnlich dem Menschen, bei dem unterschiedliche zum Beispiel soziale und individuelle Ziele und Bedürfnisse zu Konflikten führen können, kann dafür ein Ausgleich von Bewertungen verwendet werden. Diese Algorithmen für einen automatisierten Interessensausgleich waren dann auch hilfreich für die balancierte Steuerung von Straßenbeleuchtungen und Gebäudeenergiesysteme, die unterschiedliche Ziele nach Sicherheit, Komfort und Energiesparsamkeit unter einen Hut bringen müssen.

## Mensch und KI müssen sich aneinander anpassen

Durch eine zielgerichtete und fokussierte Wahrnehmung reduzieren wir Komplexität im Umgang mit der Welt. Die Probleme der Zielsetzung ähneln dann auch jenen unserer Wahrnehmung: Je weiter Ziele entfernt sind, desto schlechter sind sie zu erkennen. In der Zeit, in denen wir uns ihnen nähern, hat sich die Welt und vielleicht auch unsere Perspektive auf das Ziel geändert. Auch unsere Zielsetzungen müssen wir somit kontinuierlich anpassen können, damit die Richtung, die sie uns vorgeben, mit unseren Bedürfnissen übereinstimmen. Denn Ziele sind kein Selbstzweck. Nur ein regelmäßiger Abgleich mit dem erhofften Nutzen für möglichst alle, die sich an der Zielerreichung beteiligen, stellt sicher, dass wir uns durch die Verfolgung von Zielen der Welt nähern, statt uns durch eine Ablenkung durch Illusionen von ihr zu entfremden.

Das gleiche gilt für unsere Zusammenarbeit mit Menschen und vielleicht auch mit autonomen Maschinen. Erst durch unser Handeln lernen wir gemeinsame Ziele an unsere Bedürfnisse anzupassen und Zielkonflikte zu lösen. Durch unsere Erfahrung wissen wir immer besser, was wir von uns und anderen wollen und was wir dafür machen können. Diese Selbstwirksamkeit kann motivieren und unsere Selbstbestimmung stärken. Damit autonome KI-Systeme uns dabei unterstützen, statt zu behindern, müssen ihre Ziele nicht nur transparent sein, sondern auch kontinuierlich anpassbar. Bei einer gemeinsamen Ausrichtung und Anpassung der jeweiligen Ziele entfällt die benötigte externe Kontrolle. Das dafür nötige Prinzip des Interessensausgleichs ist jedoch noch nicht in der digitalen Welt abgebildet. So wird dieses Problem durch automatisierte und autonome KI-Systeme vielmehr verstetigt.

Das Verhalten von Menschen wird bisher allzu oft deswegen erfasst, um ihre Bedürfniserfüllung im Sinne von Unternehmens-Zielen zu kapern. Beispielsweise können soziale Medien und quantifizierbare Arbeitsgestaltungen unser Verhalten in Muster drängen, die leicht zu erfassen und für Fremd-Ziele formbar sind.  Das daraus resultierende regelbasierte Verhalten von Menschen wird automatisiert kontrollierbar. Unsere Freiheiten ergeben sich jedoch aus Ausnahmen von den Regeln. Und nur dort, wo Freiheiten zur Zielanpassung gefordert sind, bleibt eine Balance der Kontrolle möglich.

Welche Beziehung zwischen Mensch und KI-System ist dafür nötig? Es ist jedenfalls keine, die von den Entwicklern und Vermarktern von KI-Systemen vorgegeben werden kann, sondern eine Beziehung, die von Anwendern und KI-System gemeinsam gelernt werden muss. Gegenseitiges Anpassen braucht Zeit und Probe. Das sollte auch zukünftigen Mensch-KI-Beziehungen gewährt werden – bspw. in Fortbildungen oder Training-on-the-Job. Dieses möglichst spielerische Lernen kann nicht nur zu passender Aufgabenaufteilung zwischen Mensch und KI motivieren, sondern auch zur Selbsterkenntnis – welche Ziele wir uns setzen möchten und wie wir sie gemeinsam mit KI-Systemen erreichen können.

https://1e9.community/t/wie-koennen-menschen-mit-ki-zusammenarbeiten-ohne-ihre-selbstaendigkeit-zu-verlieren/9314

Veröffentlicht am
Kategorisiert in KI

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.

Diese Website verwendet Akismet, um Spam zu reduzieren. Erfahre mehr darüber, wie deine Kommentardaten verarbeitet werden.