Podcast Ethik Digital: Nicolas Dierks über digitale Ethik im Mittelstand und in der Wirtschaft

Bei der Personalsuche wird schon KI eingesetzt, die auch Menschen diskriminieren oder die Privatsphäre verletzen könnte. Wie gehen Unternehmen damit um?

Im deutschsprachigen Raum gibt es sowohl Unternehmen, die nur eine Werteliste ins Internet stellen, aber auch andere, die wirklich innere Prozesse transformieren oder Gremien einrichten, die Weisungskompetenz haben. Das finde ich schon gut. Aber beim Thema Corporate Digital Responsibility haben die meisten noch sehr viel Arbeit vor sich. Im Moment habe ich den Eindruck, dass viele auch so ein bisschen abwarten, was der AI Act der EU dann wohl bringt.

Eine bessere Strategie wäre, sich vorab schon mal darauf einzustellen. Ich glaube, es gibt auch ökonomische Gründe, warum Unternehmen gut beraten sind, sich diesem Thema frühzeitig und ernsthaft zu widmen.

Wie erleben Sie die Diskussionen in Unternehmen um Werte wie Mitgefühl, Respekt im digitalen Raum? Reagieren Unternehmen immer erst, wenn es eine Regulierung gibt?

Ich habe den Eindruck, dass es schon Diskussionen gibt, etwa zwischen Geschäftsführungen und Betriebsräten. Zum Beispiel, wenn es darum geht, die Mitarbeitenden zu kontrollieren. Aus ethischer Perspektive würde man fragen: Wie werden die Mitarbeitenden behandelt? Werden sie als eigenverantwortliche moralische Wesen betrachtet, denen man auch etwas zutrauen kann? Wie können wir die Mitarbeitenden dazu befähigen, auch konstruktive Kritik und Ideen einzubringen?

Die moralphilosophische Frage ist: Aus welchen Gründen sollen sich Akteure moralisch verhalten? Wir können das durch Strafen erzwingen. Aber wir wissen aus der Pädagogik, dass wir damit Menschen nicht zu moralischen Akteuren machen. Vielmehr müssen wir ihnen verständlich machen, warum etwas gut ist. Dafür brauchen wir einen Diskurs. Und ich bin schon Idealist, ich glaube, dass es auf historisch längere Zeiträume gesehen schon moralische Fortschritte gibt. Und diese schlagen sich teils in rechtlichen Regulierungen nieder, aber auch in steigendem gesellschaftlichen Moralbewusstsein – das bisweilen ungerechte Gesetze korrigiert.

Sind wir dem Tempo der Veränderung gewachsen?

Da bin ich strategischer Optimist. Denn was würde es bedeuten, wenn wir jetzt einfach sagen "ja stimmt, wir sind überfordert, wir kommen nicht mit, und es ist alles zu Ende"? Wir haben doch keine andere sinnvolle Möglichkeit, als zu sagen: Wir überlassen das Feld nicht der technologischen Entwicklung, die sich verselbstständigt, oder ökonomischen Interessen oder Machtinteressen.

Wir haben das Recht und die Aufgabe, unsere Welt zu gestalten. Das ist etwas, was uns als Menschen auszeichnet, dass wir miteinander in einem in einem Austausch darüber sind, wie es für uns gut ist. 

Sie haben sich mit Wissenschaftstheorie beschäftigt. Muss sich auch der Austausch zwischen Wissenschaft und Wirtschaft verbessern in Bezug auf digitale Ethik?

Derzeit funktioniert der Austausch zwischen Wissenschaft und Wirtschaft gut. Die Wirtschaft adaptiert im technischen Bereich schnell neue Entwicklungen, auch funktionieren Forschungskooperationen ganz gut.

Aber es gibt auch Themen, wo ich mir wünschen würde, dass Wirtschaft und Wissenschaft sehr viel enger zusammenarbeiten. Also etwa die Auswirkung von Algorithmen auf die politische Polarisierung. Oder die digitale Ökonomie der Aufmerksamkeit. Wir haben als Gesellschaft begrenzte Ressourcen an Aufmerksamkeit, die wir sorgsam verteilen müssen, um wichtige gesellschaftliche Herausforderungen anzugehen. Das droht der digitale Wandel aktuell zu beeinträchtigen.

Wie bewerten Sie die aktuelle Diskussion um eine Superintelligenz durch KI-Systeme?

Ich halte die erst mal für sehr unwahrscheinlich. Dafür sind noch einige technologische Durchbrüche nötig, das kann noch etliche Jahrzehnte dauern. Aber trotzdem müssen wir Vorkehrungen treffen, auf ganz pragmatischer Ebene.

Wir benötigen dafür bestimmte Sicherheits- und Kontrollmechanismen. Aber aktuell stehen wir eigentlich vor anderen Herausforderungen.

Hinter der KI stehen Unternehmen, die damit Gewinne erzielen möchten und deswegen die Algorithmen in bestimmter Art und Weise konzipieren. Sollten wir uns unabhängiger machen von von diesen kapitalistischen Systemen? Eine eigene Plattform schaffen?

Das sollten wir in Europa auf jeden Fall machen. Das wird ja auch unter dem Stichwort "digitale Souveränität" vorangetrieben. Wir brauchen ein vertretbares Sprachmodell und einen offenen Index, also die Grundstruktur, auf die zum Beispiel Suchmaschinen zugreifen. Da gibt es ja zum Beispiel die Open Search Foundation, die sich dafür einsetzt, dass so ein Index gebaut wird. Insofern, eine gewisse Unabhängigkeit ist Voraussetzung – ebenso wie eine Regulierung.

Was unlautere Geschäftspraktiken angeht, muss man derzeit den Einzelfall kritisch betrachten. Was ist bei einer Webseite oder einem Shop ein legitimes Nudging? Wann werden Freiheit und Würde geachtet und wann werden wir manipuliert? Das ist ein weites Feld und da gibt es eine große Grauzone. Wir sollte "die Wirtschaft" differenziert betrachten. Was die großen Plattformen angeht, da brauchen wir dringend Regulierung und Transparenzpflichten – und vielleicht eine Zulassungsbehörde ähnlich wie bei Medikamenten.

Da ist der europäische Digital Services Act ein wichtiger Schritt. Aber wir brauchen auch die Entwicklung des moralischen Bewusstseins von Menschen in der Wirtschaft, vor allem bei den Entscheidern.