New digital solutions – study shows that the ethical use of data is a key concern among stakeholders

en
de
Language options

8 April 2020

New digital solutions – study shows that the ethical use of data is a key concern among stakeholders

Seven out of ten decision-makers have felt pressure from stakeholders to make sure that moral and ethical considerations form part of any digitalisation process. 53% of those surveyed felt "considerable" pressure and 18% reported "very strong" pressure. These are the findings of a manager survey recently conducted by Clifford Chance on "The Challenges of Digitalisation" among German firms employing more than 250 people.

Over 70% of corporate decision-makers in Germany said that there is considerable pressure from stakeholders to ensure that ethical issues are a crucial part of any digitalisation process
The pressure is particularly high on the financial sector
This discussion of ethical questions has been fuelled by the two megatrends of digitalisation and sustainability
Managers agree that sensitive data is a key area where action needs to be taken; this need is less urgent in terms of the use of automated decision systems

Dr. Claudia Milbradt, Head of the German Tech Group and member of the Steering Group of the Global Tech Group at Clifford Chance: "Developing a set of ethical regulations for the use of AI and the processing of data is one of the greatest challenges our society faces. What we need is for lawyers, IT and data specialists and philosophers to work together. The creation of a single regulatory framework is lagging well behind the pace of technological change. We are delighted to be able to advise our clients in this exciting field."

Financial sector under pressure

Executives and managers in the financial sector have confirmed that clients, suppliers and the general public are increasingly insisting that ethical and moral considerations should always be part of the digitalisation process. 82% of those surveyed said that this was the case. This pressure is not as high in the industrial and healthcare sectors.

Dr. Marc Benzler, partner in the Regulatory Finance practice, explained: "The focus on the financial sector in the media and politics and among the public has increased significantly since the financial crisis. There is more stringent regulation in place and banks and other financial institutions are increasingly sensitive to ethical issues. This discussion of ethical questions has been driven by the two megatrends of digitalisation and sustainability The financial sector has a particular responsibility in terms of both of these since the management of capital flows gives it a huge amount of influence over the transformation of both the economy and society."

Dr. Gregor Evenkamp, partner in the Fintech/Capital Markets practice added: " Factoring in ethical and moral considerations may initially slow the development process for innovative products. In the long term, however, companies will benefit as levels of trust among clients, suppliers and the public increase."

Key area: ethical aspects of data use

Managers themselves see the protection of personal data as the main issue in terms of ethical considerations: Regardless of any external pressure, managers take the view that the most important area to look at is the ethical aspects of data protection relating to privacy (80%). A close second is how to make sure that companies and their staff are ready for the changes which are coming, e.g. staff training (78%). In third place was the issue of how to protect data from unauthorised access by third parties such as hackers (77%).

Dr. Jan Conrady, counsel in the Commercial Litigation practice: "Digitalisation and the GDPR have put data protection and cybersecurity at the top of companies' agendas. In addition to the ethical aspects, which can trigger significant reputational damage, cybersecurity is also ultimately a liability issue. In cases where client data has been hacked, claims for damages can quickly escalate to millions of euros."

AI and automated decision systems – ethics or regulation?

In terms of the use of automated decision systems, managers do not see quite as much need to take steps as regards ethical considerations (63%). This is somewhat surprising given that this is probably the most talked about aspect of digitalisation in academia, business and politics.

Dr. Ines Keitel, Head of the Employment practice in Germany and partner in the Employment and Data Protection practice: "The workplace is in a state of flux. Companies will need to take not just legal but also ethical aspects into account if, for instance, applicants are to be selected using AI algorithms: If the data used for these algorithms is affected by "unconscious bias", this will affect the selection of applicants and bring with it a whole range of ethical, employment and reputational issues. In order to ensure that effective and robust risk management is in place which uses the potential benefits of AI and which can protect a company's reputation over the long term, a holistic and proactive approach needs to be taken with relevant data protection, employment and ethical considerations."

Dr. Thomas Voland, partner in the Public and International Regulatory Law practice: "The issue of ethical aspects in terms of decision-making is also applicable to driverless vehicles, for example when an accident is unavoidable. It is essential for legal and ethics experts to work closely on this since ethical considerations may necessitate legal measures (e.g. in respect of liability issues). Calls for regulation are also becoming louder. Europe has an opportunity to lead the way on the appropriate and ethical use of AI."

All of the above experts are also part of the Clifford Chance Global Tech Group.

The market research institute MoWeb surveyed 203 managers from a whole range of sectors for the "Talking Tech: Connecting Digital and Law" survey. The survey was conducted between June and August 2019 and was commissioned by Clifford Chance. The details of the survey findings are attached and also available via this link.

Umsetzung digitaler Lösungen – Studie zeigt: Ethischer Umgang mit Daten steht bei Stakeholdern weit oben auf der Agenda

Sieben von zehn Entscheidern sehen sich von ihren Stakeholdern unter Druck gesetzt, bei der Digitalisierung ethische und moralische Fragen zu berücksichtigen. 53 Prozent der Befragten verspürt "eher starken" Druck, 18 Prozent sogar "sehr starken". Das sind Ergebnisse der aktuellen Entscheider-Studie der internationalen Anwaltssozietät Clifford Chance unter deutschen Unternehmen mit mehr als 250 Mitarbeitern zum Thema "Herausforderungen der Digitalisierung".

Mehr als 70 Prozent der Entscheider in deutschen Unternehmen verspüren starken Druck von Stakeholdern, ethische Fragen bei der Digitalisierung zu berücksichtigen
Besonders hoch ist der Druck in der Finanzbranche
Die zwei Mega-Trends Digitalisierung und Nachhaltigkeit befeuern Diskussion um ethisches Handeln
Manager sehen den größten Handlungsbedarf beim Umgang mit sensiblen Daten, weniger beim Einsatz automatisierter Entscheidungssysteme

Dr. Claudia Milbradt, Head der deutschen Tech Gruppe und Mitglied der Steering Group der globalen Tech Gruppe bei Clifford Chance, stellt fest: "Die Normierung ethischer Grenzen für die Nutzung von künstlicher Intelligenz und der zu verarbeitenden Daten ist eine der größten Herausforderungen vor denen unsere Gesellschaft steht. An dieser Stelle ist eine enge Zusammenarbeit von Juristen, IT und Data-Spezialisten sowie Philosophen notwendig. Die Entwicklung der Technik ist der Schaffung eines einheitlichen regulatorischen Rahmens weit voraus. Wir begleiten unsere Mandanten auf diesem spannenden Weg."

Finanzbranche unter Druck

Gerade die Manager und Führungskräfte der Finanzbranche bestätigen, dass Kunden, Lieferanten und die Öffentlichkeit verstärkt darauf drängen, Ethik und Moral bei der Digitalisierung nicht zu vergessen. Dies geben 82 Prozent der Befragten an. In der Industrie und in der Gesundheitsbranche wird dies etwas weniger stark empfunden.

Dr. Marc Benzler, Partner im Bereich Regulatory Finance, erläutert: "Der Blick von Öffentlichkeit, Medien und Politik auf die Finanzbranche ist seit der globalen Finanzkrise deutlich schärfer. Die Regulierung hat spürbar zugenommen und die Institute selbst sind zunehmend sensibilisiert für ethische Fragen. Die zwei Mega-Trends Digitalisierung und Nachhaltigkeit treiben die Diskussion um ethisches Handeln an. Bei beiden kommt der Finanzbranche besondere Verantwortung zu: Durch die Steuerung von Geldströmen hat sie einen enormen Einfluss auf die Transformation von Wirtschaft und Gesellschaft."

Dr. Gregor Evenkamp, Partner im Bereich Fintech/Capital Markets, ergänzt: " Die Berücksichtigung ethischer und moralischer Aspekte kann den Entwicklungsprozess innovativer Produkte gegebenenfalls erst einmal verlangsamen. Langfristig allerdings verhilft dies den Unternehmen, sich einen Marktvorteil zu erarbeiten. Denn dadurch bauen sie das Vertrauen ihrer Kunden, Lieferanten und auch der Öffentlichkeit weiter aus.“

Größter Handlungsbedarf: ethischer Umgang mit Daten

Die Entscheider selbst sehen den Schutz von persönlichen Daten als das zentrale Thema bei der Berücksichtigung ethischer Aspekte: Unabhängig vom Druck von außen sehen die Verantwortlichen den größten Handlungsbedarf bei ethischen Fragen zum Datenschutz hinsichtlich der Privatsphäre (80 Prozent). Auf dem zweiten Rang landet die Gestaltung des Wandels der Arbeitswelt – zum Beispiel die Weiterbildung der Mitarbeiter (78 Prozent). Dahinter folgt der Schutz von Daten vor dem Zugriff unbefugter Dritter wie beispielsweise Hackern (77 Prozent).

Dr. Jan Conrady, Counsel im Bereich Commercial Litigation: "Digitalisierung und DSGVO haben Datenschutz und Cybersicherheit ganz oben auf die Agenda von Unternehmen gehoben. Neben ethischen Aspekten, die erhebliche Reputationsschäden auslösen können, geht es bei Cybersicherheit letztlich auch um Haftungsfragen. Wenn Kundendaten gehackt werden, können schnell Schadensersatzforderungen in Millionenhöhe anfallen."

Künstliche Intelligenz und maschinenbasierte Entscheidungen – Ethik oder Regulierung?

Beim Einsatz von Maschinen, die autonom Entscheidungen treffen, sehen die Entscheider etwas weniger Handlungsbedarf was die Berücksichtigung ethischer Aspekte betrifft (63 Prozent). Das erstaunt insbesondere vor dem Hintergrund, dass Wissenschaft, Wirtschaft und Politik aktuell über kaum einen Digitalisierungsaspekt stärker diskutieren.

Dr. Ines Keitel, Leiterin der deutschen Arbeitsrechtspraxis und Partnerin im Bereich Arbeitsrecht und Datenschutz: "Die Arbeitswelt befindet sich in einem grundlegenden Wandel. Wenn zum Beispiel Bewerber über KI-basierte Algorithmen ausgewählt werden, müssen Unternehmen neben den rechtlichen Anforderungen auch ethische Aspekte unbedingt im Blick behalten: Ist die Datenmasse, aus der angelernt wird, von "unconscious bias" betroffen, wird die Bewerberauswahl entsprechend ausfallen – mit allen ethischen, arbeitsrechtlichen und reputativen Problemen. Für ein sinnvolles Risk Management, das auf Resilienz unter Nutzung von Entwicklungschancen durch KI ausgelegt ist und die Reputation des Unternehmens dabei nachhaltig schützt, müssen Datenschutz, Arbeitsrecht und ethische Aspekte zusammen betrachtet und proaktiv angegangen werden."

Dr. Thomas Voland, Partner im Bereich Öffentliches und Internationales Regulierungsrecht: "Auch im Bereich des automatisierten Fahrens stellt sich die Frage nach ethischen Aspekten hinsichtlich der Abwägung von Entscheidungen – etwa wenn ein Unfall unvermeidlich ist. Die enge Zusammenarbeit von Juristen und Ethikern ist hierbei unumgänglich, da sich aus den ethischen Aspekten wiederum juristischer Handlungsbedarf ergeben kann, etwa im Hinblick auf Haftungsfragen. Gleichzeitig wird der Ruf nach Regulierung immer lauter. Europa hat die Chance, im Rennen um die globale Technologievorherrschaft eine Vorreiterrolle im vertrauensvollen, ethischen Einsatz von KI einzunehmen."

Alle Experten sind Mitglieder der deutschen und der globalen Tech Gruppe von Clifford Chance.

Das Marktforschungsinstitut MoWeb hat für die Studie „Talking Tech: Connecting Digital and Law“ 203 Manager und Führungskräfte aus allen Branchen befragt. Die Umfrage fand im Zeitraum Juni bis August 2019 statt und wurde im Auftrag von Clifford Chance erstellt. Die umfassenden Studienergebnisse finden Sie anbei und unter diesem Link.