Persona
Judith Simon ist Professorin für Ethik in der Informationstechnologie an der Universität Hamburg und hat zuvor in Berlin, Wien, Ljubljana, Stanford, Paris, Trento, Barcelona, Karlsruhe und Kopenhagen zu Themen aus Philosophie, Wissenschaftstheorie und Technikfolgenabschätzung geforscht. Sie beschäftigt sich mit der Verschränkung ethischer, erkenntnistheoretischer und politischer Fragen im Kontext von Big Data, Künstlicher Intelligenz und Digitalisierung im Allgemeinen.
Abstract
Judith Simons Vortrag behandelt die Frage, wie die Digitalisierung im Allgemeinen und Künstliche Intelligenz im Besonderen ethisch gestaltet werden können und vor welchen Herausforderungen eine gute KI steht.
Sie zeigt zunächst auf, wie der Gegenstandsbereich digitaler Technologien mit ethischen Methoden erfasst werden kann und unterscheidet dabei drei Perspektiven: die der Designer und Entwickler, die der Nutzer und die der IT-Artefakte an sich, wobei die letzte gleichzeitig die aktuellste und für Ihren Vortrag relevante darstellt. Im Folgenden geht Frau Prof. Simon detailliert darauf ein, welche ethischen Probleme insbesondere bei der Softwareentwicklung auftreten können und woher sie kommen. Sie identifiziert unter anderem die verwendeten Trainingsdaten, die getroffenen methodischen Entscheidungen und die Art der personenbezogenen Daten (sie unterscheidet dabei zwischen „meine Daten“, „Daten über mich“ und „Daten über Menschen wie mich“). Um diese Probleme zu lösen, bedarf es einer Vielzahl von Instrumenten, die zum einen Transparenz, Gerechtigkeit und Fairness und zum anderen die Beteiligung verschiedener Interessengruppen wie Informatiker, Juristen, Zivilgesellschaft usw. einschließen. Abschließend stellt Professorin Simon fest, dass Probleme nicht nur dann entstehen, wenn KI fehlerhaft ist, sondern oft auch dann, wenn sie genau das tut, was sie eigentlich soll und verweist somit nochmals auf die Notwendigkeit von Abwägungen bereits im Entstehungsprozess von Software.
Persona
Judith Simon is Full Professor for Ethics in Information Technologies at the Universität Hamburg. She is interested in ethical, epistemological and political questions arising in the context of digital technologies, in particular in regard to big data and artificial intelligence. Judith Simon is a member of the German Ethics Council as well as various other committees of scientific policy advice and has also been a member of the Data Ethics Commission of the German Federal Government (2018-2019). Her Routledge Handbook of Trust and Philosophy has been published in June 2020.
Abstract
Judith Simon’s lecture deals with the question of how digitalisation in general and artificial intelligence in particular can be shaped ethically and what challenges good AI faces.
She begins by showing how the subject area of digital technologies can be grasped with ethical methods and distinguishes between three perspectives, that of the designers and developers, that of the users and that of the IT artefacts themselves, the last of which is also the most recent and relevant for her lecture. In the following, Professor Simon discusses in detail which ethical problems can arise, especially in software development, and what their origins are. She identifies, among other things, the training data used, the methodological decisions made and the type of personal data (she distinguishes here between „my data“; „data about me“; and „data about people like me“). In order to solve these problems, a multitude of instruments is needed, which are called transparency, justice and fairness, on the one hand, and the participation of different stakeholders such as computer scientists, lawyers, civil society, etc., on the other. In conclusion, Professor Simon notes that problems arise not only when AI is faulty, but often also when it does exactly what it is supposed to do, and thus points once again to the need for consideration already in the software development process.