Persona
Joanna Bryson ist Professor of Ethics and Technology an der Hertie School. Ihre Forschungsschwerpunkte liegen auf den Bereichen KI/IKT-Governance und den Auswirkungen der Technologie auf die menschliche Zusammenarbeit. Bryson hat Abschlüsse in Psychologie und Künstlicher Intelligenz von der University of Chicago (BA), der University of Edinburgh (MSc und MPhil) und dem Massachusetts Institute of Technology (PhD). Seit Juli 2020 ist Prof. Bryson eine von neun Experten, die von Deutschland für die Global Partnership on Artificial Intelligence nominiert wurden.
Abstract
Joanna Bryson behandelt in ihrem Vortrag die Bereiche Künstliche Intelligenz, Ethik und die Grenzen der Transparenz. Im ersten Teil des Vortrags begründet Bryson ihre Skepsis gegenüber der These, dass Roboter moralische Agenten werden (können), und argumentiert stattdessen, Roboter würden Artefakte bleiben. Sie stellt fest, dass Ängste vor KI-Technologien oftmals übertrieben sind und darüber hinaus falsche Befürchtungen befeuern, die von den realen Gefahren der KI-Technologien ablenken, d.h. von deren potenziell vorsätzlichem Missbrauch. Bryson argumentiert, dass dies durch oft implizit voreingenommene Modelle ermöglicht wird, die ihrerseits Stereotypen vermitteln, auf Grundlage derer zu handeln das eigentlich Gefährliche sei. Daher sollten solche Vorurteile vermieden, d. h. aus der eigenen Ethik ausgeschlossen werden. Bryson gibt im darauffolgenden zweiten Teil ihres Vortrages Einblick in die Vertrauensbeziehungen, die ihrer Meinung nach peer-wise sind, wobei peers moralische Akteure sind, und stellt fest, dass jede Form von Durchsetzung nur zwischen solchen erfolgt. Allerdings, so argumentiert Bryson, kann KI kein peer sein, da sie weder in der Lage zur informierten Zustimmung noch zu Rechenschaft fähig sein kann. Bryson weist im dritten Teil Ihres Vortrags darauf hin, dass es einfach ist, digitale Systeme transparent zu machen, stellt jedoch fest, dass der Transparenz aufgrund der mathematischen Kombinatorik, der politischen Polarisierung und/oder widersprüchlicher Ziele Grenzen gesetzt sind. Zum Abschluss ihres Vortrags gibt sie einen kurzen Überblick darüber, was ihrer Meinung nach getan werden kann, um das Problem der begrenzten Transparenz zu lösen.
Persona
Joanna Bryson is Professor of Ethics and Technology at the Hertie School. Her research focuses on AI/ICT governance and the impact of technology on human collaboration. Bryson holds degrees in Psychology and Artificial Intelligence from the University of Chicago (BA), the University of Edinburgh (MSc and MPhil) and the Massachusetts Institute of Technology (PhD). As of July 2020, Prof Bryson is one of nine experts nominated by Germany for the Global Partnership on Artificial Intelligence.
Abstract
Joanna Bryson covers the fields of Artificial Intelligence, Ethics, and the Limits of Transperency in her talk. In the first part Bryson accounts for her scepticism concerning robots becoming moral agents. She argues that robots will, to the contrary, stay mere artifacts. She ascertains that purported fears are indeed often exaggerated and foment false concerns, distracting from real dangers of AI technologies i.e., its potentially intentional misuse. Bryson argues this is being enabled by oftentimes implicitly biased models that in turn inform stereotypes acting on the basis of which is actually the bad thing. Hence, we should avoid such prejudice in order to better our society, that is excorporate it from our ethics. Bryson proceeds in the second part of her talk by providing insight on trust relations which she argues are peer-wise, where peers are moral agents, and notes that enforcement occurs between them. However, she argues that AI cannot be a peer, due to it being unable to consent or to be held accountable. Bryson, in the third part of her talk, points out that it is easy to make digital systems transparent, yet notes that there are limits to transparency due to mathematical combinatorics, political polarisation, and/or multiple conflicting goals. She closes by providing brief overview of what in her eyes may be done to tackle the problem of limited transparency.