Programm

09:30 Giovanni De Gregorio (University of Oxford): Europäische Werte im Gesetz über künstliche Intelligenz (Artificial Intelligence Act)
Die Einführung des Europäischen Gesetzes über künstliche Intelligenz wurde als grundlegender Schritt zur "Gestaltung der digitalen Zukunft Europas" begrüßt. Es gibt jedoch noch viele Fragen zu dem Vorschlag und seiner Fähigkeit, einen klaren Rechtsrahmen zu schaffen, der nicht nur die Ziele des Binnenmarktes, sondern auch den Schutz der europäischen Werte, wie das Rechtsstaatsprinzip und den Schutz der Grundrechte, gewährleisten soll. Das Gesetz über die künstliche Intelligenz wäre ein weiterer Schritt des europäischen digitalen Konstitutionalismus, der die Union dazu gebracht hat, von einem neoliberalen Ansatz zu einer konstitutionellen demokratischen Strategie überzugehen. Die vorgeschlagene Verordnung kann nicht nur für Europa eine Alternative zu illiberalen und neoliberalen Ansätzen in Bezug auf Technologien der künstlichen Intelligenz darstellen. Dieser Ansatz würde einen europäischen dritten Weg darstellen, der auf der Aufwertung des Menschen und der Grundrechte beruht. Das Gesetz über künstliche Intelligenz spiegelt jedoch nicht den menschenzentrierten Ansatz wider, der auch von der Hochrangigen Expertengruppe für KI vorgeschlagen wurde. Anders als das Gesetz über digitale Dienstleistungen oder die Datenschutz-Grundverordnung sieht der Vorschlag kein System individueller Schutzmaßnahmen und Rechtsbehelfe vor. Die Präsenz algorithmischer Technologie in der technologischen Zukunft Europas wirft die Frage auf, ob die Verordnung Teil eines Weges der Union im Zeitalter des digitalen Kapitalismus ist.


09:50 Christoph Benzmüller (Universität Bamberg): Vertrauenswürdige KI durch ethisch-rechtliche Regulatoren?  
Es gibt kritische Anwendungen, bei denen der naive Einsatz moderner KI-Technologie erheblichen Schaden anrichten könnte. Plädoyers für Transparenz und Aufklärung bieten in solchen kritischen Anwendungskontexten aufgrund ihres posthoc-Charakters oft keine überzeugenden Lösungen, da sie kaum geeignet sind, Katastrophen von vornherein zu verhindern; sie könnten sogar als Einladung zu gegnerischen Angriffen verstanden werden. Es liegt jedoch im Interesse der Gesellschaft, in präventive Maßnahmen zu investieren.     
Die Entwicklung intelligenter künstlicher Agenten mit echten moralischen Kompetenzen könnte als Alternative gesehen werden, aber ich bezweifle stark, dass wir in den letzten Jahren wesentliche Fortschritte in dieser Richtung gemacht haben. Tatsächlich scheint sich die jüngste Forschung in erster Linie auf die Nachahmung menschlicher Kompetenzen (anhand großer Datensätze) zu konzentrieren, anstatt zu erforschen und zu zeigen, wie eigene moralische Kompetenzen oder Bewusstsein in intelligenten künstlichen Agenten entstehen könnten. Die potenzielle Voreingenommenheit und Fragilität, die mit der ausschließlichen Nachahmung moralischer Kompetenzen verbunden sind, lassen mich über die Aussichten einer solchen Option besorgt sein, insbesondere bei Anwendungen von höchster Wichtigkeit.   
Ich schließe mich daher der Meinung mehrerer Kolleg*innen an, die sich für die Entwicklung ethisch-rechtlicher Governance aussprechen, die Entscheidungen für kritische Handlungen eines intelligenten künstlichen Agenten bewerten, rechtfertigen und legitimieren, bevor eine Handlungsausführung gewährt wird. In diesem Zusammenhang werden die ethisch-rechtlichen Einschränkungen von Menschen spezifiziert und deklarativ in symbolischer Sprache formuliert und top-down implementiert. Die angestrebte Governor-Technologie erfordert die Entwicklung expliziter, wertsensitiver ethisch-rechtlicher Argumentationsfähigkeiten in intelligenten künstlichen Agenten, so dass z. B. die Überprüfung der Einhaltung dieser ethisch-rechtlichen Einschränkungen durch den Agenten zuverlässig durchgeführt werden kann; dieser Ansatz setzt jedoch nicht voraus, dass die Agenten selbst zu moralischen Wesen werden.   
Die laufende Forschung meines Teams konzentriert sich daher auf die Bereitstellung flexibler und ausdrucksstarker symbolischer Mittel zur Darstellung und Argumentation mit normativen Theorien. Zu diesem Zweck haben wir das formale Rahmenwerk LogiKEy, die Methodik und dazugehörige Werkzeugunterstützung entwickelt. LogiKEy unterstützt den Entwurf und die Entwicklung von ethischen Reasonern, normativen Theorien und deontischen Logiken in einer hochflexiblen Art und Weise und stellt darüber hinaus eine fruchtbare Verbindung zwischen verschiedenen Forschungsgemeinschaften her, einschließlich der Wissensrepräsentation und Argumentation in der KI, der Deduktionssystemgemeinschaft und der formalen Ethik. Insbesondere ermöglicht LogiKEy die Anwendung interaktiver und automatisierter Theorembeweistechniken für die klassische Logik höherer Ordnung (HOL) in der ethisch-juristischen Argumentation. 


10:10 Sarah Spiekermann (Wirtschaftsuniversität Wien): Wertorientiertes Engineering mit IEEE 7000
Value-based Engineering (VbE) ist ein neuer und äußerst praktischer Ansatz für ein auf den Menschen ausgerichtetes Engineering. Er sensibilisiert Unternehmen für die ethischen Herausforderungen ihrer IT-Systeme und ermöglicht es ihnen, ihre IT-Innovationen in Richtung auf mehr soziales Wohlergehen zu verändern. Er bietet eine strukturierte und transparente Methode, um sicherzustellen, dass technische Einheiten im Sinne der Stakeholder arbeiten. Der Kern von VbE ist im IEEE 7000TM Model Process for Addressing Ethical Concerns During System Design standardisiert, der demnächst als ISO/IEC/IEEE 24748-7000 veröffentlicht wird. VbE beinhaltet die meisten der besten Aktivitäten, Aufgaben, Konzepte, Definitionen und Empfehlungen dieser Norm. 
Dieser Vortrag gibt einen Überblick über den IEEE 7000-Standard, seine Prozessphasen, seine Werteontologie und -terminologie sowie darüber, wie er Unternehmen erfolgreich dabei unterstützt, bessere IT-Systeme zu entwickeln.


10.30 Q&A

Das Programm findet auf Englisch statt.