IEEE 7000 and CertifAIED – Standard und Zertifizierung für vertrauensvolle KI

Digital Social Responsibility Champion Nr. 8: Dr. Clara Neppel 

Im vergangenen Jahr hat die IEEE einen Standard und ein Zertifizierungsprogramm zur verantwortungsvollen Implementierung von KI-Systemen etabliert. Mit Clara habe ich gesprochen über die Story hinter den „7000“ Standards, warum wir in Europa hier eine Vorreiterrolle einnehmen und für welche Branchen die Zertifizierung eigentlich überhaupt sinnvoll sein können.

Standards und Künstliche Intelligenz – geht das überhaupt schon?

IEEE hat den Grundstein für die KI-Ethik gelegt, basierend auf Prinzipien und Standards, die von Hunderten unserer Freiwilligen in den letzten fünf Jahren geschaffen wurden und die bereits eine globale Wirkung entfalten. Wir verfügen über eine enorm hohe intrinsische Motivation aller Beteiligten. Eine Reihe von Standards und Zertifizierungskriterien sind schon verfugbar, andere befinden sich noch in Entwicklung, neue Initiativen werden bedarfsorientiert fortlaufend gestartet. Aufgrund der Entwicklungsgeschwindigkeit der Technologie dürfen wir uns die Frage nicht stellen, OB das schon geht. Es muss! Wir brauchen Standards, der Markt braucht Standards, die Wirtschaft braucht Standards.

Es geht um das Vertrauen der Menschen in die Zukunft – um nicht viel weniger.

Was steckt hinter IEEE 7000?

IEEE 7000 ist unser Basis-Standard, in dem die Prozesse beschrieben sind, die Unternehmen durchlaufen müssen, um wertegetriebene ethische, verlässliche, risikobewusste und verantwortungsvolle Technik zu bauen.  (vgl. https://engagestandards.ieee.org/ieee-7000-2021-for-systems-design-ethical-concerns.html). Das hört sich einfach an – aber es war ein wirklich aufwändiger Prozess und er hat 5 Jahre in Anspruch genommen. Er ist der Erste in unserer „Familie“ von neuartigen sozio-technischen Standards.  Sie tragen alle eine laufende Nummer beginnend mit 7 (https://ethicsinaction.ieee.org/p7000/). Traditionell beschäftigen wir uns mit technischen Standards, wie zum beispiel WIFI. Die Entwicklung von sozio-technischen Standards ist multidsziplinär, Informatiker, Entwickler und  Geisteswissenschaftler müssen eine gemeinsame Sprache finden.

Es sind Standards, die der Technik soziale Werte beibringen (sollen) – und umgekehrt.

Darum hat es auch so viel Zeit in Anspruch genommen. Es war und ist Pionierarbeit. Wir konnten auf keine Erfahrungswerte zurückgreifen und mussten wirklich über jeden Schritt und jede Regelung einen Konsens schaffen.

Das muss ich erläutern: Standardisierungen werden wirklich fast ausnahmslos in Konsensverfahren getroffen und festgehalten. Konsens bedeutet: es braucht Zeit. Da darf und soll jeder seine Meinung und Einwände einbringen, Informationsasymmetrien müssen abgebaut werden, Daten werden abgewogen und dann erst wird beschieden. Wir haben in den letzten 5 Jahren gelernt Konsens in Themenfeldern zu generieren, in denen wir über wenig Erfahrung verfügen. Darauf sind wir stolz! Was jetzt kommen muss ist „Tempo“. Wenn wir wissen, dass wir konsensfähig sind, selbst wenn es um so kontroverse Themen geht wie die faktische Verankerung von ethischen Werte in Technik, dann müssen wir alle jetzt schneller werden in unseren Rahmengebungen, damit sich Branchen, Länder, ja die Welt innerhalb dieses Rahmens entwickelt. Und zwar so viel schneller, dass unsere Arbeit nicht von technologischen Innovationen überholt wird.

Sind das übliche Verfahrensdauern bei euch?

Ja und nein: es gibt durchaus Standardisierungs- und Zertifizierungsverfahren, die schneller gehen. Wobei man ‚schnell‘ so verstehen muss, dass wir in unseren globalen Gremien Beteiligte aus unterschiedlichsten Branchen und Ländern haben, um Perspektivwechsel und Diversity sicherzustellen. Das kostet Zeit, aber wir gewinnen Akzeptanz und Qualität. So hat die Entwicklung der ethischen Zertifizierungkriterien fur CertifAIEd „nur“ 2 Jahre in Anspruch genommen, weil wir hier alle Erfahrung hatten und eher in einem adaptiven Prozess arbeiten konnten als völlig auf der grünen Wiese.

Wir brauchen bitte ein bisschen Background – was steckt drin in den CertifAIEd

Das IEEE CertifAIEd-Zeichen bestätigt, dass ein Produkt, eine Dienstleistung oder ein System verifiziert wurde, um entsprechende ethische Kriterien zu erfüllen (https://engagestandards.ieee.org/ieeecertifaied.html). Dies trägt zu mehr Vertrauen bei und demonstriert einen proaktiven Ansatz, um öffentliches Vertrauen in KI-Systeme aufzubauen. Derzeit gibt es vier Kategorien von Kriterien für die IEEE CertifiAIEd-Zertifizierung:

• Transparenzkriterien Transparenzkriterien beziehen sich auf die Werte, die in ein Systemdesign eingebettet sind, sowie auf die Offenheit und Offenlegung der für Entwicklung und Betrieb getroffenen Entscheidungen.
• Kriterien für die Rechenschaftspflicht erkennen an, dass die Autonomie des Systems/Dienstes und seine Lernfähigkeit das Ergebnis von Algorithmen und Rechenprozessen sind, die von Menschen und Organisationen entwickelt wurden, die für ihre Ergebnisse verantwortlich bleiben.
• Algorithmische Verzerrungskriterien beziehen sich auf die Vermeidung systematischer Fehler und wiederholbarer unerwünschter Verhaltensweisen, die zu ungerechten Ergebnissen führen.
• Kriterien für den Schutz der Privatsphäre zielen darauf ab, die private Lebenssphäre und die öffentliche Identität eines Menschen, einer Gruppe oder einer Gemeinschaft zu respektieren und ihre Würde zu wahren.

Ziel des IEEE CertifAIEd Programm ist es, das Vertrauen in öffentliche und private Unternehmen zu stärken, die die Vorteile der KI-Ethik durch eine Zertifizierung in Ermangelung von oder als Ergänzung zu allgemein akzeptierten und durchgesetzten Vorschriften für KI erkennen.

Perfekt, dass schlägt genau die Brücke zu Anahita und Abir, zwei vorherigen Digital Responsibility Champions. Anahita hat beschrieben, das Standards „Recht“ schaffen und Abir, dass das klassische „Recht“ genau hier zu langsam ist (das verkürzt die Aussagen der beiden, darum empfehle ich unbedingt die Blogartikel https://iamkenza.de/globale-ethische-prinzipien-im-handel-wie-maechtig-sind-standards/ und https://iamkenza.de/foresight-thinking-kann-recht-ein-vordenker-werden/ zu lesen).

Das kann ich sehr gut nachvollziehen, gerade in Europa ist der Wunsch nach glaubwürdigen Standards und Zertifikaten für die Industrie, aber auch für die Verwaltung, für die Bildungsarbeit, für Jugend- und Datenschutz unglaublich hoch. Die Anwendungsfälle zeigen uns in ihrer Vielfalt, wie wichtig unsere Arbeit ist. Immer besteht da eine ganz enge Verzahnung zur Unternehmenskultur, zum verantwortungsvollen und ethisch richtig Handeln. Es hat also wirklich Impact. Europa kann und muss hier alle Stärken ausspielen, um solche Standards auch auf Wirtschaftsmächte wie China und die USA ausstrahlen zu lassen. Durch die jetzt Involvierten generieren wir Follower und setzen globale Standards. Genau das ist unser Ziel und unsere Messgröße!

Auf das jüngste Leuchtturmprojekt mit der Stadt Wien sind wir sehr stolz – es macht unsere Arbeit begreifbar, es macht KI nahbar. Zur Erläuterung: Die Stadt Wien hat als erste Stadt weltweit das IEEE CertifiAIEd AI Ethics  Zertifizierungszeichen erhalten. Damit schafft sie einen Präzedenzfall für andere Städte und Einrichtungen, die bestrebt sind, ihre Ziele auf verantwortungsvolle und menschenzentrierte Weise zu erreichen.

Zurück zur Ausgangsfrage: Das klingt gut, aber auch aufwändig und bürokratisch – für welche Branchen und Einsatzgebiete ist IEEE 7000 und CertifIAD wirklich umsetzbar?

Ich gebe dir recht, so klingt es. Aber es ist eben unser Ansatz, dass wir auf Freiwilligkeit setzen. Wir erarbeiten Standards in kommunikativen und iterativen Prozessen. Im Gegensatz zu Gesetzgebungsverfahren gibt es keine Mehrheitsentscheidungen – wir debattieren und wägen ab. Das mag schwerfällig klingen, aber wir haben alle das Ziel einer Einigung – wir arbeiten FÜR eine Lösung – nicht GEGEN sie. Das muss unbedingt eine fachlich fundierte und praktisch umsetzbare Einigung sein. Darum ist das Ergebnis immer wirklich wirksam. Die Standards sind – wenn sie denn einmal formuliert sind – gut adaptierbar und damit branchenübergreifend gültig und operationalisierbar. Das macht sie akzeptiert – ein enormer Vorteil gegenüber Entscheidungen, die einem Unternehmen übergestülpt werden. Freiwilligkeit ist ein wertvoller Ansatz – auch wenn wir wissen, dass viele Branchen dem Druck des Marktes nachgeben (müssen). Für viele ist das aber eher tolerierbar als der Druck einzelner Nationalstaaten und es ist auch ökonomisch viel sinnvoller. In Bereichen wie vertrauenswürdige KI ergänzen Standards, die in einem Bottum-up Verfahren mit allen Beteiligten entwickelt wurden, hervorragend entsprechende Verordnungen, wie sie zurzeit von der Europaischen Kommision im Rahmen des AI Acts vorgeschlagen wurden.  Nicht umsonst geht es in den Standards um Transparenz, Datenschutz, Fake News, um Auswirkungen autonomer und intelligenter Systeme auf das menschliche Wohlbefinden, um Daten von Kindern, Jugendlichen, Beschäftigen und Biases in der Datennutzung. Es muss ganzheitlich sein. Es soll global wirken.

IEEE 7000 in a Nutshell?

Verantwortungsvolle Innovation im algorithmischen Zeitalter erfordert eine werteorientierte Methodik, die das traditionelle Systems Engineering ergänzt.

Das sieht IEEE 7000-2021 vor. Dieser Standard skizziert einen Ansatz zur Identifizierung und Analyse potenzieller ethischer Probleme in einem System oder Softwareprogramm von Anfang an.

Die wertebasierten Methoden des Systemdesigns berücksichtigen ethische Überlegungen in jeder Phase der Entwicklung, um negative unbeabsichtigte Folgen zu vermeiden und gleichzeitig die Innovation zu steigern

Danke Clara!