Künstliche Intelligenz, aber mit Verantwortung

KI-Expertin Alexandra Ebert über die Bedeutung von "Responsible AI", synthetische Daten, den Nutzen von KI für KMU und Spielregeln für Künstliche Intelligenz in der EU.

Künstliche Intelligenz (KI), Datenschutz und Big Data: Alexandra Ebert von MOSTLY AI – und Keynote-Speakerin am EDAY 2024 – ist bei den großen Themen unserer Zeit ganz vorne mit dabei und leistet wichtige Aufklärungsarbeit über einen verantwortungsvollen Umgang mit KI.

Im MARI€-Interview erklärt sie, warum Responsible AI auch für KMU wichtig ist - und warum ein Schwarz-Weiß-Denken beim Thema Künstliche Intelligenz niemandem hilft.

Alexandra Ebert, Sie sind Chief Trust Officer bei MOSTLY AI. Was ist das und wofür braucht es diese Position?

Alexandra Ebert: Diese Jobrolle gibt es tatsächlich nicht oft und kommt eher bei großen Unternehmen vor. Da geht es darum, wie wir als Konzern mit Kundendaten umgehen, um Vertrauen unserer Kunden und Stakeholder zu sichern. Ich bin seit 2019 bei MOSTLY AI, übrigens als erste Frau in dieser Position, und richte meine Aufgaben seitdem stark nach außen, also in die Zusammenarbeit mit Behörden, Jurist:innen und Auftraggeber:innen. Schließlich arbeiten wir mit synthetischen Daten, hier leiste ich Aufklärungsarbeit und schaffe Vertrauen und Bewusstsein für einen ethischen Umgang mit KI und Datenschutz.

Was sind synthetische Daten und wie arbeiten Sie damit?

Synthetische Daten sind künstlich generierte Informationen, die echten Datensätzen in Struktur und statistischer Zusammensetzung ähneln, jedoch keine realen Personen identifizierbar machen. Bei MOSTLY AI haben wir eine Software entwickelt, die es unseren Kunden ermöglicht, diese Daten eigenständig zu erzeugen. Unternehmen können so große Mengen an datenschutzkonformen Daten aus ihren eigenen Beständen für das Training von KI-Systemen verwenden, ohne die Privatsphäre echter Menschen zu gefährden. Dies ermöglicht es, gleichzeitig Datenschutz zu gewährleisten und innovative KI-Lösungen zu entwickeln. 

Wie gehen Sie vor, um das Bewusstsein und das Verständnis von KI in der breiten Öffentlichkeit zu verbessern?

Ich sehe mich selbst als KI-Generalistin und ermutige Menschen, sich mit diesen Themen zu beschäftigen, auch wenn Sie keine ausgewiesenen Expert:innen in Machine Learning sind. Denn für eine verantwortungsvolle Entwicklung und den Einsatz von KI-Systemen braucht es Menschen mit unterschiedlichen Hintergründen, wie Rechtswissenschaften, Sozialwissenschaften und natürlich auch Betriebswirtschaft.

i

Florian Schulte

KI ist weder eine Universallösung noch eine Weltuntergangsmaschine

In meiner Arbeit mit Regulatoren und Unternehmen setze ich mich dafür ein, den Hype rund um KI ins Verhältnis zu setzen: Sie ist weder eine Universallösung noch eine Weltuntergangsmaschine, und ein derartiges Schwarz-Weiß-Denken ist nicht förderlich für die großen Herausforderungen im Zusammenhang mit KI, allen voran Datenschutz, Deepfakes, Misinformation und mehr.

Wie argumentieren Sie den Nutzen von KI, zum Beispiel für KMU?

KI ist in erster Linie ein Werkzeug, und man muss die eigene Erwartungshaltung unbedingt an den heutigen Entwicklungsstand von KI anpassen. Denn wir sind noch lange nicht so weit, wie so mancher Big Tech-Vertreter:innen oder auch Medien uns glauben lassen. Gerade in Bezug auf "Responsible AI", also einem verantwortungsvollen Umgang mit KI-Systemen, ist es wichtig, dass Nutzer:innen – also auch die Belegschaft in KMU und anderen Unternehmen – den Nutzen und die Limitationen von KI verstehen und kennenlernen.

Sonst kann es durchaus zu einem PR-Fiasko ähnlich der Situation kommen, in der sich Kentucky Fried Chicken im Jahr 2022 in Deutschland befand. Hier wurde ein Programm genutzt, um Push-Nachrichten anlässlich besonderer Feiertage zu automatisieren – darunter leider auch die Reichskristallnacht, was zu Recht Empörung ausgelöst hat.

In Ihrer Arbeit sind "Responsible AI" oder "ethische KI" immer wieder ein Thema. Was ist das und wie können Unternehmen den KI-Einsatz ethisch gestalten?

"Ethische KI" wird als Begriff zumeist synonym mit Responsible AI oder Trustworthy AI verwendet. Responsible AI bedeutet, dass ich verantwortungsvoll an die Entwicklung eines Algorithmus gehe, um sicherzustellen, dass gewisse Kriterien wie Datenschutz, Fairness sowie die Robustheit und Erklärbarkeit des Systems erfüllt sind. Das schließt zum Beispiel den Gender Bias mit ein, also das Phänomen, dass KI-Systeme aufgrund ihres Trainings Frauen mit Stereotypen bedenken.

Aber auch Umweltaspekte spielen eine Rolle, da ChatGPT sehr viele Ressourcen verschlingt. Das bedeutet für Unternehmen, dass sie von Beginn an all diese Punkte mitbedenken und den verantwortungsvollen Umgang mit KI in die Unternehmenskultur aufnehmen müssen.

Transparenz spielt natürlich auch eine große Rolle. Europa will ein Leader in KI sein, aber als Responsible Leader. Das kann man direkt in Vertrauen übersetzen, denn ein transparentes System führt dazu, dass mehr Menschen es nutzen. Wir brauchen Vertrauen in KI-Systeme, und ohne das können wir KI nicht flächendeckend in Europa einsetzen.

In Europa trat ja kürzlich der EU AI Act in Kraft, und die DSGVO prägt die Spielregeln schon seit längerer Zeit. Wie beeinflusst das die Art und Weise, wie Unternehmen KI-Technologien implementieren?

Die Datenschutzgrundverordnung spielt definitiv eine große Rolle bei der Entwicklung von KI und hat auch die Legislative in anderen Ländern stark beeinflusst. Auch der risikobasierte EU AI Act zwingt die Hersteller, sich intensiv mit Responsible AI-Fragen bei der Entwicklung und dem Einsatz ihrer KI-Systeme zu befassen.

Gerade für KMU ist es in Europa aber sehr herausfordernd, da es noch viele weitere Regulatorien und Gesetze vom Kaliber einer DSGVO gibt, die sie unmöglich alleine ergründen können. Da brauchen wir definitiv ein eigenes Ökosystem, welches Unterstützung bei diesen Herausforderungen bietet. 

Mein Rat an Unternehmen lautet: Auf keinen Fall den Kopf in den Sand stecken, sondern dem Thema neugierig begegnen, sich weiterbilden und mit anderen austauschen. KI-Systeme sind längst keine Zukunftsmusik mehr, sondern haben Einfluss auf immer mehr Bereiche unseres Arbeitsalltages. Deshalb ist es wichtig, dass jeder und jeder über Responsible AI-Grundkenntnisse verfügt - und es ist Chefsache, diesen Geist in das eigene Unternehmen zu tragen.

Denn es gibt Studien wie den AI Index Report 2024 von der Stanford University, die zeigen, dass ein realistisches Verständnis von den Kapazitäten von KI-Systemen die besten Ergebnisse liefert.

Wie sehen Sie die weitere Trendentwicklung von KI?

Wenn man ein paar Jahre zurückblickt, wurde gefordert, dass jeder Mensch programmieren können sollte. Das ist heute nicht mehr notwendig, denn mit Tools wie ChatGPT verfügen wir über User Interfaces, die es uns ermöglichen, mit KI Systemen zu interagieren und - auch ohne Programmcode - Nutzen daraus zu ziehen. 

Ein nächster Schritt wird die Verknüpfung einzelner KI-Tools sein, um komplexere Aufgaben zu lösen. Heutzutage kann ChatGPT beispielsweise einen Reiseplan für eine Reise nach Venedig vorschlagen. Künftige KI-Assistenzsysteme werden auch Flug-, Hotel-, Restaurant- und Erlebnisbuchungen nach den Präferenzen des Nutzers übernehmen. Programmierkenntnisse sind dafür nicht nötig, und wer seine Gedanken klar ausdrücken kann, wird diese KI-Assistenten als nützlich empfinden.

Das Wichtigste in Kürze

• "Responsible AI" bedeutet, verantwortungsvoll an die Entwicklung eines Algorithmus heranzugehen, um sicherzustellen, dass gewisse Kriterien wie Datenschutz, Fairness sowie die Robustheit und Erklärbarkeit des Systems erfüllt sind.
• Für eine verantwortungsvolle Entwicklung und den Einsatz von KI-Systemen braucht es Menschen mit unterschiedlichen Hintergründen, wie Rechtswissenschaften, Sozialwissenschaften und Betriebswirtschaft.
• Für einen verantwortungsvollen Umgang mit KI - auch in Bezug auf KMU - ist es wichtig, den Nutzen und die Limitationen verstehen und kennenzulernen.
• Für KI-Expertin Alexandra Ebert ist Künstliche Intelligenz weder eine Universallösung noch eine Weltuntergangsmaschine, Schwarz-Weiß-Denken hält sie für nicht förderlich für die großen Herausforderungen im Zusammenhang mit KI.