SonntagsBlick / Blick,

Künstliche Intelligenz – Wer den Kredit kriegt, entscheidet der Computer

Maschinelle Algorithmen machen bereits mehr Bewertungen, die das Leben von Menschen beeinflussen, als die meisten wissen. Eine Eigenheit von künstlicher Intelligenz ist, dass sie jeden Entscheid als Erfahrungswert nimmt – manchmal mit fatalen Folgen.

Die meisten Schweizerinnen und Schweizer nutzten Systeme mit künstlicher Intelligenz (KI) bereits sehr intensiv, ohne dass sie das realisieren, sagt Michael Baeriswyl, KI-Experte der Swisscom.

Zum Beispiel bei Onlinebewerbungen. Der weltführende Stellenvermittler Adecco vertraut auf Algorithmen, um Kandidaten für eine Vorselektion zu durchleuchten. Dabei durchsucht ein Programm Bewerbungen nach Wortkombinationen, die das Unternehmen als «erwünscht»» beurteilt. Je mehr Wörter übereinstimmen, desto besser passt der Bewerber zur offenen Stelle.

Wie heikel eine automatisierte Selektion ist und wie ungenau das maschinelle Lernen sein kann, erlebte  der Onlineriese Amazon. Der Selektionsalgorithmus wurde anhand von Bewerbungen trainiert, die zuvor in den letzten zehn Jahren bei Amazon eingegangen waren. Dummerweise kamen die meisten von Männern. Daraus folgerte das System, dass Männer die bevorzugten Kandidaten waren und sortierte Job-Bewerbungen von Frauen aus.

Adecco betont, solche Diskriminierungen verhindern zu wollen: «Alle Algorithmen, welche eine Einstellungsentscheidung beeinflussen könnten, werden durch Experten getestet, um systematische Voreingenommenheit ausschliessen zu können», sagt Adecco-Sprecherin Annalisa Job. Zudem würden aktuell keine Entscheide «automatisch» gefällt – über eine Einstellung entscheide immer noch der Mensch.

Siri und Alexa sind bekannte Beispiele

Chatbots sind eine der am ehesten erkennbaren Anwendungen von künstlicher Intelligenz. Kunden der Post-Finanztochter Postfinance beantworten solchen «digitalen Assistenten» etwa rund um die Uhr Fragen. Die international bekanntesten Anwendungen sind die Sprachassistenten Siri von Apple und Alexa von Amazon.

Wie die meisten Schweizer Unternehmen will die Post mit künstlicher Intelligenz ihre Effizienz steigern. Sie ermögliche, regelbasierte oder fehleranfällige Aufgaben nicht mehr manuell, sondern automatisch zu erledigen. Die Fluggesellschaft Swiss nutzt KI unter anderem, weil sie es mit ihrer Geschwindigkeit bei der Auswertung grosser Datenmengen ermöglicht, früher auf Störungen im Hub-System zu reagieren.

Der Nutzen der KI ist unbestritten. So können Banken damit registrieren, wenn ein Betrüger in einem anderen Land die Kreditkarte eines Kunden benutzt hat. Gemäss UBS-Sprecherin Tatiana Togni braucht die UBS KI auch für die Verbesserung der Entscheidungsfindung: «Solche Algorithmen werden vorzugsweise eingesetzt, um Menschen zu unterstützen und nicht, um deren Entscheidungen im Bankbetrieb vollständig zu automatisieren.»

Firmen wiegen sich in falscher Sicherheit

Am Ende werden die Entscheide von Menschen und nicht Maschinen gefällt. Das sagen auch Unternehmen wie Roche, ABB oder Swiss Life unisono. Dennoch kann man von der Maschine keine ethisch korrekte Haltung erwarten. Wenn KI etwa bei der Kreditvergabe für den Risikocheck verwendet wird, besteht dieselbe Diskriminierungsgefahr wie bei der maschinellen Amazon-Selektion.

Den Unternehmen sind die Risiken nicht entgangen. Swisscom hat eine Ethikkommission, die auch KI-Themen beurteilt. Swisscom-Experte Baeriswyl sagt: «Die Technologie sollte den Menschen nicht einschränken und die Nutzung von Daten transparent machen.» Eine auf KI spezialisierte Ethik-Kommission, wie das deutsche Software-Unternehmen SAP eine besitzt, ist hierzulande nirgends auszumachen.

«Der Einsatz künstlicher Intelligenz treibt derzeit verantwortliche Anleger um», sagt Vincent Kaufmann, Direktor des Anlageberaters Ethos zu BLICK. Die möglichen Schäden, die die Technologie allein in puncto Reputation anrichten könnte, sind unvorstellbar. Ethos werde dieses Jahr noch bekannt geben, welche Governance-Massnahmen sie bei der Verwendung von KI von den Konzernen erwarte.

Link:

Nicolas Economou:  «Algorithmen haben uns längst im Griff»

Es sei bereits Realität, dass wir von künstlicher Intelligenz bestimmt werden, sagt Nicolas Economou. Er warnt vor der Macht der Algorithmen.

Nicolas Economou (53) nervt sich zunehmend an Firmen und deren Umgang mit künstlicher Intelligenz. Allein im Finanz- und Rechtsbereich würden Algorithmen und künstliche Intelligenz Voreingenommenheiten aufweisen, die für die Gesellschaft nicht tolerierbar seien, warnte er zuletzt vor ein paar Tagen an der Digitalkonferenz Worldwebforum in Zürich.

BLICK: Wieso warnen Sie vor künstlicher Intelligenz?
Nicolas Economou:
 Künstliche Intelligenz birgt grosse Hoffnungen. Aber die Risiken sind genauso gross. Die Gesellschaft fokussiert zu wenig auf die Risiken. Es ist höchste Zeit, die Alarmglocken zu läuten, die Bürger aufzuwecken und die Risiken zu minimieren.

Sie denken an die Horrorvision, dass wir von künstlichen Wesen regiert werden?
Diese Technologie hat unser Leben heute schon teilweise im Griff. Künstliche Intelligenz definiert sogar «wer man ist» – zumindest in den USA.

Wie genau soll das gehen?
Menschen erhalten Bewertungen über ihre Kreditwürdigkeit. Es ist also von künstlicher Intelligenz abhängig, wie viel Kredit sie bekommen. Und in der US-Justiz gilt: Wer einmal verurteilt wurde, dessen Risiko für die Gesellschaft wird nachher von KI beurteilt. Entsprechend fällt das Strafmass aus. Wir werden heute über KI schon auf viele Arten beurteilt und bestimmt. Bedenklich ist: Wir reagieren darauf und richten uns danach. Die Gefahr von KI ist real, auch wenn wir noch keine Roboter sehen, die übernehmen.

Internationaler Experte für Ethik und künstliche Intelligenz

Nicolas Economou (53), Chef von H5 und Experte für künstliche Intelligenz und Ethik arbeitet für die Initiative «Ethik und autonome intelligente Systeme» des Internationalen Ingenieurverbands (IEEE). Der Amerikaner mit Schweizer Pass studierte unter anderen an der Universität Genf und der Harvard Kennedy School und bezeichnet sich als stolzen Ex-Mitarbeiter von ABB. Er war Teil des Justizkomitees in der Präsidentschaftskampagne von Barack Obama.

Die Schweizer Banken sagen, dass KI ihnen bessere Entscheidungsgrundlagen gibt, aber am Schluss immer noch der Mensch bestimmt.
Das ist ein Irrtum. Es ist gut, dass Menschen beteiligt sind. Aber ohne Experten ist es sehr schwierig, zu beurteilen, ob KI sauber funktioniert. Eine Beobachtung der Technologie reicht nicht, um zu beurteilen, ob sie richtig funktioniert und fair ist. KI im Finanz- und Rechtsbereich weist Voreingenommenheiten auf, die für die Gesellschaft nicht tolerierbar sind.

Wo sehen Sie das Problem, wenn KI die Kreditwürdigkeit von Kunden beurteilt?
Wenn automatisierte KI die Kreditwürdigkeit wirklich so genau beurteilen könnte, dann könnte man Mikrofinanzkredite für fünf Milliarden Menschen zugänglich machen – ein globaler Zugang zu Krediten. Aber heute können wir KI nicht vertrauen. Es gibt keine Hinweise, dass Algorithmen die Kreditwürdigkeit von Menschen korrekt beurteilen können. Es besteht also die Gefahr, dass Menschen für die falschen Gründe keine Kredite erhalten.

Wenn künstliche Intelligenz so intelligent ist, dann könnte man sie für Kriegszwecke doch dazu programmieren, dass sie im Krieg Menschenrechte einhält.
Wie weit wir autonome Waffen dazu bringen können, sich an Menschenrechte zu halten, ist eine sehr spannende Frage. Auch wie weit wir möchten, dass sie sich über menschliche Entscheide hinwegsetzen, wenn es um einen Angriff geht. Menschen machen manchmal Fehler beim Einsatz von Lenkwaffen.

Und die autonomen Maschinen?
Das wissen wir nicht. Aber es fragt sich, was passiert, wenn man beweisen kann, dass KI-gesteuerte Waffen weniger Menschenleben kosten und das Kriegsziel mit weniger Zerstörung erreichen können. Sollten wir als Gesellschaft selbstgesteuerten Waffen trauen? Ich habe keine Antwort.

Was ist zu tun?
Wir müssen das machen, was wir mit anderen nützlichen, aber auch tödlichen Risikotechnologien wie Nuklearenergie gemacht haben. Dazu braucht es einen globalen Konsens, was man mit ihnen nicht machen darf. Wir sollten uns von über 2000 Jahre Erfahrung im Lenken von menschlicher Intelligenz inspirieren lassen. Es gibt bereits sehr gute Arbeit vom Internationalen Verband der Ingenieure (IEEE). Sie setzen ethische Standards für KI, die schon angewendet werden.

Welche Regulierung ist sinnvoll, um die Verantwortung von selbstfahrenden Autos festzulegen?
Es muss nicht unbedingt Regulierung sein, auch marktwirtschaftliche Anreize können dienen. Das Wichtigste ist, dass die Menschen zur Rechenschaft gezogen werden können. Auf die künstliche Intelligenz kann man die Verantwortung nicht abschieben.

Stehen die Autobauer also in der Verantwortung?
In der Verantwortung stehen sollten diejenigen, die die Autos gebaut und gekauft haben sowie jene, die sie verwenden. Denn wenn etwas passiert, ist es wegen einer Entscheidung, die diese Leute gemacht haben. KI kann man nur kontrollieren, indem alle Involvierten zur Rechenschaft gezogen werden.

Link:


Diese Artikel könnten ebenfalls interessant sein:

«Mehr Frauen im Arbeitsmarkt könnten Zuwanderung bremsen»

SonntagsBlick / Blick

Arbeitsmarktexperte George Sheldon räumt mit dem Mythos auf, dass der Schweizer Arbeitsmarkt für Deutsche nicht mehr attraktiv ist. Er ist überzeugt, dass die Schweiz weniger Fachkräfte «importieren» müsste, wenn das Potenzial der Frauen besser erschlossen würde.

weiterlesen

Karrieretrend: Vom CEO zum Stifter

Handelszeitung

Stiftungen – Ein Manager und Unternehmer nach dem anderen gründet eine eigene karitative Stiftung. Die Stiftungslandschaft floriert, trotz Einbussen während der Rezession.

weiterlesen