Good Stories

Faire KI muss auch die Nischennutzer bedienen

Fairness ist eine wichtige Eigenschaft für Recommendation-Systeme. Das Grazer Kompetenzzentrum Know-Center – eine der führenden europäischen Forschungseinrichtungen auf dem Gebiet Data-driven Business und KI – hat die Schwächen der eingesetzten Algorithmen anhand von Musik-Recommendern untersucht.

Wir haben uns angesehen, ob alle Benutzergruppen ähnlich gute Empfehlungen bekommen, wenn sie nach bestimmten Musikrichtungen suchen“, schildert Dominik Kowald, der für das Forschungsprojekt verantwortlich zeichnet, welches gemeinsam mit der TU Graz, der Universität Innsbruck, der JKU Linz sowie der Universität Utrecht in den Niederlanden durchgeführt wird und bereits im renommierten internationalen EPJ Data Science Journal publiziert wurde.

Dies ist nicht der Fall, denn die Recommendation-Algorithmen neigen zum System „the rich get richer“: Das bedeutet, dass sie eher populäre Musikgruppen vorschlagen als noch unbekannte Bands.

„Das funktioniert für viele Nutzer ganz gut, aber sogenannte Nischenbesucher werden dabei enttäuscht“, so Kowald. Außerdem würden so mit der Zeit wenig aufgerufene Stücke ganz aus den Musikvorschlägen verschwinden, das System verstärke sich selbst.

Die Forscher des Know-Center haben sich rund 2000 Nischenbesucher genauer angesehen und die Ursachen für die „mangelnde Fairness“ analysiert. Zum Teil mit überraschenden Ergebnissen: „Je offener jemand in seinem Hörverhalten ist, desto besser wird er bedient. Es lohnt sich als Nutzer also, über den Tellerrand hinauszuschauen.“

In einem weiteren Schritt wollen die Wissenschafter am Kompetenzzentrum nun herausfinden, wie man die Algorithmen so erweitern kann, dass sie bessere Ergebnisse liefern, um die Kluft zwischen Nischensuchern und dem Mainstream zu schließen.

Interessant sind die Forschungen weit über den Bereich der Musikstreamingdienste hinaus. „Dasselbe grundsätzliche Problem tritt auch in Webshops und im gesamten E-Commerce auf“, weiß Kowald. Außerdem ist Fairness einer der Bausteine für eine vertrauenswürdige KI, wie sie von der EU definiert wird. Zu den anderen zählen transparente Algorithmen und die Datensicherheit.

Darüber hinaus, so Kowald, sind Nischenbesucher für Plattformen durchaus wichtig: „Sie stellen eine gar nicht so kleine Gruppe dar, die dazu noch sehr aktiv ist. Und es sind in der Regel sehr treue User.“

Mehr Informationen:
www.know-center.at

Foto: Dominik Kowald und sein Team haben Recommendation-Algorithmen auf Fairness untersucht

Fotocredit: Know-Center

Science wird mit finanzieller Unterstützung in völliger Unabhängigkeit unter der redaktionellen Leitung von Andreas Kolb gestaltet.