TU Diversity Award – Spitzenforschung zu fairer künstlicher Intelligenz

Die nachhaltige Entwicklung von fairer künstlicher Intelligenz findet am Know Center in Graz statt, einem führenden europäischen Innovations- und Forschungszentrum für vertrauenswürdige KI und Data Science. Dabei sind die Forscher Dominik Kowald und Emanuel Lacić federführend. Ihre Erkenntnisse in Hinsicht Fairness und besserer Algorithmen haben nicht nur weitgehende Auswirkungen auf die Wissenschaft, sondern auch auf Anbieter und Verbraucher – beispielsweise von Streaming Services. Für ihre Arbeit wurde ihnen nun der Diversity Award der TU Graz verliehen.

Der TU Graz Diversity Award wird jährlich mit dem Ziel vergeben, die Auseinandersetzung mit dem „Faktor Mensch“ in der Technik und den Naturwissenschaften zu fördern. Die fünf besten Einreichungen werden dabei von einer Fachjury ausgewählt und mit dem Preis gewürdigt. Die gekürte Forschung von Dominik Kowald und Emanuel Lacić beschäftigt sich mit dem „Popularity Bias“, welcher bei sogenannten Empfehlungssystemen noch weitgehend verbreitet ist.

Empfehlungssysteme helfen beim Filtern von Suchergebnissen, angepasst an das Suchverhalten der Nutzer. Berühmte Anbieter, bei denen Empfehlungssysteme zum Einsatz kommen, sind Netflix, Spotify und Amazon. Diese Algorithmen unterstützen Verbraucher dabei, die Inhalte zu finden, nach denen sie suchen und helfen Unternehmen, ihre Kunden zufriedenzustellen sowie zu halten. Idealerweise. Bisher erhalten Nutzer jedoch primär Empfehlungen für eine kleine Auswahl von Massenartikeln und Inhalten. Grund dafür ist der „Popularity Bias“. Er entsteht durch die Bevorzugung von bereits bekannten und beliebten Inhalten oder Produkten. Wichtige Aspekte, wie Interessen und Vorlieben, werden bisher immer noch weitgehend ignoriert. Das ist weder im Sinne der Verbraucher, die sich in Empfehlungen Individualität und Diversität wünschen, noch im Sinne des Handels. Hier kommt die Forschung von Dominik Kowald und Emanuel Lacić ins Spiel. Sie haben neue Empfehlungssysteme entwickelt, die Vorlieben und Interessen berücksichtigen und individuelle Empfehlungen liefern.

Die Forscher sind der festen Überzeugung, dass Empfehlungssysteme nicht nur auf Genauigkeit oder Popularität, sondern auch auf Vielfalt optimiert werden sollten. Diversifizierte Inhalte, beliebt und unbeliebt, sollen dabei zum Trainieren der Algorithmen genutzt werden. Bei der Empfehlung von Musik würde das bedeuten, dass beliebte und unbeliebte Lieder verwendet und auch dementsprechend vorgeschlagen werden. Faktoren wie das Geschlecht, Interessen und bestimmte Vorlieben sollten in Sachen Fairness nicht zu kurz kommen oder gar als Nachteil wirken.

Mit ihren Bemühungen haben die Wissenschaftler es darauf abgesehen, Fairness und Diversität in Empfehlungssystemen zu messen und zu erhöhen. Davon haben nicht nur die Nutzer etwas, die höhere Zufriedenheit, die damit einhergeht, wirkt sich positiv auf Unternehmen aus. Neben Streaming-Plattformen können auch andere Industrien vom Prinzip der Fairness profitieren. Bessere Algorithmen und Systeme, die den Faktor Mensch in den Mittelpunkt stellen, minimieren Nachteile. Fairness und Optimierung in Richtung verschiedener Bedürfnisse gelten in der Forschung von Dominik Kowald und Emanuel Lacić als zentrale Ausgangspunkte.

Rückfragen & Kontakt:

Nina Russ
nruss@know-center.at
Know Center GmbH
www.know-center.at