AdobeStock

Dr. Alexandru-Adrian Tantar leitet am Luxembourg Institute of Science and Technology (LIST) eine Arbeitsgruppe zu „Trustworthy AI / vertrauenswürdige KI“

Infobox

Biografie Dr. Alexandru-Adrian Tantar

Dr. Alexandru-Adrian Tantar leitet am Luxembourg Institute of Science and Technology (LIST) eine Arbeitsgruppe zu „Trustworthy AI / vertrauenswürdige KI“. Die Gruppe arbeitet im Bereich Business Analytics und fördert Kooperationen für Industrieanwendungen mit Hilfe der neuesten Ansätze im Bereich künstlicher Intelligenz.

Was hat Sie bezüglich Künstlicher Intelligenz bisher am meisten überrascht?

Mich hat überrascht, wie falsch ich mit meiner Prognose über die Zukunft der KI lag. Vor fünf Jahren dachte ich, dass die Technologie viele dieser repetitiven Tätigkeiten ersetzen wird, zum Beispiel Leute, die Lieferwagen fahren – also Berufe mit gleichförmigen sich wiederholenden Aufgaben, bei denen keine besonderen Aspekte des kognitiven Denkens erforderlich sind. Es kam anders: wir sehen KI in der Medizin, wir sehen KI vielleicht in Gerichten und wir sehen KI in Unternehmen.

Was mich noch erstaunt, ist der Einsatz von KI im Bereich Kunst und Illustration. Letztes Jahr gab es einen Wettbewerb, der von jemandem gewonnen wurde, der mit Hilfe von KI ein Bild erzeugt hat, das einem Gemälde ähnelt - wirklich beeindruckend in den Details und in seiner Komposition. Es gefällt mir sehr gut! Erstellt wurde es mit Midjourney (https://www.midjourney.com). Und wahrscheinlich werden wir in den nächsten Jahren immer mehr Modelle sehen, die in gewissem Sinne kreativ sind.

Quelle: https://www.nytimes.com/2022/09/02/technology/ai-artificial-intelligence-artists.html

Im Hinblick auf KI sind die Meisten vom Chatbot ChatGPT beeindruckt. Gibt es weitere ähnlich bedeutsame Anwendungen von KI?

Neben den Beispielen, die für die Öffentlichkeit sichtbar sind, gibt es auch in gewisser Weise versteckte Anwendungen in der Industrie.

Wir arbeiten zum Beispiel schon seit Jahren mit verschiedenen Partnern in Luxemburg zusammen zum Thema Zeitreihen: Dabei geht es um Sensoren, die in der Produktion eingesetzt werden; und diese Sensoren liefern die Daten, die die verschiedenen Prozesse in der Produktion beschreiben. Dabei geht es um die Interaktion der Bediener mit den Maschinen und um die Qualität der gefertigten Produkte. Es handelt sich um Daten, die ein Mensch nicht direkt erfassen kann, die sich mit natürlicher Sprache nicht beschreiben lassen.

Am Ende hat man dann, sagen wir mal, Hunderte von Merkmalen aus den Rohdaten. Sie erfassen vielleicht jede Sekunde, jede Minute Daten, und dann stellt sich die Frage: Welche Merkmale sind wichtig, was sollte ich in meinem Modell tatsächlich berücksichtigen?

Es ist immer eine Art Mischung aus Analytik, maschinellem Lernen und Fachwissen. Die meisten Probleme sind nichtlinear. Man braucht also komplexere Modelle, um die richtigen Antworten zu finden.

Was wäre denn ein konkretes Beispiel für eine KI-Anwendung in der Industrie?

Bei der so genannten semantischen Segmentierung haben wir Scanner, die eine Punktwolken-Darstellung einer Industriehalle geben.

So können sie erkennen, welche Art von Objekten sich in dieser Umgebung befinden. Sie wollen vielleicht wissen, welche Ausrüstung sie in diesem Industriestandort haben. Vielleicht sind Teile kaputt gegangen und sie müssen den Prozess der Inventarisierung automatisieren.

 

Können Sie bitte auch ein Beispiel geben, wo die KI an ihre Grenzen stößt.

Wir verfügen über komplexe Modelle, die durchaus in der Lage sind, ein breites Spektrum von Prozessen nachzubilden. Das reicht von einer niedrigen Verarbeitungsebene bis hin zur Nachbildung kognitiver Prozesse.

Gleichzeitig haben solche Modelle Probleme. Unter anderem gibt es Phänomene wie die so genannte „KI-Halluzination“, bei der sich Modelle Dinge ausdenken, die es gar nicht gibt - allerdings auf überzeugende Weise. Eine weitere Einschränkung, die mit Anwendungen in abstrakteren Bereichen, z. B. der Industrie, zusammenhängt, besteht darin, dass wir keine Erklärung dafür geben können für das Ergebnis, das das Modell geliefert hat. Die Antwort kann 42 sein, und wir haben das Modell vielleicht sogar empirisch testen lassen, um zu zeigen, dass es mit hoher Genauigkeit arbeitet. Aber warum genau 42? Warum nicht 13? Warum überhaupt eine Zahl? Dies ist eine der Grenzen, auf die die Forschung stößt. Eine weitere Einschränkung bezeichnen wir als "Konzeptdrift". Kurz gesagt, ein Modell funktioniert gut für Szenarien, für die es trainiert wurde. Wenn sich jedoch die Rahmenbedingungen verändern, funktioniert es nicht mehr.  

Was wäre eine Lösung dafür?

Es wird erforscht, wie man solche Beschränkungen überwinden kann. Wir haben Möglichkeiten, Erklärungen zu erstellen, auch für Modelle, die ansonsten "Black Boxes" sind. Es gibt Methoden zur Abschwächung von Verzerrungen in den Daten, in den Modellen oder bei der Betrachtung der Ergebnisse. Es gibt Protokolle und Methoden für den Umgang mit der Konzeptabweichung, z. B. indem das Modell ständig weiter trainiert wird. Es wird also in gewissem Sinne "on the fly" angepasst.

Könnten gerade kleine Länder, wie Luxemburg, durch KI ökonomisch ins Hintertreffen geraten?

Ich denke, wir sollten nicht nur auf die Größe des Landes schauen. Luxemburg ist einer der Weltmarktführer im Finanzsektor. Aber Länder, die nicht in der Lage sind, in KI zu investieren, könnten in der Tat Probleme bekommen. Die sind dann Nutzer von Programmen, auf die sie keinen Einfluss haben. Ich denke, Luxemburg profitiert zusätzlich noch von der EU. Unter dem Dach der Europäischen Kommission gibt es Rahmenbedingungen nicht nur in Bezug auf ein Land, sondern auf eine große Region.

Nicht alles geht von der EU aus. Stellt Luxemburg selbst die richtigen Weichen?

Ich denke, wir sind langfristig auf einem guten Weg. Wir ermutigen Unternehmen, die sich mit KI befassen, sich in Luxemburg niederzulassen, wir fördern das lokale Unternehmertum. Wir ermutigen KI-Forscher, nach Luxemburg zu kommen und Ideen zu entwickeln. Luxemburg war schon früher unter den ersten, die sagten, dass Datenschutz sehr wichtig ist. Und ich denke, dass das Gleiche gilt jetzt auch für die Regulierung von KI.

Wie hoch schätzen Sie die Gefahr ein, dass ein einzelnes Unternehmen oder ein Staat, vielleicht sogar ein Diktator durch KI eine Monopolstellung erringt?

Ein Szenario, in dem ein Diktator als einziger über eine besonders mächtige KI verfügt, wäre im Prinzip denkbar. Er könnte sie dafür einsetzen, um die Massen zu manipulieren – zum Beispiel die Art und Weise, wie die Menschen ein bestimmtes Ereignis wahrnehmen und bewerten.

Im Moment ist eine solche Tendenz zu einer Monopolstellung aber nicht gegeben. Es gibt eine Reihe großer Unternehmen, die über ausreichende Ressourcen verfügen, auch in finanzieller Hinsicht, um große KI-Modelle in unterschiedlichen Anwendungsbereichen zu entwickeln.

Es stellt sich auch die Frage, wer Zugang zu diesen Modellen haben wird. Und hier spielt die Forschungsgemeinschaft eine sehr wichtige Rolle. Wir bemühen uns um Open-Source-Forschung, so dass andere Zugang zu denselben Techniken haben. Im Bereich des maschinellen Lernens und der KI gibt es offene Modelle. Das sind Modelle, die bereits mit Daten trainiert wurden. Sie können beispielsweise von einer Universität oder einer anderen Einrichtung stammen und werden frei zur Verfügung gestellt.

Wäre es nicht trotzdem denkbar, dass ein Marktführer seine KI ständig verbessert und so die Konkurrenz immer mehr hinter sich lässt?

Wir müssen uns klar machen, dass wir im Zeitalter der Industrialisierung schon lange ein exponentielles Wachstum erleben. Es könnte eine Situation entstehen, in der ein großer technologischer Entwicklungsschritt noch hinzukommt. Beispielsweise Quantencomputer, die Probleme lösen, die früher eine Rechenzeit benötigt hätten, die dem Alter des Universums entspricht. Wenn ein einzelner Akteur also Quantencomputing mit KI kombiniert, wäre das eine exponentielle Entwicklung, die ihm einen gewaltigen Vorsprung verschaffen könnte. Das wäre ein Punkt, an dem tatsächlich ein Monopol entstehen könnte oder ein Defacto-Monopol, nur weil jemand einfach früher angefangen hat als die anderen.

Es gibt jedoch immer auch Obergrenzen für ein solches Wachstum. Es sieht aber nicht so aus, als ob wir schon in der Nähe solcher Grenzen sind. Wir machen immer noch Fortschritte bei der KI. Wir werden wahrscheinlich noch an Rechenleistung zulegen. Wir werden mit Daten überflutet, die wir sinnvoll nutzen müssen. Das betrifft unser tägliches Leben, die Erforschung des Universums bis hin zur Beobachtung von Prozessen auf der Ebene von Zellen und Atomen. Vor uns liegt eine interessante Reise.

Dr. Alexandru Tantar

Autor: Reinhart Brünig

Das Gespräch führte : Reinhart Brünig

Editoren: Jean-Paul Bertemes, Lucie Zeches (FNR) 

Aussi intéréssant

ÉTAT DES LIEUX SCIENTIFIQUE Les inégalités sont-elles en augmentation au Luxembourg ?

Les inégalités de fortune sont bien plus prononcées que celles de revenu en Europe. Ces dernières sont restées relativem...

Nobel Prizes 2023 Nobel prize in economics: Research in Luxembourg on gender differences in the labour market

Economist Dr. Eva Sierminska comments on the Nobel laureate's work, which is related to her own research at LISER.

Marché du travail Comment certains facteurs influencent les chances de réussite d’une candidature

Une période de chômage qui apparaît sur un CV peut compliquer l’obtention d’un emploi, mais il y a des solutions. Le fac...

Aussi dans cette rubrique

Finances et fiscalité Charge fiscale et pouvoir d'achat : notre système fiscal est-il équitable ?

Malgré les baisses d'impôts depuis le 1er janvier 2024, les demandes de réformes fiscales et d'allègements supplémentaires ne faiblissent pas. Interview avec une chercheuse sur l'équité fiscale.

Lindsay B. Flynn
Housing policy Expensive housing in Luxembourg: a social explosive

Extreme rents, property prices, loan instalments: Housing is becoming an existential issue for more and more people. Prof Lindsay Flynn from the Uni. of Luxembourg on housing policy and its impact.

Nobel Prizes 2023 Nobel prize in economics: Research in Luxembourg on gender differences in the labour market

Economist Dr. Eva Sierminska comments on the Nobel laureate's work, which is related to her own research at LISER.

smartwielen.lu
Aide à la décision Comment fonctionne smartwielen.lu ? La science derrière l'outil en ligne

Les électeurs découvrent, à l'aide d'un questionnaire, dans quelle mesure leurs orientations politiques correspondent à celles des partis et des candidats. Les mathématiques en fournissent la base.