Technologien & Trends entdecken – der Innovationsfelder-Report

Von Jan Dennis Gumz

Mittels Datenanalysen untersucht ÖFIT regelmäßig Trends der Informations- und Kommunikationstechnologie. Mit dem Innovationsfelder-Dashboard wurde 2021 ein Werkzeug öffentlich zur Verfügung gestellt, das die Identifikation und Analyse von Trends erleichtern soll. Dieses Werkzeug wurde bis Ende 2023 nochmal ausgebaut. Der folgende Report informiert über wesentliche Erkenntnisse, die anhand des Innovationsfelder-Dashboards gewonnen wurden und zeigt exemplarisch auf, wie das Dashboard genutzt werden kann. Hintergrundinformationen zum Dashboard finden Sie in diesem Blogbeitrag.

KI-Themen auf den Spitzenplätzen

Im Jahr 2023 war die Forschung im Bereich Computer Science stark von Künstlicher Intelligenz geprägt – alle zehn Begriffe stehen damit in Verbindung. 2019 gab es mit dem Internet of Things zumindest ein Thema abseits dessen. Prägend ist derzeit vor allem die Auseinandersetzung mit Large Language Models. Für das Jahr 2022 belegte dieser Begriff noch Rang 25, im Jahr 2021 war es Rang 443. Für das Jahr 2023 sind auch Diffusion Models in den Top 10 angekommen. Diese Modelle werden derzeit vor allem für die Generierung von Bild- und Videomaterial genutzt und lassen sich genauso wie Large Language Models der generativen Künstlichen Intelligenz zuordnen. Auffällig ist, dass der Graph der Publikationshäufigkeit für den Begriff Diffusion Models gegen Ende 2023 noch steil nach oben zeigte. Es ist also durchaus denkbar, dass es bald das Top-Thema im Bereich Computer Science sein wird.

Themen abseits der Top 10

Auch außerhalb der am häufigsten genutzten Begriffe gab es Themen, die im letzten Jahr deutlich an Popularität gewonnen haben und bei denen eine zunehmende Bedeutung nahe liegt. So ist zum Beispiel ein starkes Forschungsinteresse an der Weiterentwicklung von Large Language Models ersichtlich. Eine wesentliche Richtung ist dabei die Möglichkeit, verschiedene Typen von Eingaben gemeinsam zu verarbeiten. Nennenswert sind hierbei etwa Vision Language Models. Das Modell verarbeitet als Eingabe nicht nur Text, sondern zusätzlich auch ein Bild. Beispielsweise könnte eine Eingabe aus einem Bild eines Gebäudes bestehen, das kombiniert mit einer Frage in Textform, etwa der Identifizierung des Gebäudes, eingereicht wird. Weil Vision Language Models sowohl mit Bildern als auch Textdaten trainiert wurden, können sie eine solche Frage verstehen und beantworten. Sie sind also nicht spezialisiert auf Eingaben eines einzelnen Datentyps. Damit gehören Vision Language Models zur Gruppe der Multi-Modal Models, also KI-Modellen, die verschiedene Typen von Daten (bspw. Text, Audio, Bilder und Video) gemeinsam verarbeiten können.

Rechenressourcen effizient nutzen

Es gibt nicht nur Bestrebungen KI-Modelle noch leistungsfähiger zu gestalten, z. B. indem die Menge der Trainingsdaten oder die Anzahl der Modellparameter erhöht wird. Ein weiterer Ansatz besteht darin, die Effizienz von KI-Modellen zu erhöhen. Dies trifft zum Beispiel auf sogenannte Small Language Models zu. In der Regel sollen derartige Modelle weniger Trainingsdaten sowie Speicherplatz benötigen und während des Trainings und der Ausführung weniger Rechenressourcen erfordern. Gleichzeitig soll die Leistungsfähigkeit solcher Modelle erhalten bleiben. Letztlich bedeutet das, dass die Hürden für die Entwicklung und den Betrieb eines KI-Modells geringer sind. Dies kann zum Beispiel bedeuten, dass diese Modelle auch lokal auf ressourcenschwachen Geräten ausgeführt werden können oder Organisationen und Individuen auch ohne gewaltige Ressourcen leistungsstarke KI-Modelle entwickeln können, die spezifische Zwecke erfüllen. Dabei könnte es sich zum Beispiel um einen Chatbot handeln, der auf einen (abgegrenzten) Anwendungsbereich spezialisiert ist. Der Trend zur Effizienzsteigerung bei KI ist nicht neu und wurde zum Beispiel auch in der ÖFIT-Publikation »Innovationsfelder Öffentlicher IT 2019/2020« unter dem Begriff ressourceneffizienter KI thematisiert, hat aber im Zusammenhang mit generativen KI-Modellen neuen Schwung erfahren.

Innerhalb der Forschung erhielt zuletzt das von Meta entwickelte Segment Anything Model große Aufmerksamkeit. Dieses Modell ermöglicht es mit nur sehr geringem Aufwand, auf einem Bild sichtbare Objekte zu erkennen und zu isolieren. Bildsegmentierung ist in verschiedenen Bereichen von Interesse, etwa bei der Erkennung von Tumoren auf medizinischen Bildern. Bisher arbeitet dieses Modell nur mit einzelnen Bildern, die Ausweitung auf Video ist aber zumindest denkbar.

3D Welten

Die Erstellung dreidimensionaler Medieninhalte ist 2023 stärker in den Fokus gerückt. Auch hier sind KI-Modelle die Treiber. Es wird an Modellen geforscht, die auf Basis von Texteingaben dreidimensionale Medieninhalte erzeugen. Ein anderer erwähnenswerter Ansatz sind Neural Radiance Fields (NeRF oder auch NRF). Hierbei geht es um die Erfassung einer 3D-Szene anhand weniger 2D-Bilder, bei denen sowohl die Farbe und Position von Objekten als auch vom Blickwinkel abhängige Oberflächeneigenschaften (wie etwa Spiegelungen) realistisch dargestellt werden. Kurz gesagt: Mittels eines künstlichen neuronalen Netzes wird aus wenigen 2D-Bildern eine realistische 3D-Umgebung erstellt, die man sich aus vielen Blickwinkeln betrachten kann. Es ist naheliegend, dass derartige Techniken einen Einfluss auf die weitere Entwicklung von Virtual Reality und Augmented Reality haben könnten.

Themen abseits von KI

Die Dominanz von KI im Jahr 2023 macht es schwieriger, andere Themen zu entdecken, die an Relevanz gewinnen. Die Anzahl der Publikationen ist oftmals noch sehr gering. Einige Themen lassen sich dennoch ausmachen: Im Bereich »Electrical Engineering and Systems Science« wurden zuletzt Non-Terrestrial Networks etwas häufiger diskutiert. Hierbei handelt es sich um auf Satelliten basierende Funknetzwerke, die weltweit, also auch an abgelegenen Orten, Kommunikationsdienste ermöglichen sollen. Neben einer größeren Abdeckung der mobilen Netzwerke wird mit 6G auch ein neuer Mobilfunkstandard diskutiert, der höhere Datentransferraten ermöglichen soll. Im Zusammenhang mit mobilen Netzwerken wird Reconfigurable Intelligent Surfaces als ermöglichende Technologie diskutiert. Hierbei handelt es sich um Oberflächen, die Signale weiterleiten sollen, dabei aber nicht passiv sind, sondern sich so an die Umgebung anpassen, dass sie eine möglichst hohe Übertragungsqualität zum Beispiel hinsichtlich Abdeckung oder Datenrate gewährleisten.

Sowohl im Bereich »Computer Science« als auch im Bereich »Electrical Engineering and Systems Science« ist ein Anstieg der Publikationsanzahl zum Thema Digital Twin erkennbar, auch wenn dieser nicht so stark ausfällt wie bei den bereits beschriebenen KI-Technologien. Bei Digital Twins handelt es sich um digitale Repräsentationen physischer Objekte, genauer wird dies im ÖFIT-Trendthema »Digitale Zwillinge« beschrieben.

Gleichbleibendes Forschungsinteresse an Quantencomputern

Bei anderen Themen in der Forschung ist eine Sättigung des Interesses ersichtlich. Dies gilt zum Beispiel für Quantencomputer. Während die Häufigkeit der Publikationen vor ein paar Jahren noch stark anstieg, ist der Aufwärtstrend hier etwas schwächer geworden. Quantencomputer wurden in den ÖFIT-Publikationen »Quanten-IKT - Quantencomputing und Quantenkommunikation« und »Das ÖFIT-Trendsonar Quanten-IKT« ausführlicher beschrieben.

Auch beim Thema Adversarial Attacks, also der gezielten Täuschung von KI-Modellen mittels dafür entworfener Eingaben, pendelt sich die Anzahl der Publikationen allmählich auf einem gleichbleibenden Niveau ein, während sie vor ein paar Jahren noch stark anwuchs. Derartige Angriffe auf KI-Systeme wurden in der ÖFIT-Publikation »Innovationsfelder Öffentlicher IT 2019/2020« thematisiert.

Stand der Daten: Dezember 2023

Weiterführendes von ÖFIT:

Innovationsfelder-Dashboard

Was bringt die Zukunft? Welche Technologien werden entscheidend sein? Um die Beantwortung dieser Fragen zu erleichtern, hat ÖFIT ein Dashboard bereitgestellt, das eine eigenständige Trendrecherche ermöglicht.

Innovationsfelder Öffentlicher IT 2019/2020

Was sind die wesentlichen Innovationsfelder der öffentlichen IT? Was sind die wichtigsten Entwicklungen, welche Anwendungsmöglichkeiten existieren und welche Auswirkungen sind zu erwarten? Wo bieten sich Chancen, wo lauern Risiken? Um diese Fragen zu beantworten, haben wir in einer Datenanalyse von fast zwei Millionen wissenschaftlichen Publikationen fünf wesentliche Innovationsfelder der öffentlichen IT identifiziert: Ressourceneffiziente KI, neue Entwicklungen in der Blockchain-Technologie, künstlicher Realismus, Schwachstellen von KI-Systemen und die automatisierte Erkennung menschlicher Emotionen, Intentionen und Verhaltens. Neben einer ausführlichen Betrachtung der aktuellen Innovationsfelder werfen wir auch einen kurzen Blick zurück und geben Empfehlungen zur zukünftigen Gestaltung der durch die Innovationsfelder angestoßenen Entwicklungen.

Trendschau

Welche Trendthemen bestimmen die Diskussion von morgen? Die ÖFIT-Trendschau analysiert und verortet Digitaltrends und reflektiert deren Potenziale, damit verbundene Risiken und sich öffnende Handlungsräume. Hier finden Sie die wichtigsten Informationen auf einen Blick.

Veröffentlicht: 23.05.2024