Data Science: ChatGPTs Energieappetit und anderen KI-Eigenheiten

Spezialgebiet: künstliche Intelligenz. Mission: Studierende von der Schönheit der Mathematik überzeugen. Prof. Dr. Roman Rischke (Jahrgang 1986) forscht und lehrt seit dem Sommersemester 2023 als Professor für Data Science an der Hochschule Coburg.

Woher kommen Sie, was haben Sie zuletzt gemacht?
Roman Rischke: Meine akademische Karriere begann an der TU Bergakademie Freiberg, unweit meines Geburtsorts Großenhain mit dem Studium der Wirtschaftsmathematik. Dabei habe ich meine Leidenschaft für die mathematische Optimierung entdeckt. Den Masterabschluss in Wirtschaftsmathematik habe ich an der TU Berlin erworben. Promoviert habe ich im Bereich der Algorithmischen Diskreten Mathematik an der TU München. Bis vor kurzem habe ich am Fraunhofer Heinrich-Hertz-Institut in Berlin in den Bereichen Videokodierung und Maschinelles Lernen geforscht und an der HTW Berlin gelehrt.

Wo / wie leben Sie?
Derzeit befindet sich der Lebensmittelpunkt meiner Familie schulbedingt noch in Berlin und ich pendele entsprechend. Wir freuen uns aber bereits, im Sommer in die Coburger Region zu ziehen.

Ihre Spezialgebiete sind?
Zur Beantwortung dieser Frage möchte ich etwas weiter ausholen. Data Science beschäftigt sich insbesondere auch mit Maschinellem Lernen und KI. Wir alle beobachten in diesen Bereichen den aktuellen Trend zu immer größeren und zugleich immer leistungsfähigeren KI-Modellen. ChatGPT ist hier ein sehr prominentes Beispiel. Das zugrundeliegende Modell GPT-3 besitzt ca. 175 Mrd. trainierbare Parameter und es ist offensichtlich, dass das Einstellen (also Training) dieser unvorstellbar großen Anzahl an Parametern enorme Rechenleistung erfordert. Als Optimierer gehe ich der Forschungsfrage nach, was das kleinste bzw. effizienteste Modell in Bezug auf den Energieappetit ist, das die entsprechende Aufgabe mit ähnlicher Performanz wie die großen Modelle lösen kann. Aktuelle Forschungs- und Standardisierungsinitiativen zeigen, dass große KI-Modelle nach dem Training meist ohne erhebliche Einbußen in der Performanz auf sehr kleine Modelle komprimiert werden können. Eine spannende Frage hierbei ist, ob das bereits während des energieintensiven Trainings ausgenutzt werden kann.

Warum ist diese Frage so spannend?
Die Beantwortung dieser Forschungsfrage wird auch darüber entscheiden, ob wir in Zukunft KI zentral in (meist privaten) Hochleistungsrechenzentren trainieren oder ob es nicht auch möglich ist, leistungsfähige KI auf kleineren Geräten zu produzieren. Ich finde diese Forschungsfrage auch deshalb so spannend, weil sie so viele weitere Forschungsfragen impliziert bzw. tangiert. Wenn es möglich ist, auch auf kleineren Geräten leistungsfähige KI zu entwickeln, so kann man den Trainingsprozess auch verteilt betreiben und so gestalten, dass der Datenschutz gewahrt wird. Beim dezentralen Training kommen also die Modelle zu den Daten und nicht andersherum. Obendrein sind die Entscheidungsprozesse kleinerer Modelle oft einfacher zu interpretieren, was die Vertrauenswürdigkeit stärkt. Zudem ermöglicht diese Forschungsfrage, dem Wettlauf nach immer größeren KI-Modellen zu entkommen, und trotzdem signifikant zur KI-Forschung beizutragen. Ich freue mich auf viele spannende Forschungsprojekte in diesem Bereich an der Hochschule Coburg und denke, dass das Angebot an Methoden zur Entwicklung grüner und vertrauenswürdiger KI auf Bedarf in der Region stößt.

Vollenden Sie diesen Satz: Wissenschaft muss ....
Freude bereiten. Als Mathematiker beschäftigt man sich viel mit Problemlösung, was im ersten Moment nicht sehr einladend klingen mag. Sich einem Problem über einen sehr langen Zeitraum hinzugeben, erfordert zudem meist große Kraftanstrengung, insbesondere wenn man auf dem Weg zur Lösung Rückschläge erfährt. In dem Moment, in dem sich einem die Lösung aber offenbart, erfährt man unbeschreiblich viel Freude. Das begründet meine Leidenschaft für die Mathematik.

Bei der Arbeit an der Hochschule freuen Sie sich besonders auf?
Ich freue mich auf viele spannende Lehr- und Forschungsprojekt und insbesondere darauf, möglichst viele Studierende von der Schönheit der Mathematik zu überzeugen. 

Die wichtigste Erfindung der letzten hundert Jahre?
Zu meiner Schulzeit lernte das Internet buchstäblich gerade das Laufen. Seitdem hat es die Art und Weise, wie wir global kommunizieren, Information zugänglich machen und Wirtschaft betreiben entscheidend transformiert, was es zu einer sehr wichtigen Errungenschaft der Menschheit neben dem Transistor macht. Dank des Internets verfügen wir heute über ausreichend große Datensätze zum Training von komplexen KI-Modellen, mittels derer wir zahlreiche Prozesse automatisieren können.

Welchen Sport betreiben Sie?
Ich freue mich auf viele Kletter-, Wander- und Radtouren im Frankenjura.

Interesse am neuen Masterstudiengang Data Science oder anderen zukunftsträchtigen Studiengängen der Hochschule Coburg? Anmeldung und Einschreibung fürs Wintersemester ist ab jetzt hier möglich.