December 5, 2025

KI – Segen oder Fluch

Ein Blog von Tristan Thamerus

Einführung

LLMs (Large Language Models) und andere Machine-Learning-Modelle, oft zusammengefasst im einfachen, aber doch ungenauen Begriff „KI“, sind derzeit überall. Wir alle nutzen heutzutage diese Technologien, ob zu schulischen oder auch zu privaten Zwecken. Auch am Markt ist KI derzeit schwer zu übersehen, es gibt kaum noch technische Produkte, die nicht groß mit ihren „AI-Features“ werben. In diesem Blog will ich sowohl Vorteile und Nachteile der gegenwärtig immer wachsenden KI aufzählen und zum Schluss aus meiner persönlichen Perspektive über diese reflektieren.

Vorteile und Gebiete der KI

KI wächst ständig und greift mittlerweile in unzählige Bereiche ein. Wie oben angemerkt benutzen wir sie ständig in unserem Alltag, besonders in der Schule. Spezifisch LLMs haben den großen Vorteil, menschenähnlich, in einer gesprächsartigen Weise, auf die gestellten Bedürfnisse der User antworten zu können. KI bietet uns so die Möglichkeit auf Informationen so effizient und verständlich wie noch nie zugreifen zu können.

LLMs wie ChatGPT können, wie wir alle wissen, sehr effizient bei Aufgaben wie Quellenfindung, Zusammenfassen, Texte schreiben, Programmieren, und unzähligen anderen funktionstüchtig verwendet werden. So können sie einige Workflows und die Aneignung von Wissen um einiges vereinfachen, was uns als Resultat schneller und effizienter macht.

Jedoch wird KI nicht nur im Alltag als Sprachmodell genutzt, sondern auch in der Wissenschaft, unter anderem in der Medizin. Das bekannteste Beispiel dafür ist das Erkennen von Brustkrebs. Dies ist oft eine sehr monotone und ermüdende Aufgabe für Ärzte. Diese sehen oft mehrere Röntgenbilder am Tag und sehen deswegen öfters Anzeichen für Brustkrebs, wo eigentlich keine sind. Bilderkennende KI kann hier den Arbeitsaufwand teilweise erleichtern, daraus folgend die Monotonie dieser Arbeit und ebenso die Anzahl der Fehlergebnisse verringern.

Risiken und Nachteile

Doch nichts auf dieser Welt ist nur gut oder böse und dieser Fortschritt bringt ebenfalls viele Nachteile und Risiken mit sich.

Ein großes Risiko, was vielleicht schon einige von uns bemerken, ist die Auslagerung unserer kritischen Denkfähigkeit, Mühe und Autonomie an KI. Wenn man KI für alles verwenden würde, könnte man irgendwann nicht mehr ohne sie. Man merkt es beispielsweise, wenn man eine Zeitlang nur mit KI-Hilfe programmiert und schließlich dann ahnungslos beim Test, bei dem Internetzugriff nicht möglich ist, dasitzt.

Doch warum ist das schlimm, wenn KI solche Aufgaben sowieso gut erledigen kann? Die Antwort darauf ist, dass KI grundsätzlich unvorhersehbar ist. Durch das komplexe System, was hinter LLMs steckt, stellen sie sogenannte „Blackboxen“ dar. Man gibt ihr einen Input und man bekommt einen Output, doch was dazwischen passiert weiß niemand. Die KI kann also Falschinformation weiterverwenden und wenn man den Output nicht hinterfragt, oder die Kenntnisse welche nötig zum Hinterfragen sind, verlernt hat, macht sie das, ohne dass man irgendetwas merkt. Daraus folgend kann sogar unsere Demokratie leiden, wenn wir blind politischen und geschichtlichen Inhalten, welche die KI „ausspuckt“ vertrauen.

Wegen diesem Blackbox Prinzip sind auch LLMs aufgrund von Privatsphäre zu untersuchen. Online LLMs benutzen meist die gegebenen Prompts, um davon weiter zulernen und sie weiter zu benutzen. Wenn man also in einem Prompt z.B. eingibt „Ich bin [Name] und arbeite als [Job]“ dann kennt die KI diese Informationen und könnte sie immer weitergeben. Außerdem gehören diese Modelle größtenteils riesigen Unternehmen, dessen Hauptziel ist bestmöglich Geld zu machen und oft eigentlich direkt im Konflikt mit den Interessen, unter anderem der Privatsphäre, des Users stehen.

Es ist also wichtig, bei allen Sachen nicht nur blind KI zu verwenden, sondern diese ergänzend als einzelnes Werkzeug eines Werkzeugkastens und vor allem in einer bewussten Balance zu verwenden.