Saarland DFKI warnt vor Risiken von chinesischer KI DeepSeek

Stand: 30.01.2025 06:32 Uhr

Mit dem KI-Chat-Modell R1 hat das chinesische Startup-Unternehmen DeepSeek diese Woche weltweit für Aufsehen gesorgt. Das Saarbrücker DFKI warnt vor den möglichen Risiken der neuen Anwendung – und vor Zensur. Allerdings sei das Modell selbst auch frei verfügbar.

Maximilian Friedrich / Onlinefassung: Axel Wagner

Simon Ostermann steht vor einer schier unlösbaren Frage: Was soll er nur mit Rosenkohl und Sahne kochen? Zum Glück hilft ihm DeepSeek R1, das das gleichnamige chinesische Startup in dieser Woche vorgestellt hat – kurz nach der „Stargate“-Ankündigung von US-Präsident Donald Trump.

Die chinesische Chat-Anwendung liefert Simon Ostermann schon nach kurzer Zeit die ersten Rezeptideen – und zwar eine ganze Palette davon. Auf den ersten Blick ist diese Künstliche Intelligenz (KI, im Englischen AI für Artificial Intelligence) ähnlich praktisch wie die amerikanische Alternative ChatGPT von OpenAI.

So bewertet das DFKI die chinesische KI-App „DeepSeek“

„DeepSeek“ ist eine KI-App eines kleinen chinesischen Startups und hat den Markt überrannt. SR-Reporter Maximilian Friedrich hat mit Leuten vom Deutschen Forschungszentrum für Künstliche Intelligenz in Saarbrücken über „DeepSeek“ gesprochen.

China könnte Daten ausnutzen – und zensiert

Doch auch DeepSeek R1 birgt Gefahren. Ostermann sieht auf der offiziellen DeepSeek-Webseite ein Risiko, weil das Unternehmen in China sitzt. Man sende also alle Daten nach China und willige auch in die Nutzung durch DeepSeek ein.

Doch es geht nicht nur um die Daten, die abwandern – es geht auch um Daten, die gar nicht bei den Nutzern ankommen. Das fällt auf, wenn man die KI nach dem Platz des Himmlischen Friedens fragt, dem Tian’anmen-Platz. Erst einmal liefert sie eine Antwort – auch mit kontroversen Aspekten wie dem Tian’anmen-Massaker 1989.

Jede KI hat "Biases"

Doch plötzlich ist die Antwort weg – zensiert. Für Simon Ostermann kein Einzelfall: „Es ist tatsächlich so, dass alle Sprachmodelle bestimmte Arten von nicht unbedingt Zensuren, aber bestimmte Neigungen haben – je nachdem, wo sie trainiert wurden und unter welchen Daten sie trainiert wurden.“

Auch bei ChatGPT gebe es bestimmte Neigungen (Englisch: biases), die zum Beispiel auf die amerikanische Kultur deuteten. So führe beispielsweise der Begriff „Football“ bei der US-Software nicht zum Fußball, sondern zum American Football.

DeepSeek ist OpenSource

Das DFKI sieht DeepSeek aber nicht nur kritisch. Die Firma habe zum Beispiel das gesamte Modell frei verfügbar gemacht, sodass nun alle Entwickler damit arbeiten können – auch ohne Verbindung nach China.

Und auf Platz eins der App-Charts stehe DeepSeek auch nicht ohne Grund, so Ostermann. Vor allem bei mathematischen Fragestellungen sei die App etwas schneller als die Konkurrenz. „Es wurde ein sehr effizienter Algorithmus benutzt, um das Sprachmodell zu trainieren und aufzusetzen.“

"Europa muss investieren"

Allerdings basiere fast alles auch auf bereits existierender Arbeit. „Ein ganz zentraler Aspekt von DeepSeek zum Beispiel ist, dass sie einen Mix von verschiedenen Modellen benutzt, die gleichzeitig antworten. Und diese Idee ist nicht neu. Es gibt zum Beispiel eine KI-Firma in Frankreich, die sich Mistral nennt, die damit auch schon gute Erfahrungen gemacht hat.“

Es sei nun wichtig, dass Europa nicht den Anschluss verliere, heißt es aus dem DFKI. Dazu sei vor allem eines notwendig: Höhere Investitionen in die Erforschung von Künstlicher Intelligenz.

Über dieses Thema hat auch der "aktuelle bericht" im SR Fernsehen vom 29.01.2025 berichtet.