Behörden und Cybersicherheitsfachleute haben gravierende Sicherheitsbedenken gegen die chinesische KI DeepSeek. Dabei geht es gleich um mehrere Punkte: die offenkundig sehr weitreichende Speicherung von Nutzerdaten, die Manipulierbarkeit der Anwendung für kriminelle Zwecke und die Frage, inwieweit der chinesische Spionage- und Überwachungsapparat Zugriff auf Nutzerdaten hat.
Speicherung von Tastatureingaben
Ein wesentlicher Kritikpunkt ist die Speicherung der Tastatureingaben. DeepSeek informiert in seinen Datenschutzhinweisen darüber, dass “Tastatureingabemuster oder -rhythmen” (keystroke patterns or rhythms) erfasst werden - ein Verfahren, das zur Identifizierung von Nutzern eingesetzt werden kann.
“Auch Tastatureingaben innerhalb der App können womöglich mitgelesen werden, bevor sie abgeschickt werden”, sagt eine Sprecherin des Bundesamts für Sicherheit in der Informationstechnik (BSI) auf Anfrage der Nachrichtenagentur dpa: “Daneben wird die Art und Weise, wie Tastatureingaben vorgenommen werden, gespeichert.”
Mit solchen Mustern könnten mit Hilfe Künstlicher Intelligenz Nutzprofile erstellt und wiedererkannt werden. “Das BSI hält diese Möglichkeit mindestens für sicherheitskritische Bereiche für bedenklich”, betont die Sprecherin.
[…]
Ich glaub ja eher nicht das Deepseek das Problem ist, eher die GUI und die App. Denn das LLM kann man lokal laufen lassen und entsprechend enschließen.
Abgesehen davon, dass die Masse der Leute wohl eher die App nutzen, ist das Problem viel umfassender. Die chinesische Zensur kann man auch bei lokaler Nuztung von Deepseek nicht umgehen. Das China Media Project hat sehr gute Berichte dazu verfasst, siehe etwas diese drei:
A Proposal for AI-Powered Censorship (Januar 2025)
Tracking Control: Sparking Compliant AI (Mai 2024)
AI for All (Dezember 2024)
Es ist ein bisschen viel, aber sehr lesenswert.
Guter Hinweis! Ich langweile mein LLM allerdings auch nur mit Fragen zu Programmierung und Linux x)
Oh okay. Da die Datenbank von Deepseek einfach Mal n Terrabyte groß ist konnte ich es noch nicht selbst testen.
Aber danke für die Sourcen!
Wired gibt einen Einblick, wie die chinesiche Zensur bei Deepseek in etwas funktioniert. Der Artikel beschreibt auch, wie man sie im Grunde umgehen kann. Allerdings ist das nicht einfach, weil Du eben nicht weisst, welche Trainingsdaten verwendet wurden und welche bewussten Verzerrungen ('biases") genau eingebaut wurden. Für Experten ist das schon m.E. schon nicht einfach, und für die Masse der Leute sowieso nicht.
Edit: Hier ist der Wired-Artikel:
Here’s How DeepSeek Censorship Actually Works—and How to Get Around It
welchen mehrwert hat man denn, wenn man die keystrokes einsammelt, anstatt nur mit dem regulären input zu arbeiten?
ansonsten unterscheidet sich die datensammelei doch nicht wesentlich von den gängingen social media apps, oder?
edit: auf der seite vom bsi ist darüber nichts zu finden, außer
https://www.bsi.bund.de/DE/Service-Navi/Presse/Pressemitteilungen/Presse2025/250127_KI-im-Alltag.htmlscheint also ein artikel zu sein, der so an die dpa ging, weil fast alle (focus, tagesschau, t3n) den selben wortlaut haben.
weiß nicht, ob ich die kommunikationstrategie vom bsi so gut finde.
Jeder tippt etwas anders. Du kannst z.b. sehen ob mehrere Personen eingaben machen und die eingaben ihnen zuordnen. Z.b. jemand der mit 10 vs 2 fingern tippt.
Keystrokes werden auch erfasst wenn du den Text wieder löschst. Also wird alles erfasst was jemals getippt wurde. Passwort aus versehen einfügen und direkt wieder löschen ohne je zu senden -> egal is trotzdem aufm Server
Man muss ja nun auch mal relevant erscheinen, da bietet sich ein chinesisches LLM wirklich an xD
Aber OpenAI und der andere Rotz ist OK oder was? Haben die sich von der Union was vom Lack geklaut?
Aber OpenAI und der andere Rotz ist OK oder was?
Hat hier niemand behauptet.
Das ist halt Kwalitätsdschurnalismus vom allerfeinsten. Die Sorte, die man, ohne, dass es jemand merkt, einfach mit einem “KI”-Bullshitgenerator ersetzen könnte.
Downvote for Whataboutery. Ist leider zu weit verbreitet hier.
Mein Problem mit der Meldung ist, dass damit den Anschein erweckt wird, als ob die US-Angebote in Sachen Datenschutz besser wären.
Ja, die Qualität der Recherche ist etwas dürftig. Es wird nicht darauf eingegangen, dass das Problem auf lokal gehostetes DeepSeek nicht zutrifft; statt dessen wird von nebulöser Spezialtechnik bei Siemens gesprochen, die in der Realität wahrscheinlich auch nicht viel mehr als eine ollama-Instanz im Intranet sein wird. Mistral als europäische Alternative wird mit keinem Wort erwähnt.
Ich würde das Problem aber nicht dabei sehen, dass andere remote gehostete LLMs nicht erwähnt werden. Dass spezifisch DeepSeek Tastendrücke mitschneidet und das BSI deshalb eine Warnung ausgesprochen hat, ist eine relevante Information und der Kern des Artikels.
Das eigentliche Problem liegt eher dabei, dass der Autor des Artikels vermutlich kein allzu tiefes Fachwissen mitbringt und deshalb keinen umfassenden Überblick geben kann. Man kann das als einen von vielen Hinweisen darauf sehen, dass Fachkommunikatoren dringend benötigt werden, wie in der Wissenschaft so auch in Branchen wie der IT.
etwas dürftig? das war n copy paste von dpa.
der selbe artikel steht bei t3n. die waren aber wenigtens so ehrluch ne quelle anzugeben.https://t3n.de/news/deepseek-tastatureingaben-bsi-sicherheitsbedenken-1672615/
Das mag Dein Problem sein, aber das steht nirgendwo. Un die Datenschutzprobleme mit US-Angeboten werden u.a. auch hier geposted (allerdings kommt dann kein Whataboutery nach dem Motto “Aber China ist okay?” - Warum eigentlich nicht da auch?).
Was Du hier tust, ist reines Whataboutery. Sonst nichts. Deshalb beende ich diese Diskussion auch schon wieder.
Warum eigentlich nicht da auch?
Ich glaube, der Hauptgrund ist, dass es schon eine andere Art und Menge der Berichterstattung gibt - und das erzeugt dann den Wunsch konträr dagegenzuhalten. Wenn man sich zB ex-Hexbear anschaut, dann sind so viele dort z. B. Menschen, die gelernt haben “hey, nicht alles, was über China gesagt wird, stimmt so ganz”, und dann überbordend als Reaktion darauf emotional invested werden und ähnlich unreflektiert bleiben, nur auf der anderen Seite des Pazifiks.
In deutschen Medien definitiv nicht so sehr wie in US-Medien, aber eben doch vorhanden, gerade wenn man eben nicht spezielle Tech-Nachrichten anschaut. Case-in-point:
https://www.tagesschau.de/suche#%2Farticle%2F1%2F%3FsearchText=OpenAI
Ich finde da viele, viele 0815 Meldungen über OpenAI als ein relativ normales, souveränes Unternehmen, aber sogar, obwohl sie nicht direkt erwähnt sind, gleich zwei Artikel, die DeepSeek als ominös-gefährlich einstufen und auch schon etwas “othern”:
https://www.tagesschau.de/ausland/asien/sicherheitsbedenken-deepseek-100.html
Also, es geht nicht darum, dass DeepSeek hier in Sachen Zensur und Datenklau so viel besser sind, es geht darum das Stil und Frequenz der Berichterstattung eine Schieflage hat.
Ich unterstelle jetzt dem typischen Lemmy-Nutzer mal pauschal ein besseres Verständnis der Lage, aber die Meldung geht über die Tagesschau raus. An Millionen quasi technisch Unbedarfter. Aber gut.
