Experten des Security-Anbieters Kaspersky haben Datenschutzrisiken der beruflichen Nutzung von LLM-basierte Chatbots identifiziert.

Dazu zählt als erste Gefahr ein Datenleck oder Hack seitens des Providers selbst, berichtet Kaspersky. Denn obwohl LLM-basierte Chatbots von großen Tech-Konzernen betrieben würden, seien sie nicht immun gegenüber Hackingangriffen oder unabsichtlichen Datenlecks. So habe es bereits einen Zwischenfall gegeben, bei dem ChatGPT-Nutzer Eingaben aus dem Nachrichtenverlauf anderer Nutzer sehen konnten, teilt Kaspersky mit.

Datenlecks durch Chatbots zählen ebenfalls zu den Risiken. Da die Chats sich zumindest theoretisch dazu verwenden lassen, um neue Chatbot-Modelle zu trainieren, sollten Nutzer bedenken, dass Daten, die in den Trainingskorpus eingegeben werden, bewusst oder unabsichtlich von Anwendern desselben Sprachmodells aufgerufen werden können. Da LLMs anfällig gegenüber „unabsichtlicher Speicherung“ seien, könnten sie sich einzigartige Sequenzen wie Handynummern merken, die nicht die Modellqualität verbessern, aber die Privatsphäre gefährden, berichten die Experten. Allerdings würden B2B-Lösungen normalerweise keine Chatverläufe speichern und in manchen Fällen auch keine Daten an den Unternehmensserver senden, da der Chatbot lokal im Kundennetzwerk operiere.

Nicht zuletzt zählt das Knacken von Mitarbeiter-Accounts zu den Risiken. Angreifer könnten dann durch Phishing-Angriffe oder Credential Stuffing in Angestellten-Accounts eindringen und auf fremde Daten zugreifen. Außerdem finde die Kaspersky Digital Footprint Intelligence regelmäßig Darknet-Beiträge, die Chatbot‑Accounts zum Verkauf anbieten.

Der Beitrag Risiken der beruflichen ChatGPT-Nutzung erschien zuerst auf Linux-Magazin.

KI (Künstliche Intelligenz) ist gerade in aller Munde. Ausgelöst wurde der Hype durch ChatGPT, aber in der Zwischenzeit gibt es auch Google Bard und ich habe das Gefühl, dass jeder nun mitspielen möchte. Ein Problem ist allerdings, dass Du immer einen Online-Service nutzen musst. Die großen Firmen machen auch kein großes Geheimnis daraus, Daten zu sammeln und zu verwerten. GPT4All läuft offline und auf Deiner eigenen Hardware, und zwar auf der CPU und nicht der GPU. Du benötigst dafür also […]

Der Beitrag GPT4All – wie ChatGPT, nur offline und kostenlos ist von bitblokes.de.

Der Hype um den Chatbot ChatGPT von OpenAI scheint nachzulassen. Das auf Webanalysen spezialisierte Unternehmen Similarweb berichtet von rund 10 Prozent weniger Traffic im Juni, im Vergleich zum Mai.

Die Unique Vistors sanken um 5,7 Prozent. Die Verweildauer der Besucher auf der Website ging ebenfalls um 8,5 Prozent zurück, berichtet Similarweb.

Es sehe also nicht mehr so aus, als würde ChatGPT weiter wachsen, bis es die meistbesuchte Website der Welt ist, berichtet Similarweb. Google laufe also nicht Gefahr, von der OpenAI-Tech-Demoseite, die sich zu einem kulturellen Phänomen entwickelt habe, in den Schatten gestellt zu werden.

ChatGPT ziehe immer noch mehr Besucher weltweit an als bing.com, die Suchmaschine von Microsoft, oder Character.AI, die zweitbeliebteste eigenständige KI-Chatbot-Website. Die weltweiten Besuche auf Character.AI sei im Monatsvergleich um 32 Prozent zurückgegangen, obwohl der Datenverkehr im Vergleich zum Juni 2022, als das von ehemaligen Google-Ingenieuren gegründete Unternehmen gerade erst an den Start ging, immer noch enorm gestiegen sei.

Der Beitrag ChatGPT erstmals mit weniger Traffic erschien zuerst auf Linux-Magazin.