Wenn Perplexity falsch liegt: Die Grenzen von Quellenangaben bei KI-Diensten

Foto: Gelbes Schild «DEAD END»

Der KI-Dienst Perplexity verbindet einen ChatGPT-ähnlichen Chatbot mit einer Suchmaschine. Man spricht auch von einer «Konversations-Suchmaschine».

Nutzer stellen Fragen und erhalten, anders als bei traditionellen Suchmaschinen, nicht bloss eine Liste von Ergebnissen, sondern eine ausformulierte und zusammenfassende Antwort. Für alle Antworten liefert Perplexity die verwendeten Quellen.

Ein praktisches Beispiel zeigt, dass die Verwendung von Quellen allein nicht genügen, um richtige Antworten von Perplexity und anderen KI-Diensten zu erhalten.

Beispiel: Ist pCloud ein sicherer Cloud-Speicher-Dienst?

In einem ersten Schritt bat ich Perplexity um eine Liste der besten Cloud-Speicher-Dienste mit Ende-zu-Ende-Verschlüsselung.

Als Antwort erwähnte Perplexity unter anderem pCloud. Für die Antwort als Ganzes nannte Perplexity als Quellenangaben verschiedene Vergleiche in den Medien, unter anderem bei Heise Online.

In der Folge fragte ich Perplexity, ob pCloud ein sicherer Cloud-Speicher-Dienst mit Ende-zu-Ende-Verschlüsselung sei.

Alles in allem bejahte Perplexity meine Frage:

«Zusammenfassend lässt sich sagen, dass pCloud mit seinen Sicherheitsfunktionen und der optionalen Ende-zu-Ende-Verschlüsselung eine sehr sichere Option für Nutzer darstellt, die Wert auf Datenschutz legen. Die zusätzliche Verschlüsselungsoption macht es besonders geeignet für diejenigen, die maximale Sicherheit für ihre sensiblen Daten wünschen.»

Leider ist die Antwort falsch.

Fragen zur Vertrauenswürdigkeit von pCloud gab es schon länger. Nun haben aber Forscher an der ETH Zürich kürzlich schwerwiegende Sicherheitslücken bei der Ende-zu-Ende-Verschlüsselung von pCloud entdeckt:

«Our attacks allow a malicious server to break the confidentiality of uploaded files, as well as injecting files and tampering with their content.»

Auf die Mitteilung der Forscher über die Sicherheitslücken hatte pCloud übrigens nicht reagiert.

Die Antwort von Perplexity ist in der Sache falsch, denn pCloud ist kein sicherer Cloud-Speicher-Dienst. mit Ende-zu-Ende-Verschlüsselung.

Die falsche Antwort geht auf die verwendeten Quellen zurück. Die Informationen unter den verwendeten Quellen sind falsch und deshalb auch die Antwort von Perplexity.

Wer nicht über zusätzliches Wissen verfügt, wird allein mit der Prüfung der Quellenangaben die falsche Antwort nicht entdecken können. Die gängige Empfehlung, Antworten von KI-Diensten zu prüfen, stösst damit an deutliche Grenzen.

Beurteilung von Produkten: Affiliate-Marketing und oberflächliche Vergleiche in den Medien

Antworten zu Produkten sind besonders anfällig auf fehlerhafte Quellen, gerade auch bei Medien als Quellen.

In den Medien werden häufig Produkte verglichen, doch bleiben die Vergleiche fast immer an der Oberfläche. Die Vergleiche basieren normalerweise allein auf den Angaben der Hersteller, die nicht geprüft werden.

Häufig haben die Vergleiche sogar Werbecharakter, denn die Medien verdienen Geld, wenn ihre Vergleiche bei den Cloud-Diensten zu Bestellungen führen. Nutzer, die nicht genau hinschauen, übersehen, dass die keine journalistischen Inhalte konsumieren, sondern mit Werbung bespielt werden.

Heise Online beispielsweise empfiehlt pCloud in der Rubrik «Heise Download» mit Verweis auf angeblich «hohe Sicherheitsstandards» und einen angeblich «sicheren Speicher». Oben links erscheint in kleiner Schrift der Hinweis «ANZEIGE». Wenn man auf der Seite scrollt, verschwindet der Hinweis.

Heise Online hatte früher mindestens eine hohe Reputation für Ausgewogenheit und Fachkompetenz.

pCloud betreibt ein eigenes «Affiliate-Programm». Wer zahlende Nutzer an pCloud vermittelt, kann bis zu 350 Euro für jede erfolgte Vermittlung verdienen.

Wer im Beitrag von Heise Online auf einen der vielen Weblinks zu pCloud klickt, gelangt auf eine besondere Angebotsseite von pCloud für Heise Online. Bei diesem «Affiliate-Marketing» ist Heise Online jedes Mal finanziell beteiligt, wenn ein Abonnement für pCloud abgeschlossen wird.

Die Weblinks sind mit einem Sternchen versehen. Wer bis an das Ende der Seite bei Heise Online scrollt, findet folgenden Hinweis: «Mit einem Stern markierte Links sind Affiliate-Links, für die wir unter Umständen eine Provision erhalten. Die Preise erhöhen sich dadurch nicht!»

Schreiben Sie einen Kommentar

Ihre E-Mail-Adresse wird nicht veröffentlicht. Felder mit * sind Pflichtfelder.