Datenschutz und KI: Was man ChatGPT & Co niemals preisgeben sollte
Sensible Daten und ihre Bedeutung
KI-Systeme verarbeiten große Mengen an Daten, darunter oft auch sensible Informationen wie Gesundheitsdaten, sexuelle Orientierung, religiöse Überzeugungen, biometrische Daten oder politische Meinungen. Der Umgang mit solchen Daten erfordert besondere Sorgfalt, denn sie können missbraucht werden und tiefgreifende Auswirkungen auf die Privatsphäre haben. Vor diesem Hintergrund hat jeder Mensch das Recht zu entscheiden, wer welche persönlichen Daten erhält. Außerdem setzen die Datenschutz-Grundverordnung (DSGVO) und der AI Act der EU Rahmenbedingungen für den Umgang mit sensiblen Daten in KI-Systemen.
Risiken künstlicher Intelligenz
Die Verbraucherzentrale warnt vor den Risiken künstlicher Intelligenz. Zum einen ist dies die bereits erwähnte missbräuchliche Verwendung der Daten - hierfür muss nicht einmal das Tool selbst verantwortlich sein. Angriffe auf die Server könnten zu Datenlecks führen, welche vertrauliche Daten preisgeben. Aber auch auf andere Weise kann künstliche Intelligenz kriminelle Machenschaften fördern. So "lassen sich zum Beispiel Phishing-Mails oder Schockanrufe mit realistisch imitierten Stimmen von Angehörigen erstellen, die sich kaum noch als Fälschung entlarven lassen", wie die Verbraucherzentrale weiterhin berichtet. Darüber hinaus können auch Falschmeldungen veröffentlicht werden, indem die Datengrundlage der KIs gefälscht wird.
Die Datengrundlage spielt eine zentrale Rolle und kann maßgeblich über die Entscheidungsfindung der KI bestimmen. In den USA sollte eine KI Bewerbungen auswerten und lernte anhand bisheriger Bewerbungen. Sie erkannte ein Muster, nach welchem mehr Männer als Frauen eingestellt wurden. Diese gelernte Schieflage wandte die KI auch beim eigenen Feedback an, wodurch eine Ungleichbehandlung von Frauen geprägt wurde.
Diese Daten sollten nicht geteilt werden
Beim Einsatz von künstlicher Intelligenz ist also Vorsicht geboten, weshalb einige Daten nicht preisgegeben werden sollten. Hierzu zählen persönliche Kontaktdaten wie Name, Adresse oder Telefonnummer. Aber auch Zugangsdaten (Passwörter, Logins, Kontonummern) sollten nicht einfach so veröffentlicht werden. Ebenso betroffen sind Kontoauszüge, Rechnungen, Krankengeschichten, medizinische Diagnosen oder vertrauliche Geschäfts- sowie Kundendaten. Besondere Vorsicht gilt bei Anfragen zu illegalen Aktivitäten, denn selbst hypothetische Fragen können rechtliche Konsequenzen haben.
Redaktion finanzen.net
Bildquelle: Deemerwha studio / Shutterstock.com, PopTika / Shutterstock.com