Wie man ChatGPT an einer Hochschule nicht verwenden sollte

In meinem aktuellen Newsletter mit Neuigkeiten aus dem digitalen Raum legte ich den Fokus auf das Thema, wie man Künstliche Intelligenz (KI) nicht verwenden sollte.

Passend zu diesem Thema leitete ich den Newsletter mit einem haarsträubenden Beispiel für die Verwendung von ChatGPT ein, das mir aus dem Umfeld einer schweizerischen Hochschule glaubwürdig zugetragen worden war:

• Ein Institut an der erwähnten Hochschule nutzt ChatGPT für seine zahlreichen Mitarbeiter:innen mit einem gemeinsamen Nutzerkonto.
• Das Nutzerkonto kontrolliert ein einzelner Mitarbeiter, der sich das private Abonnement mit seiner persönlichen Kreditkarte klickte und die Kosten als Spesen abrechnet.
• Für das private Abonnement kann kein Auftragsverarbeitungsvertrag (AVV) mit OpenAI abgeschlossen werden, denn dafür müsste mindestens ein «ChatGPT Team»-Abonnement mit mindestens zwei individuellen Nutzerkonten vorhanden sein.
• Für das gemeinsame Nutzerkonto wurde das KI-Training mit den Nutzerdaten nicht deaktiviert, wie es unabhängig vom Abonnement möglich wäre.
• Mit dem gemeinsamen Nutzerkonto bei ChatGPT wurde in mindestens einem Fall das vertrauliche Arbeitszeugnis einer Person, die an diesem Institut beschäftigt ist, bearbeitet – für alle Nutzer:innen sichtbar!
• Ferner wurden im gleichen Rahmen mit ChatGPT die Arbeiten von Studierenden hochgeladen und bewertet … 🎲

Im Newsletter gelangte ich zu folgendem kurzen Fazit:

Ich gehe davon aus, dass die Angelegenheit über die Hochschule hinaus ein Nachspiel haben wird.

So dürfte sich die kantonale Datenschutz-Aufsichtsbehörde dafür interessieren, dass eine Behörde einen amerikanischen KI-Cloud-Dienst wie ChatGPT derart dilettantisch einsetzt.

Siehe auch:

• Gerichtliche Verfügung: OpenAI darf Nutzer-Konversationen mit ChatGPT nicht mehr löschen
• ChatGPT: OpenAI lanciert «Team»-Variante ohne Training mit Nutzerdaten