ChatGPT spricht kein Italienisch mehr: Italien hat als erstes europäisches Land den Zugriff auf den aktuell sehr beliebten Chatbot sperren lassen. Was steckt dahinter?
Am 20. März kam es bei ChatGPT zu einer Panne: Für kurze Zeit waren die Titel von Unterhaltungen mit der KI auch für Dritte einsehbar. Grund war ein Fehler in einer Open-Source-Bibliothek. Die italienische Aufsichtsbehörde nahm diesen Vorfall zum Anlass, dem Betreiber OpenAI Verstöße gegen Daten- und Jugendschutz vorzuwerfen.
Beklagt wird einerseits ein fehlender Jugendschutzfilter, der sicherstellen soll, dass sich keine Jugendlichen unter 13 Jahren zu dem Dienst anmelden und darüber auf nicht jugendfreie Informationen zugreifen. Andererseits wird der Vorwurf der unzulässigen Datenverarbeitung erhoben. Insbesondere habe OpenAI keine Rechtsgrundlage für das massenhafte Sammeln und Speichern personenbezogener Daten. Auch hole das Unternehmen keine Einwilligung der betroffenen Menschen ein und es bestehe wenig Transparenz hinsichtlich der Datenverarbeitung.
Verstößt ChatGPT gegen das europäische Datenschutz-Gesetz?
OpenAI hat daraufhin den Dienst in Italien eingestellt und den Bezahlkunden die Rückzahlung ihres Geldes avisiert. Das Problem mit dem Jugendschutz scheint damit zunächst einmal gelöst. Allerdings vertritt OpenAI die Auffassung, nicht gegen geltende Datenschutzgesetze zu verstoßen.
Die italienische Behörde und wohl auch die DSGVO sehen das anders: „Eine Person, die Daten hergibt, hat das Recht, darüber informiert zu werden, was damit geschieht – dass die Daten beispielsweise für die Weiterentwicklung eines Algorithmus genutzt werden“, erklärt Guido Scorza, Vorstandsmitglied der italienischen Datenschutzbehörde.
Offensichtlich ist, dass ChatGPT mit einer enormen Masse an personenbezogen Daten agiert. Hinzu kommen Daten, die Nutzerinnen und Nutzer offenbaren, wenn sie in ein Gespräch mit dem Chatbot treten. Ein Löschen dieser Daten oder der Widerruf der Dateneingabe ist bei OpenAI nur sehr schwer durchsetzbar. Ebenfalls wird den Nutzern auch nur zögerlich ein Auftragsverarbeitungsvertrag angeboten, der die Datenverarbeitung vertraglich regeln würde. Zusammengefasst stellen diese Umstände drastische Verstöße gegen das europäische Datenschutzgesetz dar und sind mit enormen Bußgeldern belegt.
Drohen Einschränkungen in Deutschland?
Der Bundesdatenschutzbeauftragte Ulrich Kelber ist bereits hellhörig geworden und sehr interessiert an Informationen seiner italienischen Kollegen. Wenn sich die Vorwürfe aus Italien erhärten, müssen die deutschen Behörden handeln, denn die DSGVO gilt in der gesamten EU gleichermaßen. Aber ist das Ganze wieder ein Verbot der ewig gestrigen Datenschutzbehörden gegen den digitalen Fortschritt?
Erst kürzlich veröffentlichten führende Wissenschaftler und Tech-Größen wie Elon Musk einen offenen Brief, der einen Stopp der Entwicklung der verschiedenen KI-Angebote für mindestens sechs Monate fordert. Diese Zeit solle genutzt werden, um zusammen mit unabhängigen Experten und der Politik Rahmenbedingungen zu erarbeiten, die für die Weiterentwicklung der intelligenten Programme fortan gelten sollen. Der Fall in Italien zeigt, dass das keine schlechte Idee sein könnte. Bis dahin können wir nur empfehlen, bei der Nutzung von ChatGPT darauf zu achten, keine personenbezogenen Daten einzugeben.
Titelbild: Sanchez Amezcua/Unsplash
