Italien ist das erste westliche Land, das den fortschrittlichen Chatbot ChatGPT blockiert.
Die italienische Datenschutzbehörde sagte, es gebe Datenschutzbedenken bezüglich des Modells, das vom US-Startup OpenAI entwickelt wurde und von Microsoft unterstützt wird.
Die Regulierungsbehörde sagte, sie werde OpenAI „mit sofortiger Wirkung“ verbieten und untersuchen.
OpenAI teilte der BBC mit, dass es die Datenschutzgesetze einhalte.
Millionen von Menschen haben ChatGPT seit seiner Einführung im November 2022 verwendet.
Es kann Fragen in natürlicher, menschenähnlicher Sprache beantworten und auch andere Schreibstile nachahmen, indem es das Internet wie im Jahr 2021 als Datenbank verwendet.
Microsoft hat Milliarden von Dollar dafür ausgegeben und es wurde letzten Monat zu Bing hinzugefügt.
Es hat auch gesagt, dass es eine Version der Technologie in seine Office-Apps einbetten wird, einschließlich Word, Excel, PowerPoint und Outlook.
Es gab Bedenken hinsichtlich der potenziellen Risiken der künstlichen Intelligenz (KI), einschließlich der Bedrohung von Arbeitsplätzen und der Verbreitung von Fehlinformationen und Vorurteilen.
Anfang dieser Woche forderten Schlüsselfiguren der Technologiebranche, darunter Elon Musk, die Aussetzung dieser Art von KI-Systemen, da befürchtet wurde, dass der Wettlauf um ihre Entwicklung außer Kontrolle geraten sei.
Die italienische Aufsichtsbehörde sagte, dass sie nicht nur den Chatbot von OpenAI blockieren, sondern auch untersuchen würde, ob er die Datenschutz-Grundverordnung einhält.
Die DSGVO regelt die Art und Weise, wie wir personenbezogene Daten verwenden, verarbeiten und speichern können.
Der Watchdog teilte am 20. März mit, dass es bei der App zu einer Datenschutzverletzung im Zusammenhang mit Benutzergesprächen und Zahlungsinformationen gekommen sei.
Es gebe keine Rechtsgrundlage, um „die Massenerhebung und -speicherung personenbezogener Daten zum ‚Training‘ der dem Betrieb der Plattform zugrunde liegenden Algorithmen“ zu rechtfertigen.
Da es keine Möglichkeit gebe, das Alter der Nutzer zu überprüfen, setze die App „Minderjährige im Vergleich zu ihrem Entwicklungs- und Bewusstseinsgrad absolut ungeeigneten Antworten aus“, hieß es weiter.
Bard, Googles rivalisierender Chatbot für künstliche Intelligenz, ist jetzt verfügbar, aber nur für bestimmte Benutzer über 18 Jahre – wegen der gleichen Bedenken.
Die italienische Datenschutzbehörde sagte, OpenAI habe 20 Tage Zeit, um zu sagen, wie sie auf die Bedenken der Aufsichtsbehörde eingehen würde, unter Androhung einer Geldstrafe von 20 Millionen Euro (21,7 Millionen US-Dollar) oder bis zu 4 % des Jahresumsatzes.
An anderer Stelle teilte die irische Datenschutzkommission der BBC mit, dass sie sich mit der italienischen Regulierungsbehörde in Verbindung setzt, um die Grundlage für ihre Maßnahmen zu verstehen, und sich im Zusammenhang mit dem Verbot „mit allen EU-Datenschutzbehörden abstimmen wird“.
Das Information Commissioner’s Office, die unabhängige britische Datenregulierungsbehörde, sagte der BBC, es werde Entwicklungen in der KI „unterstützen“, sei aber auch bereit, „die Nichteinhaltung“ von Datenschutzgesetzen „anzufechten“.
Dan Morgan vom Anbieter von Cybersicherheitsbewertungen SecurityScorecard sagte, das Verbot zeige die Bedeutung der Einhaltung gesetzlicher Vorschriften für in Europa tätige Unternehmen.
„Unternehmen müssen dem Schutz personenbezogener Daten Priorität einräumen und die strengen Datenschutzbestimmungen der EU einhalten – die Einhaltung der Vorschriften ist kein optionales Extra.“
„Nicht ausreichend geregelt“
Auch die Verbraucherschutzgruppe BEUC forderte EU- und nationale Behörden – einschließlich Datenschutzbeauftragte – auf, ChatGPT und ähnliche Chatbots zu untersuchen, nachdem in den USA eine Beschwerde eingereicht worden war.
Obwohl die EU derzeit an der weltweit ersten Gesetzgebung zu KI arbeitet, befürchtet BEUC, dass es Jahre dauern würde, bis das KI-Gesetz in Kraft treten könnte, wodurch die Verbraucher dem Risiko ausgesetzt wären, durch eine nicht ausreichend regulierte Technologie Schaden zu nehmen.
Ursula Pachl, stellvertretende Generaldirektorin von BEUC, warnte, dass die Gesellschaft „derzeit nicht ausreichend vor dem Schaden geschützt“ sei, den KI anrichten könne.
„Es wachsen ernsthafte Bedenken darüber, wie ChatGPT und ähnliche Chatbots Menschen täuschen und manipulieren könnten. Diese KI-Systeme müssen von der Öffentlichkeit genauer untersucht werden, und die Behörden müssen die Kontrolle über sie wiedererlangen“, sagte sie.
ChatGPT ist bereits in einer Reihe von Ländern blockiert, darunter China, Iran, Nordkorea und Russland.
OpenAI teilte der BBC mit, dass es ChatGPT für Benutzer in Italien auf Anfrage der italienischen Datenschutzbehörde namens Garante deaktiviert habe:
„Wir verpflichten uns, die Privatsphäre der Menschen zu schützen, und wir glauben, dass wir die DSGVO und andere Datenschutzgesetze einhalten“, schrieb sie.
Die Organisation sagte, sie arbeite daran, personenbezogene Daten beim Training von KI-Systemen wie ChatGPT zu reduzieren, weil sie wolle, dass ihre KI-Systeme „über die Welt lernen, nicht über Privatpersonen“.
„Wir glauben auch, dass KI-Regulierung notwendig ist – deshalb freuen wir uns darauf, eng mit der Garante zusammenzuarbeiten und sie darüber aufzuklären, wie unsere Systeme aufgebaut und verwendet werden“, fügte sie hinzu
OpenAI sagte, es freue sich darauf, ChatGPT „bald“ wieder in Italien verfügbar zu machen.