Kannst du AI vertrauen? Sollten Sie seine Feststellungen ohne Frage als objektiv gültig akzeptieren? Das Problem ist, dass selbst das Befragen der KI selbst keine klaren Antworten liefern würde.
KI-Systeme haben im Allgemeinen wie eine Black Box gearbeitet: Daten werden eingegeben und Daten werden ausgegeben, aber die Prozesse, die diese Daten transformieren, sind ein Rätsel. Das schafft ein zweifaches Problem. Zum einen ist unklar, welche Algorithmen am zuverlässigsten sind. Das andere ist, dass die scheinbar objektiven Ergebnisse durch die Werte und Vorurteile der Menschen verzerrt werden können, die die Systeme programmieren. Aus diesem Grund besteht ein Bedarf an Transparenz für die virtuellen Denkprozesse, die solche Systeme verwenden, oder für „erklärbare KI“.
Das ethische Gebot ist für jeden, der der DSGVO unterliegt, zu einem rechtlichen Gebot geworden. Dies betrifft nicht nur Unternehmen mit Sitz in der EU, sondern auch Unternehmen, die dort mit Menschen oder Organisationen zu tun haben. Es enthält eine Reihe von Bestimmungen zum Datenschutz, die den EU-Bürgern „das Recht einräumen, nur in bestimmten Situationen einer automatisierten Entscheidungsfindung zu unterliegen“ und „das Recht, mit aussagekräftigen Informationen über die mit der Entscheidung verbundene Logik versorgt zu werden . "
