Q:
Warum könnte ein Unternehmen ein Chatbot-KI-Projekt schließen?
EIN:Unternehmen könnten Chatbot-Projekte für künstliche Intelligenz aus vielen Gründen schließen, aber die wahrscheinlichsten können in mehrere Kategorien unterteilt werden. Erstens können Unternehmen Chatbot-Technologien herunterfahren, wenn sie sich so verhalten, dass das Unternehmen sich unwohl fühlt, z. B. wenn unerwünschte Sprache gefördert wird. Alternativ könnten Unternehmen ein Chatbot-Projekt schließen, wenn es Gefühle und Fähigkeiten zeigt, die entweder nicht leicht zu kontrollieren sind oder eine mögliche Bedrohung für die öffentliche Gesundheit und Sicherheit darstellen.
Wir haben beide Szenarien in der jüngeren Geschichte dokumentiert. Microsofts Experiment mit dem Tay-Chatbot endete, als Tay anfing, einige der schlimmsten Eigenschaften seiner menschlichen Gegenstücke anzunehmen - rassistische und aggressive Kommentare und allgemein anstößige Aktivitäten, von denen ein Großteil eindeutig gelernt oder sogar direkt von Benutzern kommentiert wurde.
In einer ganz anderen Fallstudie wurde ein von Facebook entwickeltes Chatbot-Setup abgeschaltet, als Wissenschaftler zwei Chatbots beobachteten, die auf eine Weise miteinander kommunizierten, die der menschlichen Beobachtung vorbehalten war. Es gab die Behauptung, Chatbot-Entitäten hätten begonnen, "in einer Art Code zu sprechen", der für sie bequemer und für ihre menschlichen Handler weniger transparent war. Dies ist ein Beispiel für die sehr reale Besorgnis um künstliche Intelligenz im Allgemeinen. Während wir große Fortschritte bei der Entwicklung starker künstlicher Intelligenz machen, müssen die Menschen handeln, um Beispiele für die KI-Implementierung einzudämmen und zu kontrollieren, um sicherzustellen, dass diese nicht überschritten werden Grenzen. Es gibt eine Vielzahl von ethischen Bedenken und Sicherheitsproblemen, die mit starker künstlicher Intelligenz angegangen werden müssen. Dies ist einer der Hauptgründe, warum einige Chatbots oder andere Projekte mit künstlicher Intelligenz in Zukunft möglicherweise von den beteiligten Akteuren geschlossen werden und unterstützte sie durch einen bestimmten Prozess.
