Bedenken, dass KI Gedanken lesen und menschliche Entscheidungen manipulieren kann

(CLO) Die neuesten Forschungsergebnisse der Universität Cambridge haben eine alarmierende Wahrheit ans Licht gebracht: KI ist nicht nur ein Hilfsmittel, sondern kann auch unsere Gedanken manipulieren und uns zu Marionetten in einem technologischen Spiel machen.

Forscher haben ein neues Konzept mit dem Namen „Intention Economy “ geprägt. In dieser Ökonomie können Unternehmen riesige Mengen an Daten über unser Verhalten, unsere Vorlieben und Gewohnheiten sammeln und analysieren, um vorherzusagen, was wir als Nächstes tun werden.

Sie können diese Informationen dann an andere Unternehmen verkaufen, die ihre Werbung gezielter auf uns ausrichten möchten.

KI hat die Fähigkeit, unser Denken und Handeln zu beeinflussen. Illustration: KI

Nehmen wir beispielsweise an, Sie suchen ein neues Telefon. KI verfolgt Ihr Online-Verhalten, die gesuchten Schlüsselwörter und sogar Ihre Gespräche, um Ihre Bedürfnisse besser zu verstehen. Telefonanbieter können diese Informationen dann nutzen, um Ihnen Werbung für die für Sie am besten geeigneten Telefone anzuzeigen.

„Wenn wir nichts dagegen unternehmen, könnte die Intentionsökonomie zu einem Instrument der Manipulation unserer Entscheidungen werden“, warnt Dr. Jonnie Penn, Technikhistoriker an der Universität Cambridge. „Unternehmen könnten KI nutzen, um uns zum Kauf von Produkten zu bewegen, die wir nicht brauchen, oder sogar unsere Wahlentscheidungen beeinflussen.“

Die Autoren erklärten außerdem, dass ein KI-Modell Gespräche steuern würde, um Werbetreibenden, Unternehmen und anderen Dritten zu dienen. Werbetreibende könnten die KI-generierten Tools nutzen, um maßgeschneiderte Online-Werbung zu erstellen.

Der Bericht führt das Beispiel eines von Meta entwickelten KI-Modells namens Cicero an, das die Fähigkeit „auf menschlichem Niveau“ erreichte, das Brettspiel Diplomacy zu spielen – ein Spiel, bei dem es den Autoren zufolge darum geht, die Absichten der Gegner zu erschließen und vorherzusagen.

Führende Experten im Technologiebereich haben vor der Fähigkeit der KI gewarnt, menschliches Verhalten vorherzusagen und zu beeinflussen.

Nvidia-CEO Jensen Huang vertrat in einer Rede im vergangenen Jahr eine bemerkenswerte Ansicht. Er argumentierte, dass fortschrittliche KI-Modelle in der Lage sein werden, „herauszufinden, was Ihre Absichten sind, was Ihre Wünsche sind, was Sie zu tun versuchen, und Ihnen die Informationen auf die bestmögliche Weise zu präsentieren“.

Hoang Anh (laut CUN, Nvidia, Guardian)

Quelle: https://www.congluan.vn/moi-lo-ai-co-the-doc-suy-nghi-va-thao-tung-quyet-dinh-cua-con-nguoi-post328850.html