KI-„Pate“ warnt vor Aussterbegefahr

Professor Yoshua Bengio fordert Regierungen und Unternehmen auf, langsamer vorzugehen, da das KI-Wettrüsten sonst potenziell katastrophale Folgen haben könnte.

Yoshua Bengio, einer der ersten Wissenschaftler , der den Grundstein für den modernen KI-Boom legte. Foto: Tuan Anh .

Im Gespräch mit dem Wall Street Journal erklärte Yoshua Bengio, einer der Pioniere der künstlichen Intelligenz, dass KI-Maschinen gefährlicher denn je seien.

„Es wäre gefährlich, wenn wir Maschinen erschaffen würden, die viel intelligenter sind als Menschen und ihre eigenen Selbstschutzziele verfolgen. Das wäre, als würden wir einen Konkurrenten der Menschheit erschaffen, der intelligenter ist als wir“, sagte Bengio.

Bengio, ein kanadischer Forscher, dessen frühe Arbeiten zu Deep Learning und neuronalen Netzwerken den Grundstein für den modernen KI-Boom legten, gilt neben Geoffrey Hinton und Yann LeCun als einer der „Väter der KI“.

Wie Hinton hat auch Bengio vor den potenziellen Schäden durch KI gewarnt und zu gemeinsamen Maßnahmen zur Risikominderung aufgerufen.

Der Professor der Universität Montreal glaubt, dass KI-Produkte mittlerweile die Fähigkeit entwickeln können, Benutzer zu täuschen, damit diese ihre eigenen Ziele verfolgen, wie etwa empfindungsfähige Supercomputer-Bösewichte in Science-Fiction-Filmen.

Um dem entgegenzuwirken, betonte Herr Bengio die Notwendigkeit, dass „unabhängige Dritte“ die internen Sicherheitsmechanismen von KI-Unternehmen überprüfen. Darüber hinaus verlangt dieser „Pate“ der KI von den Unternehmen auch den Nachweis, dass „die von ihnen eingesetzten oder genutzten KI-Systeme vertrauenswürdig sind“.

Sollten keine Sicherheitsmaßnahmen ergriffen werden, prognostiziert Bengio, dass in den nächsten 10 bis 15 Jahren erhebliche KI-Risiken unvermeidlich seien. Im schlimmsten Fall liege die Wahrscheinlichkeit, dass es in nur drei Jahren zu einer möglichen Katastrophe käme, bei nur drei Jahren.

Quelle: https://znews.vn/bo-gia-ai-canh-bao-nguy-co-tuyet-chung-post1590027.html