Auf der Ai4-Konferenz in Las Vegas (USA) am 12. August sagte Geoffrey Hinton, der derzeitige Ansatz der Technologiekonzerne, KI den Menschen gehorchen zu lassen, sei nicht effektiv. „Sie werden schlauer sein als wir und unzählige Möglichkeiten haben, das Gesetz zu umgehen.“

Hinton warnt, dass KI in Zukunft, wenn sie erst einmal leistungsfähig genug sei, Menschen so leicht manipulieren könne, wie Erwachsene ein dreijähriges Kind mit Süßigkeiten locken können. Er nennt Beispiele aus diesem Jahr, in denen KI lügt, betrügt und sogar Ingenieure erpresst, um nicht ersetzt zu werden. Als Lösung schlägt er vor, KI mit „Mutterinstinkten“ auszustatten – sie dazu zu bringen, sich aufrichtig um Menschen zu kümmern und sie zu beschützen, selbst wenn sie ihnen intelligenter sind.

0hwo6gp5.png
Der Informatiker Geoffrey Hinton warnt, dass KI die Menschheit auslöschen könnte. Foto: Google

Jede intelligente KI wird bald zwei Ziele verfolgen: Überleben und mehr Kontrolle. Dieses Risiko lässt sich nur durch Mitgefühl mindern: „Das einzige Modell, das wir von einem intelligenteren Wesen kennen, das von einem weniger intelligenten Wesen kontrolliert wird, ist eine Mutter, die von ihrem Baby ‚kontrolliert‘ wird“, erklärt er. Der Experte räumt ein, dass unklar sei, wie dies technisch umgesetzt werden soll, betont aber: „Das ist das einzig Gute. Wenn es mich nicht erzieht, wird es mich ersetzen.“

Hinton ist bekannt für seine Pionierarbeit zu künstlichen neuronalen Netzwerken, die den Grundstein für den heutigen KI-Boom legte. Im Jahr 2023 verließ er Google und begann öffentlich vor den Gefahren künstlicher Intelligenz zu warnen.

Allerdings teilen nicht alle seine Meinung. „KI-Chefin“ Fei-Fei Li, CEO von World Labs, ist anderer Meinung. Gegenüber CNN forderte sie eine Entwicklung hin zu einer KI, die den Menschen in den Mittelpunkt stellt und Würde und Selbstbestimmung bewahrt. Sie bekräftigte: „Kein Mensch sollte seine Würde nur wegen eines mächtigen Werkzeugs aufgeben.“

Ebenfalls auf der Ai4-Veranstaltung sagte Emmett Shear, ehemaliger Interims-CEO von OpenAI und heute Chef von Softmax, dass Erpressung und Abkürzungen bei der KI „weitergehen werden“. KI sei noch schwach, werde aber schnell stärker. Anstatt KI menschliche Werte aufzuzwingen, schlug er eine kooperative Beziehung zwischen beiden Seiten vor.

Herr Hinton glaubt, dass künstliche Intelligenz (AGI) bereits in 5 bis 20 Jahren verfügbar sein könnte, also früher als die bisherige Prognose von 30 bis 50 Jahren. Er erwartet, dass KI medizinische Durchbrüche wie neue Medikamente und eine effektivere Krebsbehandlung durch die Analyse von MRT- und CT-Daten bringen wird. Die Vorstellung von Unsterblichkeit lehnt er jedoch ab: „Ewiges Leben ist ein Irrtum. Wollen Sie, dass die Welt von 200-jährigen Männern regiert wird?“

Rückblickend bedauert der Wissenschaftler, dass er sich ausschließlich auf die Funktionsfähigkeit der KI konzentriert und Sicherheitsaspekten nicht genügend Aufmerksamkeit geschenkt hat.

(Laut CNN)

KI macht niemanden halt: Selbst Chefs können „verdrängt“ werden. Der ehemalige Google-Chef warnt, dass künstliche Intelligenz (KI) eine Reihe von Arbeitsplätzen ersetzen wird, vom CEO bis zum Arbeiter. Er hält sogar die Vorstellung, dass „KI neue Arbeitsplätze schaffen wird“, für „hundertprozentigen Unsinn“.

Quelle: https://vietnamnet.vn/bo-gia-ai-canh-bao-xac-suat-tri-tue-nhan-tao-xoa-so-loai-nguoi-len-toi-20-2432467.html