Befürchtungen, dass künstliche Intelligenz fortschrittliche Waffen ohne menschliche Kontrolle herstellen wird

[Anzeige_1]

Beamte sind zunehmend besorgt über den Missbrauch von KI zur Herstellung von Biowaffen und die Notwendigkeit von Regulierungen, um diesen Missbrauch einzudämmen. (Foto: Ignatiev)

Die Angst, dass Kriminelle oder Terroristen KI nutzen könnten, um die Welt zu zerstören, wird ein heißes Thema auf einem Gipfeltreffen der Staats- und Regierungschefs im November in Großbritannien sein. Britische Politiker reisen um die Welt, um sich auf eine gemeinsame Erklärung zu einigen, die vor den Risiken warnt, die durch den Missbrauch neuer Technologien durch Kriminelle entstehen.

Einige Vertreter des britischen Premierministers befürchten, dass die Technologie irgendwann so leistungsfähig sein könnte, dass sich biologische Waffen oder Waffen, die sich der menschlichen Kontrolle entziehen, herstellen lassen. Die wachsende Besorgnis führt zu Forderungen nach Regulierung, um die Risiken zu mindern. Während sich die Technologieführer auf eine Pause bei der KI-Entwicklung einigen, befinden sie sich in einem KI-Wettrüsten mit ihren Konkurrenten.

Laut The Guardian werden auf dem Gipfel im November die Risiken der sogenannten „Frontier AI“ diskutiert. Mit dem Begriff „Frontier AI“ werden die fortschrittlichsten KI-Modelle beschrieben, die Menschenleben gefährden könnten.

Anfang dieser Woche bestätigte die britische Regierung , dass sich die Konferenz auf Risiken wie den Missbrauch von KI zur Herstellung biologischer Waffen, Cyberangriffe und fortschrittliche Systeme ohne menschliche Kontrolle konzentrieren werde. Herr Sunak warnt seit Monaten vor den Risiken der KI und fordert die internationale Gemeinschaft auf, Maßnahmen zur Verhinderung des KI-Missbrauchs zu ergreifen.

Letztes Jahr brauchte eine KI nur sechs Stunden, um 40.000 verschiedene potenziell tödliche Moleküle vorzuschlagen, von denen eines VX ähnelte, dem stärksten Nervenkampfstoff, der je entwickelt wurde.

Anfang 2023 entdeckten Forscher, dass ChatGPT Menschen täuschen kann, um ein bestimmtes Ziel zu erreichen. Der KI-Chatbot überzeugte einen Menschen, ein Captcha zu lösen (ein Tool, mit dem erkannt wird, ob ein Mensch oder ein Bot manipuliert).

Eine weitere große Sorge ist die Entstehung einer „künstlichen allgemeinen Intelligenz“ (AGI), eines KI-Systems, das jede Aufgabe genauso gut oder besser als Menschen erledigen kann und das Ende der Menschheit bedeuten könnte. Manche glauben, dass AGI nur noch wenige Jahre entfernt ist. KI-Experten bestreiten dies jedoch und bezeichnen unkontrollierte AGI als „Science-Fiction“.

Unabhängig davon wird Premierminister Sunak die Konferenz nutzen wollen, um die Aufmerksamkeit eher auf die existenziellen Risiken zu lenken als auf die unmittelbaren Möglichkeiten der KI, etwa die Erstellung gefälschter Bilder oder Diskriminierung, wenn sie für politische Entscheidungen eingesetzt wird.

Die britische Regierung wird 100 Millionen Pfund für eine neue KI-Taskforce ausgeben, um Algorithmen in der Entwicklung zu testen. Sie will globale Unternehmen dazu ermutigen, KI-Tools zur Evaluierung nach Großbritannien zurückzuschicken, bevor sie diese flächendeckend einsetzen.

Nur die Regierung könne dafür sorgen, dass die wichtigsten Bedenken hinsichtlich der nationalen Sicherheit ausgeräumt würden, so der britische Vizepremier Oliver Dowden.

Ein britischer Regierungssprecher erklärte, KI habe das enorme Potenzial, jeden Aspekt des Lebens zu verändern. Die KI-Taskforce wurde eingerichtet, um eine sichere und verantwortungsvolle Entwicklung der Technologie zu gewährleisten. Die KI-Konferenz wird sich mit einer Reihe potenzieller Risiken befassen.

(Laut The Guardian)

Künstliche Intelligenz zum Schutz des Urheberrechts digitaler Inhalte Mit der rasanten Entwicklung digitaler Inhalte nehmen auch die Folgen von Urheberrechtsverletzungen zu. Lösungen mit künstlicher Intelligenz (KI) tragen zum Schutz des Urheberrechts digitaler Inhalte im Internet bei.

[Anzeige_2]
Quelle