Neue KI könnte zur Herstellung biologischer Waffen eingesetzt werden

:Telefon mit OpenAIs GPT-o1-Lernschnittstelle – Foto: FINANCIAL TIMES

Laut Financial Times vom 13. September gab das Unternehmen OpenAI zu, dass das erst am 12. September eingeführte Modell GPT-o1 das Risiko, dass künstliche Intelligenz (KI) zur Herstellung biologischer Waffen missbraucht wird, „erheblich“ erhöhe.

In einem von OpenAI veröffentlichten Dokument zur Funktionsweise von GPT-o1 heißt es, dass das neue Modell ein „mittleres Risikoniveau“ für Probleme im Zusammenhang mit chemischen, biologischen, radiologischen und nuklearen Waffen aufweist. Dies ist das höchste Risikoniveau, das OpenAI seinen KI-Modellen jemals zugewiesen hat.

Laut OpenAI bedeutet dies, dass GPT-o1 die Fähigkeiten von Experten, die es zur Herstellung von Biowaffen missbrauchen wollen, „dramatisch verbessern“ könnte.

Mira Murati, Chief Technology Officer (CTO) von OpenAI, sagte, dass sich GPT-o1 zwar noch in der experimentellen Phase befinde, die fortgeschrittenen Fähigkeiten des Modells das Unternehmen jedoch dennoch dazu zwingen, bei der Veröffentlichung seines Fahrplans für die Öffentlichkeit äußerst „vorsichtig“ zu sein.

Frau Murati bestätigte außerdem, dass das Modell von einem multidisziplinären Expertenteam, das von OpenAI beauftragt worden war, gründlich getestet wurde, um die Grenzen des von dem Unternehmen entwickelten Modells zu testen.

Tests hätten gezeigt, dass das Modell GPT-o1 die allgemeinen Sicherheitskriterien deutlich besser erfülle als seine Vorgänger, sagte Murati.

Doch damit nicht genug: Die Vertreter von OpenAI versicherten auch, dass die Testversion von GPT-o1 „sicher für den Einsatz“ sei und keine komplexeren Risiken als die entwickelten Technologien mit sich bringen könne.

Trotz der oben genannten Zusicherungen ist ein großer Teil der wissenschaftlichen Gemeinschaft und der an KI Interessierten hinsichtlich der Entwicklungsrichtung dieser Technologie noch immer nicht sehr optimistisch.

Es gibt zunehmende Bedenken, dass sich die KI zu schnell entwickelt und die Geschwindigkeit, mit der Vorschriften zu ihrer Regulierung entwickelt und verabschiedet werden, hinterherhinkt.

Wenn OpenAI nun ein „mittleres Risiko“ hinsichtlich chemischer und biologischer Waffen darstelle, „verstärke dies nur die Bedeutung und Dringlichkeit“ von Gesetzen wie denen, die in Kalifornien heiß diskutiert werden, um diesen Bereich zu regulieren, sagte Yoshua Bengio, Professor für Informatik an der Universität Montreal und einer der weltweit führenden KI-Wissenschaftler.

Dieser Wissenschaftler betonte, dass die oben genannten Institutionen insbesondere im Kontext der zunehmenden Annäherung der KI an das Niveau der künstlichen allgemeinen Intelligenz (AGI) notwendig seien, was bedeute, dass die KI über die Fähigkeit verfüge, auf Augenhöhe mit dem Menschen zu denken.

„Je näher bahnbrechende KI-Modelle der AGI kommen, desto größer werden die Risiken, wenn nicht die richtigen Vorkehrungen getroffen werden. Die verbesserte Denkfähigkeit der KI und ihre Verwendung für Betrug sind äußerst gefährlich“, so die Einschätzung von Herr Bengio.

Quelle: https://tuoitre.vn/ai-moi-co-the-bi-dung-che-tao-vu-khi-sinh-hoc-20240914154630363.htm