OpenAI und Anthropic geben neueste KI-Modelle an die US-Regierung weiter

Die beiden Unternehmen werden mit dem US AI Safety Institute zusammenarbeiten, einer Abteilung des National Institute of Standards and Technology (NIST), einer US-Bundesbehörde. Dies gilt als wichtiger Schritt im Management und der Überwachung der KI-Technologie, die seit der Einführung von OpenAIs ChatGPT ein großes Anliegen ist.

„Dies ist erst der Anfang, aber ein wichtiger Meilenstein in den Bemühungen, die Zukunft der KI verantwortungsvoll zu gestalten“, sagte Elizabeth Kelly, Direktorin des US AI Safety Institute.

Im Rahmen der Vereinbarung wird das US-amerikanische AI ​​Safety Institute beiden Unternehmen vor und nach der Veröffentlichung Feedback zu möglichen Sicherheitsverbesserungen ihrer Modelle geben. Das Institut wird dabei auch eng mit dem britischen AI Safety Institute zusammenarbeiten.

„Die Partnerschaft mit dem American AI Safety Institute nutzt dessen umfassende Expertise, um unsere Modelle vor der breiten Einführung gründlich zu testen. Dies verbessert unsere Fähigkeit, Risiken zu erkennen und zu minimieren und fördert eine verantwortungsvolle KI-Entwicklung“, sagte Jack Clark, Mitbegründer und Leiter der Politikabteilung von Anthropic.

Dieser Schritt ist Teil der Bemühungen, die im Jahr 2023 erscheinende Durchführungsverordnung des Weißen Hauses zur KI umzusetzen, die einen rechtlichen Rahmen für die schnelle Einführung von KI-Modellen in den USA schaffen soll.

Doch während die Bundesregierung einen freiwilligen Ansatz verfolgt, verabschiedeten die Gesetzgeber in Kalifornien, dem US-Technologiezentrum, am 28. August ein KI-Sicherheitsgesetz auf Bundesstaatsebene. Das Gesetz würde, sofern es vom Gouverneur unterzeichnet wird, der KI-Branche strengere Vorschriften auferlegen.

Sam Altman, CEO von OpenAI, hat sich für eine Regulierung der KI auf nationaler statt auf bundesstaatlicher Ebene ausgesprochen und argumentiert, dass dies dazu beitragen würde, das Risiko einer Behinderung von Forschung und Innovation im Bereich der KI zu vermeiden.

Der Schritt zur Zusammenarbeit zwischen führenden Technologieunternehmen und der US-Regierung zeigt einen Trend hin zu einem ausgewogenen Verhältnis zwischen Innovation und Sicherheit im sich schnell entwickelnden Bereich der KI.

Quelle: https://nhandan.vn/openai-va-anthropic-chia-se-moi-nhat-ai-voi-chinh-phu-my-post827601.html