Business
Anthropic und Accenture investieren 2 Milliarden Dollar in Partnerschaft zur KI-Bewertung
Anthropic und Accenture haben eine bedeutende Partnerschaft angekündigt, die darauf abzielt, die Bewertung von fortschrittlichen KI-Modellen zu verbessern. Beide Unternehmen verpflichten sich, in den nächsten fünf Jahren jeweils mindestens 1 Milliarde Dollar zu investieren. Diese Zusammenarbeit wird es Accenture ermöglichen, Evaluatoren in Anthropic einzubetten, um eine eingehende Prüfung der Sicherheitspraktiken von KI durchzuführen.
Diese Initiative ist Teil von Anthropics umfassender Strategie, unabhängigen Evaluatoren einen dauerhaften Zugang zu seinen KI-Modellen, insbesondere der Claude-Familie, zu gewähren. Durch die Bereitstellung von Mitarbeiterzugang für die Evaluatoren soll die Transparenz und Verantwortlichkeit in der KI-Entwicklung gestärkt werden.
Unter der Leitung von Faculty, der spezialisierten KI-Abteilung von Accenture, werden die Evaluatoren eng mit den Teams von Anthropic zusammenarbeiten, um Abstimmungsbewertungen durchzuführen, Red-Teaming-Modelle zu testen und Sicherheitsvorkehrungen zu überprüfen. Dieser eingebettete Ansatz wird voraussichtlich den Evaluatoren Einblicke bieten, die mit denen von Anthropic-Mitarbeitern vergleichbar sind, sodass sie die Trainingsprozesse beobachten und die Sicherheitsverpflichtungen direkt bewerten können.
Obwohl der Rahmen für diese Partnerschaft experimentell bleibt, hat Anthropic zuvor für unabhängige Bewertungen plädiert, die durch gebündelte oder staatlich unterstützte Mechanismen finanziert werden. Für diese spezifische Zusammenarbeit wird Anthropic jedoch die Evaluierungsbemühungen direkt finanzieren.
Darüber hinaus führt Anthropic Gespräche mit dem gemeinnützigen Evaluator METR und plant, bald weitere Evaluierungspartner bekannt zu geben. Die Vereinbarung ermöglicht es Accenture, mit anderen KI-Entwicklern zusammenzuarbeiten, wobei betont wird, dass die Verantwortung für die Sicherheit der Modelle bei Anthropic bleibt.
FAQ
Was ist das Hauptziel der Partnerschaft zwischen Anthropic und Accenture?
Das Hauptziel der Partnerschaft besteht darin, die Bewertung von fortschrittlichen KI-Modellen zu verbessern, indem Evaluatoren in Anthropic eingebettet werden, um eine eingehende Prüfung der KI-Sicherheitspraktiken durchzuführen.
Wie viel investieren Anthropic und Accenture in diese Partnerschaft?
Anthropic und Accenture verpflichten sich jeweils zu mindestens 1 Milliarde Dollar über die nächsten fünf Jahre, was insgesamt eine Investition von 2 Milliarden Dollar ergibt.
Welche spezifische Rolle werden die Evaluatoren in dieser Partnerschaft spielen?
Die Evaluatoren werden eng mit den Teams von Anthropic zusammenarbeiten, um Abstimmungsbewertungen durchzuführen, Red-Teaming-Modelle zu testen und Sicherheitsvorkehrungen zu überprüfen, wobei sie Einblicke bieten, die mit denen von Anthropic-Mitarbeitern vergleichbar sind.
Was ist die Bedeutung der Bereitstellung von Mitarbeiterzugang zu KI-Modellen für Evaluatoren?
Die Bereitstellung von Mitarbeiterzugang für Evaluatoren soll die Transparenz und Verantwortlichkeit in der KI-Entwicklung stärken, indem sie direkte Beobachtungen der Trainingsprozesse und Bewertungen der Sicherheitsverpflichtungen ermöglicht.
Gibt es Pläne für zusätzliche Evaluierungspartner über Accenture hinaus?
Ja, Anthropic führt Gespräche mit dem gemeinnützigen Evaluator METR und plant, bald weitere Evaluierungspartner bekannt zu geben.