Dario Amodei, CEO von Anthropic, hat am Mittwoch vor dem UNO-Sicherheitsrat gewarnt, dass künstliche Intelligenz (KI) ein Risiko für die Menschheit darstellen könnte, wenn sie nicht gut verwaltet werde. Die Warnung erfolgte im Rahmen einer Diskussion über die Sicherheit und Regulierung von KI. Amodei betonte, dass die Entwicklung der Technologie schneller voranschreite als die Fähigkeit der Gesellschaft, sie zu kontrollieren.
Gleichzeitig arbeitet Anthropic an der Veröffentlichung neuer KI-Modelle, wie dem Claude Opus 5.5, was die Debatte um die Geschwindigkeit der Entwicklung verschärft. Die Firma veröffentlichte vor kurzem auch das Modell Fable 5.2, was auf eine beschleunigte Entwicklung hindeutet. Zudem hat Anthropic angekündigt, die Kosten für die Nutzung ihrer KI-Modelle halbieren zu wollen.
Zusätzlich war Amodei in den vergangenen Tagen in der Öffentlichkeit aufgetreten, um eine Verlangsamung der KI-Entwicklung zu fordern. Gleichzeitig wird er in den kommenden Tagen mit Sam Altman von OpenAI vor dem UNO-Sicherheitsrat diskutieren, um die globalen Risiken der KI zu besprechen. Die Diskussionen zeigen, dass die Branche zwar Risiken erkennt, gleichzeitig aber weiterhin neue Modelle entwickelt.
