Was ist neu an den generativen KI-Modellen Claude 4 von Anthropics?
Anthropic gab bekannt, dass es bei seinem Hochleistungsmodell Claude 4 Opus zusätzliche Sicherheitsvorkehrungen trifft.
Die neuesten Versionen generativer KI-Modelle sind erschienen. Claude Von Anthropic, einschließlich eines schwereren Modells, das speziell für Codierung und komplexe Aufgaben entwickelt wurde, am Donnerstag.
Anthropic hat mein Modell auf den Markt gebracht Claude 4 Opus und Claude 4 Sonett Die neuen Tools wurden während der Entwicklerkonferenz „Code with Cloud“ vorgestellt und Führungskräfte sagten, sie stellten einen großen Fortschritt im Bereich der Denk- und Argumentationsfähigkeiten dar.

Das Vorgängermodell, die Claude 3.7 Sonnet, brachte das Unternehmen im Februar auf den Markt. Seitdem haben auch konkurrierende KI-Entwickler ihre Leistung verbessert. OpenAI veröffentlicht GPT-4.1 im April, mit Fokus auf ein erweitertes Kontextfenster, zusammen mit der Familie Argumentationsmodell O3 Neu. Google folgte Anfang Mai mit der Veröffentlichung von Aktualisiert von Gemini 2.5 Pro Sie sagte, er könne besser programmieren.
Claude 4 Opus ist ein größeres, ressourcenintensiveres Modell, das für die Bewältigung besonders schwieriger Herausforderungen konzipiert ist. Dario Amodei, CEO von Anthropic, sagte, dass Beta-Benutzer festgestellt hätten, dass es Aufgaben, für deren Erledigung ein einzelner Benutzer mehrere Stunden benötigen würde, schnell erledigt.
„Wie wir oft bei großen Modellen feststellen, werden ihnen die Standards in vielerlei Hinsicht nicht gerecht“, sagte er während Das Hauptereignis.
Anthropic sagte, Claude 4 habe sich Notizen zur Navigation beim Pokémon-Spielen gemacht.
Claude 4 Sonnet ist ein kleineres Modell mit Verbesserungen basierend auf dem Claude 3.7 Sonnet-Modell von Anthropic. Amodei sagte, dass das Modell 3.7 oft Probleme damit habe, übermäßig enthusiastisch zu sein und manchmal mehr zu tun, als die Person von ihm verlangt habe. Obwohl es ein weniger ressourcenintensives Modell ist, funktioniert es dennoch gut.
„Bei einigen Programmier-Benchmarks schneidet es tatsächlich genauso gut ab wie Opus, aber ich denke, es ist flexibler und fokussierter“, sagte Amodei.
Anthropic sagte, die Modelle hätten eine neue Funktion, die sich noch in der Beta-Testphase befinde und mit der sie Tools wie Websuchen nutzen könnten, während sie erweiterte Schlussfolgerungen ziehen. Modelle können zwischen Inferenz und Instrumentierung wechseln, um bessere Antworten auf komplexe Abfragen zu erhalten.
Die Modelle bieten nahezu sofortige Reaktionsmodi und erweiterte Denkmodi.
Alle kostenpflichtigen Pläne bieten Opus und Sonnet, während der kostenlose Plan nur Sonnet umfasst.
Die neuen Modelle zeigen, dass Anthropics Fokus auf der Entwicklung robuster Codierungsmodelle liegt, sagte Arun Chandrasekaran, Distinguished Vice President und Analyst bei Gartner. „Die Claude-Modelle von Anthropic haben sich im Bereich der Softwareentwicklung als führend erwiesen und die neueste Version von Claude 4 baut diese Führungsrolle weiter aus.“
Anthropic aktiviert Sicherheitsprotokolle mit neuen Claude-Modellen
Anthropic gab bei der Einführung des Modells Claude Opus 4 bekannt, dass es verstärkte Sicherheitsvorkehrungen getroffen hat, um das Risiko eines Missbrauchs von Claude zu verringern. Und in Gepostet auf ihrem BlogDas Unternehmen erklärte, dass es noch nicht festgestellt habe, ob das Modell tatsächlich den ASL-3-Standardschutz benötige, dies aber vorsorglich tue.
Die Sicherheitsvorkehrungen sind speziell darauf ausgelegt, Claude daran zu hindern, bei der Entwicklung chemischer, biologischer, radiologischer oder nuklearer (CBRN-)Waffen mitzuwirken. Anthropic erklärte, dass es über begrenzte Angriffe, sogenannte „Universal Jailbreaks“, verfüge, die es Angreifern ermöglichen, bestehende Protokolle zu umgehen. Anthropic fügte in seinem Beitrag hinzu: „Wir werden die CBRN-Fähigkeiten des Claude Opus 4 weiterhin bewerten. Wenn wir zu dem Schluss kommen, dass Claude Opus 4 die entsprechende Fähigkeitsschwelle nicht überschritten hat, können wir den ASL-3-Schutz entfernen oder ändern.“
Chandrasekaran merkte an, dass die Umsetzung von Sicherheitsstandards bemerkenswert sei, und erklärte: „Dazu gehören verbesserte Maßnahmen zur Cybersicherheit und sofortige Schadenklassifizierungen, um die mit leistungsstarken KI-Systemen verbundenen Risiken zu mindern.“ Er fügte hinzu, dass die neuen Modelle den Fokus des Unternehmens auf die Balance zwischen neuer Technologie und Sicherheit zeigten.
Kommentarfunktion ist geschlossen.