Anthropic: KI wird zunehmend für Entwicklung neuer KI-Systeme eingesetzt / Foto: © AFP
-
Steve McQueens Ferrari 275 GTB/4 NART Spider geht in New York unter den Hammer
-
Neuköllner Linken-Politiker Ahmed Abed vertrat Ibrahim Ibrahim vor Gericht
-
Susanne Johna kündigt Kandidatur als BÄK-Präsidentin an
-
Die schnellsten Kampfpanzer der Welt: Von 80 km/h und dem Einfluss des Gewichts
-
Schüler des Heisenberg-Gymnasiums erforschen Enzymkinetik am KIT
-
Wetterexperten rechnen mit früherem Schnee als erwartet
-
Nicolas Feuz über KI-Kontroverse: Thélyson Orélien als Sündenbock der Literaturwelt
-
Finanznot in der Kinder- und Jugendmedizin: Ostschweizer Kinderspital nur dank Spenden im Plus
-
Kantonsregierung Zürich blockiert barrierefreie Querungen zugunsten des Autoverkehrs
-
Lando Norris holt Pole-Position im nassen Qualifying zum GP Brasilien
-
Arzt mit 20'000 Franken Lohn: So viel gibt die Familie pro Monat aus
-
Hartmut Graßl: Klimawandel erzwingt neues Zeitalter und US-Wahl als Wendepunkt
-
RB Leipzig lässt Stadionpublikum über die Pausenmusik abstimmen
-
Zolgensma: Novartis untersucht mögliche Verbindung zu Tumorfällen
-
Sarkopenie früh erkennen und Muskelkraft im Alter gezielt erhalten
-
Gesundheitskompetenz: Vier Schritte zu verlässlicheren Entscheidungen
-
KI verändert Softwaretests und erhöht den Bedarf an Qualitätssicherung
-
Calif.io-Exploit umging Apples Blockierungsmodus auf dem iPhone
-
Siri AI erhält mit iOS 27.3 Zugriff auf Dateien und mehr App-Funktionen
-
Powerbanks ab 20.000 mAh im Vergleich: Verbatim vor Anker
-
Softwareupdate bringt älteren VW-ID-Modellen Batterie-Vorkonditionierung
-
McLaren erprobt beim Saisonfinale bereits Lösungen für 2027
-
Berlin wird Austragungsort der Handball-Weltmeisterschaft 2029
-
Gregor Gysi fordert Ausschluss von Vanessa Emde aus der Linksfraktion
-
Prozess gegen früheren Lehrer wegen mutmasslicher Vergewaltigung einer Schülerin
-
Berliner Weihnachtsbaum erreicht nach Panne auf der A10 den Gendarmenmarkt
-
Stephen Miller übernimmt nach republikanischer Wahlniederlage Trumps Stabsführung
-
Benzinpreis fällt in der Schweiz erstmals seit August unter zwei Franken
-
Novartis prüft Tumormeldungen nach Behandlungen mit Zolgensma
-
Wenn die Enkelbetreuung Grosseltern an die Belastungsgrenze bringt
-
Ronaldinho und Del Piero begeistern 24.000 Zuschauer im Letzigrund
-
Kürbis-Pancakes bringen herbstliche Aromen auf den Brunchtisch
-
Miro Muheims Distanztreffer sorgt in der Bundesliga für Aufsehen
-
Geplantes Ende der 50-Euro-Grenze beim Einkauf in Deutschland polarisiert
-
USA setzen Millionenbelohnung für Hinweise zu Irans Atomprogramm aus
-
Maximilian Streule schafft nach Herzoperation den Sprung ins Nationalteam
Anthropic: KI wird zunehmend für Entwicklung neuer KI-Systeme eingesetzt
KI-Systeme könnten sich in der Zukunft selbst bauen: Dem KI-Unternehmen Anthropic zufolge wird bei der Entwicklung neuer KI-Modelle zunehmend KI selbst eingesetzt. Der Chatbot Claude des US-Unternehmens habe im August rund 26 Prozent der Forschungs- und Entwicklungsarbeit bei Anthropic übernommen, erklärte das Unternehmen am Donnerstag. Claude könne noch nicht "vollständig autonom" arbeiten. Doch einen Großteil seiner Aufgaben erledige es weitgehend selbstständig unter menschlicher Aufsicht.
Der Chef von Anthropic, Dario Amodei, gehört selbst zu denjenigen, die vor einer KI warnen, die außer Kontrolle geraten könnte. Kürzlich forderte er eine gezielte Verlangsamung der Entwicklung der fortschrittlichsten KI-Modelle, um dem vorzubeugen.
Auch in dem am Donnerstag veröffentlichten Bericht des Unternehmens heißt es: "Modelle, die ihre eigene Entwicklung beschleunigen, könnten es für Menschen schwieriger machen, diese Systeme zu verstehen oder zu kontrollieren." Es sei wichtig, die Messwerte zum selbstständigen Arbeiten der KI "offenzulegen, um zu verstehen, wie nah die Welt daran ist, rekursive Selbstverbesserung zu erreichen". Darunter versteht sich ein Modell, das seinen Nachfolger vollständig autonom entwickelt.
Die Debatte über die Risiken von KI hat sich seit dem Sommer verschärft, nachdem es mehrere Vorfälle gegeben hatte, bei denen sich KI-Agenten selbständig machten oder anders verhielten als erwartet. Gleichzeitig gibt es einen globalen Wettlauf im KI-Boom mit massiven Investitionen. Wirtschaftlich ist daher eine gesteuerte Verlangsamung der Entwicklung schwierig.
O.Bulka--BTB