-
Scherwey zu Hebeisens Rücktritt: 'Ohne Schiedsrichter kein Spiel'
-
ALIX LASERS Gesellschafter entfernen Michael Sobitsch als Geschäftsführer aus gegebenem Anlass
-
Wochenhoroskop Skorpion 16. bis 22. November 2026
-
Gewinnspiel: 3x2 Freikarten für Klaus Hoffmann in Linz
-
Lëtzebuerger Buchpräis 2026: 'Temps de trajet' gewinnt dreifach
-
Die APEX FTE Expo 2026 bringt führende Vertreter der Luftfahrtbranche in Singapur zusammen und würdigt herausragende Leistungen im Bereich des Passagiererlebnisses
-
ThoughtSpot vertieft Integration in Claude
-
Toscas Nachhaltigkeitsbericht 2026 unterstreicht die Bedeutung von Verpackungen als entscheidende Infrastruktur der Lieferkette
KI-Experte Coxon wiederholt Warnung vor möglicher "Auslöschung der Menschheit"
Der Experte für Künstliche Intelligenz (KI), Jacob Coxon, hat bei einer Anhörung in New York seine Risikowarnungen bekräftigt. Die Technologie könne zwar "enorme Vorteile" bringen, sagte der Brite am Montag vor Mitgliedern des New Yorker Stadtrats. Er halte es aber eher für wahrscheinlich, "dass die Menschheit die Kontrolle über KI verliert, was in der Auslöschung der Menschheit enden könnte".
Die KI-Unternehmen verhielten sich "extrem leichtsinnig", sagte der frühere Mitarbeiter von OpenAI und Anthropic. Der Absolvent der Universität Cambridge hatte sein Ausscheiden bei Anthropic Anfang September auf der Onlineplattform X damit begründet, die Firmen spielten durch die immer rasantere Entwicklung fortschrittlicher Modelle "mit unserem Leben".
In den vergangenen Monaten hatten OpenAI und Anthropic mehrere Zwischenfälle gemeldet, bei denen KI-Systeme spontan aus ihrer vorgegebenen Umwelt ausbrachen, um sich Zugang zum Internet zu verschaffen und Websites und Plattformen zu attackieren - unter anderem solche von Regierungen. Die KI-Systeme stellten damit ihre Fähigkeit zu koordiniertem Handeln unter Beweis, aber auch zur Täuschung und zum Verwischen von Spuren.
"Wir wissen nicht, wie wir verhindern können, dass sie (die KI-Modelle) eigene Ziele entwickeln", sagte Coxon weiter. "Und wir verfügen nicht über die Schutzmechanismen, um zu verhindern, dass sie entsprechend diesen Zielen handeln."
Die Startup-Mentalität der Technologieunternehmen funktioniere zwar bei einer App zum Teilen von Fotos, aber "nicht beim Bau der mächtigsten Technologie aller Zeiten", fügte er hinzu. "Meine Position ist, dass wir vielleicht irgendeine Art Verlangsamung an der Spitze der Entwicklung brauchen."
Auch Anthropic-Chef Dario Amodei hatte sich für ein langsameres Tempo ausgesprochen. Unterstützung erhielt er von OpenAI-Chef Sam Altman und dem Techunternehmer Elon Musk.
A.Gasser--BTB