Berliner Tageblatt - Mark Zuckerberg rechaza los llamados a ralentizar el desarrollo de la IA

La preocupación sobre la IA aumentó en las últimas semanas debido a varios incidentes de seguridad y a la nueva capacidad de los modelos de inteligencia artificial para mejorar por sí mismos, sin intervención humana.

"La gente no querrá utilizar agentes que no estén alineados con sus intereses y que no hagan lo que se les pide. Los laboratorios tienen, por tanto, un fuerte incentivo natural para hacer que sus modelos estén más alineados", escribió Zuckerberg en X.

El "alineamiento" hace referencia a los esfuerzos destinados a conseguir que los modelos se comporten tal y como lo desean los humanos. "Todo laboratorio que no se centre en el alineamiento se quedará atrás", añadió.

El debate gira ahora también en torno a la capacidad del sector para autorregularse. Actores como OpenAI, Anthropic y Google estudian la creación de un organismo común encargado de elaborar normas.

Zuckerberg sostuvo, sin embargo, que la amenaza de demandas judiciales ya obliga a los laboratorios a actuar de "manera responsable".

Citó como ejemplo la decisión de Meta de posponer varios meses el lanzamiento de su sistema Muse AI, dotado de agentes personalizados, con el fin de reforzar sus mecanismos de seguridad y protección.

También se manifestó a favor de evaluaciones independientes de los sistemas de IA, subrayando que Meta Superintelligence Labs, la división de IA del grupo, ya recurre a expertos externos.

Y pidió la creación de un "ecosistema más amplio y más diverso de evaluadores" en el sector.

Meta, que este año invertirá hasta 145.000 millones de dólares en sus infraestructuras de IA, lucha contra cualquier regulación que pudiera frenarla.

Ninguna norma debería retrasar la salida de los modelos estadounidenses, "ni siquiera un mes", defendió el empresario a comienzos de agosto.

J.Bergmann--BTB