Premios Nobel y científicos piden establecer límites globales a la inteligencia artificial
Expertos internacionales solicitan un acuerdo vinculante para prevenir riesgos potencialmente irreversibles de la IA antes de que alcance su máxima capacidad.
La comunidad científica internacional solicita medidas preventivas para controlar el desarrollo de la IA, proponiendo la creación de un organismo global que garantice la seguridad y evite catástrofes potenciales.
Premios Nobel, investigadores y especialistas en inteligencia artificial (IA) hicieron un llamado urgente a la creación de una institución internacional que regule los límites de esta tecnología, en el marco de la Asamblea General de la ONU en Nueva York. La iniciativa, respaldada por más de 200 expertos y 70 organizaciones, busca establecer un acuerdo vinculante que defina las “líneas rojas” de la IA.
TAMBIÉN TE PUEDE INTERESAR:
Maria Ressa, premio Nobel de la Paz, y Charbel Segerie, director del Centro Francés para la Seguridad de la IA, subrayaron que el objetivo no es reaccionar ante incidentes graves, sino prevenir riesgos de gran escala antes de que ocurran. Los expertos instan a que los desarrolladores demuestren la seguridad de sus sistemas antes de su comercialización, siguiendo modelos similares a los de la industria farmacéutica o nuclear.
El profesor Stuart Russell, de la Universidad de Berkeley, advirtió que la IA, diseñada para imitar comportamientos humanos, podría generar consecuencias imprevisibles si no se regula adecuadamente, incluso comparables a desastres como Chernóbil o escenarios que amenacen la existencia humana. Por su parte, Niki Iliadis, de The Future Society, destacó que aunque existen avances regulatorios en la Unión Europea, se requiere una supervisión global y mecanismos de intervención claros ante el cruce de límites de seguridad.
