La ONU estrena su primer panel científico sobre IA en Madrid: qué significa y qué sigue

Qué es el Panel y por qué importa

El Panel Científico Internacional Independiente sobre Inteligencia Artificial inicia su primera reunión presencial en Madrid entre el 22 y el 24 de abril de 2026. Creado por la Asamblea General de la ONU —aprobación formal del nacimiento del organismo en agosto de 2025—, el Panel reúne a 40 expertos con el mandato de elaborar un informe anual que ofrezca evaluaciones científicas basadas en la evidencia sobre oportunidades, riesgos e impactos de la IA.

La iniciativa responde a una preocupación creciente: el desarrollo tecnológico de la IA está acelerándose más rápido que los marcos regulatorios y las capacidades institucionales para entender sus efectos sistémicos. La ONU ha descrito el Panel como “un organismo científico global como no ha existido antes” y busca que sirva de puente entre el conocimiento técnico y la toma de decisiones políticas a escala internacional.

Composición, proceso y hitos recientes

El grupo está formado por 40 miembros escogidos de una convocatoria abierta que recibió más de 2.600 candidaturas de más de 140 países. La lista propuesta por el Secretario General fue aprobada por la Asamblea General en febrero de 2026. El Panel combina perfiles académicos, del sector privado, sociedad civil y organizaciones internacionales; actúa a título personal e independiente y exige declaración de conflictos de interés.

• Copresidencia: Yoshua Bengio (premio Turing) y Maria Ressa (Premio Nobel de la Paz).
• Composición de género: 19 mujeres y 21 hombres.
• Actividad inicial: encuentro virtual el 3 de marzo de 2026 y primera reunión presencial en Madrid (22–24 abril 2026).
• Próximo hito: presentación del primer informe del Panel en julio de 2026 en Ginebra, en el marco del Diálogo Global sobre Gobernanza de la IA.

España, junto con Costa Rica, cofacilitó el proceso intergubernamental que dio lugar al Panel y ha mostrado un papel activo: el Gobierno español financia el futuro “AI Governance for Humanity Lab” de la ONU en Valencia, según informaciones oficiales.

La voz española: Román Orús y la metáfora del “proyecto Manhattan”

Entre los 40 expertos hay un único representante español: Román Orús, físico especializado en computación cuántica, cofundador y director científico de Multiverse Computing y profesor de investigación Ikerbasque en el Donostia International Physics Center. Orús ha comparado el momento actual con “el nuevo ‘proyecto Manhattan’”, señalando que tecnologías de ese calibre no deben dejarse “simplemente sueltas”.

“La IA es casi el nuevo ‘proyecto Manhattan’. Y cuando surge una tecnología de este calibre y con esta capacidad no se puede dejar simplemente suelta.”

Orús añade matices importantes: considera que, a pesar de los avances, la IA sigue en una fase temprana —“Estamos en la Edad de Piedra de la IA”— y resalta la ineficiencia energética de los modelos actuales. Su imagen: los modelos actuales son “como los carros que había en Egipto miles de años antes de Cristo comparados con la nave ‘Enterprise’”.

Contexto histórico y comparables relevantes

La creación de un órgano científico global dedicado a la IA vincula esta etapa con precedentes históricos de gobernanza tecnológica. La comparación con el Proyecto Manhattan subraya dos lecciones: el desarrollo técnico puede tener consecuencias geopolíticas profundas y requiere marcos de control y supervisión. En el siglo XX, la energía nuclear culminó en instituciones internacionales (por ejemplo, la Agencia Internacional de Energía Atómica) y tratados multilaterales diseñados para gestionar riesgos y beneficios.

De forma más reciente, la llegada de sistemas de lenguaje y agentes generativos, con un punto de inflexión perceptible tras el lanzamiento de ChatGPT en 2022, ha acelerado el debate público y político sobre regulación, seguridad y transparencia. Desde entonces han aumentado las inversiones, el despliegue en sectores críticos y las iniciativas regulatorias nacionales y regionales, lo que explica la demanda de una capacidad científica internacional de evaluación independiente.

Riesgos, implicaciones y áreas prioritarias

El Panel abordará retos prácticos y éticos que ya están presentes en la agenda pública y técnica. Entre las áreas prioritarias:

• Impacto laboral: automatización de tareas, reentrenamiento y políticas de transición profesional.
• Salud y servicios críticos: validación clínica, responsabilidad y protección de datos.
• Modelos generativos: desinformación, falsificación de identidad y dificultad para distinguir entre contenido humano y generado por IA.
• Seguridad y alineamiento: riesgos de comportamiento inesperado en modelos a gran escala y necesidad de pruebas de robustez y red-teaming.
• Sostenibilidad: consumo energético y huella de carbono de entrenamientos masivos; eficiencia de hardware y software.
• Desigualdad y acceso: concentración de capacidades en unas pocas empresas y Estados con recursos computacionales y de datos.

Estos riesgos no son teóricos: ya existen incidentes públicos de sesgos en modelos, fallos en aplicaciones de salud y usos malintencionados de herramientas generativas. Además, la velocidad de innovación hace difícil que marcos regulatorios nacionales por sí solos puedan anticipar y gestionar externalidades globales.

Recomendaciones prácticas para responsables técnicos y políticos

Para que el Panel sea útil no solo en diagnóstico sino en acción, conviene que sus conclusiones se traduzcan en recomendaciones operables. Entre medidas prácticas que pueden adoptar equipos técnicos, empresas y responsables políticos se incluyen:

• Auditorías independientes y continuas: evaluaciones de seguridad, sesgo y rendimiento por terceros antes y después del despliegue.
• Medición de coste energético y huella de carbono: incorporar métricas de eficiencia en ciclos de desarrollo y operaciones; optimizar arquitectura y prácticas de entrenamiento.
• Transparencia en datos y modelos: mayor documentación (datasets, procedimientos de preprocesado, protocolos de evaluación) y políticas claras sobre uso de datos sensibles.
• Red-teaming y pruebas adversariales: someter modelos a ataques controlados para descubrir fallos y riesgos de uso indebido.
• Evaluaciones de impacto proactivas: análisis de consecuencias sociales y económicas antes de aplicar sistemas en dominios críticos.
• Colaboración interdisciplinar y multidisciplinar: equipos que integren ingenieros, científicos sociales, juristas y expertos en ética para evaluar contextos de uso.
• Participación en procesos multilaterales: contribuir con datos, hallazgos y buenas prácticas a iniciativas como el Panel de la ONU para construir estándares compartidos.

Para los formuladores de políticas, las recomendaciones incluyen definir marcos regulatorios escalables, apoyar infraestructuras de evaluación pública y facilitar mecanismos de rendición de cuentas que trasciendan fronteras nacionales.

Conclusión

El Panel Científico Internacional Independiente sobre IA supone un primer intento institucional de crear un cuerpo científico internacional que oriente la gobernanza de una tecnología de aceleración rápida. Su valor dependerá de la calidad técnica de sus evaluaciones, de la capacidad de traducir evidencia en políticas operables y de la voluntad de Estados y actores privados para adoptar recomendaciones.

Claves para seguir: el Panel entregará un primer informe en julio de 2026 en Ginebra; su independencia y transparencia serán determinantes para ganar credibilidad; y las lecciones históricas —desde la energía nuclear hasta la actual oleada de modelos generativos— muestran que el tiempo para diseñar controles eficaces es ahora, mientras la tecnología aún está en una fase de consolidación y normalización.

Source: www.20minutos.es