El panel científico de la UE sobre IA se reúne por incidentes de pérdida de control
El Panel Científico de la Comisión Europea sobre IA, que ha estado investigando recientes incidentes de pérdida de control, presentará recomendaciones sobre los riesgos de seguridad de la IA de vanguardia.
Ilustración generada con IALa Comisión Europea celebró el viernes una reunión extraordinaria de su Panel Científico sobre inteligencia artificial. El panel ha estado investigando recientes incidentes de pérdida de control relacionados con modelos de IA.
Según la Comisión, durante la reunión el panel presentará recomendaciones sobre los riesgos de seguridad de la IA de vanguardia. Junto con la Oficina de IA de la Comisión, el panel también ha preparado una serie de preguntas para las empresas que desarrollaron los modelos implicados en esos incidentes.
Henna Virkkunen, vicepresidenta ejecutiva de la Comisión para la Soberanía Tecnológica, la Seguridad y la Democracia, tenía previsto asistir.
El panel reúne a 60 expertos independientes. Asesoran a la Oficina de IA de la UE y a las autoridades nacionales sobre riesgos sistémicos, clasificación de modelos, metodologías de evaluación y vigilancia transfronteriza del mercado.
Virkkunen afirmó que la UE cuenta con la primera ley del mundo que aborda el riesgo sistémico de la IA y que necesita aportaciones científicas de vanguardia. También señaló que las capacidades de la IA avanzan con rapidez y destacó un marco jurídico sólido, una aplicación firme de la normativa y una experiencia científica de primer nivel.