Wissenschaftliches KI-Gremium der EU tagt zu Vorfällen mit Kontrollverlust
Das Wissenschaftliche Gremium der Europäischen Kommission für KI, das sich mit den jüngsten Vorfällen mit Kontrollverlust befasst, wird Empfehlungen zu Sicherheitsrisiken und Schutzrisiken bei Spitzen-KI vorlegen.
KI-IllustrationDie Europäische Kommission hat am Freitag eine Sondersitzung ihres Wissenschaftlichen Gremiums für künstliche Intelligenz abgehalten. Das Gremium befasst sich mit den jüngsten Vorfällen mit Kontrollverlust bei KI-Modellen.
Laut der Kommission wird das Gremium während der Sitzung Empfehlungen zu Sicherheitsrisiken und Schutzrisiken bei Spitzen-KI vorlegen. Gemeinsam mit dem KI-Büro der Kommission hat das Gremium außerdem einen Fragenkatalog für die Unternehmen erarbeitet, die die an diesen Vorfällen beteiligten Modelle entwickelt haben.
Henna Virkkunen, Exekutiv-Vizepräsidentin der Kommission für technologische Souveränität, Sicherheit und Demokratie, sollte teilnehmen.
Das Gremium vereint 60 unabhängige Fachleute. Sie beraten das KI-Büro der EU und die nationalen Behörden zu systemischen Risiken, Modellklassifizierung, Bewertungsmethoden und grenzüberschreitender Marktüberwachung.
Virkkunen sagte, die EU habe das weltweit erste Gesetz, das systemische Risiken von KI behandelt, und dafür sei modernster wissenschaftlicher Input nötig. Sie sagte außerdem, die KI-Fähigkeiten entwickelten sich rasant weiter, und verwies auf einen starken Rechtsrahmen, entschlossene Durchsetzung und führende wissenschaftliche Expertise.