EUのAI科学パネル、制御喪失インシデントを受けて会合
AIに関する欧州委員会の科学パネルは、最近の制御喪失インシデントを調査しており、フロンティアAIの安全性とセキュリティ上のリスクに関する提言を発表する予定です。
AIイラスト欧州委員会は金曜日、人工知能に関する科学パネルの特別会合を開きました。同パネルは、AIモデルが関与した最近の制御喪失インシデントを調査してきました。
欧州委員会によると、パネルは会合の中で、フロンティアAIの安全性とセキュリティ上のリスクに関する提言を示す予定です。パネルは欧州委員会のAIオフィスと共同で、これらのインシデントに関わったモデルを開発した企業に向けた一連の質問も用意しました。
欧州委員会のテック主権・安全保障・民主主義担当上級副委員長であるヘンナ・ヴィルクネン氏が出席する予定でした。
パネルは60人の独立した専門家で構成されています。専門家は、システミックリスク、モデルの分類、評価手法、国境を越えた市場監視について、EUのAIオフィスと各国当局に助言を行っています。
ヴィルクネン氏は、EUはAIによるシステミックリスクに対処する世界初の法律を有しており、最先端の科学的知見が必要だと述べました。また、AIの能力は急速に進歩していると指摘し、強力な法的枠組み、断固とした執行、そして一流の科学的専門知識を挙げました。