Institut canadien de la sécurité de l'intelligence artificielle

L'Institut canadien de la sécurité de l'intelligence artificielle (ICSIA) est un des volets du plan du gouvernement du Canada visant à soutenir le développement et le déploiement sûrs et responsables de l'intelligence artificielle (IA). Notre objectif est de faire progresser la science de la sécurité de l'IA, en collaboration avec des partenaires internationaux, afin de s'assurer que les gouvernements soient bien positionnés pour comprendre et agir sur les risques des systèmes d'IA avancés. Cela comprend les risques posés par le contenu synthétique, y compris l'usurpation d'identité et la fraude, ainsi que les risques posés par le développement ou le déploiement de systèmes qui peuvent être dangereux ou qui entravent la surveillance humaine. Pour ce faire, nous travaillons avec des experts du gouvernement, des entreprises, des universités et des organismes de recherche.

L'ICSIA est dirigée par Innovation, Sciences et Développement économique Canada (ISDE), qui s'appuie sur les capacités de recherche du Conseil national de recherches du Canada (CNRC), ainsi que sur l'ensemble de la communauté scientifique canadienne par l'intermédiaire de l'Institut canadien de recherches avancées (CIFAR).

Notre travail

L'ICSIA met à contribution la solide communauté de recherche en IA du Canada ainsi que l'expertise interne pour mener des recherches de pointe en collaboration avec l'industrie et le Réseau international des instituts de sécurité de l'IA. Nous étudions le fonctionnement des systèmes d'IA avancés, les risques qu'ils présentent et nous fournissons des outils pour que le gouvernement du Canada soit bien placé pour faire face aux risques liés à la sécurité de l'IA au fur et à mesure qu'ils se présentent. En travaillant avec des partenaires au Canada et partout dans le monde, nous visons à nous assurer que la technologie de l’IA est utilisée de façon sécuritaire et que les Canadiens puissent avoir confiance en elle, pavant le chemin pour son adoption responsable et supportant l’innovation.

L'ICSIA mène la recherche de deux façons principales :

Recherche appliquée et dirigée par des chercheurs : Par l'intermédiaire de CIFAR, nous subventionnons des experts canadiens et internationaux pour qu'ils mènent des recherches sur des questions critiques liées à la sécurité de l'IA. Le programme de recherche ICSIA de CIFAR permet de s'assurer que la recherche avancée informe notre compréhension des risques liés à l'IA.
Projets dirigés par le gouvernement : Nous menons des projets qui soutiennent les priorités du gouvernement en matière de sécurité de l'IA, y compris des tests conjoints avec des homologues internationaux, et nous offrons un soutien aux développeurs d'IA, aux utilisateurs et au public en ce qui concerne les risques des systèmes d'IA avancés et la façon de les aborder.

Le rôle mondial du Canada dans la sécurité de l'IA

La constitution du Réseau international des instituts de sécurité de l'IA a été annoncée lors du Sommet de Séoul sur l'IA en mai 2024, avec le Canada comme membre fondateur, et sa rencontre inaugurale aura lieu en novembre 2024. En tant que membre fondateur du réseau, l'ICSIA coordonnera activement ses efforts avec les partenaires internationaux et collaborera à des projets conjoints, notamment à l'élaboration de lignes directrices sur l’IA.

Stratégie canadienne en matière d'IA

L'Institut canadien de la sécurité de l'IA soutient d'autres initiatives du gouvernement du Canada qui visent collectivement à soutenir le développement et l'adoption responsables de l'IA au Canada tout en protégeant les Canadiens contre les risques associés à cette technologie. Il s'agit notamment de le :