Architecte – IA responsable, sécurité et gestion des risques

Rejoignez Systematix en tant qu’Architecte – IA responsable, sécurité et gestion des risques

Vous êtes un(e) professionnel(le) expérimenté(e) en architecture, sécurité et gestion des risques liés à l’intelligence artificielle et souhaitez contribuer à la conception de solutions d’IA à la fois sécuritaires, résilientes, responsables et auditables?

Systematix est à la recherche d’un(e) Architecte de confiance (IA responsable et sécurité de l’IA) pour contribuer à la conception d’une architecture transversale de confiance couvrant la sécurité, la sûreté, la résilience, la confidentialité, l’IA responsable, les facteurs humains et l’assurance.

Vous jouerez un rôle clé dans la définition des propriétés et mécanismes de confiance applicables aux solutions d’intelligence artificielle, avec une approche allant bien au-delà d’une simple revue éthique ou normative.

Votre expertise permettra d’anticiper les risques et scénarios de défaillance, de concevoir les garde-fous appropriés et de définir les mécanismes de contrôle, de supervision et de traçabilité nécessaires tout au long du cycle de vie des solutions d’IA.

Poste : Architecte de confiance (IA responsable et sécurité de l’IA)

Référence : 22588

Langue de travail : Français

Votre rôle

• Concevoir une architecture transversale de confiance intégrant la sécurité, la sûreté, la résilience, la confidentialité, l’IA responsable, les facteurs humains et l’assurance;
• Définir les propriétés et mécanismes de confiance applicables aux solutions d’intelligence artificielle;
• Appliquer les cadres et référentiels reconnus en matière d’IA responsable et de gestion des risques, notamment ISO/IEC 42001, ISO/IEC 23894 et NIST AI RMF;
• Prendre en compte les référentiels OWASP applicables aux grands modèles de langage et aux agents;
• Élaborer des modèles de menace propres aux systèmes d’IA;
• Identifier et documenter les différents scénarios de défaillance ainsi que leurs conséquences potentielles sur les activités et les actifs concernés;
• Concevoir et définir les garde-fous nécessaires à l’utilisation sécuritaire et responsable des solutions d’IA;
• Concevoir les mécanismes de supervision humaine, d’arrêt, de reprise et de dégradation contrôlée;
• Définir les propriétés de résilience attendues des systèmes d’intelligence artificielle;
• Concevoir les points de contrôle à chaque étape du cycle de vie des solutions d’IA;
• Définir les critères d’entrée et de sortie, les mécanismes de véto, les critères d’autorisation de mise en service ainsi que les preuves attendues;
• Intégrer les facteurs humains dans la conception et l’évaluation des solutions d’IA;
• Évaluer la compréhensibilité des résultats produits par les systèmes d’IA et la charge de vérification imposée aux utilisateurs;
• Identifier et encadrer les risques liés à une automatisation excessive;
• Définir les conditions permettant une supervision humaine réellement significative;
• Mettre en place les exigences de journalisation, de traçabilité et d’auditabilité des décisions;
• Encadrer la gestion des exceptions, des écarts et des risques résiduels, incluant les conditions d’escalade;
• Prendre en compte les exigences légales applicables au Québec, notamment la Loi 25 et les exigences relatives à la révision humaine d’une décision automatisée;
• Vulgariser les enjeux liés à la confiance, aux risques et à l’IA responsable auprès des instances décisionnelles;
• Constituer des dossiers de preuve défendables dans le cadre de revues d’architecture, d’activités de gestion des risques et d’audits.

Profil recherché

Nous recherchons une personne possédant une expertise en architecture de confiance, IA responsable et sécurité des systèmes d’intelligence artificielle, particulièrement dans plusieurs des domaines suivants :

• Architecture de confiance appliquée aux solutions d’IA;
• IA responsable et gestion des risques liés à l’intelligence artificielle;
• Sécurité, sûreté, résilience et confidentialité des systèmes d’IA;
• ISO/IEC 42001 et ISO/IEC 23894;
• Référentiels OWASP applicables aux grands modèles de langage et aux agents;
• Modélisation des menaces propres aux systèmes d’IA;
• Analyse des scénarios de défaillance et de leurs impacts;
• Conception de garde-fous et mécanismes de contrôle;
• Supervision humaine des systèmes automatisés;
• Mécanismes d’arrêt, de reprise et de dégradation contrôlée;
• Gestion de la résilience des solutions d’IA;
• Définition de points de contrôle tout