Responsable de recherche en sécurité de l'IA

Nous recherchons un.e responsable de recherche en sécurité de l'IA pour rejoindre notre équipe travaillant sur un agenda de recherche novateur en sécurité de l'IA. Dans ce rôle, vous contribuerez à cet agenda et aiderez à le mener, depuis les propositions théoriques jusqu'à la validation de prototypes basés sur des évaluations de sécurité appliquées.

• Jouer un rôle actif dans l'avancement de l'agenda de recherche sur l'IA Scientifique ("Scientist AI") en dirigeant des projets de recherche clés sur des objectifs à court et à long terme.
• Contribuer à façonner l'agenda de recherche afin de maximiser son impact sur la réduction des risques catastrophiques liés à l'IA (tels que la perte de contrôle, la manipulation et la tromperie).
• Identifier les faiblesses de sécurité dans l'agenda existant, proposer des améliorations et les communiquer efficacement aux autres membres de l'équipe.
• Aider à établir les priorités de recherche pour le travail conceptuel et empirique.
• Communiquer une compréhension des problèmes et objectifs fondamentaux de la sécurité de l'IA aux autres membres de l'équipe.

• Doctorat en informatique ou dans un domaine pertinent.
• Plus de 4 ans d'expérience dans la direction de projets de recherche sur la sécurité de l'IA impliquant des modèles d'apprentissage automatique de pointe, avec un accent sur l'alignement, les évaluations appliquées ou les garanties théoriques.
• La capacité de penser de manière critique aux agendas de recherche en sécurité de l'IA en général et à la manière dont ils abordent les problèmes de sécurité identifiés dans la littérature.
• Expérience avec des outils de ML tels que PyTorch ou TensorFlow.
• Solides compétences en communication, écrites et verbales, avec la capacité d'expliquer des idées complexes à des publics diversifiés.
• Historique de contributions à des recherches de haute qualité en sécurité de l'IA et en apprentissage automatique.
• Capacité à travailler en collaboration dans un environnement d'équipe.

Ce que nous offrons

• L'occasion de contribuer à une mission unique avec un impact important.
• Des avantages santé complets.
• Un minimum de 20 jours de vacances dès l'embauche.
• Un contribution d'épargne retraite de l'employeur d'un minimum de 4%.
• Des avantages généreux et flexibles conçus pour contribuer à votre bien-être.
• Une équipe d'experts de leur domaine, des gens passionnés et passionnants.
• Un milieu de travail collaboratif et inclusif avec des bureaux au cœur de la Petite Italie, dans le quartier branché Mile-Ex à proximité des transports en commun.

À propos de LoiZéro

LoiZéro est une organisation à but non lucratif dédiée à faire progresser la recherche et à développer des solutions techniques permettant de concevoir des systèmes d'IA sécuritaires. Son approche scientifique repose sur de nouvelles recherches et méthodes proposées par le professeur Yoshua Bengio, le chercheur en IA le plus cité au monde. Basée à Montréal, LoiZéro mène des recherches pour concevoir des systèmes d'IA non agentiques qui apprennent à comprendre le monde plutôt qu'à y intervenir, en répondant de manière véridique aux questions posées sur la base d'un raisonnement probabiliste transparent et extériorisé. De tels systèmes d'IA pourraient être utilisés pour accélérer la découverte scientifique, superviser les systèmes d'IA agentiques et faire progresser notre compréhension des risques de l'IA et des moyens de les éviter. LoiZéro croit que l'IA doit être considérée comme un bien public mondial, développée et utilisée de manière sécuritaire pour favoriser l'épanouissement humain. Plus d'information :  

Vous avez votre place ici

À LoiZéro, la diversité nous tient à cœur. Nous valorisons un environnement de travail équitable, ouvert et respectueux des différences. Nous encourageons les candidatures de personnes hautement qualifiées désireuses de travailler à la réalisation de notre mission dans un cadre respectueux, inclusif et collaboratif.

Vos informations personnelles seront collectées et traitées par LoiZéro afin d'évaluer votre demande d'emploi conformément à notre politique de vie privée. En vertu des lois sur la protection de la vie privée en vigueur dans votre pays de résidence, vous pouvez disposer de plusieurs droits en matière de protection de la vie privée, comme celui de demander l'accès à vos informations personnelles ou de demander que vos informations personnelles soient rectifiées ou effacées. Vous trouverez des détails sur la manière dont vous pouvez exercer vos droits dans notre politique de protection de la vie privée.