en sécurité de l'IA

Nous recherchons un.e en sécurité de l'IA avec une spécialisation en apprentissage automatique (ML) pour rejoindre notre équipe travaillant sur le programme "Scientist AI". Dans ce rôle, vous contribuerez à notre plan en utilisant votre expertise en sécurité de l'IA ainsi que vos connaissances et votre expérience en apprentissage automatique.

Responsabilités principales 

• Aider à clarifier les questions de recherche en sécurité de l'IA qui sont centrales pour le programme "Scientist AI".
• Analyser les solutions proposées à ces questions de recherche et développer de nouvelles idées de solutions.
• Proposer, concevoir et implémenter de nouveaux algorithmes et expériences ML visant à résoudre ou à tester des problèmes complexes de sécurité de l'IA.
• Évaluer le programme  "Scientist AI" et son intégration dans une vision stratégique plus large pour l'atténuation des risques liés à l'IA, afin de guider et de prioriser efficacement les expériences visant à répondre aux questions de sécurité critiques.
• Communiquer des résultats complexes à d'autres chercheurs et développeurs.

Compétences et qualifications requises

• Un doctorat dans un domaine pertinent est préféré mais non requis si le candidat démontre des capacités exceptionnelles ou une expérience équivalente.
• Expérience de recherche en sécurité technique de l'IA, idéalement avec un accent sur la sécurité de l'AGI (Intelligence Artificielle Générale).
• Expérience dans la proposition, la conception et l'exécution d'expériences ML.
• Maîtrise des frameworks ML tels que PyTorch ou TensorFlow.
• Enthousiasme à contribuer et à façonner le programme "Scientist AI".
• Capacité à travailler dans un environnement collaboratif et à contribuer aux objectifs de recherche collectifs.
• Capacité à échanger sur des résultats complexes avec des collaborateurs de différentes spécialisations.

Compétences et qualifications souhaitées 

• Expérience dans certains des domaines de recherche suivants en sécurité de l'IA : fondations d'agents, contrôle de l'IA, sécurité de l'IA de pointe, extraction de connaissances latentes, raisonnement externalisé, schémas d'alignement ambitieux.
• Publications de recherche en apprentissage automatique dans des revues de premier plan (par exemple, NeurIPS, ICML, ICLR, etc.).
• Expérience dans le raffinement et le post-entraînement de modèles de langage.

Ce que nous offrons

• L'occasion de contribuer à une mission unique avec un impact important.
• Des avantages santé complets.
• Un minimum de 20 jours de vacances dès l'embauche.
• Un contribution d'épargne retraite de l'employeur d'un minimum de 4%.
• Des avantages généreux et flexibles conçus pour contribuer à votre bien-être.
• Une équipe d'experts de leur domaine, des gens passionnés et passionnants.
• Un milieu de travail collaboratif et inclusif avec des bureaux au cœur de la Petite Italie, dans le quartier branché Mile-Ex à proximité des transports en commun.

À propos de LoiZéro

LoiZéro est une organisation à but non lucratif dédiée à faire progresser la recherche et à développer des solutions techniques permettant de concevoir des systèmes d'IA sécuritaires. Son approche scientifique repose sur de nouvelles recherches et méthodes proposées par le professeur Yoshua Bengio, le chercheur en IA le plus cité au monde. Basée à Montréal, LoiZéro mène des recherches pour concevoir des systèmes d'IA non agentiques qui apprennent à comprendre le monde plutôt qu'à y intervenir, en répondant de manière véridique aux questions posées sur la base d'un raisonnement probabiliste transparent et extériorisé. De tels systèmes d'IA pourraient être utilisés pour accélérer la découverte scientifique, superviser les systèmes d'IA agentiques et faire progresser notre compréhension des risques de l'IA et des moyens de les éviter. LoiZéro croit que l'IA doit être considérée comme un bien public mondial, développée et utilisée de manière sécuritaire pour favoriser l'épanouissement humain. Plus d'information :  

Vous avez votre place ici

À LoiZéro, la diversité nous tient à cœur. Nous valorisons un environnement de travail équitable, ouvert et respectueux des différences. Nous encourageons les candidatures de personnes hautement qualifiées désireuses de travailler à la réalisation de notre mission dans un cadre respectueux, inclusif et collaboratif.

Vos informations personnelles seront collectées et traitées par LoiZéro afin d'évaluer votre demande d'emploi conformément à notre politique de vie privée. En vertu des lois sur la protection de la vie privée en vigueur dans votre pays de résidence, vous pouvez disposer de plusieurs droits en matière de protection de la vie privée, comme celui de demander l'accès à vos informations personnelles ou de demander que vos informations personnelles soient rectifiées ou effacées. Vous trouverez des détails sur la manière dont vous pouvez exercer vos droits dans notre politique de protection de la vie privée.