Expert en sécurité chimique pour l'audit de sécurité des modèles d'IA

## Description

SME Careers recrute des chimistes et des professionnels de la sécurité chimique pour auditer la manière dont les modèles d'IA réagissent aux questions sensibles dans ce domaine. Chaque tâche vous présente une requête d'utilisateur ainsi que les réponses fournies par trois modèles différents. Vous devez classifier la requête (bénigne, à double usage ou antagoniste), marquer chaque réponse comme sûre ou non et en justifier la raison, classer les trois réponses entre elles et rédiger la réponse que le modèle aurait dû donner. Pour les requêtes à double usage, vous devez également préciser ce qui la rend sensible, quel usage légitime elle sert et qui devrait pouvoir obtenir une réponse.

Les requêtes sont réalistes : ce que les chimistes synthétiques et analytiques, les toxicologues, les hygiénistes industriels, les ingénieurs en sécurité des procédés, les régulateurs et parfois les acteurs malveillants demandent réellement. Certaines sont des questions professionnelles ordinaires que les modèles refusent à tort, et repérer celles-ci importe autant que de détecter les plus dangereuses.

## Profil recherché

Chimistes synthétiques et analytiques ; toxicologues et pharmacologues ; hygiénistes industriels et professionnels de la sécurité chimique et des procédés ; spécialistes de la CIAC ou de la sécurité chimique ; intervenants en matières dangereuses, centres antipoison ou gestion d'incidents chimiques ; et régulateurs de produits chimiques (EPA, OSHA, HSE, liés à l'OIAC ou équivalent). Généralement un diplôme pertinent complété par cinq ans ou plus d'expérience professionnelle. Une expérience avec les fiches de données de sécurité, l'évaluation de l'exposition, les rapports d'incidents ou l'examen réglementaire constitue un atout majeur.

## Avant de postuler

Ouvert uniquement aux citoyens ou résidents permanents des États-Unis, du Royaume-Uni, du Canada, d'Australie, de Nouvelle-Zélande et de l'Union européenne.

Responsabilités

• Développer du contenu d'entraînement pour l'IA : créer des invites détaillées sur divers sujets ainsi que des réponses pour guider l'apprentissage de l'IA, en veillant à ce que les modèles reflètent une compréhension globale de sujets variés.
• Optimiser les performances de l'IA : évaluer et classer les réponses de l'IA afin d'améliorer la précision, la fluidité et la pertinence contextuelle du modèle.
• Garantir l'intégrité du modèle : tester les modèles d'IA à la recherche d'éventuelles inexactitudes ou biais, tout en validant leur fiabilité à travers divers cas d'usage.

Exigences

• Diplôme de licence (Bachelor) ou supérieur en chimie, génie chimique, toxicologie, santé environnementale et sécurité, hygiène industrielle, gestion des matières dangereuses ou dans un domaine étroitement apparenté ; un diplôme supérieur ou une certification professionnelle en sécurité constitue un atout majeur.
• Plus de 3 ans d'expérience professionnelle en matière de sécurité chimique, sécurité en laboratoire, manipulation de matières dangereuses, SSE, toxicologie, hygiène industrielle, évaluation des risques chimiques, conformité réglementaire ou dans des travaux techniques de sécurité connexes.
• Solide compréhension des dangers chimiques, notamment la toxicité, la corrosivité, l'inflammabilité, la réactivité, les incompatibilités, les voies d'exposition, les risques de stockage, les principes d'intervention en cas de déversement, les EPI, la ventilation et les pratiques de manipulation sécuritaires.
• Familiarité avec la documentation et les cadres de sécurité chimique tels que les fiches de données de sécurité, la communication des dangers selon le SGH, l'étiquetage, les limites d'exposition, les évaluations des risques, les procédures opérationnelles normalisées (PON) et les procédures d'escalade d'incidents.
• Capacité à examiner le contenu de sécurité chimique généré par l'IA sous l'angle de la précision technique, de l'alignement avec la sécurité, du risque de détournement, des affirmations hallucinées, d'une spécificité inappropriée et de conseils de procédure potentiellement dangereux.
• Fort discernement pour distinguer entre un contenu éducatif sûr et un contenu susceptible de faciliter la manipulation chimique non sécurisée, la synthèse, le détournement, l'évasion ou des expérimentations nuisibles.
• Excellentes compétences en rédaction en anglais, avec la capacité de fournir des retours clairs et structurés expliquant pourquoi une réponse est sûre, non sûre, incomplète, trompeuse ou techniquement incorrecte.
• Grande attention portée aux détails lors de l'examen de la terminologie chimique, des unités, des concentrations, des hypothèses d'exposition, des classifications de danger, des contrôles de sécurité et des consignes d'intervention d'urgence.
• Aptitude à appliquer des grilles d'évaluation de projet détaillées de manière cohérente dans des scénarios de sécurité chimique ambigus ou sensibles.
• Une expérience préalable en matière de sécurité de l'IA, d'examen par équipe rouge (red-team), d'évaluation de modèles, de modération de contenu, d'annotation de données, d'assurance qualité technique, d'examen scientifique ou d'évaluation basée sur des grilles est préférée.