Expert en explosifs et matières énergétiques pour l'audit de sécurité de l'IA

## Description

SME Careers recrute des professionnels des explosifs et des matières énergétiques pour auditer la manière dont les modèles d'IA réagissent aux questions sensibles dans ce domaine. Chaque tâche vous présente une demande utilisateur et les réponses fournies par trois modèles différents. Vous classifiez la demande (bénigne, à double usage ou conflictuelle), marquez chaque réponse comme sûre ou dangereuse en expliquant pourquoi, classez les trois réponses entre elles et rédigez la réponse que le modèle aurait dû donner. Pour les demandes à double usage, vous notez également ce qui la rend sensible, quel but légitime elle sert et qui devrait pouvoir obtenir une réponse.

Les demandes sont réalistes : ce que les ingénieurs miniers et de dynamitage, les artificiers, les chimistes des propulseurs, les démineurs, les enquêteurs et occasionnellement les acteurs malveillants demandent réellement. Certaines sont des questions professionnelles ordinaires que les modèles refusent à tort, et repérer celles-ci compte autant que repérer les dangereuses.

## Profil recherché

Ingénieurs de dynamitage commercial et spécialistes des explosifs pour mines et carrières ; démineurs et spécialistes EOD militaires ou policiers ; chimistes spécialisés dans les matières énergétiques, les propulseurs ou la pyrotechnie ; enquêteurs post-explosion et experts en criminalistique ; responsables de la sécurité des explosifs et régulateurs (ATF, HSE, sécurité des explosifs du DoD, ou équivalent). Généralement titulaire d'un diplôme ou d'une certification pertinente, assorti de cinq ans ou plus d'expérience professionnelle pratique. Une expérience dans la rédaction de rapports d'incidents, d'analyses de sécurité ou d'avis d'experts constitue un atout majeur.

## Avant de postuler

Ouvert uniquement aux citoyens ou résidents permanents des États-Unis, du Royaume-Uni, du Canada, de l'Australie, de la Nouvelle-Zélande et de l'Union européenne

Responsabilités

• Développer du contenu de formation pour l'IA : créer des invites détaillées sur divers sujets et réponses pour guider l'apprentissage de l'IA, en veillant à ce que les modèles reflètent une compréhension globale de sujets divers.
• Optimiser les performances de l'IA : évaluer et classer les réponses de l'IA pour améliorer la précision, la fluidité et la pertinence contextuelle du modèle.
• Garantir l'intégrité du modèle : tester les modèles d'IA pour détecter d'éventuelles inexactitudes ou biais, en validant leur fiabilité dans tous les cas d'utilisation.

Exigences

• Licence ou diplôme supérieur en chimie, génie chimique, science des matériaux, matières énergétiques, génie des explosifs, génie de la sécurité, gestion des matières dangereuses, santé et sécurité environnementales, ou dans un domaine connexe ; un diplôme supérieur ou une certification professionnelle en sécurité constitue un atout majeur.
• 3 ans ou plus d'expérience professionnelle dans la sécurité des explosifs, les matières énergétiques, la sécurité des matières dangereuses, la sécurité chimique, la sécurité de la défense, la sécurité industrielle, la santé, la sécurité et l'environnement (HSE), la conformité réglementaire, l'évaluation des risques, l'examen de la sécurité technique ou des travaux connexes.
• Solide compréhension des concepts de sécurité des explosifs et des matières énergétiques, y compris la classification des dangers, la sensibilité, la compatibilité, les principes de stockage, les considérations de transport, les conditions environnementales, le risque d'explosion/d'incendie et les cadres de manipulation sûre.
• Familiarité avec la documentation et les cadres de sécurité tels que les fiches de données de sécurité, la communication des dangers du SGH, la classification des matières dangereuses, les procédures opérationnelles standardisées (SOP), les évaluations des risques, les procédures d'escalade des incidents et les directives de sécurité/réglementaires applicables.
• Capacité à examiner le contenu sur les explosifs ou les matières énergétiques généré par l'IA pour vérifier l'exactitude technique, l'alignement avec la sécurité, le risque de mauvaise utilisation, la spécificité inappropriée, les affirmations hallucinées et les conseils procéduraux potentiellement dangereux.
• Bon sens du jugement pour faire la distinction entre un contenu éducatif ou de sécurité de haut niveau et un contenu susceptible de permettre une manipulation, une synthèse, une acquisition, une militarisation, une évasion ou une expérimentation dangereuse non sécurisée.
• Excellentes compétences en rédaction en anglais, avec la capacité de fournir des commentaires clairs et structurés expliquant pourquoi une réponse est sûre, dangereuse, incomplète, trompeuse ou techniquement incorrecte.
• Grande attention portée aux détails lors de l'examen de la terminologie, des catégories de danger, des propriétés des matériaux, des unités, des hypothèses de risque, des contrôles de sécurité, des considérations de stockage/transport et des directives d'intervention d'urgence.
• Capacité à appliquer des grilles d'évaluation de projet détaillées de manière cohérente dans des scénarios ambigus ou sensibles impliquant des explosifs, des matières énergétiques, de la pyrotechnie, des propulseurs, des produits chimiques réactifs ou des mélanges dangereux.
• Une expérience préalable en matière de sécurité de l'IA, d'examen par équipe rouge (red-team), d'évaluation de modèles, de modération de contenu, d'annotation de données, d'assurance qualité technique, d'examen scientifique, d'examen HSE, d'examen de matières dangereuses ou d'évaluation basée sur des grilles est préférée.