Sécurité radiologique pour équipe rouge

À propos du travail

Mercor rassemble un groupe d'experts en sécurité radiologique pour tester des modèles d'IA de pointe ("red-teaming"). L'objectif est de vérifier si un modèle peut évaluer correctement le potentiel de détournement d'une demande technique tout en répondant pleinement aux questions légitimes et en refusant celles qui sont réellement dangereuses.

Vous allez :

• Rédiger des prompts complexes à tour unique dans votre domaine, classés selon trois niveaux : bénin, à double usage et contradictoire.

• Évaluer les réponses obtenues par rapport à un standard politique défini, et juger si chacune a été traitée correctement.

• Rédiger la réponse de référence ; à quoi ressemble une réponse correcte, et le raisonnement technique sous-jacent.

Ce domaine se situe plus que la plupart sur la ligne du double usage. Le même isotope est à la base de la radiothérapie et de la radiographie industrielle ; le même calcul de blindage protège un travailleur et dissimule une source. Un modèle qui refuse une question de routine sur la dose échoue aussi lourdement que celui qui répond à une question qu'il ne devrait pas. Tracer cette limite de manière fiable est la raison pour laquelle nous avons besoin de praticiens plutôt que de généralistes.

Profil recherché

Nous recherchons des personnes qui ont eu la responsabilité de matériel radioactif, et pas seulement travaillé à proximité ; gestion de sources, délivrance de licences, ou volet de sécurité et d'intervention. Ce qui importe le plus, c'est d'être capable de distinguer une question professionnelle de routine d'une autre qui cherche à obtenir des informations détournées : le même calcul de blindage protège un travailleur et dissimule une source. Ils rédigeront des prompts se trouvant exactement sur cette limite, puis jugeront si le modèle l'a respectée. Exemples de parcours pertinents (idéalement avec une expérience en "red-teaming") : Officier de radioprotection (titulaire d'une licence à large portée), détient la licence officielle ; acquisition, inventaire, transfert et élimination. Physicien médical (site du DOE ou laboratoire national), contrôle, analyse, gestion de la contamination et planification des doses dans les installations à haut risque. Spécialiste de la sécurité des sources / évaluation des vulnérabilités, ayant évalué comment les sources de catégorie 1 et 2 sont volées, blindées ou déplacées. Spécialiste de l'intervention d'urgence radiologique, FRMAC, intervention CBRN, modélisation de la dispersion et de la contamination. Physicien en médecine nucléaire / RSO de cyclotron, production et manipulation d'isotopes médicaux ; la moitié à usage légitime de la ligne du double usage.

Ce que ce rôle exige au-delà de la profondeur technique

Il s'agit d'un travail intensif de rédaction. Chaque jugement que vous portez nécessite une argumentation écrite qu'un non-spécialiste peut suivre. Une expérience préalable en rédaction technique, en recherche publiée ou en tant qu'expert témoin est un signal fort ; veuillez inclure un exemple ou un lien. Vous lirez et rédigerez également des scénarios de détournement dans votre domaine pendant des périodes prolongées. Nous informons les experts à l'avance à ce sujet, et vous pouvez faire une pause ou vous retirer à tout moment sans pénalité.

Avant de postuler

Votre travail ici n'impliquera pas, et ne doit pas s'appuyer sur, des informations classifiées ou soumises à des restrictions d'exportation, ni sur quoi que ce soit couvert par un NDA ou une obligation de révision préalable à la publication. Si vous avez de telles obligations, vous pourriez tout de même correspondre au profil ; indiquez-le-nous dans votre candidature et nous cadrerons le travail en conséquence.