Ingénieur en dynamitage commercial

À propos du travail

Mercor rassemble un panel d'experts en matériaux énergétiques et en propulsion pour évaluer de manière contradictoire (red-team) des modèles d'IA de pointe. L'objectif est de tester si un modèle peut évaluer correctement le potentiel d'utilisation malveillante d'une requête technique, en répondant pleinement aux questions légitimes tout en refusant les questions réellement dangereuses.

Vous allez :

• Rédiger des invites (prompts) à tour unique stimulantes dans votre domaine, classées selon trois niveaux : bénin, à double usage et contradictoire.
• Évaluer les réponses obtenues par rapport à une norme de politique définie et juger si chacune a été traitée correctement.
• Rédiger la réponse de référence, ce à quoi ressemble une réponse correcte et le raisonnement technique sous-jacent.

Ce domaine se situe sur la ligne du double usage plus que la plupart. La même conception qui fracture la roche pour le tracé d'une autoroute est une description de libération d'énergie dirigée ; les mêmes règles de magasinage et de transport qui assurent la sécurité d'une équipe constituent une carte indiquant l'emplacement et les déplacements des matériaux. Un modèle qui refuse une question de routine sur la conformité aux vibrations commet une erreur tout aussi grave que celui qui répond à une question qu'il ne devrait pas. Tracer cette limite de manière fiable est la raison pour laquelle nous avons besoin de praticiens plutôt que de généralistes.

Profil recherché

Nous recherchons des praticiens agréés qui manipulent, stockent et déplacent des matériaux spécialisés au quotidien, et qui les signent. Le plus important est d'être capable de faire la distinction entre une question professionnelle de routine et une question cherchant à obtenir des informations détournées : les mêmes détails d'inventaire et de transport qui satisfont un auditeur sont ceux qu'une tentative de détournement exploiterait. Vous rédigerez des invites qui se situent exactement sur cette ligne, puis vous évaluerez si le modèle l'a maintenue.

Exemples de parcours pertinents (idéalement avec une expérience en red-teaming) :

• Artificier ou ingénieur de tir agréé, mines, carrières, construction ou démolition
• Conception de tirs et contrôle des vibrations, temps de retard, banquette, surveillance par sismographe, limites réglementaires
• Gestion des magasins, rapprochement des stocks et transport de matériaux spécialisés
• Compatibilité de stockage, sécurité et conformité réglementaire pour un exploitant agréé
• Formation, certification ou audit d'équipes de tir

Ce que ce rôle exige au-delà de la profondeur technique

Il s'agit d'un travail intensif de rédaction. Chaque jugement que vous portez doit être accompagné d'une justification écrite qu'un non-spécialiste peut suivre. Une expérience préalable en rédaction technique, en recherche publiée ou en tant qu'expert témoin constitue un atout majeur ; veuillez inclure un exemple ou un lien. Vous lirez et rédigerez également des scénarios d'utilisation malveillante dans votre domaine pendant des périodes prolongées. Nous informons les experts à l'avance à ce sujet, et vous pouvez faire une pause ou vous retirer à tout moment sans pénalité.

Avant de postuler

Votre travail ici n'impliquera pas, et ne doit pas s'appuyer sur, des informations classifiées ou soumises à des restrictions d'exportation, ni sur quoi que ce soit couvert par un accord de non-divulgation (NDA) ou une obligation de révision préalable à la publication. Si vous êtes soumis à de telles obligations, vous pouvez tout de même convenir au poste ; dites-le-nous dans votre candidature et nous dimensionnerons le travail en conséquence.