OpenAI cherche un nouveau responsable de la Préparation pour la sécurité de l'IA

Résumé Rapide

OpenAI recrute activement un nouveau responsable de la Préparation pour renforcer ses protocoles de sécurité internes. Ce rôle de direction est chargé d'anticiper les préjudices potentiels causés par les modèles d'IA et d'atténuer la manière dont ces systèmes peuvent être détournés. L'initiative de recrutement intervient à la fin d'une année marquée par un examen minutieux concernant les impacts sur la santé mentale de ChatGPT, y compris plusieurs poursuites pour décès injustifié.

Dans une déclaration publique, le PDG Sam Altman a décrit le poste comme essentiel pour le paysage technologique actuel. Le nouveau recrutement sera responsable de l'exécution du cadre de Préparation de l'entreprise, qui surveille les capacités de pointe présentant des risques de préjudice grave. Le poste est décrit comme étant à haute pression, le candidat idéal étant attendu pour aborder des défis complexes dès son arrivée dans l'équipe.

Le Rôle et les Responsabilités

L'objectif principal du nouveau responsable de la Préparation est d'orienter la stratégie de sécurité d'OpenAI en identifiant et en se préparant aux risques futurs. Selon l'offre d'emploi, cette personne dirigera la stratégie technique et l'exécution du cadre de Préparation de l'entreprise. Ce cadre est l'approche officielle de l'organisation pour surveiller et se préparer aux capacités de pointe qui pourraient créer de nouveaux risques de préjudice grave.

Le package de rémunération pour ce poste est substantiel, reflétant la difficulté et l'importance du travail. L'offre indique un salaire de base de 555 000 $, en plus des attributions d'actions. Sam Altman a qualifié le travail de « poste stressant et vous plongerez dans le bain presque immédiatement ». Cela suggère que l'entreprise recherche un candidat prêt à s'attaquer à des problèmes urgents sans une longue période d'adaptation.

Contexte des Préoccupations en Matière de Santé Mentale 🧠

Cette poussée de recrutement fait suite à une année tumultueuse pour l'entreprise concernant l'impact social de ses produits. OpenAI a fait face à de nombreuses accusations concernant les effets de ChatGPT sur la santé mentale des utilisateurs. Ces préoccupations ont escaladé au point d'impliquer des poursuites pour décès injustifié, exerçant une pression accrue sur l'entreprise pour démontrer des mesures de sécurité proactives.

Sam Altman a reconnu ces problèmes spécifiques dans une publication sur X concernant le nouveau poste. Il a déclaré que « l'impact potentiel des modèles sur la santé mentale était quelque chose que nous avons vu en aperçu en 2025 ». Il a noté que d'autres « défis réels » sont apparus parallèlement à l'augmentation des capacités de ces modèles. Le nouveau rôle est destiné à s'attaquer à ces vulnérabilités spécifiques.

Changements de Direction Récents

Cette vacance est la dernière évolution d'une période de turnover important au sein de la direction de la sécurité d'OpenAI. Au cours des deux dernières années, les équipes de sécurité de l'entreprise ont subi des changements substantiels. L'ancien responsable de la Préparation, Aleksander Madry, a été réaffecté en juillet 2024.

Suite à la réaffectation de Madry, Sam Altman a annoncé que les responsabilités seraient réparties entre les dirigeants Joaquin Quinonero Candela et Lilian Weng. Cependant, la structure de direction est restée instable. Lilian Weng a quitté l'entreprise quelques mois plus tard. D'ici juillet 2025, Joaquin Quinonero Candela avait également quitté l'équipe de Préparation pour diriger le recrutement chez OpenAI, laissant le poste de direction de la sécurité ouvert pour la recherche actuelle.

« L'impact potentiel des modèles sur la santé mentale était quelque chose que nous avons vu en aperçu en 2025. »

— Sam Altman, PDG d'OpenAI

« Est un rôle critique en un moment important. »

— Sam Altman, PDG d'OpenAI

« Un poste stressant et vous plongerez dans le bain presque immédiatement. »

— Sam Altman, PDG d'OpenAI

« Dirigera la stratégie technique et l'exécution du cadre de Préparation d'OpenAI, notre cadre expliquant l'approche d'OpenAI pour surveiller et se préparer aux capacités de pointe qui créent de nouveaux risques de préjudice grave. »

— Offre d'emploi d'OpenAI