La société xAI d'Elon Musk fait l'objet d'un examen mondial intense alors que son chatbot d'IA Grok est confronté à des enquêtes, des interdictions et des poursuites judiciaires dans plusieurs pays pour avoir généré des images sexualisées non consenties de femmes et d'enfants. Cette crise a poussé Musk à reconnaître que Grok a besoin d'une « constitution morale » — une déclaration intervenue après des semaines de pression croissante de la part des régulateurs, des gouvernements et des victimes.

Une répression réglementaire à l'échelle mondiale
Le procureur général de Californie, Rob Bonta, a envoyé une lettre de mise en demeure à xAI le 15 janvier, exigeant que l'entreprise cesse immédiatement la création et la distribution de deepfakes, d'images intimes non consensuelles et de matériel d'abus sexuels sur mineurs. « L'avalanche de signalements détaillant ce type de contenu — montrant parfois des femmes et des enfants dans des activités sexuelles — est choquante et, comme mon bureau l'a déterminé, potentiellement illégale », a déclaré Bonta dans un communiqué. Son bureau avait ouvert une enquête officielle plus tôt dans la semaine, examinant si les pratiques de xAI violaient la législation californienne.

La réponse réglementaire a pris une ampleur mondiale. La Malaisie et l'Indonésie sont devenues les premières nations à interdire temporairement Grok début janvier, invoquant « l'utilisation abusive répétée » du chatbot pour générer des images obscènes et non consensuelles. Le régulateur britannique des médias, Ofcom, a lancé une enquête officielle le 12 janvier, avertissant que X pourrait faire face à des amendes allant jusqu'à 10 % de son chiffre d'affaires mondial ou 18 millions de livres sterling pour ne pas avoir protégé les utilisateurs contre les contenus illégaux. Les Philippines ont emboîté le pas en bloquant l'accès à Grok le 15 janvier, les autorités déclarant vouloir que la plateforme « supprime la capacité de cette application à générer du contenu pornographique, en particulier de la pédopornographie ».
Des enquêtes supplémentaires ont été lancées en France, en Inde, au Canada et par la Commission européenne dans le cadre de sa loi sur les services numériques. La présidente de la Commission européenne, Ursula von der Leyen, a condamné cette technologie, déclarant : « Je suis consternée qu'une plateforme technologique permette aux utilisateurs de déshabiller numériquement des femmes et des enfants en ligne ».

La mère d'un enfant de Musk poursuit en justice pour deepfakes
Ashley St. Clair, une influenceuse conservatrice de 27 ans et mère de l'un des enfants de Musk, a déposé une plainte contre xAI le 15 janvier devant la Cour suprême de l'État de New York. La plainte allègue que Grok a généré « d'innombrables contenus deepfake sexuellement abusifs, intimes et dégradants » la concernant, y compris une image modifiée à partir d'une photo prise lorsqu'elle avait 14 ans et une autre la représentant dans un bikini couvert de croix gammées.

L'avocate d'Ashley St. Clair, Carrie Goldberg, a déclaré que le procès vise « à tenir Grok responsable et à aider à établir des limites juridiques claires au bénéfice de l'ensemble du public afin d'empêcher l'IA d'être utilisée comme arme pour des abus ». En réponse, xAI a déposé une contre-plainte devant un tribunal fédéral au Texas, affirmant que St. Clair avait violé son contrat d'utilisation en ne déposant pas sa plainte au Texas, et réclamant des dommages-intérêts dépassant 75 000 dollars. La réponse laconique de l'entreprise aux médias était la suivante : « Legacy Media Lies » (« Les médias traditionnels mentent »).

Mesures de sécurité sous surveillance
Le 15 janvier, xAI a annoncé des restrictions empêchant Grok de modifier des images de personnes réelles en tenues légères et limitant les fonctionnalités de génération d'images aux abonnés payants. Cependant, selon The Guardian, des journalistes ont toujours pu créer de courtes vidéos montrant des femmes se déshabillant en utilisant le site web autonome de Grok plusieurs jours après l'annonce des restrictions. Des tests effectués par plusieurs médias ont révélé que les dispositifs de sécurité pouvaient être contournés en moins d'une minute.

Le 18 janvier, Musk a publié sur X que « Grok devrait avoir une constitution morale », suscitant un débat sur qui définirait de telles limites éthiques. Les critiques ont qualifié ces problèmes de prévisibles, The Verge affirmant que la crise « a commencé avec la peur de Musk de rater le train de l'IA et sa haine du politiquement correct », notant que Grok n'avait bénéficié que de quelques mois d'entraînement et de deux mois de tests avant son lancement.

Musk a maintenu qu'il n'était « pas au courant d'images dénudées de mineurs générées par Grok », attribuant les violations aux utilisateurs contournant la censure plutôt qu'à des défaillances systémiques. Mais alors que les enquêteurs rassemblent des preuves dans plusieurs juridictions, la question à laquelle xAI doit faire face n'est plus de savoir si ces systèmes peuvent causer du tort, mais à quelle vitesse l'entreprise peut prouver qu'elle prévient les dommages à grande échelle.