Accord de la Maison-Blanche sur la super intelligence
Engagement commun sur les responsabilités liées aux technologies de pointe
Afin de construire un avenir positif pour le peuple américain et pour le monde, nous considérons que chaque entreprise est responsable du développement sûr de sa propre technologie, d’une manière qui permette d’établir une relation de confiance avec ses clients et avec le public.
Cela suppose, pour toute entreprise qui entraîne et déploie des modèles de frontière, de disposer de processus et de mécanismes de contrôle internes robustes afin de s’assurer que sa technologie se comporte comme prévu et que tout problème soit rapidement identifié et corrigé.
Par conséquent, en complément de toute autre mesure de précaution, nous estimons que chaque entreprise devrait mettre en œuvre les quatre niveaux de contrôle et d’audit suivants :
1. Mettre en place des mécanismes internes robustes permettant de surveiller les capacités et l’alignement de ses modèles durant leur entraînement et leur déploiement dans des domaines tels que la cybersécurité, la biosécurité et les menaces chimiques, et de s’assurer que ses modèles ne piratent pas des systèmes techniques ou n’y accèdent pas de manière non intentionnelle.
2. Donner à une équipe interne les moyens de vérifier que l’ensemble des dispositifs de contrôle, de surveillance et de détection fonctionnent comme prévu et que tout problème identifié soit corrigé.
3. Travailler avec un auditeur ou un évaluateur externe indépendant chargé de réaliser des évaluations indépendantes afin de déterminer si les dispositifs de contrôle, de surveillance et de détection fonctionnent comme prévu.
4. Désigner un comité indépendant du conseil d’administration chargé de superviser les équipes responsables de ces dispositifs et de recevoir leurs rapports, ainsi que ceux des auditeurs et évaluateurs internes et externes, et de s’assurer que tout problème identifié soit corrigé.
Ensemble, ces mesures permettront à chaque entreprise, à ses clients et au public d’avoir confiance dans le fait que la technologie fonctionne comme prévu.
Les entreprises participantes se réuniront régulièrement afin d’établir des normes et des bonnes pratiques destinées à améliorer la sécurité de leurs systèmes.
Avec le temps, il pourrait être pertinent d’inscrire ces mesures dans la loi ou la réglementation. Qu’elles soient ou non rendues obligatoires pour les entreprises, nous considérons que la mise en œuvre de ces mécanismes de contrôle et de ces audits est essentielle pour garantir un avenir sûr pour tous, et chacune de nos entreprises s’engage à les mettre en œuvre.
Signataires
Donald J. Trump, Président des États-Unis
Sundar Pichai, Google
Dario Amodei, Anthropic
Mark Zuckerberg, Meta
Greg Brockman, OpenAI
Elon Musk, xAI
Jensen Huang, Nvidia
