La Chine exigera de ses universités, hôpitaux, entreprises et instituts de recherche qu’ils procèdent à des « examens éthiques » de toute recherche portant sur les humains, les animaux et l’intelligence artificielle (IA), conformément aux réglementations publiées cette semaine par le gouvernement central.
Les nouvelles règles, entrées en vigueur le 1er décembre, énumèrent sept types de recherche éthique qui nécessiteront une vérification supplémentaire de la part d’experts tiers, notamment « des modèles algorithmiques, des applications et des systèmes capables de façonner l’opinion publique et d’orienter la conscience sociale » et « la recherche clinique sur interfaces cerveau-ordinateur invasives », selon un avis publié par le ministère de la Science et de la Technologie.
D’autres recherches nécessitant une surveillance supplémentaire de la part des régulateurs comprennent la « synthèse de nouvelles espèces » susceptibles d’avoir « un impact significatif sur la santé humaine, les valeurs et l’environnement », les cellules souches humaines dans les embryons d’animaux, l’édition génétique, les systèmes interactifs homme-machine s’ils ont un impact sur le mental humain. et la santé physique, ainsi que des « systèmes de prise de décision automatisés ayant des implications en matière de sécurité et de santé », selon les règlements provisoires qui ont également été approuvés par le ministère de l’Éducation, le ministère de l’Industrie et des Technologies de l’information et le comité scientifique du Central Commission militaire.
Pourquoi Pékin doit être plus tolérant aux risques en favorisant l’innovation
Pourquoi Pékin doit être plus tolérant aux risques en favorisant l’innovation
Il s’agit du premier ensemble de réglementations chinoises régissant la manière dont les institutions doivent procéder à des « examens éthiques » de leurs recherches, conformément aux efforts de Pékin visant à mettre en place des garde-fous pour la recherche scientifique. Dans un cas très médiatisé, le scientifique chinois He Jiankui a déclenché une controverse mondiale lorsqu’il a créé les premiers bébés génétiquement modifiés au monde. Il a été condamné à trois ans d’emprisonnement en 2019 pour « pratiques médicales illégales ».
Ces réglementations visent à promouvoir la science et la technologie « pour le bien », a déclaré le ministère des Sciences dans un communiqué distinct. Les règles visent « à normaliser les examens éthiques dans la recherche scientifique… à contrôler les risques éthiques et à promouvoir l’innovation responsable », selon les lignes directrices.
Selon les règles, chaque institution impliquée dans des « domaines de recherche sensibles » devra mettre en place un comité d’éthique composé d’un minimum de sept membres. Le comité aura le pouvoir d’annuler tout projet de recherche soumis à son examen.
Des chercheurs chinois sur l’ARNm célèbrent la victoire du prix Nobel aux pionniers de ce domaine
Des chercheurs chinois sur l’ARNm célèbrent la victoire du prix Nobel aux pionniers de ce domaine
Les recherches impliquant des données et des algorithmes, deux éléments essentiels du développement de grands modèles de langage pour l’IA, sont également soumises au processus d’examen, conformément à la réglementation. Le ministère chinois de l’Agriculture et le ministère de la Santé, ainsi que l’Académie chinoise des sciences, ont également approuvé la réglementation.
La conception des algorithmes et des modèles d’IA doit adhérer à des principes justes, transparents, fiables et contrôlables, conformes aux exigences de l’État en vigueur, faisant écho aux exigences similaires de l’administration du cyberespace, le puissant organisme chinois de surveillance de l’Internet.
La Chine est en avance sur le reste du monde dans la conception de réglementations pour superviser le développement et l’utilisation des technologies d’IA générative. Le régulateur Internet, l’Administration du cyberespace de Chine, par exemple, a introduit un régime de licence de facto pour que les chatbots IA puissent fonctionner dans le pays.
D’autres pays débattent encore de la manière de réglementer la technologie prometteuse, mais aussi potentiellement perturbatrice, de l’IA générative.
