Alors que les générateurs de textes et d’images et les chatbots intelligents continuent d’étonner les gens, la Chine s’est empressée de définir ce que les citoyens peuvent faire avec des outils construits sur de puissants modèles d’IA. Les régulateurs du pays sont manifestement prudents lorsqu’il s’agit des conséquences de l’IA générative. Cette attitude contraste avec celle des États-Unis, qui ont jusqu’à présent laissé le secteur privé établir ses propres règles, ce qui soulève des questions éthiques et juridiques.
La Cyberspace Administration of China et l’intelligence artificielle
La Cyberspace Administration of China, le principal organisme de surveillance de l’internet en Chine, a récemment approuvé un règlement sur la technologie de « synthèse profonde », qu’elle définit comme « une technologie qui utilise l’apprentissage profond, la réalité virtuelle et d’autres algorithmes de synthèse pour générer du texte, des images, du son, de la vidéo et des scènes virtuelles ». Le règlement s’applique aux fournisseurs de services opérant en Chine et il est entré en vigueur le 10 janvier.
• Vous pouvez également trouver d’autres informationssur notre blog : https://www.eurosael.eu/
L’ensemble des règles n’a rien de surprenant, car les restrictions sont pour la plupart conformes à celles qui supervisent d’autres formes de services Internet grand public en Chine, tels que les jeux, les médias sociaux et les courtes vidéos. Par exemple, il est interdit aux utilisateurs d’utiliser l’IA générative pour se livrer à des activités qui mettent en danger la sécurité nationale, nuisent à l’intérêt public ou sont illégales.
L’anonymat n’existe pas sur l’internet en Chine
Ces restrictions sont rendues possibles par l’appareil chinois de vérification du nom réel. L’anonymat n’existe pas sur l’internet en Chine, car les utilisateurs sont généralement tenus de lier leurs comptes en ligne à leurs numéros de téléphone, qui sont enregistrés avec leurs identifiants gouvernementaux. Même les fournisseurs d’IA générative sont tenus de vérifier les utilisateurs à l’aide de leur numéro de téléphone portable, de leur carte d’identité ou d’autres formes de documentation.
Il n’est pas surprenant que la Chine veuille également censurer ce que les algorithmes peuvent générer. Les fournisseurs de services doivent vérifier le contenu généré par l’IA et les demandes des utilisateurs manuellement ou par des moyens techniques. Baidu, l’un des premiers à lancer un modèle chinois de conversion de texte en image, filtre déjà les contenus politiquement sensibles. La censure est une pratique courante dans toutes les formes de médias en Chine. La question est de savoir si la modération des contenus sera en mesure de faire face à l’énorme volume de textes, de sons, d’images et de vidéos produits par les modèles d’intelligence artificielle.
Il faut peut-être reconnaître au gouvernement chinois le mérite d’être intervenu pour empêcher l’utilisation abusive de l’IA. Par exemple, des règles interdisent l’utilisation de la technologie de synthèse profonde pour générer et diffuser des fausses nouvelles. Lorsque les données utilisées pour l’entraînement à l’IA contiennent des informations personnelles, les fournisseurs de technologie doivent se conformer à la loi sur la protection des données du pays. Les plateformes doivent également rappeler aux utilisateurs qu’ils doivent demander l’autorisation avant de modifier les visages et les voix d’autres personnes à l’aide de la technologie de synthèse profonde. Enfin, cette règle devrait apaiser certaines inquiétudes concernant la violation des droits d’auteur et la tricherie universitaire : au cas où le résultat de l’IA générative pourrait prêter à confusion ou être mal identifié par le public, le fournisseur de services devrait placer un filigrane à un endroit bien visible pour informer le public qu’il s’agit d’une œuvre de la machine.
Les utilisateurs qui enfreignent ces règles seront sanctionnés. Les opérateurs de services sont encouragés à enregistrer les comportements illégaux et à les signaler aux autorités compétentes. En outre, les plateformes devront émettre des avertissements, restreindre l’utilisation, suspendre le service ou même fermer les comptes de ceux qui enfreignent les règles.
Plus d’infos sur : https://www.whenyoudontexist.eu
