Les autorités italiennes ont récemment interdit l’utilisation de ChatGTP – un service basé sur l’intelligence artificielle dite générative, une technologie capable de créer indépendamment du contenu (dans ce cas, du texte) à la demande. La raison en est une violation des règles de protection des données personnelles. Une décision similaire peut également être prise dans d’autres pays, les plaintes contre ChatGPT pour violation de la protection des données personnelles sont traitées, par exemple, par l’autorité française.
La société OpenAI, qui propose le service, nie naturellement toute violation des règles et tient à tout s’expliquer. Après tout, c’est une entreprise énorme – l’investissement de Microsoft dans le formulaire, annoncé plus tôt cette année, vaut à lui seul 10 milliards de dollars. Mais le fait est que la technologie se développe dans un vide législatif – ou une jungle, selon le point de vue. Définir les règles aussi clairement que possible protégera les consommateurs, mais c’est également important pour les entreprises qui investissent dans la recherche et le développement dans ce domaine.
Pour que l’intelligence artificielle générative (IA) puisse produire son « propre contenu » conformément aux instructions, elle doit être entraînée. C’est-à-dire traiter une grande quantité de contenus numériques existants, sur la base desquels il peut ensuite « répondre » aux questions des utilisateurs. Cependant, l’utilisation de contenus numériques n’est pas totalement gratuite, certains types de données peuvent être soumis à des règles strictes.
Il peut s’agir de données personnelles qui font l’objet d’une protection. Le consentement de la personne concernée est requis pour leur collecte ou leur traitement. D’autres peuvent être couverts par le droit d’auteur – textes, photos, images, fichiers audio et vidéo que quelqu’un a créés, pour leur utilisation, ils doivent donner leur permission ou recevoir une compensation pour cela.
Nous ne savons pas si les entreprises développant des systèmes comme ChatGPT ont obtenu un tel consentement – il est tout à fait possible qu’elles ne l’aient pas fait. Dans le même temps, rien ne garantit qu’ils n’ont utilisé que du contenu librement disponible lors de leur « formation » – c’est plutôt improbable. Les plaintes pour violation de la protection des données personnelles ou du droit d’auteur vont probablement augmenter. Les tribunaux des États-Unis et du Royaume-Uni sont déjà confrontés aux premières poursuites intentées par des artistes dont les œuvres auraient été utilisées illégalement pour entraîner l’intelligence artificielle générative.
Un autre niveau du problème est l’utilisation de la technologie. Cela peut être complètement innocent, composer un haïku ou générer des images du pape dans un coupe-vent blanc à la mode. La technologie peut être utile, par exemple en médecine. Mais cela peut aussi être dangereux – un exemple évident est la production de désinformation.
Une telle ambiguïté ne s’applique pas seulement à l’IA générative, la nitroglycérine peut à la fois guérir et tuer. La technologie de blocage n’est pas la réponse. Cela peut être une mesure préventive. Et de manière à obliger les développeurs d’IA générative et les fournisseurs de services construits dessus à respecter les règles existantes et à être responsables de son utilisation.
Bien sûr, cela n’empêche pas complètement l’utilisation malveillante. Par exemple, en politique, la désinformation continuera d’être utilisée. Et grâce à l’IA générative, il y en aura plus et ils auront l’air plus convaincants. Il est d’autant plus important de s’immuniser contre eux : accroître la culture informationnelle, la capacité à distinguer et traiter l’information, à avoir un esprit critique.
« Analyste de longue date. Passionné de cuisine subtilement charmant. Introverti. Accro aux médias sociaux. Lecteur. Pionnier général de la télévision. Étudiant. Future idole des adolescents. »
